 |
| AI 생성 이미지 |
“아빠, 나야. 급한 일이 생겼어.” 부산에 사는 60대 A씨는 딸의 휴대폰 번호로 걸려온 전화를 받고 그대로 믿었다. 통화 속 목소리는 분명 딸과 똑같았고, 거짓을 의심할 이유조차 없어 보였다. 급히 돈이 필요하다는 말에 그는 은행을 찾아 2000만 원을 인출했다. 그러나 경찰 조사 결과, 전화 속 목소리는 인공지능이 만든 ‘딥보이스’로 밝혀졌다. AI가 가족의 음성을 정교하게 흉내 내는 사이, 현실의 돈이 사라진 것이다.
이처럼 인공지능 기술을 악용한 피싱 범죄가 빠르게 확산하고 있다. 과거에는 ‘무작위로 던지고 걸리면 이득’이라는 투망식 수법이 주를 이뤘다면, 이제는 피해자의 SNS 활동과 음성, 사진 등을 분석한 뒤 취약점을 겨냥하는 맞춤형 공격으로 바뀌고 있다. 단 몇 장의 사진이나 30초 남짓한 음성만으로도 완벽히 그럴듯한 영상과 목소리를 만들어내는 시대다. 이 때문에 피해자는 눈앞의 영상과 음성을 의심하기조차 어렵다.
실제 지난해 울산에서는 일반인 사진을 이용해 가상 인물을 만든 뒤 투자 사기를 벌인 피싱 조직이 검거됐다. SNS에 흩어진 개인정보와 사진을 수집해 딥페이크 여성을 만들어낸 이들은 피해자 100여 명에게서 120억 원을 가로챘다. 경찰 관계자는 “피싱의 진화 속도가 매우 빠르며, 향후엔 육안으로 진위를 구분하기 어려운 수준까지 발전할 것”이라고 우려했다.
피싱은 세대별로도 다른 형태로 진화하고 있다. 20~30대는 디지털 환경에 익숙하지만 공공기관 사칭형 ‘셀프 감금’ 수법에 취약하다. 실제 지난해 셀프 감금을 포함한 기관 사칭형 보이스피싱 피해액은 전년 대비 167% 증가해 6753억 원으로 집계됐다. 반면 40~60대는 SNS 광고를 가장한 가짜 쇼핑·투자 사기에 자주 노출된다. 다이어트 제품이나 투자 알림 영상에 유명인을 합성해 신뢰를 유도하는 수법이 대표적이다.
전문가들은 이러한 현상을 단순한 기술 범죄가 아닌 사회적 신뢰를 흔드는 문제로 본다. 성균관대 우사이먼성일 교수는 “현재도 진짜와 가짜를 구별하기 어렵지만, 1~2년 안에 그 경계가 완전히 무너질 가능성이 높다”며 “AI 발전 속도에 맞춰 탐지 기술과 보안 인프라를 동시에 강화해야 한다”고 강조했다.
그는 또 “유럽과 미국은 사기업과 연구기관이 협력해 딥페이크 탐지 기술을 고도화하고 있지만, 국내는 아직 연구 인프라가 부족하다”고 지적하며 정부와 산업계의 공동 대응을 촉구했다. 급속히 진화하는 AI 기술이 우리의 일상을 편리하게 만드는 동시에, 가장 가까운 사람의 목소리로 범죄를 벌이는 시대. 기술의 진일보가 신뢰와 안전을 위협하지 않도록 사회 전체의 경계심이 필요한 시점이다.
