미국 연방거래위원회(FTC)가 발표한 자료에 따르면, 지난 1년 동안 AI로 만든 ‘가짜 음성’(voice clone)을 활용한 사기 신고가 무려 5배 증가했다고 합니다. 특히 다음 세 가지 유형이 급증했습니다.
① 가족의 목소리를 흉내 내는 ‘위기 상황 사기’
- “엄마, 나 사고 났어… 돈이 필요해”
- “아빠, 납치됐어… 지금 바로 송금해줘”
AI가 10초 정도의 짧은 음성만 있으면 사람 목소리를 거의 완벽하게 복제할 수 있다는 점을 악용한 유형입니다.
② 기업 임원을 사칭해 송금하게 만드는 ‘보이스 피싱 2.0’
과거에는 억지스러운 목소리였지만 이제는 회의 파편 음성만으로도 “팀장님, 오늘 안에 처리해 주세요” 같은 명령을 자연스럽게 재현할 수 있다고 합니다.
③ 정치적 허위 정보 확산용 ‘AI 음성 조작 메시지’
선거철이면 특정 후보가 말하지도 않은 발언을 ‘실제 음성처럼’ 만든 뒤 확산시키는 사례가 늘고 있습니다. FTC는 이를 두고 “감정과 신뢰를 직접 노리는 차세대 사기”라고 규정했습니다.
심리학적 해설
① 인간은 ‘눈’보다 ‘귀’를 더 신뢰한다
연구에 따르면, 사람은 글보다 음성을 더, 음성보다 ‘가까운 사람의 음성’을 가장 신뢰하는 경향이 있습니다. AI 음성 사기가 무서운 이유는 바로 우리의 신뢰 시스템을 직접 겨냥한다는 점입니다.
② ‘가족 공포’를 자극하는 사기 → 판단력 급감
가족이 위험에 처했다는 메시지를 들으면 인간의 판단 기능은 즉각적으로 떨어집니다. 이걸 심리학에서는 공황 기반 의사결정(panic-driven decision making)이라고 부릅니다. 사기범들은 이 순간을 노립니다.
③ “목소리 = 정체성”이라는 오래된 믿음이 무너지는 충격
우리는 평생 동안 “목소리는 속일 수 없다”는 전제를 바탕으로 살아왔습니다. 하지만 AI는 이 전제를 무너뜨렸고, 그 결과 우리는 정체성 자체에 대한 불신을 겪고 있습니다. 이는 기술적 문제가 아니라 심리적 충격에 가깝습니다.
독자에게 던지는 질문
- 여러분은 누군가의 목소리를 들었을 때 무조건 믿는 편인가요, 아니면 최근 들어 의심이 더 많아졌나요?
- 만약 ‘가족의 목소리를 흉내 낸 전화’를 받는다면, 감정이 앞서기 전에 어떤 확인 절차를 먼저 떠올릴 수 있을까요?
- AI 시대에 ‘신뢰’는 어떻게 새롭게 만들어져야 할까요?
