2주 동안 250만 건. 1초당 두 건꼴로 AI가 작성한 사기 문자가 미국 소비자 휴대전화에 도착했고, 구글(Google)은 피해자가 수십만 명에 이른다고 밝혔습니다. 어색한 문법이나 반복 문구로 사기를 가려내던 기존 감지 방법이 사실상 무력해진 상황입니다.
6월 12일 테크크런치(TechCrunch) 보도에 따르면, 구글은 '아웃사이더 엔터프라이즈(Outsider Enterprise)'로 부른 중국 사이버범죄 조직을 미국 연방법원에 제소했습니다. 이 조직은 생성형 AI로 문자 한 건마다 이름과 세부 내용을 다르게 바꿔 보냈고, 발신 번호도 계속 교체했습니다. 과거 스크립트 기반 사기 조직보다 훨씬 큰 규모로 운영했다는 게 구글의 주장입니다.
택배 안내, 은행, 곤경에 처한 친척을 사칭하는 문자가 온다면 '오타를 살펴라'는 기존 조언은 더 이상 통하지 않습니다. 부모님이나 십대 자녀를 둔 가정은, 가족만 아는 짧은 암호어를 미리 하나 정해 두는 것도 방법입니다. 다급한 전화나 문자가 와도 상대가 그 단어를 먼저 대지 못하면 AI 음성·문자 사칭에 속을 가능성이 크게 줄어듭니다.
이번 소송은 구글이 형사 공조 대신 민사 소송으로 해외 AI 사기 인프라를 더 빨리 차단할 수 있는지 시험대에 올린 사건입니다. 이 사건이 바꾸는 것은 집행 레버입니다. 국경을 넘는 형사 절차에 의존하지 않고 미국 법원에서 운영자를 직접 피고로 세우는 경로가, 신원만 특정되면 형사보다 빠르게 작동합니다.