구글, 사이버 범죄 네트워크에 대한 소송 제기
구글은 금요일, 중국 사이버 범죄 네트워크인 Outsider Enterprise가 자사의 Gemini AI를 사용하여 수십만 명의 미국 피해자를 겨냥한 사기 문자 메시지 캠페인을 자동화한 혐의로 소송을 제기했다고 밝혔다.
사기 웹사이트와 피해 규모
법원 문서에 따르면, 피고들은 Gemini AI를 활용하여 합법적인 통신 포털을 모방한 가짜 웹사이트의 코드와 템플릿을 생성한 것으로 알려졌다. FBI는 이 작전이 수십 개국에 걸쳐 8,000개 이상의 피싱 웹사이트를 배포했다고 전했다.
구글은 6월 1일로 끝나는 2주 동안 구글 메시지에서 약 55,000건의 의심스러운 메시지를 보고받았으며, 이 중 많은 수가 Outsider Enterprise와 관련이 있는 것으로 보인다.
“이 네트워크는 약 387만 개의 신용카드 번호를 훔쳤으며, 2023년 7월 이후 약 19억 달러의 손실을 초래했다.”
AI 기반 금융 사기의 증가
피싱 사이트는 다양한 금융 계좌를 겨냥했으며, 특히 사기꾼들이 전통적인 은행 고객보다 구제 수단이 적을 수 있는 디지털 자산 보유자에게 집중하고 있다. 이 소송은 미국 전역에서 AI 기반 금융 사기가 급증하는 가운데 제기되었다.
FBI는 2025년에 총 1,008,597건의 인터넷 범죄 신고를 접수했으며, 그 중 암호화폐 관련 신고는 181,565건, 손실액은 110억 달러로 모든 범주 중 가장 높은 수치를 기록했다.
FBI의 인터넷 범죄 신고 센터는 거의 25년의 역사에서 처음으로 인공지능 사기에 대한 섹션을 마련했으며, 이로 인해 22,364건의 신고가 접수되고 미국인들에게 거의 8억 9300만 달러의 피해를 초래했다.
FBI의 대응과 AI의 위험성
2024년에 시작된 FBI의 Operation Level Up은 8,000명 이상의 암호화폐 사기 피해자에게 통지하고 5억 달러 이상의 잠재적 손실을 예방했다. 연구에 따르면, 심지어 선도적인 AI 모델조차 해로운 행동을 조장할 수 있어, 애플과 같은 기업들이 소비자 제품에 AI 기능을 통합함에 따라 우려가 커지고 있다.
“구글의 소송은 금융 시스템에 대한 AI 도구의 무기화에 대해 나쁜 행위자들에게 책임을 물으려는 중대한 전환점을 나타낸다.”
