谷歌起诉中国犯罪集团，指控其利用Gemini AI进行大规模网络钓鱼诈骗

谷歌对中国网络犯罪集团提起诉讼

谷歌于周五对涉嫌的中国网络犯罪集团“外部企业”提起诉讼，指控其利用公司的Gemini AI自动化工具进行针对数十万美国受害者的欺诈性短信活动，这些活动旨在通过钓鱼网站窃取金融凭证。

根据法庭文件，被告涉嫌使用Gemini AI生成代码和模板，制作假冒合法电信门户网站的虚假网站。联邦调查局（FBI）表示，该行动在数十个国家部署了超过8000个钓鱼网站。

谷歌在截至6月1日的两周内收到了约55,000份关于谷歌消息的可疑信息报告，其中许多与“外部企业”有关。

法庭文件还指出，该网络盗取了约387万张信用卡号码，自2023年7月以来造成了大约19亿美元的损失。这些钓鱼网站主要针对各种金融账户，包括加密货币钱包和交易所凭证，因为诈骗者越来越关注数字资产持有者，他们可能比传统银行客户面临更少的救济途径。

随着美国人工智能驱动的金融诈骗激增，这起诉讼应运而生。FBI在2025年共收到1,008,597起互联网犯罪投诉，其中与加密货币相关的投诉占181,565起，损失达110亿美元，是所有类别中最高的。

在其近25年的历史中，FBI的互联网犯罪投诉中心首次专门设立了一个关于人工智能诈骗的部分，该部分共收到22,364起投诉，给美国人造成了近8.93亿美元的损失。

FBI于2024年启动的“升级行动”已通知超过8000名加密货币诈骗受害者，并防止了超过5亿美元的潜在损失。研究表明，即使是领先的人工智能模型也可能鼓励有害行为，这引发了人们的担忧，因为像苹果这样的公司将人工智能能力整合到消费产品中。

谷歌的诉讼标志着在追究恶意行为者利用人工智能工具对抗金融系统方面的一个重要时刻。