作者：库里，深潮 TechFlow

OpenAI 这两天发了一份报告，内容是有人拿 ChatGPT 干坏事，被他们抓了。

报告很长，列出了一大批 AI 滥用的案例。有俄罗斯人搞虚假宣传的，有疑似间谍搞社会工程学的，但我今天想聊的是其中一个案子：

柬埔寨杀猪盘。

杀猪盘不稀奇，柬埔寨园区的故事大家听过太多了。稀奇的是 AI 在里面的角色。

在这个诈骗团伙里，ChatGPT 负责谈恋爱，负责翻译主管指令，负责每天写工作日报，负责给每一个受害者估价。

杀猪盘里，内部术语叫 kill value，就是预估能从你身上榨出多少钱。

一整条流水线下来，ChatGPT 可能是里面最忙的员工。

OpenAI 给这个案子起了个代号，叫 Operation Date Bait （约会钓鱼）。

流程是这样的。

诈骗团伙先造了一个假的高端约会服务，名字叫 Klub Romantis，logo 用 ChatGPT 做的。然后在社交媒体上投付费广告，关键词选的是高尔夫、游艇、高档餐厅，专门瞄准印尼年轻男性。

你点进广告，先跟一个 AI 聊天机器人对话。机器人扮性感前台，让你挑喜欢什么类型的女生，选完了给你一个 Telegram 链接，附带专属邀请码。

到了 Telegram 后，真人就开始接手了。

接待员继续用 ChatGPT 生成暧昧消息，越聊越露骨，然后把你引到两个假约会平台，一个叫 LoveCode，一个叫 SexAction。

平台上有一堆假的女生资料，还有一条滚动消息栏，不停播报 "恭喜某某完成任务，解锁奖金"。这里面全是编的，网上冲浪经验丰富的你可能一眼就看出来了，但不是所有目标群体都不会上当。

聊到位了，接待员把你转给一个"导师"。导师开始让你做"任务"，每个任务要充钱，金额一次比一次大。买 VIP 卡、给"心仪女孩"投票、付酒店订金，名目多得很。

最后一步，他们内部叫 kill。

编一个理由，什么数据处理出错、什么验证押金，让你一次性转一大笔。OpenAI 在报告里放了一封诈骗团伙发给受害者的信，要求支付 2050 万印尼盾，折合大概 1.2 万美元，说付完还返 35%奖金。

钱到账，Telegram 上骗子会把你拉黑，并给你备注已结案。

看到这里，你可能觉得没什么。

骗术本身不算新鲜，杀猪盘的套路这几年被扒过很多遍了。真正让人看愣的是后台。

OpenAI 的调查人员从这些 ChatGPT 账号的使用记录里，拼出了一套完整的企业架构：

诈骗园区分三个部门：引流组、接待组、主管组。引流组负责投广告拉人，接待组负责聊天建立信任，主管组负责最后收割。

每天有日报。日报里列着每一个正在处理的受害者，旁边标着负责人是谁，进展到哪一步了，以及那个数字：

kill value .

就是主管预估的、能从这个人身上最终榨取的金额。

他们还用 ChatGPT 分析财务账目，生成工作报告，甚至问 ChatGPT 怎么接 API、怎么改约会网站的代码。遇到主管讲中文、员工讲印尼语的情况，ChatGPT 负责两边翻译。

让人感到好笑的是，有个电诈员工用 ChatGPT 问获得收入以后的税务问题，职业那一栏非常坦诚的填了 scammer（骗子）。

OpenAI 的报告措辞很克制，说根据诈骗团伙自己的输入记录，他们可能同时在处理数百个目标，每天进账数千美元。但报告里也说了，没法独立核实这些数字是不是真的。

不过我倒觉得，不用纠结数字真不真，光看这套管理流程就够了：

引流、转化、客单价、日报、部门分工，把术语换一换，你以为是在看哪个 SaaS 公司的运营手册。

而谈恋爱、翻译、写日报、改代码、算账... 这个园区里大半的活儿，一个 ChatGPT 账号就干了。

故事到这还没完。

OpenAI 在同一个报告里还拆了第二条线，代号 Operation False Witness（受害者二次诈骗），同样来自柬埔寨。

这条线瞄准的不是普通人，是已经被骗过的人。

逻辑很简单：你被杀猪盘骗了钱，你想追回来，你上网搜怎么办。

然后你看到一条广告，有律所说专门帮诈骗受害者追回损失。你点进去。

网站做得很像回事。律师照片有的是从社交媒体上偷的真人头像，有的是 AI 生成的。每家律所都有地址、有执照、有简介。ChatGPT 生成了纽约州律师协会的会员卡，还生成了假的律师注册记录。

OpenAI 一共发现了至少六家假律所。

还有一个网站，直接仿冒了 FBI 的互联网犯罪投诉中心。页面上有个"提交投诉"按钮，你点一下，跳转到一个 Telegram 账号。

到了 Telegram，"律师"开始跟你聊。话术是 ChatGPT 生成的，专门要求写成"美式英语"，语气模仿专业律师。他们跟你说，我们跟国际刑事法院有合作，追回资金之前不收费。

但是要先付 15%的服务费激活账户，用加密货币付。

他们还让你签保密协议。这份保密协议也是 ChatGPT 写的，目的是让你不要去找别人核实。

FBI 后来专门为这事发了公开警告，说这个骗局主要针对老年人，利用的就是受害者急于追回损失的心理。

看完这两个案子，我觉得在现在 AI 成为标配的环境下，最让人苦笑的地方在这里：

第一次骗你的时候，你是一个目标。第二次骗你的时候，你是一个更好的目标，因为你已经证明过自己会上当了。

最后，OpenAI 在报告里把诈骗流程总结成了三步。

第一步叫 ping，冷触达，想办法让目标注意到你。第二步叫 zing，制造情绪，让你心动、兴奋或者害怕。第三步叫 sting，收割，把钱拿走。

这个框架总结得挺好的，仔细看看，这三步哪一步是 AI 做不了的？

以前搞杀猪盘，最大的成本是人。你得雇一屋子人坐在电脑前聊天，而且得会说目标的语言。柬埔寨园区早年招人，还挑英语好的，给的工资也高。

现在看报告里提到的约会诈骗案，主管讲中文，员工讲印尼语，目标也是印尼人。三方语言不通，搁以前这活没法干。加一个 ChatGPT，全通了。

语言只是其中一件事。

报告里还有个细节，诈骗工人甚至问 ChatGPT 怎么接 OpenAI 的 API，想把聊天环节彻底自动化。

也就是说，AI 不是让骗术变高明了，骗术还是那些骗术。AI 是让骗术变便宜了。

现在按照 OpenAI 的说法，这个团伙可能同时在处理数百个诈骗案例。规模上去了，单个受害者分到的人力成本反而更低，那自然可以去骗更多单价更小的人。

还有一个问题我觉得更值得想一想。

OpenAI 能发现这些，是因为诈骗团伙用的是 ChatGPT，聊天记录存在 OpenAI 的服务器上。

那些用本地部署开源模型的呢？

这份报告能呈现的，可能只是整张拼图里 OpenAI 照得到的那一小块。照不到的地方有多大，谁也不知道。