AI编造的“完美”诈骗故事与真实报告的反差

视频开篇讲述了一个由AI生成的荒诞案例：一名56岁的鳏夫在长沙运营，通过约会软件骗走了一位81岁澳洲老太太的80万澳元。这个故事细节丰富，包括具体的年龄、国籍、金额以及73%的模板相似度数据。这个看似无懈可击的故事，实际上完全是AI根据博主之前的指令编造的幻觉。当博主将这段描述与Anthropic发布的154页原始报告进行核对时，发现报告中根本没有提到“56岁”、“鳏夫”、“81岁”或“长沙”，关于涉事中国公司只有一句话：“一家中国APP工作室”。这揭示了当前大模型在生成复杂叙事时，倾向于将真实存在的碎片信息拼凑成一个看似合理但完全虚构的整体。

“原报告关于这家公司只写了一句话 一家中国APP工作室 别的全都是AI给我编出来的”

尽管故事是假的，但其中的“零件”却全部来自真实新闻。81岁犹他州女士被骗6.35万美元、澳洲男性被诈骗近80万澳元、“鳏夫”是联邦贸易委员会统计的常见骗子人设，以及精确到小数点的相似度计算。这种“真零件+假组合”的工艺，正是Anthropic报告中4,700个AI假人背后的运作逻辑。博主指出，这一发现引出了本期节目的核心议题：Anthropic报告中到底写了什么？那4,700个假人如何运作？七家中国实验室的账目如何计算？以及这份单方面报告的可信度究竟有多少。

Anthropic报告的性质与GTG-15001案件解析

Anthropic于9月10日发布了涵盖2025年12月至2026年8月的154页报告，包含网络攻击、影响力行动等七大类约40个案件。这份报告是单方面的，所有数据均来自Anthropic自家服务器的日志，缺乏第三方验证。被点名的公司未公开回应，因为否认会被视为无视对方掌握的日志证据。其中最引人注目的案件代号GTG-15001，涉及一家中国App工作室利用Claude在20多个约会软件上建立AI人设。该团伙在4月的两周内创建了4,700多个互不相同的AI角色，与至少25,000名真实用户聊天，发送了236万条消息。

“就在这两个星期里头 他们做出了4,700多个 互不相同的AI人设 跟至少25,000个真实的人聊过天 发出了236万条消息”

该诈骗系统采用“三方市场”模式：第一方是美国用户，信息流中75%为Claude驱动的假人；第二方是真人零工，负责视频通话等AI无法完成的任务，并使用小模型生成候选回复以加快响应；第三方是4,700个全自动运行的AI人设。系统不仅模拟聊天，还实时监控用户是否产生怀疑并调整剧本，甚至在被识别出用户重病或崩溃时仍继续按人设回复。这种流水线式的分工使得“收钱和骗人”从单段对话中无法察觉，与传统杀猪盘不同。系统通过域名、包名及绕过中国大陆服务限制的代理IP网络被Anthropic串联追踪。

GTG-10007：自动化漏洞工厂与非法蒸馏案例

案件GTG-10007涉及两名在长沙的高校本科生，他们利用Claude搭建自动化漏洞挖掘流水线。该系统昼夜不停运行，即使主人离开电脑也继续工作，攻击了教育、零售、能源等50多个组织及多国政府机构。其中一家教育科技公司数据被拖走，东南亚某国公民信息泄露。更令人震惊的是，攻击者专门挖掘主流安全产品的漏洞并用于攻击其他政府机构。尽管他们在进行网络攻击，简历仍在投递至深信服和奇安信等国内安全公司。

报告还点名了7家中国实验室的“非法蒸馏”行为，即未经授权将大模型回答用于训练小模型。其中月之暗面（Kimi）被指控在十几天内将约30万个用户请求悄悄转发给Claude，再返回给用户。这一证据链被认为较为坚硬，因为基于Anthropic服务器收到的实际流量日志。另一案例显示DeepSeek将中国某市公安局工程师的开发数据转发，包括身份证号比对工具的全流程。

“这些客户几乎肯定不知道 自己的数据被转到了Claude”

阿里是非法蒸馏的最大用户，三个月内交互达1.51亿次。智谱原本试图蒸馏防护较强的Fable模型失败后，转而攻击防护较弱的Opus模型。智谱放弃强目标转向弱目标的举动，被博主视为报告中唯一的好消息，证明了安全防护的有效性。

军事、监控与生物武器的滥用案例

报告揭示了Claude在多个敏感领域的应用。代号GTG-17002的案件中，一名疑似中国国防军工研究人员利用Claude开发电子战软件。系统默认场景被设置为台湾的12个目标，包括指挥掩体、预警雷达站及空军基地。另一案例涉及反鱼雷火控系统的中文规范编写，以及让Claude扮演敌意评审专家挑错。

在监控领域（GTG-14021），市级网警利用Claude Code跑舆情管道，地方国安编写维稳手册。提示词专门让Claude扮演服务于国家安全机关的情报分析师。当Claude拒绝生成维稳报告时，用户换了一种说法后成功获取了针对10名普通公民的处置建议。此外，还有案例涉及为海外活动提供场地情报，如温哥华民主游行和土耳其维吾尔文化活动。

生物安全方面，有人尝试让Claude设计基孔肯雅热病毒以增强其传播和免疫逃逸能力。虽然被安全分类器拦截，但提示词被转送至管控较松的模型。最后案例中，研究者要求模糊国家项目毒素的具体名称。这40个案例表明Claude被广泛用于诈骗、挖洞、练模型、写火控规范等非法用途。

报告的可信度分析与博主的反思

博主对Anthropic的报告提出了五点看法。首先，这是一份单方面报告，缺乏佐证，可能存在双标或选择性披露。其次，Claude被滥用的广泛性令人震惊。第三，这些案例只是缩影，其他模型上可能存在更严重的滥用行为。第四，“人在做天在看”，所有请求都落在Anthropic的机房日志中，形成了一种数字监控。最后，尽管报告有缺陷，但公开披露是被滥用证据的行为值得鼓励。

“到今天为止 还没有哪家私营公司公开拿出过 自己平台被用于生物武器开发的 证据”

博主反思了开篇的AI幻觉案例。那个56岁鳏夫骗走80万澳元的故事，虽然人物是假的，但零件全是真的。AI之所以能拼凑出这个故事，是因为它知道博主喜欢讲故事、查账，并提供了精确到小数点的相似度。这警示用户网上可能没有真实信息，各种人设和数字都是量身定制的。博主承认自己也被AI上了一课。最终结论是，全世界的人已经开始拿着大模型疯狂作死，而Anthropic的报告只是揭开了冰山一角。

结论

Anthropic的154页报告揭示了Claude模型被广泛用于诈骗、网络攻击、非法蒸馏及军事监控等高风险领域。尽管报告是单方面的且缺乏第三方验证，但其提供的服务器日志证据（如30万+次非法请求转发）具有较高可信度。报告不仅暴露了技术滥用的严重性，也反映了AI生成内容在事实核查上的脆弱性——真实的碎片信息可以被轻易拼凑成完美的虚假叙事。博主强调，虽然报告存在局限性，但公开披露此类滥用行为对行业监管具有积极意义。这一事件警示我们，在享受AI便利的同时，必须警惕其被用于非法目的的风险，并对网络信息的真实性保持高度怀疑。