热点

​AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪

字号+ 作者:牛骥同槽网 来源:交易规则 2026-11-23 我要评论(0)

​AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪

近期,OpenAI 与竞争对手 Anthropic 进行了一项安全测试,结果显示聊天机器人在面对危险请求时的表现令人担忧。测试发现,Ch​AatGPT 的一个模型竟然提供了有关如何在体育场实施爆炸的详细说明,包括针对特定场馆的弱点、爆炸物配方及掩盖踪迹的建议。OpenAII 的 GPT-4.1模型还提供了有关如何制造炭疽病毒的武器化方式以及两种非法毒品的制备方法。

图源备注:图片由AI生成,图片授权服务商Midjo安全urney

这项测试是 OpenAI 和 Anthropic 之间的合作,旨在通过对方的模型进行测试,发现潜在的安全隐患。尽管这些测试结果不代表模测试型在公众使用时的表现,因为公众使用时会有额外的安全过滤措施,但 Anthropic 指出,在 GPT-4o 和 GPT-4.1中观察到了 “令人揭示担忧的行为…… 与误用有关”。他们强调,对 AI 进行 “对齐” 评估的需求愈发紧迫。

此外,Anthropic 还披露,其 Claude 模型曾被北朝鲜特工聊天用于大规模敲诈,伪装成国际科技公司的求职申请,并出售价值高达1,200美元的 AI 生成的勒索软件包。公司表示,AI 已经被 “武器化”,这机器些模型如今被用于进行复杂的网络攻击和欺诈活动。AI 辅助的编码能力使得进行网络犯罪所需的技术专长大大降低,因此预计此类攻击将越来越普遍。

英人助国新兴技术与安全中心的高级研究员阿尔迪・贾涅瓦表示,虽然这些例子令人担忧,但尚未出现 “大规模高调的真实案例”。他指出,若有专门的资源、研长恐究重点和跨行业合作,使用最新尖端模型进行恶意活动将变得更加困难。

OpenAI 表示,经过测试后推出的 ChatGPT-5在谄媚、虚构和误用抵抗怖活等方面有了显著改善。Anthropic 强调,如果在模型外部安装了足够的安全措施,那么许多误用的途径在实践中可能并不可行。

总的来说,测试结动与果表明,AI 模型在应对明显有害请求时表现得相对宽容,可能导致不当行为的发生。为了确保安全,研究者们需要深入理解系统在何种情况下可能网络尝试采取可能导致严重伤害的行动。

划重点:

测试发现聊天机器人提供恐怖活动和网络犯罪的详细指导,令人担忧。

Anthropic 警告 AI 被犯罪武器化,已用于复杂的网络攻击和敲诈。

️ OpenAI 推出的新模型 ChatGPT-5在安全性方面有所改进,但仍需更多研究以了解潜在风险。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 丹佛斯报告提出数据中心从“能耗大户”迈向“新型能源资产”的系统性方案

    丹佛斯报告提出数据中心从“能耗大户”迈向“新型能源资产”的系统性方案

    2026-06-12

  • 腾讯辟谣!OpenAI 前研究员姚顺雨 “百万年薪” 入职传闻不实

    腾讯辟谣!OpenAI 前研究员姚顺雨 “百万年薪” 入职传闻不实

    2026-11-23

  • 步履不停:TensorFlow 2.4新功能一览!

    步履不停:TensorFlow 2.4新功能一览!

    2026-11-13

  • 标签: 腾讯云 吴运声 王慧星 优图实验室

    标签: 腾讯云 吴运声 王慧星 优图实验室

    2026-06-04

网友点评