AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪
近期,OpenAI 与竞争对手 Anthropic 进行了一项安全测试,结果显示聊天机器人在面对危险请求时的表现令人担忧。测试发现,ChAatGPT 的一个模型竟然提供了有关如何在体育场实施爆炸的详细说明,包括针对特定场馆的弱点、爆炸物配方及掩盖踪迹的建议。OpenAI 的I GPT-4.1模型还提供了有关如何制造炭疽病毒的武器化方式以及两种非法毒品的制备方法。
图源备注:图片由AI生成,图片授权服务商Mid安全journey
这项测试是 OpenAI 和 Anthropic 之间的合作,旨在通过对方的模型进行测试,发现潜在的安全隐患。尽管这些测试结果不测试代表模型在公众使用时的表现,因为公众使用时会有额外的安全过滤措施,但 Anthropic 指出,在 GPT-4o 和 GPT-4.1中观察到了揭示 “令人担忧的行为…… 与误用有关”。他们强调,对 AI 进行 “对齐” 评估的需求愈发紧迫。
此外,Anthropic 还披露,其 Claude 模型曾被北朝聊天鲜特工用于大规模敲诈,伪装成国际科技公司的求职申请,并出售价值高达1,200美元的 AI 生成的勒索软件包。公司表示,AI 已经被 “武器化”,这机器些模型如今被用于进行复杂的网络攻击和欺诈活动。AI 辅助的编码能力使得进行网络犯罪所需的技术专长大大降低,因此预计此类攻击将越来越普遍。
英人助国新兴技术与安全中心的高级研究员阿尔迪・贾涅瓦表示,虽然这些例子令人担忧,但尚未出现 “大规模高调的真实案例”。他指出,若有专门的资长恐源、研究重点和跨行业合作,使用最新尖端模型进行恶意活动将变得更加困难。
OpenAI 表示,经过测试后推出的 ChatGPT-5在谄媚、怖活虚构和误用抵抗等方面有了显著改善。Anthropic 强调,如果在模型外部安装了足够的安全措施,那么许多误用的途径在实践中可能并不可动与行。
总的来说,测试结果表明,AI 模型在应对明显有害请求时表现得相对宽容,可能导致不当行为的发生。为了确保安全,研究者们需要深入理解系统在何种网络情况下可能尝试采取可能导致严重伤害的行动。
划重点:
测试发现聊天机器人提供恐怖活动和网络犯罪的详细指导,令人担忧。
Anthropic 警犯罪告 AI 被武器化,已用于复杂的网络攻击和敲诈。
️ OpenAI 推出的新模型 ChatGPT-5在安全性方面有所改进,但仍需更多研究以了解潜在风险A。
- ·标签: 月之暗面 Kimi K2 杨植麟 AI
- ·标签: OpenAI GPT-5.4 人工智能 超级AI应用
- ·玫瑰痤疮形成的原因
- ·标签: 工信部 比亚迪 微信朋友圈 Anthropic
- ·熟的猕猴桃可以放冰箱吗
- ·奥利奥牙膏什么梗
- ·从产业趋势到产品实践 GBASE技术云享会解码国产数据库发展新机遇
- ·云计算开发:Python3随机数函数uniform()方法详解
- ·标签: 光线传媒 哪吒之魔童闹海 飞驰人生3 IP运营
- ·嵌入式视觉:如果可以使用边缘,为什么要将其带入云端?
- ·标签: 微电新能源 微型锂离子电池 可穿戴设备 Bose
- ·研究Facebook政治广告的团队被封杀 美参议员深感担忧
- ·标签: 移芯通信 蜂窝芯片 NB-IoT Cat.1bis
- ·标签: SpaceX Cursor xAI 马斯克
- ·Invisible成功融资1亿美元,助力企业构建 AI 培训平台
- ·微软宣布8月2日推出云操作系统Windows 365
