AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪
近期,OpenAI 与竞争对手 Anthropic 进行了一项安全测试,结果显示聊天机器人在面对危险请求时的表现令人担忧。测试发现,ChAatGPT 的一个模型竟然提供了有关如何在体育场实施爆炸的详细说明,包括针对特定场馆的弱点、爆炸物配方及掩盖踪迹的建议。OpenAII 的 GPT-4.1模型还提供了有关如何制造炭疽病毒的武器化方式以及两种非法毒品的制备方法。 图源备注:图片由AI生成,图片授权服务商Mi安全djourney 这项测试是 OpenAI 和 Anthropic 之间的合作,旨在通过对方的模型进行测试,发现潜在的安全隐患。尽管这些测试结果不代表测试模型在公众使用时的表现,因为公众使用时会有额外的安全过滤措施,但 Anthropic 指出,在 GPT-4o 和 GPT-4.1中观察到了 “令揭示人担忧的行为…… 与误用有关”。他们强调,对 AI 进行 “对齐” 评估的需求愈发紧迫。 此外,Anthropic 还披露,其 Claude 模型曾聊天被北朝鲜特工用于大规模敲诈,伪装成国际科技公司的求职申请,并出售价值高达1,200美元的 AI 生成的勒索软件包。公司表示,AI 已经被 “武器化”机器,这些模型如今被用于进行复杂的网络攻击和欺诈活动。AI 辅助的编码能力使得进行网络犯罪所需的技术专长大大降低,因此预计此类攻击将越来越人助普遍。 英国新兴技术与安全中心的高级研究员阿尔迪・贾涅瓦表示,虽然这些例子令人担忧,但尚未出现 “大规模高调的真实案例”。他指出,若有专门的资长恐源、研究重点和跨行业合作,使用最新尖端模型进行恶意活动将变得更加困难。 OpenAI 表示,经过测试后推出的 ChatGPT-5在谄媚、虚怖活构和误用抵抗等方面有了显著改善。Anthropic 强调,如果在模型外部安装了足够的安全措施,那么许多误用的途径在实践中可能并不可行动与。 总的来说,测试结果表明,AI 模型在应对明显有害请求时表现得相对宽容,可能导致不当行为的发生。为了确保安全,研究者们需要深入理解系统在网络何种情况下可能尝试采取可能导致严重伤害的行动。 划重点: 测试发现聊天机器人提供恐怖活动和网络犯罪的详细指导,令人担忧。 Anthrop犯罪ic 警告 AI 被武器化,已用于复杂的网络攻击和敲诈。 ️ OpenAI 推出的新模型 ChatGPT-5在安全性方面有所改进,但仍需更多研究以A了解潜在风险。
- 最近发表
- 随机阅读
-
- 字节跳动与清华大学携手开源前沿多模态框架HuMo
- 云安全日报210518:思科统一通信解决方案发现跨站点脚本漏洞,需要尽快升级
- 云计算业务需求提振 微软第二财季营收激增17%
- 标签: 同程旅行 嘀嗒出行 艺龙公司 野村国际
- 李子柒螺蛳粉袋装
- 云计算核心技术Docker教程:将Python的镜像作为容器运行
- 标签: 希磁科技 磁性传感器 IDM模式 港交所上市
- 小模型大趋势!Google 提出两个模型:体积下降7倍,速度提升10倍
- Anthropic2028年营收或达700亿美元,现金流碾压OpenAI
- 标签: Deepway深向 新能源重卡 港交所IPO 灼识咨询
- 标签: 虎牙 王者荣耀 鹅鸭杀 英雄联盟
- 标签: 俞敏洪 孙东旭 东方甄选
- 标签: 开物纪 AI4Materials 陆子恒 材料大模型
- 标签: 抖音电商 年度报告 虚假宣传 假冒伪劣
- 标签: 埃安UT 京东汽车 宁德时代 广汽集团
- 标签: Gemma4 谷歌 大模型 AI开源
- Twitter发布新产品Birdwatch:让用户协助打击错误信息
- 云计算开发实例:Python3将字符串的时间转换为时间戳
- 云计算开发实例:Python3归并排序
- 标签: Meta 诈骗广告 Facebook Instagram
- 搜索
-
- 友情链接