主流聊天机器人传播虚假信息风险加剧,研究显示情况堪忧
Newsguard 最近发布了一项研究,显示截至2023年8月,十大生成式 AI 工具在处理实时新闻时,有高达35% 的概率传播虚假信息。主流相比去年8月的18%,这一数字几乎翻了一番。研究指出,这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝回答聊天用户问题的比例从31% 降至0%,AI 开始接入一个充满不实信息的网络生态系统,导致虚假信息的传播现象愈加严重。 图源备注:图片由AI生成,图片机器授权服务商Midjourney 该研究发现,许多不良行为者利用 AI 的特性故意散布虚假信息。去年,Newsguard 就曾标记出966个以16人传种语言运营的 AI 生成新闻网站,这些网站通过模仿正规媒体的名称,如 “iBusiness Day”,向公众传播假消息。具体来看,Inflectio播虚n 公司的 AI 模型传播虚假信息的概率最高,达到了56.67%;而 Perplexity 模型也不容乐观,出错率为46.67%。ChatGPT 和 M假信eta 的 AI 模型则各自为40%,而 Copilot(微软必应聊天)和 Mistral 的虚假信息传播率为36.67%。表现最好的两款模型是 C息风laude 和 Gemini,错误率分别为10% 和16.67%。 值得注意的是,Perplexity 的表现大幅下滑,去年8月时该模型对虚假险加信息的揭穿率达到100%,然而到今年8月,这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题,但却引发了新的挑战。这剧,些聊天机器人开始从不可靠的来源获取信息,使得用户在判断事实与假消息时愈发困难。 Newsguard 指出,早期的 AI 通过拒绝回答问题来避免研究传播虚假信息的风险,但如今网络生态中虚假信息泛滥,辨别真伪愈发复杂。OpenAI 也承认,当前的语言模型总是可能产生 “幻觉内容”,即虚显示假或无根据的信息。该公司表示正在研发新技术,力图让未来的模型能够更好地提示不确定性,而不是笃定地生成虚假信息。 划重点: - 研究显示,十情况大生成式 AI 工具在处理实时新闻时,有35% 的概率传播虚假信息,几乎翻倍。 - Inflection 公司的 AI 模型表现最差,传播虚假信息的概率高达堪忧56.67%。 - 🤖 OpenAI 承认当前模型可能产生虚假信息,并正致力于研发新技术来应对这一问题。
- 最近发表
- 随机阅读
-
- 腾讯云开始全球扩张:腾讯印尼首个数据中心投入使用
- 外媒:苹果再次关闭美国20多家线下门店
- 蚂蚁百灵大模型团队开源Ring-flash-linear-2.0-128K,混合注意力+MoE架构重塑长文本编程效率
- 云计算开发:Python3-isnumeric()方法详解
- 标签: 蚂蚁集团 耀才证券金融 香港券商 网商银行
- 梅西标志图片
- 效仿苹果,谷歌将推自研手机和电脑芯片
- 第一个AI教堂关了!这位被川普特赦的谷歌前工程师曾为AI封神
- 标签: 高德 扫街榜 飞行街景 AR实景
- 标签: xAI 马斯克 Grok 4 Toby Pohlen
- 标签: GLM-5 MTT S5000 智谱 摩尔线程
- 标签: 豆包 字节跳动 Seed 吴永辉
- 标签: SensorTower AppMagic 移动应用情报 游戏数据分析
- AI根据代码内容自动起函数名,再也不怕命名不规范的同事了
- 标签: 优必选 Walker S2 Figure 谭旻
- 寰�蒋涓�浗瀹e竷鍛ㄧぜ鏍嬪崌浠诲井杞�簹娲茬爺绌堕櫌闄㈤暱
- 云计算开发:Python内置函数-xrange()函数详解
- 绿色数据中心来临 液冷技术迎更广阔的应用前景
- Google 将 TensorFlow Lite 引入 Play Services
- 标签: 微信ClawBot 苹果中国 中国AI大模型 百度DuMate
- 搜索
-
- 友情链接