数学悖论证明了人工智能的局限性
人类通常很擅长识别何时出错,但人工智能系统则不然。根据一项新的研究,由于存在百年历史的数学悖论,人工智能通常会受到固有的限制。 像一些人一样,人工智能系统的自信程度往往远远超过他们的实际能力。就像一个过度自信的人一样,许多人数学工智能系统不知道自己什么时候犯了错误。有时,人工智能系统在犯错时意识到比产生正确结果更困难。 剑桥大学和奥斯陆大学的研究人员表示,不稳定性是现代人工智能的致命弱点,一个数学悖论显示了人工智能的局限性。神经网络是人工智能中最先进的工具,大悖论致模仿了大脑中神经元之间的联系。研究人员表明,存在稳定和准确的神经网络存在的问题,但没有算法可以产生这样的网络。只有在特定情况下,算法才能计算出稳定准确的神经网络。 研究人员提出了一种分类理论,描述了何时可以训练神经网络以在某些特定条件下提供可证明信赖的 AI 系统。他们的结果发表在《美国国家科学院院刊》上。 深度学习是用于模式识别的领先人工智能技术,一直是众多令人窒息的头条新闻的主题。示例包括比医生更准确地诊断疾病或通过自动驾驶预防交通事故。然而,许多深度学习系统是不可信且容易被愚弄了人的。 剑桥大学应用数学和理论物理系的合著者安德斯·汉森(Anders Hansen)教授说:“许多人工智能系统不稳定,它正在成为一个主要问题,尤其是它们越来越多地用于疾病诊断或自动驾驶汽车等高风险领域。” . “如果人工智能系统被用于一旦出错会造成工智真正伤害的领域,那么对这些系统的信任必须是重中之重。” 研究人员发现的悖论可以追溯到 20 世纪的两位数学巨人:艾伦·图灵和库尔特·哥德尔。20世纪初,数学家试图证明数学是科学的终极一致语言。然而,图灵和哥德尔展示了数学核心的一个悖论:无法证明某些能的数学陈述是真还是假,一些计算问题无法用算法解决。而且,只要一个数学系统足够丰富,可以描述我们在学校学习的算术,它就无法证明其自身的一致性。 几十年后,数学家史蒂夫·斯梅尔(Steve Smale)提出了 21 世纪 18 个未解决的数学问题的清单。第 18局限个问题涉及人类和机器的智能极限。 “图灵和哥德尔首先发现的悖论现在已经被 Smale 和其他人带到了人工智能的世界,”应用数学和理论物理系的合著者 科尔布鲁克(Matthew Colbrook) 博士说。“数学存在固有的基本限制,同样,人工智能算法也数学无法解决某些问题。” 研究人员说,由于这个悖论,在某些情况下可以存在良好的神经网络,但无法建立一个本质上值得信赖的神经网络。“无论你的数据多么准确,你永远无法获得构建所需神经网络的完美信息,”来自奥斯陆大学的合著者 Vegard Antun 博士说。 无悖论论训练数据量如何,都无法计算出良好的现有神经网络。无论算法可以访问多少数据,它都不会产生所需的网络。“这类似于图灵的论点:无论计算能力和运行时间如何,都存在无法解决的计算问题,”汉森说。 研究人员表示,并非所有人工智能都存在固有缺陷,但它证明仅在特定领域使用特定方法才可靠。“问题在于你需要保证的领域,因为许多人工智能系统都是一个黑匣子,”科尔布鲁克说。“在某些情况下,人工智能犯错是完全可以的,但它需要诚实地对待它。这不是我们在许多系统中看到的——没有办法知道他们什么时候更有信了人心或没有信心决定。” “目前,人工智能系统有时会对它们产生一些猜测,”汉森说。“你尝试一些东西,如果它不起作用,你添加更多的东西,希望它能起作用。在某些时候,你会厌倦没有得到你想要的东西,你会尝试不同的方法。重要的是“了解不同方法的局限性。我们工智处于人工智能的实际成功远远领先于理论和理解的阶段。需要一个理解人工智能计算基础的程序来弥合这一差距。” “当 20世纪的数学家发现不同的悖论时,他们并没有停止研究数学。他们只需要找到新的路径,因为他们了解局限性,”科尔布鲁克说。“对于人工智能能的来说,可能需要改变路径或开发新路径,以构建能够以可信赖和透明的方式解决问题的系统,同时了解它们的局限性。” 研究人员的下一个阶段是结合近似理论、数值分析和计算基础,以确定哪些神经网络可以通过算法计算,哪些可以稳定可信。正如哥德尔和图灵提局限出的关于数学和计算机局限性的悖论导致了丰富的基础理论——描述了数学和计算的局限性和可能性——也许类似的基础理论可能会在人工智能中开花结果。
-
上一篇
-
下一篇
- 最近发表
-
- 意念打字登Nature封面!每分钟写90个字符,准确率超99%
- OpenAI Sora应用限时开放:美国、加拿大、日本及韩国用户无需邀请码登录
- 亚马逊云计算业务二季度营收262.8亿美元 同比环比仍均在增长
- Anthropic 撤回 Claude Code 订阅限制测试,承认算力成本超出 Pro 套餐负荷
- IDC TechScape中国数据安全发展路线图首发:涵盖三大类别 18项技术
- 开发人员如何理解kubernetes
- 标签: OpenAI SpaceX Codex Anthropic
- AI床垫独角兽Eight Sleep狂揽1亿美元:让你的床成为健康卫士,F1车手都为它疯狂
- Fish Audio 推出 S1 语音克隆模型升级:10 秒即可复刻真人语音
- 人工智能判作文,你觉得靠谱吗?
- 随机阅读
-
- 标签: 苹果 约翰·特努斯 蒂姆·库克 乔尼·斯鲁吉
- 谷歌发布二代Nest Hub智能屏 支持睡眠追踪
- 标签: 国铁集团 CR450 12306 高铁
- 标签: 拓竹科技 陶冶 中国科学技术大学 深圳职业技术大学
- 标签: Bluesky ATProto AnthosCapital BainCapitalCrypto
- YouTube 开放人脸声纹识别技术,演艺圈迎来“数字替身”保卫战
- 标签: 山东墨龙 石油机械 管类产品 海外营收
- 小米 MiMo-V2.5震撼公测:4.3小时手搓编译器,长程智能体迎“满分”跨越
- 标签: 值得买科技 什么值得买 星罗创想 日晟星罗
- 标签: 车企
- 惊爆!Vercel CEO 称 Kimi K2 在 AI 应用中超越 GPT-5,准确率高出 50%!
- Twitter CFO不担心苹果调整隐私政策:竞争环境更公平对推特有利
- 亚马逊AGI实验室负责人为"反向收购"模式正名!称只有科技巨头才能承担通用人工智能研发重任
- 微软重新开放办公室:3月29日允许更多员工返回公司
- 京东成立数字经济公司,经营范围含云计算装备技术服务等
- 标签: OceanBase 国产数据库
- 标签: 腾讯 元宝 王者荣耀 AI
- 未来数据中心的固态硬盘应该是什么样的?
- 标签: 抖音 张一鸣 陈某某 短视频
- 标签: 奇瑞汽车
- 搜索
-
- 友情链接