是否有算法可以控制超级人工智能?
对于超级人工智能的出现,我们是期待的,因为它的出现意味着不少工作可以以高效率的方式来完成。可是,作为一款号称智慧远超最聪明、最有是否才华的人类的AI,关于它可能带来的灾难性风险的讨论并没有停止脚步。
近期,一群科学家组成的研究团队使用理论计算来证明遏制类算法并不有算能控制超级人工智能,这个研究主要是为了解决牛津哲学家尼克·博斯特罗姆(Nick Bostrom)提出的控制问题:我们如何确保超级人工法可智能为我们的利益服务?
根据超级人工智能的假设问题,研究人员构设一种理论上的遏制算法,该算法可以模拟AI的行为,并在AI程序的动作存在有害行以控为时自动停止程序来解决该问题。
在尝试运行该试验模型时,分析人员通过分析结果,发现建立一种可以控制超级人工智能的机器算法从根本性质上来说是制超不可能的。
该团队成员伊亚德·拉万(Iyad Rahwan)表示,如果将问题分解为理论计算机科学的基本规则,就会发现,命令AI不破坏世界的遏级人制算法存在无意中止其自身运行的可能性。
若发生这种情况,用户其实并不知道遏制算法是否仍在分析超级人工智能可能存在的威胁,或者它是否已工智经顺利停止有害的AI。因此,这种状况的出现会导致遏制算法无法得到有效使用。
根据研究发现,由于计算的基本局限性,目前暂时没有一种算法可能?以顺利计算出超级AI是否会危害世界。
假设超级人工智能将包含一个程序,该程序包含通用图灵机在输入时可能会像世界级状况一样复杂地执行所有程序,是否按照这么高的标准建立围堵遏制算法,基于这个基础对该超级AI程序进行仿真,这在理论上是不可能的。
到目前为止,这种类型的超级AI仍仅限有算于幻想领域,不过,研究人员表示,AI技术的发展正朝着科幻小说作家所设想的超级智能系统的类型迈进。
研究团队里面的成员之一、来自马克斯·法可普朗克人类发展研究所的曼努埃尔·塞布里安(Manuel Cebrian)表示,已经有AI机器可以实现独立执行某些重要任务,而程序员并以控没有完全了解它们是如何学习做到的。
因此,基于这个存在而提出一个问题,在某个时候这是否可能变得不可控制并对人类构成危险。
不管如何,发展超级制超人工智能的趋势并不会按下暂停键,只是,关于遏制超级人工智能的方式还是要保持跟进的,只有类似法律指引人类日常规范一般对超级人工智能形成一级人个制约,才可以让AI为我们服务,而不是造成灾难。
-
Google Meet 推出 AI 妆容滤镜:开会也能“素颜变精致”标签: 华住集团 艾铁成 乐道汽车 CGO标签: Anthropic Claude Code Marlin Snorkel AI阿里云泄露用户数据隐忧:云端用户隐私,是否真安全?云计算核心技术Docker教程:Docker Hub取消或重试构建医学教育革命来袭!复旦中山医院推出AI教学大模型,培养有温度的未来医生Facebook市值首次突破1万亿美元连通系统与机器学习的 MLOps 挑战在哪?这篇文章讲清楚了AI驱动电子表格平台Paradigm获500万美元种子轮融资 配备5000个AI智能体标签: 拓普泰克 智能控制器 北交所IPO 新能源
- ·标签: 商汤科技 SenseNova U1 NEO-unify 多模态模型
- ·标签: 视觉中国 港股上市 A+H股 内容授权
- ·标签: 米哈游 Varsapura 蔡浩宇 Anuttacon
- ·标签: TCL 永乐款鎏金铜观音菩萨像 青海省博物馆 瞿昙寺
- ·亚马逊云计算主管:不打算分拆 对并购持开放态度
- ·标签: 诺诚健华 宜诺凯 奥布替尼 BTK抑制剂
- ·英伟达卖了1.55亿美元的加密货币专用芯片
- ·标签: 三星电子 HarmonyOS 小米SU7 NAND闪存
- ·xAI加速AI前沿:马斯克宣布Grok5 将在数周内开始训练
- ·标签: 小米 罗福莉 DeepSeek AGI
- ·标签: 微软 Xbox Game Pass Azure
- ·2021年,人工智能和物联网的互操作性需求将继续增加
- ·标签: 浙江人形 熊蓉 人形机器人 Pre-A轮融资
- ·谷歌地球整合 Gemini,大模型加持可识别风暴与干旱风险
- ·软银豪掷225亿美元加码OpenAI,AI音乐与超级融资计划全面提速
- ·Kimi K2 高速版 AI 模型再提速,输出速度达每秒 100 Tokens
