下载客户端

AI自我进化是真的吗?Anthropic警告AI已开始自我构建,呼吁全球暂停研究

2026-06-05 05:20:35
转载

导读

Anthropic在论文《When AI Builds Itself》中提出AI已出现自我构建迹象,若持续发展或实现递归自我提升,呼吁全球暂停前沿AI研究,让社会结构与对齐研究跟上技术进步,同时将开展相关影响研究,该观点引发科技界震撼。

科幻正在走进现实?有机构称AI已经开始有自我进化和自我构建的迹象了! 这一大胆判断,是刚刚Anthropic在最新的一篇重磅论文《When AI Builds Itself》中提出的。文章提到,如果这一趋势持续发展并获得足够算力支撑,最终将指向能够完全自主设计和开发自身继任者的人工智能系统,这被称为 "递归自我提升"。 “我们还没到那个阶段,递归式自我提升也不是必然的。但这可能比大多数机构准备得更早到来。” Anthropic呼吁,世界能够选择放缓或暂时暂停前沿人工智能的发展,以便社会结构和对齐研究跟上技术进步,将是件好事。 同时,Anthropic宣布:"Anthropic 研究所将与外部利益相关者合作,开展研究,深入思考日益强大、可能自我改进的系统所带来的影响,以及如何让世界有能力对这项技术的未来发展做出深思熟虑的选择。" 尽管Anthropic官方X账号上补充澄清:"这一切都不能保证递归自我提升即将到来。目前尚不清楚Claude是否具备研究判断力 —— 即选择正确问题去解决的能力。 但如果这些趋势继续下去,AI系统设计和构建自己的继任者是合理的。这可能会在医学、技术、经济等方面为社会带来革命性的改善,但也可能加剧对齐问题,最终导致失控。" 但论文中披露的一系列数据和事实,还是让整个科技界感到了前所未有的震撼。因为这篇论文不是在预测遥远的未来,而是在描述正在发生的现实。

评论

共0条评论
face
inputImg
最新更新

AI自我进化是真的吗?Anthropic警告AI已开始自我构建,呼吁全球暂停研究

科幻正在走进现实?有机构称AI已经开始有自我进化和自我构建的迹象了! 这一大胆判断,是刚刚Anthropic在最新的一篇重磅论文《When AI Builds …

2026-06-05 05:200赞 · 0评论

《赛博朋克2077》拍照模式怎么玩?趣味截图走红Reddit,NPC互动整活教学

《赛博朋克2077》拍照模式有多好玩?海外Reddit论坛r/gaming板块玩家晒出趣味截图,两名NPC摆出近距离互动的搞怪姿势,引发热议。发帖玩家称赞本作拍…

2026-06-05 05:200赞 · 0评论

《刀剑英雄》孙楠2004演唱会4K修复版,DVD封面为何选这身?CD和声最高音到D5吗?

笋楠笋楠我想问你,这么多套衣服为什么选这身做DVD封面? CD里和声声部最高音真的只到D5吗,听感好高,感觉不止啊! ---------------------…

2026-06-05 05:170赞 · 0评论

《可口的咖啡》韩国水族咖啡馆在哪?大白鲨实拍现场,海洋主题咖啡馆游玩攻略

韩国水族咖啡馆现场实拍!今日赶到现场,下午拍摄到了震撼的大白鲨,带大家沉浸式体验海洋主题咖啡馆的魅力。想知道这家咖啡馆在哪、怎么玩?快来看看UP主的第一手实录吧…

2026-06-05 05:150赞 · 0评论

《武林外传》影视剪辑:有人浪迹江湖,有人寒窗苦读,经典片段回顾与剧情解析

2026-06-05 05:110赞 · 0评论

《隐形守护者》肖途结局解析:为何被高源弃卒保帅当众枪毙?行刑官反应引热议

-

2026-06-05 05:100赞 · 0评论

《可口的咖啡》El inútil guermon 咕喳的咖啡视频内容介绍

这是一个发过的重复视频

2026-06-05 05:090赞 · 0评论

《极限摩托》电启动轰油门技巧,湾梁摩托车骑行教学与操作指南

-

2026-06-05 05:070赞 · 0评论

《喵星人》想离家出走?猫咪离家出走原因、找回方法及预防措施全解析

笨笨之前离家出走过,丢了一夜!自此之后,开门基本上不会出门,但是姐姐最近老是往外面跑

2026-06-05 05:060赞 · 0评论

《糖葫芦达人》外国老哥吐槽后又真香?歪果仁玩糖葫芦游戏的真实体验分享

2026-06-05 05:050赞 · 0评论
暂无更多