马斯克:人工智能比核弹危险,应对AI实施某种监管
2023-12-01 09:30:03
•
来源:
导读 埃隆·马斯克(Elon Musk)担心OpenAI已经发现了AI(人工智能)的危险元素。
当地时间11月29日,在DealBook峰会上,马斯克对于OpenAI最近...
埃隆·马斯克(Elon Musk)担心OpenAI已经发现了AI(人工智能)的“危险元素”。
当地时间11月29日,在DealBook峰会上,马斯克对于OpenAI最近的“政变”风波发表了自己的猜测。马斯克表示,虽然自己不清楚这场闹剧的内情,但他担忧这一切对于AI将意味着什么,并希望能够知晓旧董事会罢免奥特曼的真实原因。
作为OpenAI的联合创始人之一,说起OpenAI的CEO萨姆·奥特曼(Sam Altman),马斯克引用了《指环王》里能够给予人强大力量的“魔戒”的概念:“我对于萨姆有着复杂的感情。力量之戒可能会腐化人心。”
马斯克补充道,他很想知道OpenAI的旧董事会罢免奥特曼的原因到底是什么,还曾联系过OpenAI的联合创办人之一、前董事会成员兼首席科学家伊尔亚·苏茨克维(Ilya Sutskever),但没有得到回应。马斯克称苏茨克维有“坚定的道德指南”,好奇是什么让苏茨克维 “产生如此强烈的反应并与萨姆对抗”:“这听起来很严重,我认为不是什么小事。而且我非常担心,他们可能发现了AI的一些危险元素。”
聊到数据的版权保护问题时,当主持人提到OpenAI称公司不会使用受版权保护的信息训练AI,马斯克立刻反驳:“那真是个很好的谎言。很明显,从以前开始,这些AI都是使用受版权保护的信息训练出来的。”
对于如何从AI那里保护创作者,马斯克认为要等相关案件得出审判结果后才能为大家指导方向,并在被追问AI对于人类究竟是好是坏时回答道:“我们生活在一个有史以来最有趣的时代。我认为,有段时间我确实很受打击,还会因为想到AI带来的威胁而失眠。后来,我选择接受命运的安排,想着‘好吧,即使毁灭将要到来,我还是想要继续活下去吗?’然后,我觉得自己肯定会选择活下去,因为那才是最有趣的,即使我(对于毁灭)做不了什么。”
在会上,向来强调AI威胁论的马斯克也再次呼吁政府应当对AI进行监管:“我认为AI比核弹更危险。我们监管核弹,可你不能在自家后院制造核弹,我觉得我们应该对AI实施某种监管。”
此前,在OpenAI旧董事会罢免奥特曼后,支持奥特曼回归的声音一直占据上风,但也有人怀疑董事会或许才是正确的一方。当网友在X(原推特)平台上质疑人们过于一致地支持奥特曼时,马斯克曾回复道:“非常重要的是,公众应该知道为何董事会如此坚决地做出决定。如果这关乎AI安全,那将会影响整个地球。”
而在奥特曼确认回归OpenAI、董事会被重组后,马斯克也在OpenAI的公告发出10分钟后,在X上写道:“我们编织了一张多么错综复杂的网。”随后,马斯克又在给别人的回复中写道:“比起和微软合并,OpenAI能保持(半)自治应该对世界比较好。权力被分散了一些。”
在OpenAI的风波告一段落后,据外媒报道,在奥特曼被解雇前,几名研究人员曾向OpenAI董事会致信,警告称一项强大的AI发现可能威胁到人类。OpenAI在这项名为Q*的项目上取得的进展让部分公司内部人士相信,这可能是他们找到“超级智能(即AGI)”的突破点。OpenAI将AGI定义为“比人类更聪明的AI系统”。
当地时间11月4日,马斯克旗下xAI团队也叫板OpenAI的聊天机器人ChatGPT,发布了首个AI大模型产品Grok。根据马斯克在X上发布的图片,能够通过联网来获取实时信息的Grok会用幽默的方式来回答一些其他AI系统拒绝回答的争议性问题。马斯克也宣布,结束初期测试阶段后,Grok将被包含在X的Premium+订阅计划中,该计划的价格为每月16美元。
免责声明:本文由用户上传,如有侵权请联系删除!