马斯克:离AGI还有三年,Ilya道德感强,他认真了一定是严肃问题

新闻资讯2023-12-02 22:06:26橙橘网

马斯克:离AGI还有三年,Ilya道德感强,他认真了一定是严肃问题

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

马斯克在最新访谈上金句频出,除了大爆粗口痛骂广告商外,还谈了很多对AI的看法。

特别是对OpenAI近期动荡的看法。

他表示对Sam Altman的感觉很复杂,紧接着就借用《魔戒》表达了担忧:

权力之戒会带来腐化,而权力之戒就在这里,所以……我也不好说,我需要知道Ilya为何认为开除奥特曼有必要,这看起来像是一个严肃的问题。



当初OpenAI刚成立时,正是马斯克等人花重金把Ilya Stuskever从谷歌DeepMind挖过来,两人私下一直保有联系。

这次事件发生后,马斯克也尝试联系Ilya和其他可能知情的人,但据他所知Ilya还没有和任何人谈论这个问题

而马斯克接触的其他人,也都不能说明白到底发生了什么。

AGI还三年,数字之神是个CSV文件

访谈发生在纽约时报举办的DealBook峰会,开场仅11分钟,马斯克就开启了口吐莲花模式。

此前,因为马斯克自己关于以色列问题的言论,迪士尼苹果可口可乐等100多家公司停止在平台投放广告。

面对这个问题,马斯克直接呛声“那就别来投广告了”

如果有人想用广告来勒索我、用钱勒索我,就f*** yoursef去。



如果平台因此倒下,马斯克认为那么“整个世界都会知道是这些广告商毁了这家公司,并详细记录下来”。

就在马斯克忙着处理自己麻烦事的这几周,他参与创办的OpenAI也经历了一场大风暴。

虽然马斯克自己也没能搞明白事件原因,但他很相信OpenAI首席科学家Ilya Sutskever。

Ilya是一个道德感很强的人,他对是非对错问题非常认真。
如果他觉得开除奥特曼是有必要的,全世界都应该听听他的理由。

虽然还不知道这个理由到底是什么,马斯克倾向于“OpenAI真的发现了什么”。

插播一句题外话,就在马斯克接受采访的同一天,奥特曼也首次回应了关于Q*的传闻,称“这是一个不幸的泄密事件”。

当主持人把话题转向“那么你的AI事业与OpenAI、谷歌如何相比”时,马斯克表示自己从30年前上大学时,就开始思考AI会带来的影响。

他之所以此前没有大规模投入AI研发,就是想先搞明白“这把双刃剑到底哪边更锋利”,也就是AI给人类带来的好处更多,还是危害更多。

他联合创办OpenAI的初衷是制衡谷歌,当时谷歌拥有几乎2/3的AI人才,和无限的算力资源。

为了挖来Ilya Sutskever,他还和好友、谷歌创始人Larry Page闹翻了。

接下来他明确强调了OpenAI名字中的“Open”本意就包含“开源”,还开玩笑说现在这家公司应该改名叫“超级闭源利润最大化AI”

命运喜欢讽刺。



相比于AI,他认为可持续能源更像是只有好处的单刃剑,AI就像一但从瓶中放出来就关不住的精灵。

主持人提问AGI还有多远,马斯克没有直接回答。

他先讲了神经网络的权重本质上就是一堆数值,可以表示成CSV格式(逗号分隔值)。

数字之神就是一个CSV文件,真的很好笑,但确实就是这样。



主持人追问,“虽然你出了名的会夸大事物发展的速度,但还是想问你认为AGI究竟多快会到来”。

马斯克仔细思考一阵,推演到如果标准是“在所有事上比最聪明的人类还聪明,比未来用机器增强过自己的人类(machine augumented human)还聪明”,那真的不好说。

但往小了说,写小说和JK罗琳一样好、能发现新物理规律或发明新技术的AI,从现在算起还有不到3年。



马斯克还谈到自己的xAI,可能拥有全球最好的单一数据源,可以实时了解地球上发生的最新动态。

微软和谷歌都拥有庞大的数据,但其他文章、视频、评论都会被用户分享到X平台上

尽管单个用户分享的内容很少,整体上xAI拥有了更丰富多样的数据,成为相对其他AI公司的独特优势。

但如何合理和适当地使用这些数据,避免版权问题,还需要审慎考虑。

在讨论过程中,马斯克还向公众明确揭露了AI行业不会对外说的潜规则:

几乎所有大模型,都在受版权保护的数据上训练了。

主持人似乎感到震惊,询问“你在说包括OpenAI在内的这些公司,在版权问题上都撒谎了吗”。

马斯克回答:赤裸裸的谎言

One More Thing

就在最近,有xAI内测用户发现,Grok大模型可能悄悄升级到Grok-2了

但目前只有AI自己的回答为依据,也不排除是幻觉出来的。



上周,马斯克回复网友说Grok将在本周开放给所有X Premium+付费用户。



本周眼看就快结束了,只能说,搞快点。





参考链接:
[1]https://www.youtube.com/watch?v=2BfMuHDfGJI
[2]https://x.com/teslaownersSV/status/1730069334075253132

本文标签: 谷歌  道德感  jk罗琳  埃隆_马斯克  deepmind  

相关推荐

猜你喜欢

大家正在看