而AI,只用了四个夏天,就从‘小学生’进化到了超越人类历史所有顶尖大脑的总和。
如果按照这个指数级速度,再往前推演四次(四年),AI会变成什么样?
而更底层的恐惧,来自于‘递归自我改进’(RSI)。
当AI聪明到不需要人类干预,就可以自己写代码、自己生成训练数据、自己迭代出一个比自己更聪明的下一代AI时,人类就彻底沦为看客了。
奥特曼明确表示,虽然目前大家对RSI的定义还有争议,但OpenAI已经开始使用最前沿的模型来帮助研究员生成数据和提升效率。
一旦到达‘人类彻底失去控制权’的临界点,他们将立刻停止训练。
人类走向怎样的未来?
在访谈的最后,主编Alyson用《魔戒》中承担着毁灭魔戒重任的佛罗多(Frodo) ,来比喻奥特曼现在的处境。
手里掌握着足以引发全球经济崩溃、甚至人类文明崩溃的超级力量,没有什么人可以依靠,只能靠自己在一群被利益、权力、恐惧驱动的人性中寻找出路。
这种压力,常人根本无法想象。
奥特曼苦笑了一下,‘这的确不是什么有趣的生活方式。’
‘但我感到很荣幸能做这件事。这可能是我这辈子碰过的最重要的工作。我也惊讶于人类——包括我自己——居然能去适应如此疯狂的压力。’
虽然充满了对P-Doom(末日风险)的担忧,但奥特曼依然是个无可救药的乐观主义者。
他依然相信,如果我们能安全地跨过这道坎,AI将带来一个无与伦比的黄金时代:所有的疾病都将被治愈,材料科学和能源(如核聚变)将爆发。
他甚至剧透了在2027年,OpenAI将带来一场震撼全球的机器人(Humanoid Robot)演示。
几百年前的工业革命时期,也有无数人看着喷吐着黑烟的蒸汽机感到恐惧,呼吁砸烂机器、退回农业时代。
但最终,人类驾驭了机器,创造了今天繁荣的文明。
‘我绝不会想回到500年前去生活。’奥特曼说,‘我也希望500年后的人类看着我们今天的生活,会感叹:‘哇,他们那时候过得真苦,多亏了他们当年把AI这条路走通了。’
临界点已至,敬畏未知
推迟2026年的IPO,放弃唾手可得的万亿资本盛宴,或许是奥特曼最反直觉的一个决定。
但站在文明的尺度上,这或许是他迄今为止做出的最明智的选择。
毕竟,上市可以择日,模型可以延期。
人类只有一次未来。
责任编辑:韦子蓉