No.37：伊利亞·蘇茨克弗——超級智能（ASI）的孤獨守門(mén)人2天前步行街主干道收聽(tīng)播客
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是茨克2023年那場(chǎng)震動(dòng)全球的OpenAI“宮斗”風(fēng)暴的核心。但在被貼上“逼宮者”的弗超標簽之前與之后，他更是孤獨守一位從AlexNet時(shí)代就塑造AI面貌的奠基科學(xué)家，一個(gè)對“人工智能可能終結人類(lèi)”懷有深切恐懼的門(mén)人先知，以及一個(gè)正在用新公司押注人類(lèi)未來(lái)的伊利亞蘇孤獨探索者。今天，茨克我們就來(lái)講述這位天才科學(xué)家的弗超故事，他的孤獨守恐懼、他的門(mén)人堅持，以及他對人類(lèi)命運的伊利亞蘇宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時(shí)間軸
——————————————————————————————
第一部分：天才的茨克軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風(fēng)暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個(gè)洞察
在近期深度訪(fǎng)談中，伊利亞分享了他最新的弗超思考，總結一下，孤獨守就是門(mén)人3個(gè)洞察
洞察1：那種無(wú)腦堆算力的時(shí)代，已經(jīng)翻篇了
過(guò)去這五年，大家都在喊規模法則，好像只要GPU夠多、數據夠大，把整個(gè)互聯(lián)網(wǎng)喂進(jìn)去，AGI就自動(dòng)產(chǎn)出來(lái)了。但Ilya直接潑了盆冷水。他說(shuō)Pre-training（預訓練）已經(jīng)開(kāi)始式微，現在數據快用光了，到了后面這一步（強化學(xué)習和后訓練），光靠“大”沒(méi)用了?，F在又回到了2012年之前那種需要“拼品味、拼直覺(jué)”的手搓時(shí)代（Age of Research）。
洞察2：情緒不是人類(lèi)的累贅，而是進(jìn)化給人類(lèi)的禮物
我們通常覺(jué)得AI是理性的，人類(lèi)是感性的，情緒會(huì )壞事。Ilya把這個(gè)反過(guò)來(lái)了。人類(lèi)的“情緒”是一個(gè)被進(jìn)化硬寫(xiě)進(jìn)基因里的、極其精準的“價(jià)值函數”?，F在的AI之所以笨，是因為它們沒(méi)有情緒。所以，讓AI擁有“情緒”或者說(shuō)“直覺(jué)”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說(shuō)真正的AGI更像是一個(gè)“15歲的天才少年”。它可能剛出來(lái)時(shí)什么行業(yè)黑話(huà)都不懂，但它學(xué)習能力很強。而且，它們在未來(lái)可以“合并智能”。這一秒它還是個(gè)新手，下一秒它就擁有了100萬(wàn)人一輩子的經(jīng)驗。這種“分布式體驗，集中式進(jìn)化”，才是經(jīng)濟奇點(diǎn)真正到來(lái)的方式。
主播結語(yǔ)：
“技術(shù)奇點(diǎn)”引發(fā)了一系列倫理和哲學(xué)問(wèn)題，包括機器的權利、人類(lèi)存在的意義，以及人類(lèi)如何控制和利用這種強大的技術(shù)力量等。這可能導致人類(lèi)文明發(fā)生根本性變化，也可能使人類(lèi)社會(huì )陷入越來(lái)越大的矛盾和危機中。
在奧特曼忙于商業(yè)、官司與并購時(shí)，伊利亞就像一個(gè)孤獨的守門(mén)人，帶領(lǐng)SSI進(jìn)行一場(chǎng)可能定義人類(lèi)命運的、孤獨的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋(píng)果播客、虎撲等平臺找到我們。歡迎關(guān)注、評論、轉發(fā)，我們真誠感謝所有反饋，同時(shí)也期待與大家有更多連接。
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是2023年那場(chǎng)震動(dòng)全球的OpenAI“宮斗”風(fēng)暴的核心。但在被貼上“逼宮者”的標簽之前與之后，他更是一位從AlexNet時(shí)代就塑造AI面貌的奠基科學(xué)家，一個(gè)對“人工智能可能終結人類(lèi)”懷有深切恐懼的先知，以及一個(gè)正在用新公司押注人類(lèi)未來(lái)的孤獨探索者。今天，我們就來(lái)講述這位天才科學(xué)家的故事，他的恐懼、他的堅持，以及他對人類(lèi)命運的宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時(shí)間軸
——————————————————————————————
第一部分：天才的軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風(fēng)暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個(gè)洞察
在近期深度訪(fǎng)談中，伊利亞分享了他最新的思考，總結一下，就是3個(gè)洞察
洞察1：那種無(wú)腦堆算力的時(shí)代，已經(jīng)翻篇了
過(guò)去這五年，大家都在喊規模法則，好像只要GPU夠多、數據夠大，把整個(gè)互聯(lián)網(wǎng)喂進(jìn)去，AGI就自動(dòng)產(chǎn)出來(lái)了。但Ilya直接潑了盆冷水。他說(shuō)Pre-training（預訓練）已經(jīng)開(kāi)始式微，現在數據快用光了，到了后面這一步（強化學(xué)習和后訓練），光靠“大”沒(méi)用了?，F在又回到了2012年之前那種需要“拼品味、拼直覺(jué)”的手搓時(shí)代（Age of Research）。
洞察2：情緒不是人類(lèi)的累贅，而是進(jìn)化給人類(lèi)的禮物
我們通常覺(jué)得AI是理性的，人類(lèi)是感性的，情緒會(huì )壞事。Ilya把這個(gè)反過(guò)來(lái)了。人類(lèi)的“情緒”是一個(gè)被進(jìn)化硬寫(xiě)進(jìn)基因里的、極其精準的“價(jià)值函數”?，F在的AI之所以笨，是因為它們沒(méi)有情緒。所以，讓AI擁有“情緒”或者說(shuō)“直覺(jué)”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說(shuō)真正的AGI更像是一個(gè)“15歲的天才少年”。它可能剛出來(lái)時(shí)什么行業(yè)黑話(huà)都不懂，但它學(xué)習能力很強。而且，它們在未來(lái)可以“合并智能”。這一秒它還是個(gè)新手，下一秒它就擁有了100萬(wàn)人一輩子的經(jīng)驗。這種“分布式體驗，集中式進(jìn)化”，才是經(jīng)濟奇點(diǎn)真正到來(lái)的方式。
主播結語(yǔ)：
“技術(shù)奇點(diǎn)”引發(fā)了一系列倫理和哲學(xué)問(wèn)題，包括機器的權利、人類(lèi)存在的意義，以及人類(lèi)如何控制和利用這種強大的技術(shù)力量等。這可能導致人類(lèi)文明發(fā)生根本性變化，也可能使人類(lèi)社會(huì )陷入越來(lái)越大的矛盾和危機中。
在奧特曼忙于商業(yè)、官司與并購時(shí)，伊利亞就像一個(gè)孤獨的守門(mén)人，帶領(lǐng)SSI進(jìn)行一場(chǎng)可能定義人類(lèi)命運的、孤獨的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋(píng)果播客、虎撲等平臺找到我們。歡迎關(guān)注、評論、轉發(fā)，我們真誠感謝所有反饋，同時(shí)也期待與大家有更多連接。
章節評論
段評