“

AI領(lǐng)域充斥著資本、算力和數(shù)據(jù)，但主流研究方式有可能限制真正的突破。‍‍‍‍‍

”

作者 | 鄭惠敏編輯｜Zuri20幾歲，他憑借幾款創(chuàng)世級別的3D游戲大賣，實現(xiàn)財務(wù)自由。

不差錢的他開始折騰火箭，不幸以失敗告終。

迷上VR，加入成立剛滿一年的Oculus擔任CTO，一年后原地飛升，被Meta 20億美金收購。

作為拒絕過馬斯克、蓋茨、喬布斯、山姆•奧特曼的男人，

AGI 時代，他決定再出山，干一票大的。

2022年創(chuàng)立Keen Technologies，另辟蹊徑實現(xiàn)AGI，獲得紅杉資本、GitHub前CEO、Stripe聯(lián)合創(chuàng)始人、Shopify聯(lián)合創(chuàng)始人兼CEO等2000萬美元投資。

他就是70年代出生的編程天才，人稱“卡神”的John Carmack。

01

封“神”之路

小時候的Carmack，不是個乖孩子。

沉迷游戲，迷戀電腦，甚至不惜偷竊以滿足對電腦的渴望，并因此被關(guān)進少管所。進入高中后因為不羈的個性又被學校勒令休學一年。

因為天生聰明，復學后的他以4.0的平均績點順利畢業(yè)，進入了美國著名的公立研究型大學堪薩斯大學。

但僅僅讀了兩個學期，Carmack就厭煩了循規(guī)蹈矩的大學生活，輟學進入社會。

從此Carmack過上了理想的生活，認識了志同道合的伙伴—— 程序員John Romero、游戲設(shè)計師Tom Hall和畫師Ardian Carmack，四人夜以繼日的敲代碼、開發(fā)游戲，發(fā)布了《指揮官基恩》（Commander Keen）系列游戲的第一部并大爆。Carmack的AGI公司Keen Technologies的名字正式源于此。

作品大爆使他們萌生了創(chuàng)業(yè)念頭，1991年，四人正式成立后來大名鼎鼎的游戲公司id Software。

1992年，id發(fā)行了射擊游戲《德軍總部》（Wolfenstein 3-D）3D版，這是全球最早的3D第一人稱視角射擊(FPS)，開創(chuàng)了FPS這個前所未有的游戲類別，以3D和射擊的概念讓這款源自80年代的作品重新煥發(fā)生機。

隔年問世的《毀滅戰(zhàn)士》更是成就驚人，它以快節(jié)奏的戰(zhàn)斗、暴力的視覺表現(xiàn)、極強的兼容性成為FPS游戲中王者級別的存在，奠定了id業(yè)界巔峰的地位，不到一年時間里就帶來了上億美元的利潤，還帶動了當時并不便宜的PC銷量。

圖源：PCGamesN

面對巨大的利益，Carmack做出了一個令人驚訝的舉動，他向公眾公布了《毀滅戰(zhàn)士》的部分源代碼，這使得其忠實粉絲有機會修改關(guān)卡和圖形，相當于賦予了粉絲二次創(chuàng)作的機會，這進一步引燃了玩家的熱情。

1995年，《毀滅戰(zhàn)士》的裝機量甚至跑贏了Windows95，讓比爾·蓋茨動起了收購id的念頭。

被Carmack拒絕后，微軟只好自己動手把《毀滅戰(zhàn)士》移植到系統(tǒng)中。蓋茨還親自出鏡，在電視廣告中借著這款游戲售賣自家的Windows系統(tǒng)。

這些風靡一時的佳作讓Carmack在玩家心中封神。

卡神在游戲中運用的3D圖形顯示技術(shù)和游戲引擎，后續(xù)也啟發(fā)了Epic Games虛幻引擎和Unity 3D開發(fā)工具的誕生，對后世游戲產(chǎn)業(yè)產(chǎn)生了深遠影響。

這里有一個小插曲，卡神與喬布斯一度關(guān)系甜蜜，二人在id創(chuàng)辦早期便熟識，甚至卡神說服了喬布斯使用開源的OpenGL作為蘋果電腦的2D、3D圖形渲染引擎，卡神將之稱為對PC行業(yè)“最大的間接影響之一”。

喬布斯與卡神｜圖源：Variety

但哪怕對方是喬布斯，卡神特立獨行起來，也不給面子。據(jù)說，喬布斯曾想讓卡神推遲原定的婚期，去做一個重要的主題演講，但遭到了卡神的拒絕。

言歸正傳，對卡神本人來說，游戲作品的暢銷也讓他年紀輕輕就獲得了大筆財富，不缺錢的他將目光轉(zhuǎn)向了超級燒錢的民用航空領(lǐng)域。

2000年，他成立航天公司Armadillo Aerospace以開發(fā)前衛(wèi)的太空探險項目，并由此結(jié)識了同樣心系外太空的馬斯克。

圖源：IBTimes UK

兩人惺惺相惜，在卡神的太空事業(yè)步入絕境后，2015年，馬斯克與卡神推特互動時，突然邀請卡神加入SpaceX，然而與喬布斯一樣，遭到了卡神的拒絕，因為，卡神那時正全情投入到了VR事業(yè)中。

后來談起未竟的太空事業(yè)，卡神認為失敗的部分原因要歸結(jié)于自己未能全力以赴，而馬斯克對事業(yè)全情投入的精神值得學習，這讓他決定以后無論做什么都要全力以赴。

圖源：推特, International Business Times

2013年，卡神離開了一手創(chuàng)立的id Software，加入剛成立不久的Oculus擔任CTO。入職當天，蜂擁而來的粉絲圍觀讓Oculus的博客系統(tǒng)一度宕機。2014年，Oculus被Meta 20億美元買下，卡神加入Meta繼續(xù)研究VR。

卡神可謂兢兢業(yè)業(yè)：對公司項目親力親為，負責與三星合作開發(fā)Gear VR，一個扛起需要一整個團隊完成的工作量；從必須鏈接PC使用的Oculus Rift，到最早的VR一體機Oculus Go，再到高性價比的Oculus Quest，以及Oculus的生態(tài)應(yīng)用商店，都有卡神的身影奉獻；他對玩家如春天般溫暖：為了讓用戶能在VR中玩到《我的世界》，他獨自花費一年多時間將游戲移植到Oculus商店。

但后來，卡神專注技術(shù)、腳踏實地的作風與Meta在元宇宙方面激進的策略產(chǎn)生掣肘，導致他在Oculus的重大決策中逐漸喪失了話語權(quán)。卡神對VR的熱情也被Meta緩慢的運營效率消磨殆盡。最終，他選擇在合同到期后離開。

02

AGI的召喚：卡神進軍人工智能

這一次，讓大神轉(zhuǎn)身的是AGI。

擔任Oculus CTO期間，OpenAI的三位靈魂人物Sam Altman、Greg Brockman和Ilya Sutskever勸說卡神加入OpenAI，一直以來特立獨行的卡神不出意料的拒絕了。

但卡神卻看完了Ilya列出的40多篇相關(guān)研究論文，從頭開始，惡補AI算法，在Python才是主流編程語言的情況下，僅閉關(guān)一周時間就用C++寫出了卷積神經(jīng)網(wǎng)絡(luò)。

2022年，卡神正式下場，成立了AGI公司Keen Technologies。與大公司在投入一個新的技術(shù)領(lǐng)域時先評估商業(yè)前景的方式不同，卡神直截了當?shù)乇硎荆�自己當前的工作，短期商業(yè)機會為零。

圖源：John Carmack X 賬號 Keen的首輪投資方不可小覷：包括GitHub前CEO Nat Friedman、前蘋果AI高管Daniel Gross、Stripe聯(lián)合創(chuàng)始人Patrick Collison、Shopify聯(lián)合創(chuàng)始人Tobi Lutke、紅杉資本以及硅谷傳奇芯片架構(gòu)設(shè)計師Jim Keller。

其中，Nat Friedman和Daniel Gross是Cohere、Character.ai等AI獨角獸的早期投資人，投出了美國人工智能的半壁江山，Daniel Gross最近還成了前OpenAI首席科學家Ilya創(chuàng)立的AI安全公司的聯(lián)合創(chuàng)始人；Jim Keller則擁有20多年的芯片設(shè)計經(jīng)驗，被譽為Zen架構(gòu)之父，曾在蘋果、AMD、特斯拉等公司負責芯片設(shè)計與研發(fā)。

早就靠賣游戲?qū)崿F(xiàn)財務(wù)自由的卡神并不缺錢，接受外部融資只是為了讓自己更有創(chuàng)業(yè)的緊迫感。

這次創(chuàng)業(yè)，卡神拉上了強化學習之父Richard Sutton。

Sutton是經(jīng)典教科書《強化學習導論》的合著者，被稱為現(xiàn)代強化學習支付，曾在DeepMind參與AlphaGo系列研究，現(xiàn)任教于加拿大阿爾伯塔大學機器智能研究所。

卡神和Sutton｜圖源：Taproot Edmoton

Sutton曾撰寫過一篇著名短文The Bitter Lesson，這篇文章今天已成為OpenAI工程師的必讀經(jīng)典。文章強調(diào)了增加算力對AI發(fā)展的重要性，與當時OpenAI訓練AI所嘗試的路徑不謀而合，并在大語言模型的實現(xiàn)過程中得以印證。

通過郵件交流，卡神和Sutton發(fā)現(xiàn)雙方都想走一條“非主流”之路。

用卡神的話來說“AI領(lǐng)域充斥著資本、算力和數(shù)據(jù)，但主流研究方式有可能限制真正的突破。Sutton和我恰好站在主流之外。”

他們都認為最終的AGI不會太復雜，與現(xiàn)在一個大規(guī)模應(yīng)用數(shù)百上千萬行代碼、一個人永遠無法寫完相比，一個人就能編寫AGI代碼。

“如果拿出人的整個DNA，它的信息量不到1GB，大腦只是其中很小的一部分—— 大約40MB，而且它沒有被嚴格編碼。這說明構(gòu)成我們大腦智慧的編碼沒有那么多。”卡神表示。

在卡神的設(shè)想中，AGI應(yīng)該保持持續(xù)在線學習，而不是現(xiàn)在模型在完成預訓練后大部分參數(shù)就不再更新。

不過，Keen Technologies將走的具體路線，目前還保持神秘，打開公司官網(wǎng)，只有一句簡單的話“John Carmack的AGI嘗試，尚未披露信息。”

03

2030年之約：AI小公司如何上大分？

盡管一切還在迷霧中，但至少有一點事明確的，卡神認為我們有希望在2030年看到AGI的端倪。

“我能看到目的地，但是現(xiàn)狀和目的地之間充滿不確定。沒人知道如何實現(xiàn)，但我有信心到達目的地，或者至少有人可以實現(xiàn)，時間點很可能是2030。”

據(jù)報道，Keen的創(chuàng)始技術(shù)團隊只有4人，融資規(guī)模仍停留在最初的2000萬美元。無論人才還是資金儲備都不如OpenAI等頭部AI獨角獸，更比不上谷歌、Meta等巨頭。

圖源：TechCrunch

如此小的團隊，如何實現(xiàn)通用人工智能的宏偉目標？

在Scaling Law尚未失效的當下，一邊，以大模型為AGI基石的公司們?nèi)栽诔掷m(xù)擴展大模型的參數(shù)和數(shù)據(jù)規(guī)模；另一邊，以蘋果為代表的端側(cè)小模型不卷參數(shù)開始卷效率。而各大公司的不同研究團隊用幾個月的時間重復造輪子的群體性思維，讓卡神感到不可思議。

在卡神看來，機器學習領(lǐng)域的研究存在一定隨機性，目前并無明確的方向。小團隊的優(yōu)勢在于可以把自己當做一個隨機測試點，從隨機權(quán)重和隨機位置開始研究，反而有更大概率找到合適的路徑。

在Transformer占大模型架構(gòu)主流的背景下，也有新的架構(gòu)試圖撼動前者的主導地位。

例如來自卡內(nèi)基梅隆大學和普林斯頓大學的兩位助教發(fā)布的Mamba神經(jīng)網(wǎng)絡(luò)架構(gòu)，去年12月一發(fā)布就在開源社區(qū)引起熱烈反響。

按照作者，普林斯頓助理教授Tri Dao的說法，Mamba突破了Transformer架構(gòu)核心注意力層無法擴展到長上下文的局限性，可以隨上下文長度的增加線性擴展，具有5倍的推理吞吐量，基于該架構(gòu)的語言模型表現(xiàn)超越了Transformer架構(gòu)的模型。

圖源：Tri Dao X 賬號

最近，原作者帶隊的Mamba-2架構(gòu)正式發(fā)布，在訓練速度和任務(wù)執(zhí)行方面都有了更大提升。

回到Keen，卡神表示將關(guān)注公司的長期發(fā)展，不會過早考慮商業(yè)化。當前，Keen團隊正在探索智能體之間的行動、感知、認知能力的增強，并尋找評估AI進步的確切指標。

近2年時間里，公司沒有持續(xù)補血，這在花錢如流水的AI創(chuàng)業(yè)圈是難以想象的。

對此，卡神曾在專訪中表示，AGI是一項長達10年的任務(wù)，他不想在2年內(nèi)將2000萬美金燒完，再用“另一個系列來獲得另外幾億美元”。

他計劃花費數(shù)年的時間解決AGI的部分問題，并對已實現(xiàn)的成果進行一定程度的擴展，觀察其效果。在自己培養(yǎng)的智能體實現(xiàn)可學習、可互動之后，卡神才會組建一支成分復雜的龐大隊伍來進行后續(xù)的研究。

目前，通往AGI的道路依然迷霧重重。

但正如曾經(jīng)在3D游戲、火箭、VR領(lǐng)域書寫的傳奇一樣，有遠見、重實干的，卡神必將在這個充滿未知的新領(lǐng)域留下精彩的一筆。

文末互動：

你如何看大神John Carmack的傳奇歷程？

評論區(qū)告訴我們你的看法哦～

       原文標題 : 年少財富自由，拒絕過蓋茨、馬斯克、奧特曼，傳奇程序員的AGI之路