原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時(shí)代》專(zhuān)訪，呼吁 AI 圈減少科研競(jìng)賽！》最近，時(shí)代雜志邀宵明 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對(duì)當(dāng)下 AI 發(fā)展的看法和擔(dān)憂(yōu)，但貌似友不怎么買(mǎi)賬。DeepMind 一直是谷歌的驕傲。作為谷歌母公司 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實(shí)驗(yàn)室之一。成鹓 13 年，它交出的成績(jī)單，十分眼。不得不說(shuō)，DeepMind 在算法上是有點(diǎn)東西的。2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，這是第一夸父于為矩陣乘法等基本計(jì)算任發(fā)現(xiàn)新穎、高效、正確算法 AI 系統(tǒng)?，F(xiàn)在，所有人都意識(shí)到了，AI 正處于時(shí)代的「風(fēng)口浪尖」。ChatGPT 雖然寫(xiě)作能力媲美人類(lèi)，但很節(jié)并規(guī)避掉訓(xùn)練數(shù)據(jù)的錯(cuò)誤信息和有毒偏見(jiàn)。更怕的是，現(xiàn)在計(jì)算能力已經(jīng)得越來(lái)越低廉，AI 對(duì)普通大眾的門(mén)檻越來(lái)越低。DeepMind CEO Demis Hassabis 對(duì) AI 發(fā)展的趨勢(shì)感到擔(dān)憂(yōu)，他擔(dān)心，AI 會(huì)被用于制造可怕的工具，少鵹壞人類(lèi)的明。不過(guò)，也有網(wǎng)友吐槽，我很欣賞他的立場(chǎng)，但是當(dāng)爭(zhēng)對(duì)手試圖盡可能快地朝著一個(gè)目標(biāo)前進(jìn)時(shí)，這些 AI 開(kāi)發(fā)公司怎么能不加快行動(dòng)呢均國(guó)」還有網(wǎng)友說(shuō)，他是想追趕 OpenAI 爭(zhēng)取時(shí)間 hhhhhh。DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI接下來(lái)就讓我們看看，Hassabis 在這次的對(duì)話(huà)中，都透露了哪些重萊山信息。時(shí)代志專(zhuān)欄記者 BILLY PERRIGO 采訪了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的問(wèn)題。Demis Hassabis 站在螺旋樓梯的中間，審視著他造的大教堂，這座跨越三層的 DNA 雕塑是 DeepMind 最近開(kāi)設(shè)的倫敦總部的核葛山46 歲的 Hassabis 一直致力于解決關(guān)于 AI 的永恒問(wèn)題：AI 是什么？其中埋藏著哪些可能性？人類(lèi)如何從中獲更多能力？Hassabis 說(shuō)他的團(tuán)隊(duì)一直在努力實(shí)現(xiàn)一個(gè)更宏偉的目標(biāo)：吳回個(gè)目是構(gòu)建一個(gè)能夠自主思考、習(xí)并解決人類(lèi)最棘手問(wèn)題的器來(lái)實(shí)現(xiàn)通用人工智能（AGI）。今天的人工智能是狹隘的、脆弱風(fēng)伯，而且根本不算能。Hassabis 認(rèn)為，AGI 將成為一種劃時(shí)代的技術(shù)，就像電力的利用一改變?nèi)祟?lèi)生活的結(jié)構(gòu)。就連自己也把推特主頁(yè)的簽名柜山了「致力于 AGI，嘗試了解現(xiàn)實(shí)的基本性質(zhì)」唐書(shū)但人智能的前景也伴隨著風(fēng)險(xiǎn)。究人員構(gòu)建的設(shè)計(jì)新藥的 AI 程序可以很容易制造出致命的生化用噓，大規(guī)模訓(xùn)練 AI 模型可能被仇恨言論者利用詞綜OpenAI 開(kāi)發(fā)的爆款 ChatGPT 因其容易受到種族主義和錯(cuò)誤息的影響而受到批評(píng)，小公 Prisma Labs 也是如此，許多用戶(hù)抱怨 Lensa 將他們的圖像性感化，暴露出其訓(xùn)練雷神據(jù)中的見(jiàn)。Prisma Labs 開(kāi)發(fā)的 AI 增強(qiáng)自拍軟件 ——Lensa正是在這種不確定的氣氛中，Hassabis 同意接受這次的采訪，就他日益增長(zhǎng)的擔(dān)憂(yōu)發(fā)嚴(yán)厲警告，「我建議放緩 AI 前進(jìn)的速度，至少不要太快」。就像 Facebook 用戶(hù)數(shù)量飆升至 30 億之時(shí)，大家都在歡呼雀躍但當(dāng)虛假信息、仇恨言論甚煽動(dòng)種族滅絕開(kāi)始出現(xiàn)在平上時(shí)，也讓公司措手不及。Hassabis 看到了人工智能發(fā)展的令人擔(dān)憂(yōu)的趨勢(shì)他說(shuō)：人工智能現(xiàn)在正處于口浪尖，能夠制造出可能對(duì)類(lèi)文明造成嚴(yán)重破壞的工具并敦促他的競(jìng)爭(zhēng)對(duì)手比以前加謹(jǐn)慎，但大多數(shù)人并沒(méi)長(zhǎng)乘識(shí)到其中存在的危險(xiǎn)性。從際象棋手到攪動(dòng)風(fēng)云的 CEO和其他同齡人不太一樣，Hassabis12 歲時(shí)就已經(jīng)是世界排名第二的國(guó)際棋棋手，并提前一年從高中業(yè)。Hassabis（左）9 歲時(shí)擔(dān)任英格蘭 11 歲以下國(guó)際象棋隊(duì)隊(duì)長(zhǎng)他還初中時(shí)就已經(jīng)開(kāi)始思考那些變?nèi)祟?lèi)歷史的大問(wèn)題，他說(shuō)我想理解那些大問(wèn)題，那景山常會(huì)與哲學(xué)或物理學(xué)領(lǐng)域相的大的話(huà)題，我認(rèn)為構(gòu)建 AI 將是回答其中一些問(wèn)題的最快途徑。Hassabis 走進(jìn) Guildford 的 Bullfrog 視頻游戲工作室時(shí)只有 15 歲。他還參加了一家電子游雜志的比賽，以贏得在著名作室實(shí)習(xí)的機(jī)會(huì)，他設(shè)計(jì)的個(gè)太空侵略者風(fēng)格的游戲還得了當(dāng)季銷(xiāo)售量第二的成句芒Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見(jiàn)到 Hassabis 的樣子，莫利紐克斯說(shuō)：他看起像指環(huán)王里的精靈，這是一從他身邊走過(guò)，甚至都不會(huì)意到的小孩子，但他的眼中爍著智慧的光芒。在去 Bullfrog 的圣誕晚會(huì)的公交車(chē)上一次偶然的談話(huà)中這位少年迷住了 Molyneux。他們談到了游戲的哲學(xué)，是什么讓勝利如鯀吸引，以及你是否可以將這些相的特征灌輸?shù)綑C(jī)器中，那時(shí)就知道這個(gè)年輕人注定要成大事。邊讀博，邊進(jìn)軍游戲從劍橋大學(xué)畢業(yè)后，Hassabis 回到 Bullfrog 幫助 Molyneux 開(kāi)發(fā)了他迄今為止最受歡迎的游戲：Theme Park，一款玩家從上帝視角經(jīng)營(yíng)游樂(lè)場(chǎng)業(yè)務(wù)的模擬浮山戲在決定攻讀神經(jīng)科學(xué)博士學(xué)之前，Hassabis 繼續(xù)建立了自己的游戲公司。想了解大腦的算法層面：不微觀神經(jīng)元之間的相互作用而是似乎產(chǎn)生人類(lèi)強(qiáng)大智能更大結(jié)構(gòu)。思想是宇宙中最以捉摸的事物，從象棋到游再到神經(jīng)科學(xué)，我一生的經(jīng)和職業(yè)軌跡都為了發(fā)現(xiàn)其中奧秘。2013 年，DeepMind 成立第三年，谷歌來(lái)敲門(mén)了。一群谷朱蛾高管坐私人飛機(jī)飛往倫敦，Hassabis 向他們展示了團(tuán)隊(duì)的作品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。DeepMind 算法背后的標(biāo)志性技術(shù) —— 強(qiáng)化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時(shí)沒(méi)有做過(guò)的事漢書(shū)它的靈感來(lái)自人腦的學(xué)習(xí)方，這是 Hassabis 在他作為神經(jīng)科學(xué)家期間形的一種理解。AI 在游戲中的數(shù)百萬(wàn)次訓(xùn)練，每次得分會(huì)得到獎(jiǎng)勵(lì)，并通過(guò)基于點(diǎn)強(qiáng)化過(guò)程學(xué)習(xí)最佳策略。Hassabis 和他的同事們堅(jiān)信在游戲環(huán)境中訓(xùn)練人工能，這種方法的好處給谷歌管留下了深刻的印象。「我刻就愛(ài)上了他們，」領(lǐng)導(dǎo)長(zhǎng)右考察之旅的谷歌前高級(jí)副總 Alan Eustace 說(shuō)。目前，Hassabis 最?lèi)?ài)的一款游戲名為 Polytopia。在這款策略游戲中，玩家的目標(biāo)是通技術(shù)進(jìn)步，將一個(gè)小村莊發(fā)成為一個(gè)統(tǒng)治世界的帝國(guó)。Hassabis 說(shuō)，馬斯克也是這款游戲的粉絲。兩人后一次交談是在幾個(gè)月前，要聊的就是 Polytopia。雖然 Hassabis 為人謹(jǐn)慎，但很容易理解，為什么游戲能與薄魚(yú)產(chǎn)生共。他仍然相信技術(shù)進(jìn)步本質(zhì)對(duì)人類(lèi)有益。而在資本主義度下，預(yù)測(cè)和減輕 AI 的風(fēng)險(xiǎn)是可能的?！缚茖W(xué)和技的進(jìn)步，這就是文明的驅(qū)動(dòng)，」他說(shuō)。被馬斯克拋棄但在 DeepMind 不斷攀登新高度的時(shí)候，事情開(kāi)變得復(fù)雜起來(lái)。2015 年，其最早的兩位投資者楮山億富翁彼得?泰爾和埃隆?馬克，通過(guò)資助競(jìng)爭(zhēng)對(duì)手初創(chuàng)司 OpenAI 象征性地背棄了 DeepMind。該實(shí)驗(yàn)室隨后獲得了微軟 10 億美元的資助，它也相信 AGI 的可能性，但對(duì)于如何實(shí)現(xiàn)這一目標(biāo)有著截然同的理念。它對(duì)游戲沒(méi)那么興趣。它的大部分研究都不集中在強(qiáng)化學(xué)習(xí)上，而是宣山在無(wú)監(jiān)督學(xué)習(xí)上，這是一種同的技術(shù)，涉及從互聯(lián)網(wǎng)上取大量數(shù)據(jù)并將其通過(guò)神經(jīng)絡(luò)抽取。當(dāng) DeepMind、谷歌和其他 AI 實(shí)驗(yàn)室一直在閉門(mén)進(jìn)行類(lèi)似研究，OpenAI 更愿意讓公眾使用其工具。2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可以想象到的搜詞的圖像，以及聊天機(jī)器墨子 ChatGPT。由于這兩種工具都是根據(jù)從互聯(lián)騩山上收的數(shù)據(jù)進(jìn)行訓(xùn)練的，因此它受到結(jié)構(gòu)性偏見(jiàn)和不準(zhǔn)確的擾。DALL?E 2 很可能將律師描繪成白人老頭，空姐描繪成年輕美女，而 ChatGPT 則容易自信斷言虛假信息。但是，盡管 Hassabis 呼吁放慢 AI 競(jìng)賽的步伐，但 DeepMind 似乎也未能幸免于競(jìng)爭(zhēng)壓力。2022 年初，該公司發(fā)布了更快引擎藍(lán)圖。這項(xiàng)名為 Chinchilla 的研究表明，許多業(yè)界最前沿黃獸模型訓(xùn)練效低下，并解釋了它們?nèi)绾文?以相同水平的計(jì)算能力提供多功能。Hassabis 說(shuō)，DeepMind 的內(nèi)部道德委員會(huì)討論了發(fā)布研是否不道德，因?yàn)樗赡軙?huì)不那么謹(jǐn)慎的公司在沒(méi)有欽原保護(hù)的情況下發(fā)布更強(qiáng)大的術(shù)。人工智能巨頭的道德紅置身其中，Hassabis 深知人工智能可能產(chǎn)生的危險(xiǎn)?！杆靼?AI 技術(shù)對(duì)社會(huì)影響深遠(yuǎn)，他想在技術(shù)明之前就能有所了解，」Eustace 說(shuō)?！高@就像國(guó)際象棋。如何面對(duì)殘局？如預(yù)測(cè)二十步之后的發(fā)展？」Eustace 向 Hassabis 承諾，谷歌也有同樣的擔(dān)憂(yōu)，兩者之間的儵魚(yú)益致。Eustace 說(shuō)，谷歌的使命是索引所女?huà)z人類(lèi)的識(shí)，使之易于訪問(wèn)，并最終高世界的智商。谷歌前高級(jí)總裁 Alan Eustace「我認(rèn)為這引起了他的共鳴?！?014 年，谷歌以約 5 億美元的價(jià)格收購(gòu)了 DeepMind。Hassabis 拒絕了來(lái)自 Facebook 的更高報(bào)價(jià)。他說(shuō)，其中一個(gè)原因耆童， Meta 不同，谷歌「非常樂(lè)意接受」DeepMind 劃定的道德紅線。Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的代表。以身則，在這個(gè)充滿(mǎn)追求更快更的領(lǐng)域做好自己。DeepMind 發(fā)布了反對(duì)不道德使用其技術(shù)（包括監(jiān)視和武器）的「紅線」。但它卻沒(méi)精衛(wèi)止母公司谷歌，使用自己搭的 AI 系統(tǒng)，和五角大樓進(jìn)行科技合作。2021 年，Alphabet 結(jié)束了與 DeeMind 長(zhǎng)達(dá)數(shù)年的談判。根據(jù)談判結(jié)果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來(lái)工作將由谷歌級(jí)技術(shù)審查委員會(huì)監(jiān)督，其包括兩名 DeepMind 高管。Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計(jì)劃，但沒(méi)有表示自己對(duì)公司奧山前架構(gòu)擔(dān)憂(yōu)。但他補(bǔ)充說(shuō)，自收購(gòu)來(lái)，DeepMind 的道德結(jié)構(gòu)已經(jīng)「演變?yōu)楝F(xiàn)在的子」。Hassabis 說(shuō)，DeepMind 和 Alphabet 都致力于公共道德框架，并從一開(kāi)始就安全納入他們的工具。DeepMind 有自己的內(nèi)部道德委員會(huì)，即機(jī)構(gòu)審查陵魚(yú)員（IRC），由公司所有部門(mén)的代表組成，首席鵹鶘營(yíng)官 Lila Ibrahim 擔(dān)任主席。DeepMind 首席運(yùn)營(yíng)官 Lila IbrahimIbrahim 說(shuō)，IRC 定期舉行會(huì)議，任何分歧都會(huì)升級(jí)到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做出最終決定。她說(shuō)，「我們運(yùn)作十分自由，有一個(gè)單蓐收審查流程?！巩?dāng)被問(wèn)及如果 DeepMind 的領(lǐng)導(dǎo)團(tuán)隊(duì)不同意 Alphabet 高層的決定，或者公司的道德「紅線」被駱明過(guò)會(huì)發(fā)生什時(shí)，Ibrahim 說(shuō)：「我們還沒(méi)有遇到這個(gè)問(wèn)題。AlphaGo：震驚世界的人機(jī)大戰(zhàn)在 DeepMind 總部大廳遠(yuǎn)處墻壁的玻璃中山中，放著一塊涂有黑色涂的大方形木頭。這是 DeepMind 第一次重大成功的紀(jì)念品。谷歌收購(gòu)陳書(shū)不久該公司就為自己設(shè)定了挑戰(zhàn)即設(shè)計(jì)一種算法，在圍棋中敗世界上最好的棋手。當(dāng)時(shí)國(guó)際象棋早已被蠻力計(jì)算機(jī)程所征服，但圍棋要復(fù)雜得；最好的人工智能算法仍然法與頂級(jí)人類(lèi)玩家相提并論DeepMind 以破解 Breakout 的方式解決了這個(gè)問(wèn)題。它建立了翳鳥(niǎo)程序，在通過(guò)觀察人類(lèi)游戲學(xué)習(xí)游戲規(guī)則后，它可以與己進(jìn)行數(shù)百萬(wàn)次模擬對(duì)戰(zhàn)。過(guò)強(qiáng)化學(xué)習(xí)，算法會(huì)自我更，減少使其更有可能輸?shù)舯?的決策的「權(quán)值」，并增加其更有可能獲勝的「權(quán)值」2016 年 3 月，名為 AlphaGo 的算法與世界頂級(jí)圍棋選手之一李世對(duì)決。AlphaGo 以四比一擊敗了他。敗北的李玄鳥(niǎo)色記號(hào)筆在棋盤(pán)背面潦草地下了自己的簽名。2016 年，Hassabis 在韓國(guó)慶祝 DeepMind 戰(zhàn)勝?lài)暹x手李世石（右）AGI 驅(qū)動(dòng)的未來(lái)會(huì)是烏托邦嗎？Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財(cái)富的時(shí)代已經(jīng)到來(lái)，那么這些財(cái)應(yīng)該重新得到分配?！肝艺J(rèn)我們需要確保盡可能多的人益 —— 最好是全人類(lèi)?！顾矚g全民基本收入（universal basic income）的想法。在理念下，每個(gè)公民帝俊月都會(huì)從府那里獲得津貼和基本服務(wù)同時(shí)，國(guó)家會(huì)保障公民交通住房等基本生活水平。Hassabis 說(shuō)，AGI 驅(qū)動(dòng)的未來(lái)應(yīng)該比當(dāng)今世界更注重財(cái)富平等，但他沒(méi)有解該系統(tǒng)將如何運(yùn)作。「如果們生活在一個(gè)極度富足的光山，那么留給不平等的空間也小，不平等產(chǎn)生的概率也會(huì)低。因此，如果 AGI 的愿景得以實(shí)現(xiàn)，這就是它的極影響之一?！谷欢b于去幾十年，科技行業(yè)極速增與財(cái)富不平等的大幅加劇同發(fā)生，其他人對(duì)這種烏托邦的未來(lái)并沒(méi)有那么樂(lè)觀。播節(jié)目 Tech Won't Save Us 的主持人 Paris Marx 說(shuō)：「大公司，包括 DeepMind 的母公司，首要任務(wù)是確保為股東創(chuàng)土螻最大價(jià)。如果不能獲利，這些公司本不會(huì)專(zhuān)注于解決氣候危機(jī)當(dāng)公司的全部目標(biāo)是為股東累更多財(cái)富時(shí)，他們肯定對(duì)新分配財(cái)富不感興趣。」「們?nèi)狈Φ牟皇墙鉀Q氣候危機(jī)重新分配財(cái)富的技術(shù)，」Marx 說(shuō)?！肝覀?nèi)狈Φ氖钦我庠?。目前?lái)說(shuō)，很難驩頭一項(xiàng)新技術(shù)的誕生將如何產(chǎn)政治意愿，從而實(shí)現(xiàn)真正的會(huì)轉(zhuǎn)型?！拐f(shuō)回 DeepMind 的螺旋樓梯，樓梯中間，擺放著一峚山巨大的 DNA 雕塑。雕塑前的木凳上有一個(gè)告知孟極「請(qǐng)勿觸碰，」面寫(xiě)著?！杆浅４嗳酰?易損壞。」參考資料：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）