呼吁“暫停大型AI研究”，馬斯克們多慮了嗎
分類: 最新資訊
短文詞典
編輯 : 大寶
發(fā)布 : 03-30
閱讀 :460
佘宗明/文 ChatGPT引發(fā)的“余震”未息。就在近日，包括埃隆·馬斯克、圖靈獎(jiǎng)得主約書亞·本吉奧、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、《人類簡(jiǎn)史》作者尤瓦爾·赫拉利在內(nèi)的上千名科技人士發(fā)聯(lián)名公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個(gè)月，以確保人類能夠有效管理其風(fēng)險(xiǎn)。乍聽起來，很容易讓人聯(lián)想到馬車夫要求禁止汽車上路之類的場(chǎng)景。但簡(jiǎn)單將這類呼聲概括為反技術(shù)進(jìn)步的新勒德主義，有失偏頗。這次發(fā)聲的上千人，并非都是所謂的頑固派，其中許多人是赫赫有名的科技領(lǐng)袖、AI大牛。約書亞·本吉奧就被稱為“AI教父”，馬斯克也是裹著極客底色的動(dòng)能派。從公開信內(nèi)容看，他們并不是反對(duì)發(fā)展AI技術(shù)，更多的是擔(dān)心。他們的擔(dān)心分為兩類：第一，AI跑得太快，不會(huì)等一等人類。這通向的往往是霍金式憂慮——AI會(huì)導(dǎo)致人類族群滅絕；第二，AI被惡意使用。無論哪種，都可能帶來災(zāi)難性影響，所以他們希望AI實(shí)驗(yàn)室“從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步”。平心而論，這番呼吁未必能得到科技巨頭們的響應(yīng)。要知道，生成式AI被認(rèn)為是下個(gè)時(shí)代的信息入口，而AI時(shí)代的創(chuàng)新又呈現(xiàn)高度的非線性、裂變式特征，今天落后一步，明天就可能落后十步。也因如此，科技巨頭們已掀起AI軍備競(jìng)賽，在生成式AI的“iPhone時(shí)刻”已到來的背景下，誰(shuí)都不甘心失去先機(jī)。更何況，再考慮到事關(guān)國(guó)家數(shù)字主權(quán)、未來科技競(jìng)爭(zhēng)等，想讓所有AI實(shí)驗(yàn)室一齊摁下研發(fā)暫停鍵，也并不現(xiàn)實(shí)。自數(shù)字化技術(shù)出現(xiàn)以來，沒有哪項(xiàng)技術(shù)是可以說叫停就叫停的。但我們不能說這些科技領(lǐng)袖的呼吁是杞人憂天。在超級(jí)人工智能雛形已現(xiàn)，以往科幻片中的場(chǎng)景密集涌現(xiàn)的當(dāng)下，昔日很多遠(yuǎn)在天邊的“AI失控風(fēng)險(xiǎn)”可以說是已近在眼前，不容回避。具體而言，AI失控風(fēng)險(xiǎn)，可能體現(xiàn)在AI“成精”上，也可能體現(xiàn)在AI被不當(dāng)濫用上。前者是馬斯克的顧慮所在，他此前之所以將人工智能比作核技術(shù)，稱“它有巨大的前景也有巨大的能力，但隨之而來的危險(xiǎn)也是巨大的”，就是源于大膽猜想：人類就是引出超級(jí)數(shù)字智能物種（AI）的引導(dǎo)程序，最終AI代表的硅基文明可以對(duì)人類代表的碳基文明實(shí)施降維打擊。周鴻祎也曾表達(dá)擔(dān)心：目前ChatGPT還只有大腦，接下來它可能進(jìn)化出“眼睛”、“耳朵”、“手”跟“腳”……將來它會(huì)不會(huì)在看完類似《終結(jié)者》的電影后，產(chǎn)生與人類為敵的想法。在他看來，人類從智人發(fā)展而來，智人從類人猿發(fā)展而來，類人猿能進(jìn)化為智人，就是因?yàn)槟X中的神經(jīng)元網(wǎng)絡(luò)發(fā)生突變，現(xiàn)在ChatGPT大語(yǔ)言模型參數(shù)達(dá)到了1750億，同樣引發(fā)了突變。斯坦福大學(xué)教授曝光的GPT-4“越獄計(jì)劃”，也似乎形成了印證。這是更多科技人士的憂心之處。厄休拉·M·富蘭克林曾在《技術(shù)的真相》中寫道：技術(shù)的發(fā)展和運(yùn)用都是在一個(gè)特定的社會(huì)、經(jīng)濟(jì)和政治語(yǔ)境中發(fā)生的，它從一個(gè)社會(huì)結(jié)構(gòu)中產(chǎn)生，然后被嫁接在這個(gè)結(jié)構(gòu)上。也就是說，技術(shù)也許沒有善惡之分，但社會(huì)結(jié)構(gòu)決定了，它可能被用來做惡?！癆I一鍵脫衣”“換臉親吻”……這兩天媒體曝出的諸多亂象，就表露了這層風(fēng)險(xiǎn)。更讓人擔(dān)心的或許是AI被詐騙分子乃至恐怖分子利用。故而紐約大學(xué)教授加里·馬庫(kù)斯說，他現(xiàn)在并不擔(dān)心超級(jí)AI帶來的“AGI風(fēng)險(xiǎn)”（我們無法控制的超級(jí)智能機(jī)器的風(fēng)險(xiǎn)），在短期內(nèi)他擔(dān)心的是平庸AI被廣泛部署帶來的“MAI風(fēng)險(xiǎn)”。就連OpenAI的CEO薩姆·阿爾特曼、首席技術(shù)官米拉·穆拉蒂，也對(duì)此類風(fēng)險(xiǎn)直言不諱。阿爾特曼曾表示，AI潛在的危險(xiǎn)性讓他徹夜難眠，擔(dān)心它被壞人所用。穆拉蒂也說，ChatGPT可能會(huì)編造事實(shí)，應(yīng)受到監(jiān)管。這未必就該導(dǎo)向?qū)π录夹g(shù)“審慎過度，包容欠缺”的強(qiáng)監(jiān)管，但毫無疑問，馬斯克們提醒的風(fēng)險(xiǎn)應(yīng)當(dāng)被重視。某種程度上，這其實(shí)就是要用科技向善的“地圖”為AI發(fā)展導(dǎo)航，讓AI回歸以人為本，而不是讓AI技術(shù)伴生的釣魚、欺詐、監(jiān)控去劫奪人的權(quán)利或損害人的尊嚴(yán)。說白了，人是目的，AI則不是，它應(yīng)該成為人類為善的工具，而不是作惡的利器。（作者系資深媒體人）版權(quán)聲明：本文僅代表作者個(gè)人觀點(diǎn)，不代表經(jīng)濟(jì)觀察網(wǎng)立場(chǎng)。
