高盛CEO警示Mythos模型：AI能力超越人類，帶來前所未有風(fēng)險

當(dāng)?shù)貢r間4月13日，高盛集團首席執(zhí)行官大衛(wèi)·蘇德巍（David Solomon）在財報電話會議上發(fā)出嚴(yán)厲警示，稱其對Anthropic旗下最新AI模型“Mythos”保持高度警覺。

蘇德巍在周一的會議上對分析師坦言：“顯然，大語言模型正在迅速進步，在美國政府和模型開發(fā)方的幫助下，我們對這些新模型的增強能力保持高度警覺。”

他所指的“增強能力”，正是Anthropic上周發(fā)布的、被譽為“分水嶺”級別的AI系統(tǒng)——Mythos。與傳統(tǒng)聊天機器人不同，Mythos被設(shè)計為一個強大的“漏洞發(fā)現(xiàn)機器”。Anthropic在官方博客中毫不掩飾其能力的恐怖之處：“AI模型在編程能力上已經(jīng)達(dá)到很高水平，發(fā)現(xiàn)和利用軟件漏洞的能力已超越除最頂尖人類專家外的所有人。這可能對經(jīng)濟、公共安全和國家安全帶來嚴(yán)重影響。”

蘇德巍補充道，高盛已經(jīng)充分了解Mythos的實際能力，并已開始使用。“目前高盛正在與Anthropic等供應(yīng)商密切合作，盡可能利用這些前沿能力，并持續(xù)關(guān)注業(yè)界動態(tài)。”他強調(diào)，高盛正在大力加強網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施建設(shè)，持續(xù)加大相關(guān)投資，以應(yīng)對這一新型威脅。

華爾街的恐慌，源于Mythos展示出的“降維打擊”般的攻擊能力。根據(jù)Anthropic披露的數(shù)據(jù)，Mythos并非簡單的代碼輔助工具，而是一個具備自主戰(zhàn)略思維的“黑客代理”。

在測試中，Mythos展現(xiàn)了令人咋舌的戰(zhàn)績：

·挖掘27年安全漏洞： 它在以安全性著稱、廣泛用于防火墻等關(guān)鍵基礎(chǔ)設(shè)施的OpenBSD系統(tǒng)中，發(fā)現(xiàn)了一個潛伏了27年（自1998年起）的遠(yuǎn)程代碼執(zhí)行漏洞。攻擊者只需建立連接，即可遠(yuǎn)程崩潰運行該系統(tǒng)的任意機器。

·突破500萬次測試防線： 在廣泛使用的視頻編解碼庫FFmpeg中，Mythos發(fā)現(xiàn)了一個存在16年的漏洞。此前，自動化模糊測試工具曾對這行代碼執(zhí)行了500萬次測試，卻始終未能識別，而Mythos做到了。

·自主提權(quán)： 在Linux內(nèi)核中，模型自主發(fā)現(xiàn)并串聯(lián)多個漏洞，實現(xiàn)了從普通用戶權(quán)限到完全控制目標(biāo)機器的提權(quán)。

更令人不安的是其效率。創(chuàng)業(yè)公司Onit Security聯(lián)合創(chuàng)始人Ofer Amitai指出，頂級人類安全團隊每年發(fā)現(xiàn)的此類高危漏洞約為100個，而Mythos在測試期間就挖掘出了“數(shù)千個”。這意味著其效率可能是人類頂尖團隊的10至100倍，且能將漏洞利用開發(fā)時間從數(shù)周壓縮至數(shù)小時。

值得一提的是，Mythos的出現(xiàn)，迫使監(jiān)管機構(gòu)將“AI驅(qū)動的網(wǎng)絡(luò)攻擊”視為金融業(yè)面臨的最大威脅之一。

近日，美國財政部長斯科特·貝森特與美聯(lián)儲主席杰羅姆·鮑威爾在華盛頓緊急召集了包括花旗集團、摩根士丹利、美國銀行、富國銀行及高盛在內(nèi)的多家“系統(tǒng)重要性銀行”CEO舉行閉門會議。

與此同時，據(jù)《金融時報》報道，英國政府人工智能安全研究院（AISI）警告稱，Mythos在網(wǎng)絡(luò)威脅層面是一次“重大升級”。AISI指出，Mythos能夠在無需人工干預(yù)的情況下，獨立執(zhí)行需要多個步驟的攻擊操作。它是首個成功完成AISI設(shè)計的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型。

未來兩周內(nèi)，英國各大銀行、保險公司及交易所代表將被召集，聽取關(guān)于該模型潛在威脅的專項簡報。