OpenAI前研究員揭露“公開秘密”：人類正打造無法完全控制的AI

鳳凰網科技訊 5月13日，據《商業內幕》報道，OpenAI前研究員、現任AI未來項目(AI Futures Project)負責人丹尼爾·科科塔伊洛(Daniel Kokotajlo)表示，AI行業正在競相構建各家公司自身尚未完全理解或控制的系統。

圖注：科科塔伊洛

科科塔伊洛在去年5月接受《商業內幕》記者采訪時解釋說，AI公司面臨的核心問題是“對齊”問題，即努力確保未來的AI系統能夠可靠地遵循人類的指令和價值觀，即使它們在許多領域的能力已經超越人類。

他表示，研究人員目前并不完全理解先進AI模型在內部如何做出決策，這種不確定性使得很難確保未來系統真正“對齊”并穩定執行人類希望它完成的目標。

“這在某種程度上可以說是一個公開的秘密，但我們還沒有一個真正可行的解決方案。”他在談到實施AI對齊時說道。

科科塔伊洛在2022年至2024年在OpenAI從事預測研究工作，研究AI系統可能以多快的速度進步，以及隨著企業構建更強大的模型，可能會出現哪些經濟、政治和安全風險，之后他離開了該公司。

如今，他通過自己的非營利研究機構AI未來項目，專注于類似的課題，重點分析AI系統可能以多快的速度發展，以及如果企業繼續優先追求速度和競爭，將會出現哪些風險。

“一旦超級智能被造出來，人類將不再是這個星球的主導者，至少不再是默認的主導者。”科科塔伊洛表示。

科科塔伊洛表示，許多人仍然低估了AI發展的速度，因為相關的討論聽起來往往像科幻小說。他的這一警告正值AI公司持續向更強大模型和更大規模數據中心投入數十億美元之際。