兩AI巨頭翻臉 恐破壞安全運用共識

五角大廈近期要求自行掌控如何運用美國OpenAI和Anthropic公司的人工智慧(AI),談判結果是Anthropic失去與政府的業務,OpenAI取得新協議。華爾街日報七日報導,兩家同業結怨可能扭曲AI未來走向。

兩家公司都打算今年上市,本就在爭奪用戶、人才和投資人資金。雙方利害衝突在二月底加劇,當時Anthropic執行長阿莫戴拒絕美國國防部要求,不願讓五角大廈將該公司技術用於大規模國內監控和全自動武器,OpenAI執行長奧特曼則另與五角大廈達成協議。

兩公司關係惡化且不信任感加劇,可能進一步破壞業界對如何安全運用AI的共識。川普政府的前AI顧問博爾在社媒X發文說,這不會是國家最後一次干預前沿AI,「在我們建立應對此類干預的正式機制前,業界團結至關重要」,如今團結的可能性恐將降低。

華爾街日報說,美國商界,尤其是矽谷,充斥由野心、貪婪和嫉妒引發的紛爭。這種激烈競爭從長遠來看,可說對消費者有利,因爲競爭雙方都在努力創新、降低價格以勝過對手。但OpenAI和Anthropic的爭鬥也存在獨特風險,因爲AI技術尚處於萌芽階段,未來命運僅掌握在少數幾家實力雄厚的公司手中。

Anthropic是二○二一年由OpenAI的前員工創辦,阿莫戴曾任OpenAI的研究副總裁,但是對OpenAI的AI發展方向的安全性感到擔憂。他擔心AI能力的潛在負面影響,曾警告可能導致類似大蕭條時期的大規模失業。

另一方面,奧特曼或許可被視爲精於算計、急於達成大型交易來快速擴張的商人。奧特曼確實曾對AI發展表達擔憂,但幾乎是語帶驚歎,無疑站在支持AI的一邊。不出所料,兩家公司在AI監管的政策辯論中,立場截然不同。

諷刺的是,對AI快速發展和改變未來的潛力,兩人的觀點往往相似,都認爲鉅變即將到來。

與五角大廈的協議告吹後,阿莫戴告訴美國哥倫比亞廣播公司,國會應權衡AI能如何被用於大規模監控,認爲現行相關法規有所不足。

同樣,奧特曼五日也說,民選官員應決定AI如何應用在國防領域。不過,很難想像短期內兩人將合作遊說政府。