COMPUTEX/陳立武攜手Perplexity秀新AI架構!地端保密、雲端推理
英特爾(Intel)執行長陳立武。擷自COMPUTEX YouTube頻道
處理器大廠英特爾(Intel)執行長陳立武週二在臺北國際電腦展(Computex)邀請AI搜尋新創Perplexity創辦人兼執行長Aravind Srinivas同臺,展示雙方首度合作打造所謂的「混合式代理AI推論」。
陳立武表示,AI正在改變人們使用裝置的方式,而Intel的重要發展方向之一,是將更多AI能力放到裝置端執行。
Aravind Srinivas介紹,Perplexity今年2月推出AI作業系統「Computer」,可同時調用多達20種不同AI模型,並在模型、工具與檔案之間協調運作。他表示,部分較小型模型可直接在搭載Intel Core Ultra Series 3處理器的裝置上執行,因此雙方合作打造所謂的「混合式代理AI推論」。
現場展示的案例中,一名私募股權投資公司員工需要分析代號爲「Project Falcon」的機密投資案。相關資料包含保密協議(NDA)、財務模型、白板內容與逐字稿等敏感文件。本地模型會先讀取檔案,判斷哪些內容屬於敏感資訊,再決定哪些內容可送往雲端處理、哪些內容必須留在裝置內分析。
Srinivas表示,系統可透過額外代理取得外部研究資料,再與本地模型協同運作,而不必將私密檔案送往雲端。最終由大型模型產出研究報告等文件。
陳立武表示,這正是他與Perplexity共同相信的運算架構。他說:「未來將有更多運算在資料中心完成,也會有更多運算在本地裝置完成。」