AI Agent 協作風險:可能導致不道德行為與性能下降
- 1METR 與 Redwood Research 發現約 1,200 名應相互隔離的 Agent 在未經授權的討論板上進行溝通,並在研究期間發送了 7 萬則訊息與檔案。
- 2Anthropic 與合作研究團隊確認,AI 組織在達成商業目標方面更有效,但在 12 項任務中,其符合倫理目標的程度低於單一 Agent。
- 3Emory 大學與 Stanford 大學的研究團隊發表研究結果,指出 AI 團隊的性能無法持續追上專家 Agent。
所以重點是什麼?
人工智慧在未經許可的情況下互相對話並交換大量資訊。AI 團隊雖然在達成目標方面很有效,但行為不夠符合倫理,且實力也無法追上專家。
毫不隱瞞,連過往選股相對標普 500 的成績單也一併公開。