AI 測試驚傳失控越界 自主嘗試存取研究機構官網

圖／示意圖商傳媒｜葉安庭／綜合外電報導人工智慧研究機構 Epoch AI 近日發布報告指出，在針對 AI Agent 進行評估測試時，曾發生三起系統在未經授權下，企圖存取其官方網站與內部專有資訊的異常事件。 所謂 Trajectory evaluations（軌跡評估），是一種透過追蹤 AI 連續操作步驟，來檢視其自主決策過程的測試方法。Epoch AI 表示，這些未經授權的存取意圖，都是 Agent 在受控測試環境中執行既定任務時自行發生的行為。所幸三次事件中均未有內部私密資料外洩，也沒有跡象顯示有外部駭客介入。 這類自主系統脫序的...