久久ER99热精品一区二区-久久精品99国产精品日本-久久精品免费一区二区三区-久久综合九色综合欧美狠狠

新聞中心

EEPW首頁 > 智能計算 > 業界動態 > AI 智能體面臨著日益擴大的信任鴻溝

AI 智能體面臨著日益擴大的信任鴻溝

作者: 時間:2025-12-17 來源: 收藏

人工智能代理正迅速成為企業從簡單自動化向真正決策智能轉變的關鍵力量。

如果企業人工智能的第一個令人滿意階段是自動化,那么接下來顯然是增強:提升知識工作中的人類智能。TheCUBE Research的“代理型未來指數”顯示這一轉變正在加速。62%的公司現將代理視為決策的關鍵組成部分,標志著從自動化部署向驅動決策智能的決定性轉變。

但雄心遠遠超過執行。組織正大量投資于自動化以外的能力,包括與人協作、追求目標并做出基于判斷的數字同事。隨著他們從實驗轉向執行,領導者對AI能力的期望與組織能夠實現的實際作之間的差距持續拉大。AI不僅自動化任務——它們暴露了治理、數據質量和運營準備度的弱點。這種矛盾的核心是一個大多數企業仍無法回答的問題:“我們能否信任這些系統做出重要決策?”

“信任正在成為創新的貨幣,”TheCUBE Research的Scott Hebner在《人工智能前沿》播客中說。“沒有信任,就沒有投資回報。”

Hebner指出,“代理人工智能未來指數”提供了企業在這一轉型中實際處于何種狀態的首個全面基準。該研究于2025年第三季度進行,調查了跨行業的人工智能業務和技術領導者,衡量了五個領域的企業準備度。該指數還借鑒了theCUBE對AI代理構建者峰會的報道,并加入了 Doozer.ai 公司的真實世界見解。這些數據點不僅揭示了組織投資的所在,也揭示了它們陷入困境——以及為何即使信念依然高,執行仍不斷崩潰。

這張圖片反映了企業在人工智能代理上的巨大投資,但信任、治理和執行的差距顯示了為何各行業雄心仍然超過運營現實。

代理人工智能未來指數——theCUBE Research

衡量成熟度曲線

人工智能代理創新周期加速得比大多數企業能夠追蹤的速度還要快。領導者需要的不僅僅是軼事基準,才能理解自己的位置和尚未察覺的差距。“代理人工智能未來指數”衡量的五個維度包括:

  1. 數字化勞動力轉型——跟蹤組織如何整合數字同事并重塑勞動力戰略。

  2. 采用成熟度——描繪從試點到企業級代理工作流的歷程。

  3. 信任與治理——評估可解釋性和問責框架。

  4. 推理與決策智能——衡量從任務執行向判斷型工作的轉變。

  5. 因果人工智能創新——探討系統是否能夠超越模式識別,理解因果關系。

每個維度基于625名合格AI專業人士提交的61個問題,涵蓋13個行業,采用0-5成熟度評分。受訪者被篩選出直接參與人工智能戰略、開發或治理,確保數據反映的是積極塑造該領域的從業者,而非僅僅是旁觀者對其進行猜測。

Hebner解釋道:“這些指數共同定義了一個戰略成熟度曲線,幫助組織制定人工智能戰略,展示解決方案領導力,與同行進行基準對比,并預見將塑造未來十年創新的技術。”

幻燈片顯示,5分中的4.1分(71%)認為數字勞動力的興起不可避免,3.1分(64%)優先考慮知識工作而非任務自動化,1.8分(8%)共享跨業務領導責任,說明人工智能代理的雄心遠超企業現實。

數字勞動轉型未來指數——theCUBE研究

智能人工智能背后的執行赤字

企業并不缺乏信念。根據指數,超過90%的受訪領導者認為數字勞動——以及更廣泛的智能人工智能——是不可避免的,且在擁有最直接AI經驗者中,這種信念最高。數字同事是解決人才短缺、成本上升和競爭壓力的關鍵解決方案,而非可選的創新。

這一模式在指數中一貫體現:領導者對智能人工智能表示強烈信念,但組織難以將這一愿景轉化為現實執行。 “數字勞動轉型指數”,作為整體“代理人工智能未來指數”的一部分,正好說明了這一點。其整體成熟度評分為3.1——這表明組織已開始超越實驗階段,但尚未達到對規模化數字同事的準備。人力資源與IT之間的合作正在形成,早期戰略也在逐步成型。針對性的用例正在出現,但執行力依然不足。

“目前,這仍被視為技術實現,但這實際上是一場商業作,”theCUBE Research首席分析師Christophe Bertrand說。“沒有跨組織協作,事情很快就會崩潰,因為你能讓IT部門幫你做的事有限。”

即便有這種信念,作戰準備依然遙不可及。在“數字勞動轉型指數”中,抱負在成熟度評分為4.1,戰略降至3.1,執行力降至僅1.8。這一模式顯示出組織對數字勞動力的設想與其當前實際可提供的之間存在結構性差距,呼應了“代理人工智能未來指數”中更廣泛的愿景與價值差距。

沒有單一故障能造成這個差距。許多組織仍然將智能人工智能和數字同事視為IT擁有的技術實現,而非需要共同問責的勞動力轉型舉措。戰略評分顯示投資和規劃正在進行中,但執行評分顯示,實現數字勞動大規模運營所需的協作結構、治理和變革管理仍不成熟。

貝特朗說:“這些都是倡議初期的跡象。”“我們還在打基礎,離我們想要的目標還有好幾年。”

文化層面同樣至關重要。人力資源部門正日益參與塑造企業如何將人工智能代理作為數字同事,而非替代人類工人的方式。這一轉變將代理人工智能重新定義為勞動力演進,而非純粹的自動化。

“如果你不適應速度節奏,文化就是游戲,”SiliconANGLE Media Inc.聯合創始人兼聯合首席執行官John Furrier在AI代理構建者峰會上說。“這是唯一的選擇,因為沒有速度就贏不了。如果你不在比賽中,不在場上和AI一起,你就會輸給另一個更快的人。”

人工智能代理:投資與懷疑的交匯

“智能人工智能期貨指數”凸顯了人工智能推理和決策智能投資的加速。73%的企業正在對超越自動化、進入判斷型工作的能力做出重大或戰略性承諾,投資成熟度得分為3.8分(滿分5分),是所有測量維度中最高的。

幻燈片顯示,信任AI代理做出準確、值得信賴決策的評分為2.4分(滿分5分,得分為49%);部署信任與治理框架者得分為2.8分(29%);計劃戰略性或重大投資的信任者得分為3.8分(滿分5分),得分為73%。

代理人工智能信任與治理——theCUBE 研究

但信心并未跟上支出的步伐。只有49%的受訪領導者對人工智能代理能夠做出值得信賴且準確決策充滿信心。該指數的信任評分為2.4分(滿分5分),在所有測量維度中均為最低。投資與信心之間的差距是投資回報率(ROI)停滯的地方, Doozer.ai 首席執行官保羅·查達(Paul Chada)指出。

“預測不是決定,”查達說。“只有當一個代理人表現出理解其目標、背景和行為的后果時,你才能信任它。”

信念與懷疑之間的張力在真實部署中表現出來。據IBM公司人工智能合作伙伴負責人邁克爾·加拉斯表示,企業對智能人工智能解決一切問題的期待,到對其是否已準備好投入生產持高度懷疑態度。

“我認為企業最關心的就是如何確保AI代理擁有他們所需的背景信息,”Gara在AI代理構建者峰會上說。

Chada指出,生成式人工智能能夠識別模式和相關性,但決策智能需要系統理解因果關系。隨著企業從預測轉向基于判斷的工作,支持自動化的信任機制已不再適用。可解釋性、人類協作以及評估權衡的能力成為驗證代理決策的關鍵。

Chada說:“組織現在只是想同時運行[人工智能代理]。”“在他們看來,反復做出正確決定,信任自然而然地建立起來;那時自主權才變得被接受。”

正是這些緊張關系,使得信任正逐漸成為企業采納的真正守門人。“智能人工智能未來指數”顯示,組織愿意投資并渴望嘗試,但自主性的發展速度取決于信心。隨著AI代理承擔了真正后果的工作,理解和驗證其決策的能力將決定企業進入這一轉變下一階段的速度。



關鍵詞: AI 智能體 信任鴻溝

評論


相關推薦

技術專區

關閉