Gartner研究副總裁孫鑫：AI Agent要被廣泛使用，需要邁過這些檻快訊
Gartner研究副總裁孫鑫（Julian Sun）在談到AI Agent在企業數據和分析中的使用時表示，未來AI Agent的發展趨勢，附上《Gartner2025年數據和分析重要趨勢》。
【TechWeb】3月26日消息，大模型熱潮推動AI Agent應用高漲，近日，Gartner公司發布了 2025年數據和分析（D&A）的9大重要趨勢，其中，就指出AI代理對于滿足臨時的、靈活的或復雜的自適應自動化需求至關重要。使用AI智能體進行數據分析，完成業務成果的自動化閉環具有變革性意義。
Gartner研究副總裁孫鑫（Julian Sun）在談到AI Agent在企業數據和分析中的使用時表示，企業不能僅僅依賴大語言模型（LLM），還需要采用其他形式的分析和AI技術，多種AI技術的結合可提高AI的影響力和可靠性。
孫鑫向TechWeb表示，如今市場上有各種預構建的Agent，包括通用生產力Agent、特定任務Agent、特定業務功能Agent以及行業垂直Agent。但是，目前AI Agent的局限性在于超出特定范圍后表現不佳。AI Agent被廣泛使用還存以下這些障礙和困難：
可靠性問題： 當前的AI Agent依賴于像LLMs這樣本身就存在不確定性的組件，且在一個Agent的工作流程中通常包含多個步驟，每個步驟都可能出錯，導致錯誤累積，整體可靠性不高。
規劃能力不足： 有效的規劃是Agent的核心功能，但目前的LLMs在處理不熟悉的規劃任務時表現不佳。更先進的推理模型雖然有所改善，但成本高、延遲大，難以在許多場景中應用。
成本和延遲： LLM驅動的AI Agent通常需要多次調用LLM，增加了計算成本和響應時間。復雜的Agent架構（如包含反饋循環和多Agent系統）會進一步加劇這些問題。
可解釋性差： 盡管AI Agent可以提供行動解釋，但其核心的LLM本質上是概率性的“黑箱”，難以完全理解其決策過程，這在需要Agent自主決策和行動的場景中是一個重要風險。
安全性風險： 由于AI Agent具有更高的自主性，因此更難進行大規模的管理和安全保障。其潛在的攻擊面擴大，包括其觸發和參與的事件鏈和交互，這些通常對人類或系統操作員來說是不可見或無法阻止的。另外潛在的風險如數據泄露、系統資源濫用、惡意活動、代碼邏輯錯誤以及供應鏈風險。
期望與現實的差距： 市場對AI Agent的期望普遍較高，希望其能夠處理廣泛的任務。然而，現實情況是目前的AI Agent更適合處理范圍較窄、較為專業的任務。這種認知差距也會阻礙AI Agent的有效應用。
特定領域的挑戰： 例如在人力資源領域，由于工作流程涉及多個應用、數據孤島以及對高準確性的要求，實現廣泛應用的AI Agent面臨著數據集成和系統互操作性等方面的特殊困難。
孫鑫認為，目前來看，針對特定需求和場景的專用AI Agent由于其更高的可控性和可靠性，可能在短期內更容易落地和取得實際應用。成功的多Agent系統也往往通過將流程分解為不同的任務，由更專業化的Agent來處理，這進一步支持了專業化Agent在復雜場景中的應用前景。
未來AI Agent的發展趨勢，如更強的規劃和推理能力、大行動模型（LAMs）、多模態模型以及神經符號AI，可能會逐步提升AI Agent的通用能力，從而推動通用AI Agent的發展。
另外，附上《Gartner2025年數據和分析重要趨勢》：
趨勢1：高消耗數據產品
為了充分利用高消耗數據產品，D&A領導者應重點關注關鍵業務用例，通過產品關聯和規模化來減少數據交付方面的挑戰，優先交付可重復使用和可組合的最小可行數據產品，以便讓團隊不斷改進這些產品。同時，D&A領導者還必須在數據生產和使用團隊之間就關鍵績效指標達成共識，這對于衡量數據產品的成功至關重要。
趨勢2：元數據管理解決方案
有效的元數據管理應先從技術元數據出發，然后擴展到業務元數據以增強上下文。通過整合各種類型的元數據，企業能夠實現數據目錄、數據脈絡和AI用例。因此，選擇有助于自動發現和分析元數據的工具勢在必行。
趨勢3：多模態數據編織
建立強大的元數據管理實踐涉及獲取和分析整個數據管道中的元數據。數據編織提供的洞察和自動化可滿足編排需求、通過數據運維（DataOps）實現更卓越的運營，并最終實現數據產品。
趨勢4：合成數據
識別缺失、不完整或獲取成本高的數據對于推進AI行動至關重要。合成數據既可以作為原始數據的變體，也可以替代敏感數據，能夠在促進AI發展的同時保護數據隱私。
趨勢5：代理式分析
使用AI智能體進行數據分析，完成業務成果的自動化閉環具有變革性意義。Gartner建議嘗試開發自然語言接口連接業務洞察的用例，并評估供應商的數字化工作場所應用集成路線圖。同時，建立治理機制可最大程度地減少錯誤和幻覺，并且通過AI就緒數據原則評估數據就緒度十分重要。
趨勢6：AI代理
AI代理對于滿足臨時的、靈活的或復雜的自適應自動化需求至關重要。企業不能僅僅依賴大語言模型（LLM），還需要采用其他形式的分析和AI技術。D&A領導者應使AI代理能夠無縫訪問和共享所有應用的數據。
趨勢7：小語言模型
相比大語言模型，Gartner更推薦企業考慮使用小語言模型，以便在特定領域獲得更加準確、更符合語境的AI輸出結果。Gartner建議提供用于檢索增強生成或微調自定義領域模型的數據，特別是在本地使用時，可以處理敏感數據并減少計算資源和成本。
趨勢8：復合型AI
多種AI技術的結合可提高AI的影響力和可靠性。D&A團隊不應局限于GenAI和LLM（大語言模型），還應整合數據科學、機器學習、知識圖譜以及優化等技術，以實現全面的AI解決方案。
趨勢9：決策智能平臺
從數據驅動到以決策為中心的轉變至關重要。Gartner建議采取的步驟包括：優先考慮急需建模的業務決策、調整決策智能（DI）實踐、評估DI平臺。成功的關鍵在于重新發掘數據科學技術并解決決策自動化的道德、法律和合規問題。（果青）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
