人工智能的發(fā)展速度不斷加快，以前從未想到過的能力現(xiàn)在已成為現(xiàn)實。尤其是AI代理——或者可以說是虛擬同事，在未來，他們將與我們一起工作，甚至最終能夠獨立執(zhí)行任務(wù)。

事實上，Gartner預(yù)測，到2028年，至少15%的日常工作決策將通過人工智能代理自主完成（這一比例在2024年尚為0%）。

為了進一步強調(diào)AI技術(shù)的潛力，該公司將其列為2025年的頂級戰(zhàn)略技術(shù)趨勢。Gartner杰出副總裁分析師Gene Alvarez表示：“這種情況發(fā)生得非常非?？??！?/p>

“沒有人能在晚上睡前完成所有工作，企業(yè)也需要花費大量時間來監(jiān)控事物。創(chuàng)建人工智能代理不僅可以代替部分工作、協(xié)助企業(yè)檢測等，還可以提高工作效率、節(jié)省時間?！?/p>

Gartner對未來戰(zhàn)略技術(shù)還有哪些預(yù)測？以下是該公司在Gartner IT Symposium/Xpo2024會議上探討的一些趨勢。

01.AI代理讓人“愛恨交織”

Alvarez解釋道：“人工智能代理的初級作用是解決耗費人類時間和精力的枯燥任務(wù)。下一個層次是能夠自主監(jiān)控和管理系統(tǒng)的人工智能代理?！?/p>

“人工智能代理具有規(guī)劃、感知和采取行動的能力，可以進行分析、修復(fù)并報告所發(fā)生的事情，而不只是作為監(jiān)視系統(tǒng)而存在?！?/p>

“在更復(fù)雜的場景中，代理有朝一日可以幫助提升員工的技能。例如，原本需要新員工跟隨人類同事學(xué)習(xí)的情況，現(xiàn)在可以由AI同事進行指導(dǎo)。”

Alvarez承認(rèn)，這一切既令人興奮又令人擔(dān)憂，人們對失業(yè)的恐懼依然存在。

“但是，如果人工智能代理能夠真正教會我一套新的技能，我就可以從一份即將失去的工作轉(zhuǎn)向一份需要的工作?！?/p>

02.建立對人工智能的信任

Alvarez接著指出了下一個主要趨勢：“現(xiàn)在有一支全新的勞動力隊伍，我們該如何管理他們？”

基于管理話題，將會催生一系列人工智能治理平臺，使企業(yè)能夠管理其人工智能系統(tǒng)的法律、道德和運營績效。

新工具將創(chuàng)建、管理和執(zhí)行政策，以確保人工智能的透明度。這些平臺也可以檢查人工智能助理是否會存在偏見，并提供建立模型的信息。

Alvarez預(yù)計，這些工具最終將成為人工智能創(chuàng)建過程中的一部分，以確保從一開始就在模型中植入道德和管理。

Alvarez表示：“我們可以通過透明度創(chuàng)造信任，如果人們對人工智能失去了信任，就不會再使用它。”

03.“不只是一種計算模型”

Alvarez指出，有七種計算模式現(xiàn)在正在被使用，分別是：CPU、GPU、邊緣計算、特定應(yīng)用集成電路、神經(jīng)形態(tài)系統(tǒng)、經(jīng)典量子計算和光學(xué)計算。

Alvarez表示：“我們一直有一種不斷適應(yīng)變化的心態(tài)，但未來的混合計算模式將結(jié)合不同的計算、存儲和網(wǎng)絡(luò)機制來運行。協(xié)調(diào)軟件將根據(jù)任務(wù)和最適合任務(wù)的方法，將計算從一種轉(zhuǎn)移到另一種。”

“與此同時，新的、更特殊的計算技術(shù)將大大降低能耗。這一點非常重要，因為降低消耗和碳足跡的壓力越來越大。但隨之而來的，人工智能對IT計算能力的需求也在以驚人的速度增長?！?/p>

“循序漸進的改進是不夠的，企業(yè)需要長期的解決方案。企業(yè)也需要新技術(shù)，例如綠色云提供商或更高效的新算法，有可能將效率提高數(shù)千倍，甚至上萬或數(shù)十萬倍?！?/p>

04.積極應(yīng)對信息安全問題

人工智能讓一些“威脅者”可以用更快、更容易的方式傳播虛假信息。他們可以推送深度偽造的信息、制作網(wǎng)絡(luò)釣魚電子郵件、利用協(xié)作工具中的漏洞、使用惡意軟件竊聽、發(fā)起賬戶攻擊等等。

因此，應(yīng)對這些虛假信息、保護信息安全變得至關(guān)重要，要積極評估真實性、跟蹤有害信息的傳播并且防止假冒信息的出現(xiàn)。

其要素包括品牌冒充掃描、第三方內(nèi)容評估、索賠和身份驗證、網(wǎng)絡(luò)釣魚緩解、賬戶接管預(yù)防、社交/大眾媒體和暗網(wǎng)監(jiān)控以及情緒操縱。

Alvarez解釋，深度偽造檢測也將能夠識別合成媒體，而水印工具將有助于確保用戶與真人互動。

據(jù)Gartner預(yù)測，到2028年，半數(shù)企業(yè)將開始采用專為虛假信息安全設(shè)計的產(chǎn)品、服務(wù)或功能，而目前這一比例還不到5%。

Alvarez表示：“虛假信息安全不會只是一種單一的技術(shù)，它將是一系列技術(shù)的集合?！?/p>

05.為“后量子時代”做好安全準(zhǔn)備

目前，網(wǎng)絡(luò)使用的是公鑰加密技術(shù)，即非對稱加密技術(shù)，它可以確保兩點通信的安全。

Alvarez解釋說，“這種加密很難被破解，因為破解時間太長。然而，量子技術(shù)正在迅速發(fā)展，它將在某一點上發(fā)揮作用，因為其擁有實時破解的數(shù)學(xué)能力?！?/p>

Gartner預(yù)測，到2029年，量子計算的進步將使大多數(shù)傳統(tǒng)的非對稱加密技術(shù)變得不安全。

Alvarez補充道：“各組織現(xiàn)在就必須為后量子加密技術(shù)做好準(zhǔn)備，以確保他們的數(shù)據(jù)能夠抵御解密。轉(zhuǎn)換加密方法并不容易，而且這'不是一個簡單的補丁'?！?/p>

國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）的既定標(biāo)準(zhǔn)是一個很好的開始。Alvarez指出，該機構(gòu)將于2025年春季發(fā)布第二版后量子加密指南。

“當(dāng)所有的鎖都壞了，你該怎么辦？你需要新鎖。我們要確保在量子技術(shù)成為現(xiàn)實之前更新我們的安全性?！?/p>

06.人工智能提高我們的認(rèn)知力

Gartner將目光進一步投向科幻領(lǐng)域，預(yù)計雙向腦機接口（BBMI）的使用將會增加，這種接口可以讀取和解碼大腦活動，提高人類的認(rèn)知能力。

Alvarez解釋說，這些設(shè)備可以直接集成到我們的大腦中，也可以通過眼鏡或頭帶等可穿戴設(shè)備實現(xiàn)。

Gartner預(yù)計，到2030年，將有30%的知識工作者使用BBMI等技術(shù)，以保持在AI驅(qū)動的工作環(huán)境中的競爭力（2024年這一比例還不到1%）。

Alvarez表示：“我看到了人類技能提升和下一代營銷的潛力，例如，品牌將能夠了解消費者的想法和感受，從而判斷消費者的情緒。”

Alvarez最終將其與2011年的電影《無極限》以及AppleTV的網(wǎng)劇《人生切割術(shù)》進行了比較。

Alvarez表示：“公平地說，這兩部作品對這項技術(shù)的描繪都不盡然是積極的，但它通過進入人類大腦的方式，增強了人們的認(rèn)知能力?！?/p>

原文來源于：

1.https://venturebeat.com/security/gartner-2025-will-see-the-rise-of-ai-agents-and-other-top-trends/

中文內(nèi)容由元宇宙之心（MetaverseHub）團隊編譯，如需轉(zhuǎn)載請聯(lián)系我們。