蒙特利爾2026年2月4日 /美通社/ -- 《2026年國際AI安全報告》今日發(fā)布，為通用型AI能力、新興風險以及風險管理與安全防護的現(xiàn)狀提供了最新的、國際共享的科學評估。

由圖靈獎得主Yoshua Bengio主持編纂的本次《國際AI安全報告》(第二版)匯集了100多位國際專家，并得到專家咨詢委員會的支持。該委員會成員來自30多個國家及國際組織，包括歐盟、經合組織及聯(lián)合國。 報告的研究結論將為本月晚些時候由印度主辦的AI Impact Summit相關討論提供參考。

報告的主要亮點包括：

• 通用型AI能力持續(xù)快速提升，尤其在數(shù)學、編程和自主運行方面表現(xiàn)突出。2025年，領先的AI系統(tǒng)在國際數(shù)學奧林匹克題目中取得“金牌級”表現(xiàn)，在科學基準測試中超過博士級專家水平，并能夠自主完成一些本需人類程序員耗費數(shù)小時的軟件工程任務。 盡管如此，整體表現(xiàn)仍顯“參差不齊”，在某些看似簡單的任務上仍會出現(xiàn)失敗。
• AI的普及速度迅猛，但全球分布不均。 AI的普及速度已超過個人電腦等以往技術，目前每周使用領先AI系統(tǒng)的人數(shù)至少達到7億。 在部分國家，超過一半的人口已在使用AI；但在非洲、亞洲和拉丁美洲的許多地區(qū)，預計采用率仍低于10%。
• 與深度偽造(deepfake)相關的事件正在上升。AI生成的深度偽造內容越來越多地被用于欺詐和詐騙。 AI生成的非自愿親密影像也日益普遍，這類內容對女性和女孩的影響尤為嚴重。 例如，一項研究發(fā)現(xiàn)，在20款流行的“nudify”應用中，有19款專門用于模擬女性脫衣。
• 對生物濫用的擔憂促使部分領先模型加強了安全防護。2025年，多家AI公司在部署前測試發(fā)現(xiàn)，系統(tǒng)仍可能在實質上幫助新手開發(fā)生物武器，因此推出了具備更高安全防護的新模型。
• 包括犯罪分子在內的惡意行為者正積極將通用型AI用于網絡攻擊。AI系統(tǒng)能夠生成有害代碼，并發(fā)現(xiàn)可被犯罪分子利用的軟件漏洞。 2025年，一個AI智能體在一項大型網絡安全競賽中躋身參賽團隊前5%。 地下市場如今出售預打包的AI工具，大幅降低了發(fā)動攻擊所需的技術門檻。
• 多項安全防護正在改進，但當前風險管理手段仍存在失效可能。 盡管某些失敗類型(如“幻覺”)已不那么常見，但部分模型如今能夠區(qū)分評估環(huán)境與部署環(huán)境，并據(jù)此調整自身行為，這為評估與安全測試帶來了新的挑戰(zhàn)。

報告主編、蒙特利爾大學全職教授、LawZero科學主任兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“自一年前首份《國際AI安全報告》發(fā)布以來，我們不僅見證了模型能力的顯著躍升，也看到了其潛在風險的同步增加。技術進步的速度與我們實施有效安全防護的能力之間仍存在差距，這依然是一項關鍵挑戰(zhàn)。 本報告旨在為決策者提供嚴謹證據(jù)，幫助引導AI邁向一個安全、可靠、惠及所有人的未來。 通過第二版報告，我們正在更新并深化對前沿AI在全球范圍內快速發(fā)展的科學認知，并強化這一共同理解。 ”

英國AI大臣Kanishka Narayan表示：

“對AI的信任與信心，是釋放其全部潛力的關鍵。 這是一項能夠帶來更優(yōu)質公共服務、新就業(yè)機會及改變生活的創(chuàng)新技術。 同時，隨著技術的發(fā)展，我們也將堅定致力于保障公眾安全。 負責任的AI發(fā)展是全球共同關注的優(yōu)先事項。唯有攜手合作，我們才能塑造一個帶來積極變革的未來。 這份報告正是為此而編撰——匯聚全球專家，確保我們擁有堅實的科學證據(jù)基礎，從而在當下做出明智決策，為更加光明、安全的未來奠定基石?！?/i>