蒙特利爾2025年11月26日 /美通社/ -- 《國(guó)際人工智能安全報(bào)告》正式發(fā)佈第二份「關(guān)鍵更新」，針對(duì)通用人工智能的風(fēng)險(xiǎn)管理及技術(shù)緩減措施，提供適時(shí)的分析與建議。

該報(bào)告由圖靈獎(jiǎng)得主、著名電腦科學(xué)家 Yoshua Bengio 領(lǐng)導(dǎo)，匯聚超過(guò) 100 位國(guó)際專(zhuān)家共同參與，並獲歐盟、經(jīng)合組織 (OECD) 及聯(lián)合國(guó)等 30 多個(gè)國(guó)家及國(guó)際組織全力支持。

鑑於 AI 領(lǐng)域發(fā)展一日千里，單靠年度報(bào)告已難以緊貼趨勢(shì)，因此報(bào)告引入「關(guān)鍵更新」機(jī)制，針對(duì)關(guān)鍵進(jìn)展提供更聚焦的簡(jiǎn)報(bào)。本次更新緊接於 2025 年 10 月 15 日發(fā)佈的首份關(guān)鍵更新。這些更新旨在確保政策制定者能掌握最新的文獻(xiàn)綜合分析，以制定基於實(shí)證的決策。

第二份關(guān)鍵更新重點(diǎn)探討提升 AI 可靠性及防止濫用的技術(shù)方案，以及新興的風(fēng)險(xiǎn)管理體制。報(bào)告重點(diǎn)摘要：

• 訓(xùn)練模型以防禦惡意攻擊有進(jìn)展，惟漏洞尚存。雖然 AI 模型和系統(tǒng)抵禦攻擊的能力有所提升，但技術(shù)高超的黑客仍有約 50% 的機(jī)會(huì)僅透過(guò) 10 次嘗試便能突破防線；甚至只需 250 份惡意文件污染訓(xùn)練數(shù)據(jù)，即可成功入侵模型。
• 開(kāi)源差距收窄。開(kāi)放權(quán)重模型目前的水平落後業(yè)界龍頭不足一年，這雖有助技術(shù)普及，卻令防止系統(tǒng)失靈及濫用的工作變得更複雜。
• 業(yè)界安全努力倍增，實(shí)際成效未明。儘管 2025 年採(cǎi)用風(fēng)險(xiǎn)管理框架的 AI 企業(yè)數(shù)量增加逾倍，但其實(shí)際執(zhí)行成效仍充滿不確定性。

報(bào)告主席、蒙特利爾大學(xué)正教授、LawZero 科學(xué)總監(jiān)及 Mila - 魁北克 AI 研究所科學(xué)顧問(wèn) Yoshua Bengio 表示：

「由於我們持續(xù)追蹤 AI 能力及風(fēng)險(xiǎn)的變化，提供清晰指引以落實(shí)適切有效的風(fēng)險(xiǎn)管理及技術(shù)緩減措施至關(guān)重要。這份關(guān)鍵更新概述了相關(guān)領(lǐng)域的進(jìn)展，以及尚存的缺口與機(jī)遇。我們的目標(biāo)是在 2026 年初於印度舉行的『AI 影響力峰會(huì)』前發(fā)佈第二份完整的《國(guó)際人工智能安全報(bào)告》，在此之前，我們致力為全球決策者提供有關(guān) AI 發(fā)展的適時(shí)更新。」

簡(jiǎn)介

國(guó)際人工智能安全報(bào)告是先進(jìn)人工智能系統(tǒng)能力與風(fēng)險(xiǎn)證據(jù)的合編。它旨在透過(guò)為決策者提供證據(jù)基礎(chǔ)，而支援全球明智政策制定。本報(bào)告由超過(guò) 100 位背景多元的獨(dú)立專(zhuān)家共同撰寫(xiě)，並獲得專(zhuān)家顧問(wèn)小組支持；該小組由來(lái)自 30 多個(gè)國(guó)家及國(guó)際組織（包括歐盟、經(jīng)合組織和聯(lián)合國(guó)）的提名代表組成，具廣泛代表性。儘管該報(bào)告承認(rèn)人工智能的龐大潛在優(yōu)勢(shì)，但其重點(diǎn)在於識(shí)別風(fēng)險(xiǎn)和評(píng)估緩解策略，從而確保安全地發(fā)展和使用人工智能，造福人群。該報(bào)告由英國(guó)政府委託，而秘書(shū)處設(shè)於 UK AI Security Institute。

聯(lián)絡(luò)方法：Mila Medias，medias@mila.quebec；DSIT 傳媒查詢，press@dsit.gov.uk