Microsoft 聯同跨行業機構推出 AI 透明度倡議,加強企業對 AI 模型及代理的信任_海外Apple ID共享介绍及账号分享说明 - 海外区账号注册与使用指南
機構雖然能夠監察與 AI 模型相關的聯理大部分活動,卻往往無法還原由提出請求到產生結果之間的同跨推出透明過程,因此難以獨立驗證模型的行業信任行為。在17日二舉行的機構及代 Microsoft Ignite 上,Microsoft 主席兼執行長 Satya Nadella 宣布推出「AI 透明度倡議」,度倡作為 Microsoft 履行提升 AI 安全性承諾的議加業對海外Apple ID共享介绍及账号分享说明 - 海外区账号注册与使用指南下一階段工作。這項倡議將聯同客戶及合作夥伴,強企建立適用於不同模型及供應商的模型共通、開放的聯理安全及管制做法。這項倡議體現一項簡單原則:AI 的同跨推出透明自主程度越高,透明度就必須越高。行業信任
Microsoft Security 執行副總裁 Hayete Gallot 表示:「要讓安全管控措施發揮效用,機構及代每家機構都需要更清楚了解模型本身的度倡運作。透過這項工作,議加業對我們將提升所有模型的強企透明度。這是apple id 英区帐号注册登录 App Store使用教程 iOS应用下载讓遏制措施更智慧、更有力的重要一步,有助我們為問責及追溯提供更充分的依據。」
企業正將 AI 模型連接至數據、工具、憑證及基礎架構,讓代理能夠採取行動,而毋須每一步都經人員批准。現有管控措施雖能監察與 AI 模型相關的大部分活動,卻無法掌握模型內部的運作,亦無法獨立核實模型對自身行為的描述。這限制了機構了解代理採取行動背後背景的能力。這種證據不足的情況,會帶來安全、法規遵循、審計及問責風險。隨著 AI 代理的能力不斷提升,所帶來的內部風險亦日益增加,安全團隊需要全新的信任架構來應對。
Adobe 首席安全長 Aanchal Gupta 表示:「隨著 AI 代理更深入融入企業營運,安全團隊需要清楚掌握這些代理正在存取什麼、採取哪些行動,以及如何驗證這些行動。在整個行業建立提升 AI 透明度的共通做法,對加強信任至關重要,亦有助機構在維持安全及問責的同時,充滿信心地推動創新。」
從原則走向實踐
這項倡議涵蓋三個部分。首先,Microsoft 將擴大參與美國國家標準與技術研究院(NIST)的「SI 代理標準倡議」,並借鑑相關研究,制定適用於整個行業的 AI 透明度、安全及管治開放標準。其次,Microsoft 正與包括 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 在內的逾 40 家機構合作,協助制定開放標準,讓 AI 系統具備問責機制、可接受獨立驗證,並從設計之初便融入安全保障,不受模型或供應商選擇所限。
第三,Microsoft 將把這項工作的成果融入 Microsoft AI、Microsoft Foundry 及 Microsoft Copilot,讓客戶可在自身的安全及合規工具中使用由此取得的證據,不論這些工具來自 Microsoft 還是其他供應商。
KPMG International 全球首席資訊安全長 John Israel 表示:「我們的客戶希望藉助 AI 加快步伐,而他們不應被迫在創新與安全之間作出取捨。對 AI 的信任,需要透明度、可解釋性及負責任的監督。我們很榮幸能與 Microsoft 合作推動 AI 透明度倡議,協助建立適用於整個行業的開放標準,讓機構具備所需的可見性及控制能力,以負責任的方式大規模部署 AI。」
明確責任歸屬
能夠存取數據、工具及憑證的代理,其風險特徵與擁有高權限的內部人員相若,卻以機器的速度及規模運作,因此獨立監督不可或缺。
責任始終由機構承擔。一旦發生重大事件,管理層便須向客戶、員工、董事會、審計人員及監管機構交代。不能以 AI 為由推卸責任,也不能將「相信模型」視為管控措施。
這項倡議旨在適用於不同模型及供應商,包括封閉式模型及開放權重模型。因此,開發團隊可以更換或更新支援代理運作的模型,而不會削弱 IT 及安全團隊對代理實施安全管治的能力,亦不會影響法規遵循團隊審計代理行動的能力。
Accenture 全球網路安全主管 Harpreet Sidhu 表示:「當機構在利用 AI 重塑業務的過程中邁出下一步時,需要以穩固的信任及信心作為基礎。Microsoft 這類以開放、由行業推動的方式提升 AI 透明度的倡議,有助我們保障 AI 模型安全,並為其建立管控及管治機制。Accenture 很榮幸能與 Microsoft 及這個領域的其他領導企業合作。」
看清、驗證、管控
Microsoft 相信,每家機構都應能看清 AI 系統存取甚麼及執行甚麼工作、獨立驗證其行動,並管控其獲准執行的工作。
- 看清:清楚知道 AI 被要求及獲授權執行甚麼工作、使用了哪個模型及執行環境、存取了哪些數據及工具,以及採取了哪些行動。持續依據政策及門檻值,監察代理的活動及風險訊號。
- 驗證:代理對自身行為的描述,不能作為判斷事實的唯一依據;亦不能依賴前沿模型進行自我管治。涵蓋代理身份、受託任務目的及行動的證據,應註明其來源,包括模型、模型所在的執行環境,或身份管理及政策管理等獨立系統,以便將模型自行回報的訊號與獨立觀察所得的記錄互相核對。機構應能透過自身的安全及法規遵循系統,獨立驗證 AI 活動,而毋須單憑模型供應商對模型行為的描述。
- 管控:始終掌握 AI 的行動權限。清楚反映每項工作流程的目的、負責人、所用數據及獲授予權限的證據,有助機構在可能產生重大影響的行動發生前執行政策,並在調查、遏制、復原及審計過程中還原事件經過。即使更換模型或供應商,機構亦應繼續保有這些證據。不論使用哪個模型或供應商,機構都應保留控制權,決定其代理可以存取哪些數據,以及如何管治這些存取權限。
參與倡議
有意協助制定倡議方向或了解其進展的機構,可瀏覽 aka.ms/learnmoreAItransparency 了解詳情及登記。
(本文由 PR Newswire 授權轉載;首圖來源:Unsplash)
-
上一篇
-
下一篇
相关推荐
- 最近发表
- 随机阅读
-
- 宿松县政协开展重点招商项目视察调研 宿松新闻网
- 立春已过春还远 河南本周每日最低温仍在0℃以下
- 工业领域,五个行业利润翻番 开采、废弃资源、化纤受益于上游原材料价格回升;有色金属、电子制造则与AI需求爆发息息相关。 “工业企业还面临市场需求不足、资金周转压力较大等问题。” 政经 07-29 1评论
- 农家院子装修全攻略-三维家
- 扬州八怪核心人物金农众多作品汇聚杭州
- 3月2日起厦门部分驾管业务恢复现场办理
- 【暖新闻】荥阳临产孕妇被堵路上 警车鸣笛闪灯开辟生命通道
- 广州市监测发现两例猴痘病例
- 煤价回调,高低卡价差为何仍在扩大?
- CMBS发行规模锐减,存量资产退出受阻
- 住进戒酒病房的年轻人 “以往酒精依赖患者主要集中在35岁至55岁,如今30岁以下的病患占比已达三成左右。且女性患者的住院人数,近两年增幅明显。” 据了解,《酒精使用相关障碍诊断及治疗指南(第二版)》编写工作已启动,预计在2026年内发布,将结合最新研究成果、新的诊疗手段和药物等,对2014年的首版诊疗指南进行更新。 健言 07-29 22评论
- 法治日报关注丨不机械办案 不回避矛盾 云南法院解开一个困扰群众七年的“心结”
- 扬州八怪核心人物金农众多作品汇聚杭州
- 从翻译到桌面Agent,网易有道全线产品完成DeepSeek-V4-Flash正式版升级
- 室外走廊吊顶设计指南
- 3月2日起厦门部分驾管业务恢复现场办理
- 刘志宏:从“血防”到“职防”,当好健康“守门人”
- 加拿大联邦投资移民_联邦投资移民项目_联邦投资移民
- 银川市唐中南校区_银川市唐中初中部_银川市唐中
- 冷暖空气在福建省上空长时间交汇导致气温低雨水多
- 搜索
-
- 友情链接
-