歐盟AI法案:全球監管先驅

歐盟AI法案:全球監管先驅

歐盟立法者在經過長達72小時的馬拉松式辯論後,達成了關於AI法案的歷史性協議。這是一項涵蓋範圍最廣、影響最深遠的人工智慧安全發展法案​​。該法案提出的規定將指導未來在歐盟內開發和分發機器學習模型的方式,影響從教育到就業、再到醫療等各種應用。AI發展將根據其潛在的社會風險被分為四個類別:最低、有限、高風險和禁止。禁止的使用包括任何規避用戶意願、針對受保護社會群體或提供實時生物特徵跟踪(例如面部識別)的應用。而像ChatGPT這樣的聊天機器人則被歸類為「有限風險」​

該協議要求基礎模型如ChatGPT在上市前遵守透明度義務,包括起草技術文件、遵守歐盟版權法、發布模型訓練的詳細摘要。對於具有系統性風險的高影響基礎模型,還需進行模型評估和對抗性測試,並向歐盟執委會報告嚴重事件​​。

針對AI即時生物辨識的應用,協議規定政府僅能在特定情況下使用該技術,如防止真實、當下或可預見的威脅,並禁止將其應用於行為操縱、社會評分和推斷個人信仰或性取向等,針對違規行為,罰款可高達 750 萬歐元或公司營業額的 1.5% ,到 3500 萬歐元或公司全球營業額的 7% 之間。

此舉體現出全球對AI監管的趨勢,美國總統拜登於今年10月簽署關於AI技術的首份行政命令,加強監管和推動AI技術的發展,以確保國家安全和社會穩定;中國則於今年8月實施「生成式人工智能服務管理暫行辦法」​​。

Leave a Reply

Your email address will not be published. Required fields are marked *