Gemini 遭Google暫停人物圖像生成功能

近期,Google的人工智慧聊天機器人Gemini在生成用戶要求的人類圖像時,因應族群多元化原則而改造歷史人物或名人長相,導致多起種族方面的錯誤。這一系列事件促使Google緊急修正,暫時關閉了Gemini的人物圖像生成功能。

Google透過X官方帳號表示,團隊正在解決Gemini圖像生成功能近日出現的問題,並將暫停該功能,預計不久後會推出改善版本。這次的爭議主要發生在用戶利用Gemini生成的一些歷史人物圖像中,例如生成的非裔美國開國元勛、看起來不像Google創辦人Larry Page及Sergey Brin的圖像,以及亞洲臉孔的納粹軍官、非裔天主教教宗等,顯示出用以設計Gemini生成內容的平等、多元化原則套用在歷史人物上並不完全適用。

Google坦承,Gemini的AI圖像生成功能確實產出了各種人物圖像,這通常是好事,因為使用者來自世界各地,但此次事件卻顯得尷尬。此外,這不是生成式AI首次出現圖片爭議。去年,Midjourney的免費版AI圖片生成服務和微軟的圖片AI生成工具也曾因類似問題引發爭議。

為了防止濫用並避免引發爭議或當局介入,從OpenAI到微軟、Google、Meta等主要業者在任何圖片或影片AI生成服務上線前,都會設下使用限制並找來專業團隊進行攻擊演練。

Leave a Reply

Your email address will not be published. Required fields are marked *