MIT開發PhotoGuard保護圖像免受惡意AI編輯

MIT開發PhotoGuard保護圖像

發展起源

隨著生成式AI系統的不斷發展,公司們努力將其產品與競爭對手區分開來,使聊天機器人等應用越來越具備編輯和創建圖像的能力。然而,這些新的AI增強功能也帶來了一系列問題,例如對現有在線藝術作品和圖像的未經授權操縱或直接盜竊。為了解決這個問題,水印技術在一定程度上提供了保護,但在更深層次上,麻省理工學院計算機科學與人工智能實驗室(CSAIL)開發的新技術「PhotoGuard」可能成為更有效的解決方案。

干擾AI判讀的原理

PhotoGuard的工作原理是通過修改圖像中的某些像素,以混淆AI的理解能力。這些所謂的「干擾」對於人類來說是不可見的,但機器可以輕易讀取。這種「編碼器」攻擊方法是針對算法模型對目標圖像的潛在表示,即描述圖像中每個像素位置和顏色的複雜數學模型,從而基本上阻止了AI理解圖像。

另一種更高級且計算密集的「擴散」攻擊方法是將圖像偽裝成AI認為是不同圖像。它會定義一個目標圖像並優化圖像中的干擾,使其看起來類似於目標圖像。任何對這些「免疫」圖像的編輯都會應用到虛構的「目標」圖像上,從而生成一幅看起來不真實的圖像。

該研究論文的首席作者Hadi Salman指出PhotoGuard使用編碼器攻擊,使模型誤以為輸入圖像是另一個圖像,並透過擴散攻擊迫使模型編輯目標圖像。但該技術並非萬無一失,惡意行為者可以透過新增數字噪聲、裁剪或翻轉圖片來對受保護的圖檔進行反向工程。

保護數位藝術和數據隱私

Hadi Salman呼籲合作達擊未經授權的圖像的操縱,並指出需更多工作使保護技術變得實際可行,公司應投入工程建設,以抵抗AI工具的潛在威脅。PhotoGuard的出現在保護數位藝術和數據隱私方面提供了更多的選擇和保障。此外,PhotoGuard的出現也為AI技術在創意領域的應用提供了更多可能性。隨著科技的不斷進步,PhotoGuard有望成為確保圖像版權和創意保護的重要工具,為創作者提供更完整和全面的保護。這不僅對保護創作者的權益有益,也可以促進更多的創意和創新在數位領域中的發展。

(原文出自:https://www.engadget.com/mits-photoguard-protects-your-images-from-malicious-ai-edits-213036912.html)

Leave a Reply

Your email address will not be published. Required fields are marked *