OpenAI終止區分AI和人類寫作工具

OpenAI終止區分AI和人類寫作工具

OpenAI區分人類及AI寫作困難

OpenAI因區分人類寫作和AI寫作的工具的低準確率,最近終止了此項功能。該公司於7月20日宣布關閉其AI分類器,這項工具本應用於捕捉AI生成的文本,但其準確性一直受到質疑,可能會誤將人寫的文本標記為AI生成的。「我們正在努力吸收反饋意見,目前正在研究更有效的文本來源技術。」該公司表示。OpenAI並計劃開發機制讓用戶了解音頻或視覺內容是否為AI生成的,目前仍尚不清楚這些機制將是什麼。

AI生成文本引起關注

OpenAI的ChatGPT在快速增長成為受歡迎應用之一後,引起了人們的擔憂。教育工作者擔心學生會將ChatGPT用於代寫作業,而不是真正學習。一些行業對AI生成的文本和藝術也感到警惕,擔心其影響力和準確性。

AI的信息誤導

AI通過誤導信息也引發了關注,研究顯示,AI生成的文本(例如推文)可能比人類寫的更具說服力。政府尚未找到如何遏制AI的方法,目前還是讓各單位和組織自行設定規則和制定保護措施來應對大量的AI生成文本。目前似乎沒有答案來解決這些問題,未來將AI和人類的作品輕易區分將變得更加困難

OpenAI面臨調查和內部變動

在聯邦貿易委員會進行OpenAI的信息和數據審核的同時,OpenAI也未獲得它們的信任。然而,OpenAI尚未對這些問題進行進一步評論,僅在博客文章中做出了解釋。

(原文出自:https://www.theverge.com/2023/7/25/23807487/openai-ai-generated-low-accuracy)

Leave a Reply

Your email address will not be published. Required fields are marked *