- OpenAI 擁有準確率高達99.9% 的 AI 檢測工具，但卻選擇不公開。
- OpenAI 擔心公開工具會被破解，並影響 ChatGPT 的使用率。
- OpenAI 正在考慮將工具提供給教育機構或公司，以協助檢測學生的論文是否為 AI 產出。
AI 檢測工具藏玄機？OpenAI 權衡利弊，秘而不宣. Photos provided by unsplash
儘管 OpenAI 開發出準確率高達 99.9% 的 AI 檢測工具，但卻選擇不公開，原因令人玩味。這個決定引發了長達兩年的內部爭論，而現在，一些關鍵資訊終於浮出水面。
根據 OpenAI 的內部文件，這個檢測工具可以分析整個文檔或部分文檔，判斷其是否由 ChatGPT 生成，並給出一個可能性分數。工具透過在 ChatGPT 生成的文字中嵌入浮水印，以此進行辨識。
然而，OpenAI 內部人員擔憂，公開這個工具可能會帶來負面影響。首先，技術被破解的風險很高。如果技術被破解，OpenAI 在 AI 領域的競爭優勢將會被削弱。其次，公開檢測工具可能會影響 ChatGPT 的使用率。OpenAI 調查發現，69% 的 ChatGPT 使用者認為 AI 檢測技術可能會導致錯誤指控；近三分之一的用戶表示，他們可能會因為檢測技術而減少使用 ChatGPT，甚至轉而使用其他 AI 工具。
OpenAI 發言人表示：「他們尤其擔心此工具對母語非英語的用戶群體產生影響。」此言一出，引發不少猜測，是否暗示 OpenAI 的 AI 檢測工具在辨識非英語文字方面存在局限。
值得注意的是，OpenAI 并非完全放弃公开 AI 檢測工具。他們正在考慮將工具提供給教育機構或公司，以協助學校檢測學生的論文是否為 AI 產出。教育界也面临著 AI 作弊的挑戰，民主與科技中心的一項調查發現，59% 的國高中教師確信一些學生使用 AI 完成作業。
OpenAI 發言人表示：「我們正在開發的檢測方法在技術上很有前景，但也存在我們必須權衡的商業風險，所以也同時在研究替代方案。」這表明 OpenAI 仍在尋求平衡創新與商業利益的最佳方式。
生成式 AI 的發展迅速，辨識真假內容越來越困難。許多不肖份子利用 AI 進行詐騙、影響選舉、作弊等行為。因此，如何有效地監管 AI 的發展和應用，已成為全球關注的議題。 OpenAI 此舉是否代表著 AI 發展的倫理困境，抑或是商業考量下的策略性選擇，未來還有待觀察。