OpenAI 正在開發一個用於檢測 ChatGPT 生成的文字的工具,以解決學生利用 ChatGPT 作弊的問題。然而,該公司尚未決定是否要推出這個工具,因為擔心它可能會失去用戶,並可能帶來其他負面影響。該工具使用文字浮水印技術,可以透過改變 ChatGPT 的令牌選擇過程,在文字中建立可識別的模式,準確率高達 99.9%。

ChatGPT 自推出以來,就一直被用於學生作弊寫作業,引發了廣泛的爭議。根據民主與科技中心(CDT)的一項調查,高達 59% 的初中和高中教師發現學生在作業中濫用 AI 作弊,比上學年大幅提高了 17 個百分點。這項調查結果顯示了 AI 作弊在教育領域的嚴重性,因此 OpenAI 正在努力開發工具來解決這個問題。

OpenAI 的執行長 Sam Altman 和技術長 Mira Murati 尚未發表該功能,因為它並不完全有效,並且可能會損害其業務。OpenAI 擔心如果偵測功能上線,可能會失去用戶。此外,該工具也可能被學生用來規避,例如透過重新組裝措辭、翻譯語言或刪除表情符號等方式。為了避免誤報,OpenAI 正在測試使用文字中加密簽名的元資料。

OpenAI 發言人表示:「我們正在採取深思熟慮的方法來檢測 AI 撰寫的文本,因為「涉及的複雜性及其可能對 OpenAI 之外更廣泛的生態系統產生影響」。OpenAI 在對透明度的承諾和賺取收入的需要之間左右為難,但它有道德義務做正確的事,其他缺乏檢測方法的 AI 工具並不是 ChatGPT 跳過實現該功能的藉口。

OpenAI 的工具可能會幫助教育工作者解決學生濫用 AI 作弊的挑戰,但它可能無法完全防止學生作弊。OpenAI 需要在透明度、盈利和道德責任之間取得平衡。對於 OpenAI 來說,這是一個艱難的抉擇,他們需要仔細考量所有因素,才能做出最佳的決定。

By 張宇翔

期待在科技迅速變遷的時代,以最前沿的視角,深入淺出地介紹科技趨勢,幫助讀者輕鬆理解最新的科技發展。明智媒體 Bright Headlines 特派記者。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *