ChatGPT メーカー OpenAI は、AI が書いたテキストを検出できる無料ツールを持っています

OpenAIは、AIが生成したテキストを検出するための無料だが「不完全な」ツールを提供しており、これがAIリテラシーに関する議論を引き起こすことを期待している。

ChatGPTメーカーのOpenAIは、AIが書いたテキストを検出できる「分類子」ツールをリリースしたが、これに依存すべきではないと指摘している。

ChatGPT が回答を作成できるプロンプトの範囲の広さは、一部の生徒が AI によって生成されたエッセイや宿題を自分の課題として提出し始めているため、教育関係者に懸念を与えています。

教育は、AI が生成したエッセイや宿題の検出を自動化することで、OpenAI の新しい分類器の恩恵を受ける可能性がある分野の 1 つです。ニューヨークの学校が最近行ったように、その使用を制限するという、言うのとは異なる対応が可能になるかもしれない。オーストラリア全土の学校部門もChatGPTを禁止している。

この分類子は、開発者 Q&A サイト Stack Overflow のような企業にも役立つ可能性があります。Stack Overflow は、モデレーターが時には正しい解決策を大量に提供したため、ChatGPT の回答を禁止しました。

OpenAI は、分類器により一部の検出作業を省略できるものの、AI が作成したすべてのテキストを確実に検出することは不可能であり、その有効性に影響を与える多くの制限があると述べています。

この分類器は、AI によって書かれたテキストの 26% (真陽性率) を「AI によって書かれた可能性がある」ものとして正確に識別します。 9% の確率で、人間が書いたテキストを AI が書いたものと誤って識別します。これは誤検知です。言い換えれば、AI によって書かれたことを明らかにしていない人間によって送信されたテキストを検出できない可能性がかなり高く、テキストに誤ったラベルが付けられる可能性が双方向にあります。しかし同社は、この分類器は GPT-2 に基づく以前の検出器よりも「最新の AI システムからのテキストに対する信頼性が大幅に高い」と主張しています。

OpenAIはプレスリリースで「このような不完全なツールが有用かどうかについてフィードバックを得るために、この分類器を一般公開している」と述べ、このツールが「AIリテラシーに関する議論のきっかけになる」ことを期待していると付け加えた。

無料の Web 分類ツールはここから入手できます。これを使用するには、ユーザーはテキストの一部をコピーしてテキスト ボックスに貼り付け、送信を押す必要があります。テキストは、AI によって生成された可能性が「非常に低い」、「可能性が低い」、「可能性があるかどうか不明」、「可能性がある」、または「可能性が高い」と評価されます。

分類子がテキストを分析するには、少なくとも 1,000 文字 (約 150 ～ 250 ワード) が必要です。 OpenAIは、検出プログラムを回避するためにAIが生成したテキストを編集するのは簡単だと警告している。また、このツールは主に大人が書いた英語コンテンツを対象としてトレーニングされているため、子供が書いたテキストや英語以外のテキストに誤ったラベルを付ける可能性が高くなります。

また、OpenAIは「人間の作者と共同で書かれたコンテンツを検出する際の分類器の有効性を十分に評価していない」と述べている。

同ツールは「主要な意思決定ツールとして使用すべきではなく」、テキストの出典を特定する他の方法を補完するものとして使用すべきだとしている。