OpenAI の AI 文字起こしツールは過度に幻覚を起こします - より良い代替手段があります

研究者は、ウィスパーからの「検査した音声転写10件中8件で幻覚を発見した」という。

2022年に発売された人工知能（AI）の音声認識および文字起こしツールであるOpenAIのWhisperは、幻覚を起こしたり、でっちあげたりすることが判明しており、専門家らは、誤った文脈で重大な損害を引き起こす可能性があると懸念している。

先週、AP通信は、ミシガン大学の研究者が公開会議の調査中にウィスパー社が作成した「検査した10件の音声転写のうち8件で幻覚を発見した」と報じた。

このデータポイントは数多くあるデータポイントのうちの1つです。これとは別に、100時間のWhisperの文字起こしをレビューしたエンジニアは、その約50％で幻覚を発見したとAP通信に語った一方、別の開発者はWhisperを使用して生成したほぼすべての文字起こし（合計26,000）で幻覚を発見したと述べました。 。

ユーザーは、AI 文字起こしツールがあちこちで単語やスペルを間違えることを常に予想できますが、研究者らは「AI を利用した文字起こしツールが Whisper ほど幻覚を起こすのを見たことがなかった」と述べています。

OpenAIは、オープンソースのニューラルネットであるWhisperは「英語音声認識において人間レベルの堅牢性と精度に近づいている」と述べている。インタビューの文字起こしや翻訳、ビデオ字幕の作成など、一般的なタイプの音声認識のために、いくつかの業界にわたって広く統合されています。

このレベルの遍在性により、捏造されたテキスト、帰属が間違ってでっち上げられた引用、その他の誤った情報が、元の素材の性質に応じて重要性が異なる可能性がある複数の媒体に急速に拡散する可能性があります。 AP通信によると、WhisperはChatGPTの一部のバージョン、コールセンター、音声アシスタント、OracleとMicrosoftのクラウドプラットフォームに組み込まれており、先月HuggingFaceから420万回以上ダウンロードされたという。

さらに懸念すべきことは、医療専門家が患者と医師の診察を文字に起こすために「ウィスパーベースのツール」を使用するケースが増えていることだと専門家らがAP通信に語った。 AP通信は12人以上のエンジニア、研究者、開発者にインタビューし、ウィスパーが転写テキストのフレーズや全文を捏造し、その一部には「人種的なコメント、暴力的なレトリック、さらには想像上の治療法さえも含まれている可能性がある」ことを確認した。

高等研究所のアロンドラ・ネルソン教授は、「誤診は誰も望んでいない」と語った。

OpenAIは医療用途を推奨していない可能性があるが、同社は「精度の欠陥が結果に明らかな欠陥をもたらす可能性がある、意思決定の場面などの高リスク領域での使用を避ける」とアドバイスしているが、このツールを市場に投入して宣伝している。その精度は、起こり得るリスクに関係なく、作業を迅速化し、可能な限り効率を高めようとしているいくつかの業界で採用される可能性が高いことを意味します。

この問題は、長い音声や録音状態の悪い音声には依存していないようです。 AP通信によると、コンピューター科学者らは最近、短くてクリアな音声サンプルからいくつかの幻覚を発見したという。研究者らはAPに対し、この傾向は「数百万件の録音で数万件の誤った転写につながるだろう」と語った。

「問題の全容を特定するのは難しいが、研究者や技術者らは仕事中にウィスパーの幻覚に頻繁に遭遇したと述べた」とAP通信は報じた。さらに、ギャローデット大学のテクノロジー・アクセス・プログラムを指揮する聴覚障害者であるクリスチャン・フォーグラー氏が指摘したように、聴覚障害者や難聴者は「他の文章の中に隠れている」幻覚を捉えることができない。

研究者らの調査結果は、AI業界におけるより広範な問題を示している。それは、特に米国には依然として適切なAI規制が存在しない中で、利益を得るためにツールがあまりに早く市場に投入されるというものだ。これは、OpenAI で現在進行中の営利団体と非営利団体の議論や、AI のリスクを考慮していない指導者らの最近の予測を考慮すると、関連性があります。

「OpenAIの広報担当者は、同社は幻覚を軽減する方法を継続的に研究しており、研究者の発見を高く評価していると述べ、OpenAIはモデルの更新にフィードバックを組み込んでいると付け加えた」とAP通信は書いた。

OpenAI が問題を解決するのを待っている間、6 つの新しい言語を追加したジャーナリストの信頼できる AI 文字起こしツールである Otter.ai を試してみることをお勧めします。先月、Otter.ai の長年のユーザーの一人は、プラットフォームの新しい AI 概要機能が統計を幻覚させたが、そのエラーは文字起こし自体には含まれていなかったと指摘しました。特に AI がより大きなコンテキストを要約するように求められる場合にはリスクが増大する可能性があるため、その機能に依存しないことが賢明かもしれません。

Otter.ai 独自の文字起こしに関するガイダンスでは幻覚については言及されておらず、「正確さは周囲の騒音、話者のアクセント、会話の複雑さなどの要因に基づいて変化する可能性がある」とだけ述べており、ユーザーに「文字起こしを確認して編集して、特に重要なタスクや重要な会話については、完全な精度を実現します。」

iPhone をお持ちの場合、Apple Intelligence を備えた新しい iOS 18.1 では AI による通話の録音と文字起こしが可能ですが、ZDNET の編集長ジェイソン・ハイナー氏は「まだ開発中」だと述べています。

一方、OpenAI は、2 億 5,000 万人の ChatGPT Plus ユーザーにさらに多くのツールを提供する計画を発表したばかりです。