OpenAI、内部告発を受けて安全性に関する最新情報を共有、議員要求

X スレッドで、AI の巨人は「私たちが仕事において安全性をどのように優先しているか」について説明しています。ここに新機能があります。

安全性は、生成人工知能モデルの急速な成長を取り巻く最大の懸念事項の 1 つです。 OpenAIの安全慣行に関して内部告発者が提出し、ワシントン・ポスト紙が入手した7ページにわたる告訴状は、こうした懸念を高めるだけだった。その結果、OpenAI は現在、安全性への取り組みに関する最新情報を一般の人々と共有しています。

火曜日、OpenAIはX（旧Twitter）に「私たちが仕事において安全性をどのように優先しているか」に関する最新情報をまとめて共有した。このスレッドには、最近の取り組みや現在のプロジェクトの最新情報のハイライトが含まれていました。

AI がすべての人に利益をもたらすことを保証するには、便利で安全な AI を構築することから始めます。仕事において安全をどのように優先しているかについて最新情報を共有したいと思います。

OpenAI はまず、12 月に初めてベータ版がリリースされた Preparedness Framework を強調しました。このフレームワークには、さまざまな指標に関するモデルのスコアカードを提供することや、「中」のリスクしきい値を超えた場合には新しいモデルをリリースしないことなど、OpenAI がフロンティア AI モデルの安全性を確保するために講じるさまざまな予防措置が含まれています。

同時に、OpenAI は、OpenAI と関係者が AI の進歩を分類および追跡できるようにするための「レベル」を積極的に開発中であることを共有し、同社はこれについて「間もなく」詳細を共有する予定であると述べた。

OpenAIはまた、安全・セキュリティ委員会に関する最新情報も提供した。この委員会は、運営にもう一つの抑制と均衡の層を追加するために5月にOpenAIの取締役会によって初めて立ち上げられた。技術専門家や政策専門家を含む委員会による検討が現在進行中である。結論が出次第、OpenAIは今後の計画を共有する予定だ。

最後に、OpenAI は、「従業員が保護された開示を行う権利を保護する」という内部告発ポリシーに注目を集めたと同社は述べています。このテクノロジーに関する会話を促進するために、同社は従業員の退職プロセスも変更し、軽蔑しない用語を削除しました。

OpenAI は、内部告発報告を受けて米国の議員が OpenAI に安全慣行に関するデータの共有を要求したわずか 1 日後に、これらの最新情報を共有しました。報告書の主な論点には、OpenAIが従業員がテクノロジーリスクに関して適切な当局に警告するのを妨げたこと、従業員に内部告発者への補償に対する連邦政府の権利を放棄させたことなどが含まれており、どちらもX投稿で取り上げられていた。