Microsoft のレッド チームは 2018 年から AI を監視しています。ここでは 5 つの大きな洞察を示します

Microsoftは自社モデルにおけるAIの安全性を確保するための措置を講じており、他社に模範を示したいと考えている。

過去 6 か月間で、人工知能のプラスの影響がこれまで以上に強調されてきましたが、リスクも同様に強調されました。

AI の最も優れた点では、人々が日常業務をより簡単に完了できるようになり、さまざまな業界で仕事のやり方に革命をもたらすブレークスルーを生み出すことさえも可能になりました。

ただし、最悪の場合、AI は誤った情報を生成し、有害または差別的なコンテンツを生成し、セキュリティとプライバシーのリスクを引き起こす可能性があります。そのため、モデルを一般にリリースする前に正確なテストを実行することが非常に重要であり、Microsoft は 5 年前からまさにそれを実行しています。

また: Microsoft は Bing AI をより多くのブラウザに拡張しています - しかし、落とし穴があります

ChatGPT ブームが始まる前、AI はすでに影響力のある新興テクノロジーであったため、Microsoft は 2018 年に AI レッド チームを結成しました。

Microsoftによると、AIレッドチームは「攻撃者の立場になって考え」、「AIシステムに障害がないか調査する」ことでAIモデルのリスクを調査することに専念する学際的な専門家で構成されているという。

立ち上げからほぼ 5 年が経ち、Microsoft は責任ある AI の実装の模範を示すためのレッド チームの実践と学習を共有しています。同社によれば、ベースモデルレベルとアプリケーションレベルの両方でAIモデルをテストすることが不可欠だという。たとえば、Bing Chat の場合、Microsoft は GPT-4 レベルと GPT-4 を利用した実際の検索エクスペリエンスの両方で AI を監視しました。

「どちらのレベルにもそれぞれの利点があります。たとえば、モデルをレッドチーム化すると、モデルが悪用される可能性をプロセスの早い段階で特定し、モデルの機能を範囲化し、モデルの制限を理解するのに役立ちます」と Microsoft は述べています。

同社は、5 年間の経験から得た AI レッド チーミングに関する 5 つの重要な洞察を共有します。

1 つ目は、AI レッドチームの広がりです。 AI レッド チームは、単にセキュリティをテストするのではなく、公平性や有害なコンテンツの生成などの要素をテストする一連のテクニックです。

2 つ目は、悪意のあるペルソナと良性のペルソナの両方による失敗に焦点を当てる必要があることです。レッドチームは通常、悪性攻撃者がテクノロジーをどのように使用するかに焦点を当てていますが、平均的なユーザーにとって有害なコンテンツがどのように生成されるかをテストすることも不可欠です。

「新しいBingでは、AIレッドチームは、悪意のある敵がセキュリティを重視した技術やエクスプロイトを通じてどのようにAIシステムを破壊することができるかだけでなく、通常のユーザーがシステムを操作するときにシステムがどのように問題のある有害なコンテンツを生成するかにも焦点を当てています。」とマイクロソフトは言います。

3 番目の洞察は、AI システムは常に進化しており、その結果、これらの AI システムを複数の異なるレベルでレッド チーム化する必要があるということです。これが 4 番目の洞察につながります。つまり、生成 AI システムのレッド チーム化には複数の試行が必要です。

また: 今週はChatGPT に多数のアップデートが提供されます。知っておくべきことは次のとおりです。

生成 AI システムを操作するたびに、異なる出力が得られる可能性があります。したがって、システム障害が見逃されないようにするには、レッド チーム化を複数回試みる必要があると Microsoft は考えています。

最後に Microsoft は、AI の障害を軽減するには多層防御が必要であると述べています。つまり、レッド チームが問題を特定したら、問題に対処するためにさまざまな技術的な軽減策が必要になるということです。

Microsoft が導入したような対策は、新たな AI システムに対する懸念を軽減すると同時に、それらのシステムに伴うリスクの軽減にも役立つはずです。