Microsoft は Azure を通じて AI の責任と安全性を推進

Azure AI Content Safety は現在プレビューで利用可能ですが、Designer と Bing にも追加機能が提供されます。

さまざまな専門家、倫理学者、さらには政府が人工知能ツールの開発と使用における安全性の向上を推進する中、マイクロソフトは構築段階に進み、AI コンテンツの安全性に関する新しい対策を発表しました。

Microsoft は、責任ある AI を目指す一連のアップデートに含まれており、現在プレビュー段階にある Azure AI Content Safety と、Designer や Bing などの AI ツールのメディア来歴機能などの他の対策を開始しました。

Microsoft Designer と Bing Image Creator はどちらも、今後のメディア オリジンのアップデートを通じて、画像またはビデオが AI によって生成されたかどうかを判断できるようになります。これは、AI が生成したメディアの作成に関するメタデータを使用してフラグを付けることができる暗号化手法によって実現されます。

Microsoft Build 開発者カンファレンス中に、同社はプラットフォーム上でコパイロットとプラグインを開発するためのより簡単で合理的な方法も発表しました。 Microsoft のパートナー グループ プロダクト マネージャーである Sarah Bird は、基礎テクノロジーの責任ある AI を指揮しています。

バード氏は、開発者には、これらのツールが正確で意図した結果を表示し、偏った、性差別的、人種差別的、憎悪的、または暴力的なプロンプトを表示しないようにする責任があると説明しました。

「これは GitHub Copilot を動かしている安全システムであり、新しい Bing を動かしている安全システムの一部でもあります。私たちは現在、これをサードパーティの顧客が使用できる製品として発売しています」と Bird 氏は述べています。

人工知能の責任ある開発はテクノロジー企業にとって大きなテーマです。高性能機械学習企業である Vianai Systems の CEO である Vishal Sikka 博士は、安全で信頼性が高く、人間性を高める AI システムが緊急に必要であると説明しています。

「AI モデルの監視、診断、改善、検証のための堅牢なフレームワークと組み合わせて、AI ツールの開発、実装、使用に人間が集中できるようにすることは、この種のシステムに固有のリスクと危険を軽減するのに役立ちます。」と Sikka 氏は付け加えました。

Microsoft の新しい Azure AI サービスは Azure OpenAI サービスに統合され、画像やテキスト内の不適切なコンテンツを認識するために特別に作成されたモデルを採用することで、プログラマーがより安全なオンライン プラットフォームやコミュニティを開発できるようになります。

モデルは不適切なコンテンツにフラグを立てて重大度スコアを割り当て、人間のモデレーターがどのコンテンツに緊急の介入が必要かを判断できるようにします。

さらにバード氏は、Azure AI Content Safety のフィルターはコンテキストに合わせて調整できるため、このシステムはデータの推論にコンテキストを必要とするゲーム プラットフォームなどの非 AI システムでも使用できると説明しました。

AIの責任ある開発はバイデン政権にも及んでいる。マイクロソフト、グーグル、オープンAIなどのAI企業のCEOらは今月初め、カマラ・ハリス副大統領と2時間の会合を開き、AI規制について話し合っており、AI権利章典の策定が進められている。