AI 倫理ツールキットが更新され、より多くの評価コンポーネントが含まれるようになりました

Veritas Toolkit の 2 回目のバージョンには、人工知能の「責任ある」使用に関して金融機関を導くための説明責任と透明性に関する評価方法論が含まれています。

金融機関が人工知能 (AI) の「責任ある」使用を評価する際に、より多くの領域をカバーできるようにするために、ソフトウェア ツールキットが更新されました。

昨年 2 月に初めて導入されたこの評価ツールキットは、公平性、倫理、説明責任、透明性に関する 4 つの重要な原則に焦点を当てており、総称して FEAT と呼ばれます。金融セクターの企業が AI とデータ分析の使用目的を定義し、潜在的なバイアスを特定するためのチェックリストと方法論を提供します。

このツールキットは、シンガポール金融管理局 (MAS) が主導するコンソーシアムによって開発され、中国銀行、BNY メロン、Google Cloud、マイクロソフト、ゴールドマン サックス、ビザ、OCBC 銀行、アマゾン ウェブ サービス、IBM、そしてシティバンク。

ツールキットの最初のリリースは、FEAT 原則の「公平性」コンポーネントの評価方法論に焦点を当てていました。これには、メトリクス評価の自動化とこの原則の視覚化が含まれていました。

MASによると、2回目の反復では、他の3つの原則のレビュー方法と改善された「公平性」評価方法が含まれるように更新されたという。コンソーシアム内の複数の銀行がツールキットをテストしました。

GitHub で入手可能なオープンソース ツールキットを使用すると、プラグインで金融機関の IT システムとの統合が可能になります。

Veritas と呼ばれるこのコンソーシアムは、方法論をどのように適用できるかを実証し、実装に関する重要な教訓を提供するための新しいユースケースも開発しました。これらには、予測 AI ベースの引受機能の透明性評価を実行した Swiss Reinsurance に関するケーススタディが含まれています。 Google はまた、FEAT 手法をインドの不正検出支払いシステムに適用し、AI の原則とプロセスをマッピングした経験を共有しました。

ベリタスはまた、スタンダードチャータード銀行やHSBCを含む7つの金融機関が共有するAI評価手法と内部ガバナンスフレームワークの統合に関する教訓を概説したホワイトペーパーを発表した。これらには、地理をまたがる「責任ある AI フレームワーク」の必要性や、AI のユースケースに必要なガバナンスを決定するためのリスクベースのモデルの必要性が含まれます。この文書では、金融分野における新世代の AI 専門家向けの責任ある AI 実践とトレーニングについても詳しく説明しています。

MAS 最高フィンテック責任者のソプネンドゥ・モハンティ氏は、「AI の開発の急速なペースを考慮すると、金融機関が AI を責任を持って使用するための堅牢なフレームワークを導入することが重要です。Veritas Toolkit バージョン 2.0 により、金融機関とフィンテック企業は効果的に評価できるようになります」と述べています。公平性、倫理、説明責任、透明性のための AI ユースケース。これは責任ある AI エコシステムの促進に役立ちます。」

シンガポール政府は、生成 AI に関連する 6 つの主要なリスクを特定し、これらの問題にどのように対処できるかに関するフレームワークを提案しました。また、オープンソース コミュニティを活用して、AI 導入のリスクを軽減するテスト ツールキットを開発することを目的とした財団も設立しました。

今月初めにシンガポールを訪問した際、OpenAI CEO のサム・アルトマン氏は、人間による制御を維持しながら、公共の協議と並行して生成 AI の開発を奨励しました。同氏は、これはAIの導入に関連する可能性のある潜在的なリスクや害を軽減するために不可欠であると述べた。

アルトマン氏は、AIが注目を集め各国の関心を集めるにつれ、バイアスとデータのローカリゼーションに関連する課題に対処することも重要であると述べた。 ChatGPT の発案者である OpenAI にとって、それは、特に複数の文化、言語、価値観にまたがる「可能な限り多様な」データセットで生成 AI プラットフォームをトレーニングする方法を見つけることを意味しました。