アジアの金融業界における “責任ある AI” に関する 5 つの学びとは
※本稿は5 learnings on Asia’s responsible AI journey in financial servicesを翻訳し、一部加筆したものです。
アジアでは、他の地域と同様に、金融サービス業界における人工知能 (AI) の導入が急速に進んでおり、金融サービス機関の 60％ 以上が、パンデミックへの対応として、すでにデジタル化のペースを加速させています。
同地域の金融サービス セクターによる AI への支出は、2024 年に 49 億ドルに達すると推定されます。現在、アジア太平洋地域 (日本を除く) の金融サービス支出は、全世界の AI への支出の 15% を占めており、より多くの金融機関が AI ソリューションを開発・導入することで、今後の大きな成長の可能性があることを示しています。
このように AI の導入が進む中で、AI を、いかに責任を持って導入するかについて、お客さまや規制当局、その他のステークホルダーの関心が高まっています。私たちは、お客様や規制当局と直接協力しているほか、シンガポール金融管理局の Veritas コンソーシアムのようなグループを通じても活動しています (英語ページへ遷移)。ここでは、これらの取り組みから得られた 5 つの事柄をご紹介します。
１．規制当局は、既存の規制上の義務をベースにすることを奨励しており、原理原則に基づいた技術的に中立なアプローチを支持している
金融機関は、アウトソーシングされたテクノロジーの使用、リスク管理、およびガバナンスに関する強固な要件を持つ、高度に規制された業界で運営されています。AI の利用に関しては、金融機関が規制のないところで活動していないことは明らかです。このため、アジアの規制当局からは、AI に特化した新しい金融サービス規制の導入を検討していないという明確な示唆が得られています。むしろ彼らは、AI が責任を持って導入されるように、データ保護、守秘義務と銀行機密、技術とリスク管理、公正な貸し出しなど、既存の規制フレームワークと関連するガイダンスを構築しようとしています。
アジア各国の規制当局は、拘束力のないガイダンスや原則を発表しており、“責任ある AI” (英: Responsible AI) を導入し優良な事例を実証するために、金融機関とテクノロジー パートナーの協力を促しています。このような原則に基づく技術的に中立的な規制アプローチは、アジアにおいてはシンガポールや香港で最も明確に見られます。それは、英国などの管轄区域で世界的に行われているアプローチと同じです。
特に興味深いのは、規制当局と産業界が緊密に協力して、原則を実際の行動に移すことができるようにする、共創的なアプローチが生まれていることです。シンガポール金融管理局 (MAS) の Veritas コンソーシアムはその好例で、MAS はコンソーシアムの第一段階で公正性評価手法を開発するために業界の参加者と積極的に協力しました。拘束力のないこの方法論は、さまざまな金融サービスのユースケースで提起された公正性の検討を評価することをベースに、独自のアプローチで開発されました。コンソーシアムの作業の現在のフェーズでは、マイクロソフトは、金融サービスにおける責任ある AI の実装に関連する規制上の考慮事項に関する議論を促進しています。MAS が Veritas から受け取ったフィードバックは、将来の新しいガイダンスのための重要な学びとなります。
このような共創的なアプローチは、グローバルでも見られます。米国では、米国の金融サービス、テクノロジー、学術業界の主要組織が、新たに「National Council for Artificial Intelligence (NCAI)」の設立を発表しました。英国では、「Artificial Intelligence Public-Private Forum (人工知能官民フォーラム)」が官民を結集し、AI/ML の利用と影響、導入に伴う潜在的なメリットや制約、関連するリスクなどについて、さらなる建設的な対話を促しています。
また、アジアの金融機関の多くは、地域や世界の複数の市場で事業を展開していることから、他の国・地域との連携が重視されるようになっています。規制の一貫性を高めるために、アジア地域の規制当局が連携することには明らかなメリットがあります。責任を持って、規制当局の期待に沿って AI を導入するには、地域の状況に合わせたアプローチをとることが必要ですが (例えば、機械学習に使用するデータ入力がバイアス リスクの軽減に適切かどうかの評価は、状況によって異なります)、規制当局間や産業界との国境を越えた協力は、視点や学習内容を共有する上で大きな価値があります。
２．原則を実践に移すためには、具体的な金融サービスのユースケースで提起される問題を理解することが不可欠となっている
2～3 年前を振り返ると、金融分野における AI の責任ある利用に関する議論は、倫理原則の定義や責任ある AI の必要性の認識を高めることが中心でした。アジアでは、金融機関による AI の導入が進むにつれ、具体的なユースケースに基づいて原則を実践に移すための実践的な検討に取り組みがシフトしてきています。これまでの原則レベルでの議論も重要でしたが、現実のシナリオに適用してこそ、原則を実践に移すことができるのです。規制当局のガイドラインや倫理原則は、ベースラインを設定し、組織が正しい質問をしているかどうかを確認するのに役立ちますが、その後はユースケースに応じたアプローチが必要です。特定の AI ソリューションが導入される状況によって、どのような原則が最も適切であるか、また、提示されたリスクをどのように軽減できるかが決まります。
このユースケース ベースのアプローチの重要性は、マイクロソフトがスタンダードチャータード、ドイツ銀行、VISA、リンクレーターズと共同でシンガポールの AI 倫理原則の適用をテストした際に明らかになりました (英語ページへ遷移)。このプロジェクトでは、過去の支出に基づく旅行パターンの予測、ウェットインク署名の検証の自動化、Know-Your-Customer チェックに関連する規制遵守という、3 つの異なる金融サービスのユースケースに関わる AI の責任ある検討事項を評価するために、共同で作業を行いました。ここで明らかになったのは、特定の原則は文脈によって意味合いが異なり、ある原則はより関連性が高くなったり、低くなったりするということです。
Veritas コンソーシアムでは、同様のユースケース ベースのアプローチを採用しています。金融機関やマイクロソフトなどのテクノロジー企業が作成した具体的なユースケースに基づいて作業を進めることで、責任を持って AI を導入するための取り組みを強化するための重要な知見を得ています。より多くの金融機関がユースケースを共有し、責任ある AI の検討にどのように取り組んだかを示すことで、業界全体が利益を得ることができます。
金融業界以外でも、アジアにおける責任ある AI のユースケースを収集・公開する取り組みを通じて、同様の効果が得られています。これには、オーストラリアの AI 倫理原則のパイロット版 (マイクロソフトは参加した 5 社のうちの 1 社として招待された) や、シンガポールの 2 冊のユースケースが含まれており、その中には金融サービスに関連するものも多く含まれています (英語ページへ遷移)。
３．マテリアリティ ベースのアプローチは、よりセンシティブなユースケースに努力を集中させるのに役立つ
アジアでは、金融サービスにおける AI の利用にガバナンス フレームワークとコントロールを適用する上で重要な進展が見られます。国際金融研究所 (Institute of International Finance) が2020 年に実施した調査 (英語) によると、ほとんどの金融機関が既存のモデルリスク管理やその他のリスク管理フレームワークを使用していることが、Veritas コンソーシアムのようなグループで確認されています。また、AI の最も重要なユースケースを特定することで、被害のリスクが高いと思われるセンシティブな用途に焦点を当てた取り組みを行うことも重要視されています。
例えば、ある金融機関は、最近の議論の中で、可能性のあるすべての AI ユースケースを定期的に棚卸しして見直すのではなく、より精査が必要な重要なユースケースを特定することに注力しているという見解を示しました。これにより、リスクの低い AI アプリケーションの展開が滞るのを防ぎつつ、潜在的にリスクの高いアプリケーションにも十分な注意を払うことができます。これは、マイクロソフトで行っているアプローチに似ています (英語ページへ遷移)。AI システムを構築するチームには、基本的な責任ある AI 基準が適用されますが、危害を加えるリスクが高い重要な用途には、より集中的な審査手順が設けられています。
今後の課題としては、マテリアリティを評価するための共通のアプローチを定義するために、業界を超えたコラボレーションが必要ではないかと考えています。Veritas コンソーシアムのようなグループは、このような議論を促進するのに役立ちます。
４．金融機関とテクノロジー パートナーは、透明性と説明責任を促進することが重要である
AI 技術を導入する金融機関と、金融機関がカスタマイズしたり「既製品」として導入したりする AI ソリューションを提供するソフトウェア開発者の相互補完的な役割について、関心が高まっています。社内に開発チームを持つアジアの大規模な金融機関であっても、サードパーティ ベンダーの AI/ML 製品やインターネットからダウンロードした学習済みのモデルの上に AI システムを構築している可能性があります。そのため、モデル開発者が金融機関とどのように協力すれば、透明性を高め、開発中のソフトウェアに一定の説明責任を持たせることができるかという議論が行われています。AI ソリューションを導入する金融機関は、最終的にはその使用事例が責任を持って実施されていることを保証する責任がありますが、AI ソリューションの開発者は、自社モデルの責任ある使用を促進する上で重要な役割を担っていると考えています。
テクノロジー パートナーは、開発中の AI ソフトウェアの能力と限界に関する技術的および非技術的な情報を共有することで、金融機関がそのソフトウェアを、責任を持って導入するための最善の方法を評価するのに役立ちます。例えば、マイクロソフトは、マーケティングと技術文書の間のギャップを埋めるために、透明性ノートを公開し、当社のAIサービスを責任を持って適用するために必要な重要情報をお客様に提供しています (英語ページへ遷移)。
５．責任ある AI のための多様性と文化の重要性
継続的に学んでいるのは、責任ある AI を実現するための取り組みに、多様な視点を取り入れることの重要性です。責任ある利用の原則が適切に適用され、潜在的な懸念事項が早期に発見され対処されるためには、多様なコラボレーションが何よりも重要であり、健全なチャレンジをもたらします。
多様な視点を取り入れるには、さまざまな方法があります。AI を責任を持って導入するためには、政府、規制当局、業界団体、技術開発者、技術導入者、市民社会団体、最終顧客コミュニティの代表者など、さまざまなステークホルダーを巻き込む必要があります。また、AI アプリケーションを開発するチームだけでなく、法務、コンプライアンス、監査、リスク (オペレーショナル・リスク、レピュテーション・リスク、コンダクト・リスクを含む) など、組織自体の中のさまざまな視点からの意見を取り入れることも重要です。さらに、それらのチームは、性別、民族、障害、経済状況などの多様性を適切に表現し、本質的に多様でなければなりません。これは、アジアがいかに多様であるかを考えると、特に当てはまります。
今後の展開
今後は、既存の取り組みをベースに、金融機関が責任ある AI をどのように導入しているかの理解を深めるため、ユースケースの共有を促進し、金融機関がどのような規制上の問題に対処する必要があるかを検討することが重要です。Veritas のようなイニシアチブは、金融機関が規制当局、テクノロジー企業、その他の業界関係者とソリューションを共同開発するための強力なプラットフォームです。これにより、金融サービス業界全体の AI の利用に関する全体的な理解が強化されるとともに、AI が責任を持って利用されるように、これらの問題が考慮されているという信頼感を規制当局や消費者に与えることができます。
関連情報
MAS press release announcing the publication of the FEAT principles (英語)
White paper from Veritas Phase 1 (英語)
2019 Principles to Practice publication (英語)
Microsoft responsible AI principles (英語)
The building blocks of Microsoft’s responsible AI program (英語)
