Robust Intelligence, Inc.（米国、CEO Yaron Singer/Co-founder Kojin Oshiba、以下「Robust Intelligence」）は、AIの信頼性確保に向けたガイドラインの策定とリスク管理体制の構築のため、ＳＯＭＰＯホールディングス株式会社（グループCEO取締役代表執行役会長執行役社長：櫻田 謙悟、以下「ＳＯＭＰＯホールディングス」）、損害保険ジャパン株式会社（代表本社：東京都新宿区・取締役社長：白川 儀一、以下「損保ジャパン」）と業務提携を行い、2023年8月より生成AIを活用した業務システムのリスク評価テストを開始しました。
提携の背景・目的
現代社会におけるAI技術の進歩は目覚ましく、生活者や企業活動における生産性の向上や意思決定スピードの強化など様々な好影響をもたらしています。
損保ジャパンにおいては、「お客さまの安心・安全・健康に資する最高品質のサービスをご提供し、社会に貢献」することを経営理念に掲げ、その実現のため生成AIや音声認証、画像認識といった最先端のAI技術を活用して様々な事業展開を進めています。
一方で、AI活用に際しては品質や倫理、セキュリティといった様々な観点でのリスクが発生します。損保ジャパンにおいても自社のAIサービスの信頼性確保のため、AIリスクを適切に管理し、利用者に対する透明性を確保することが課題となってきました。
そこで、Robust Intelligenceは、AIリスク管理プラットフォーム及び国内外の制度やAIセキュリティに関する専門性や知見を生かし、損保ジャパンのAIサービスの信頼性確保の実現を全面的に支援します。具体的には、Robust Intelligenceが第三者の立場から多数のテストを継続的に実施することでAIモデルのリスクを評価し、それらを適切に管理する方法を提案・議論することで、同社の安全で信頼性の高いサービス提供を実現します。さらに、今回対象としたサービスに限らない幅広いユースケースにおけるリスク対応を見据えて、ＳＯＭＰＯグループ全体に適用可能なガイドライン策定を支援し、全社的なAIガバナンスの構築に向けた取組を後押しします。
取り組みの概要
現在、損保ジャパンでは大規模言語モデルを組み込んだ社内照会システムを開発中です。
本プロジェクトでは、システムのリスクの検証・対策のため、同システムで採用している生成AIモデルに対してRobust Intelligenceのプラットフォームを活用し、品質・倫理・セキュリティなど様々な観点から設計された多数のテストによるリスク評価を行いました。
評価結果とRobust Intelligenceによる分析を通して、生成AIモデルの出力結果の正確性向上のための具体的な対策の検討や、同システムの挙動の特性を踏まえた適切な利用ルールの策定における観点の整理を迅速に行うことができました。
今回のリスク評価の結果は同システムの改善に生かされるだけでなく、ＳＯＭＰＯグループ全社への展開を見据えたAIガイドライン策定にも活用されます。実際に活用しているAIモデルのテスト結果をもとに検討した評価指標をAIガイドラインに反映させることで、より実効性のあるガイドラインの策定・改定につながり、「テスト→評価→評価項目の反映→テスト」というサイクルを回すことでアジャイルなAIガバナンスを実現できます。Robust Intelligenceでは、こうした動的にルールをアップデートしていくプロセスを定着させるための支援も引き続き行っていきます。
損保ジャパンからいただいたコメント
保険業界にもデジタル化の波が押し寄せる中、損保ジャパンでは従来の業務を大胆に変革しつつAIなどの技術を積極的に取り入れ、よりお客さまにとって安心・安全・健康な世界の実現を目指しています。AIの活用には常にリスクが伴いますが、私たちはRobust Intelligenceとともにそれらのリスクを適切にコントロールすることで、お客さま、そして世の中により多くの価値を提供していきます。
村上 明子
執行役員CDO DX推進部長
生成AIを用いたプロトタイプを検証したところ、知見に基づいた網羅的なテストにより、当初想定していなかったリスクが多数炙り出されました。さらに、リスク評価だけでなく製品の品質向上にも踏み込んで具体的なアドバイスも提供していただきました。生成AIは、決定論的ではなく確率論的であり、また自然言語は無限のバリエーションがあることから、信頼できるツールで定期的にリスクを検証することが、リスク管理と品質向上の両方に極めて有用で、今後必須となると確信しています。
石川 隼輔
DX推進部開発推進グループリーダー
AIガバナンスの構築を通じたAI活用の推進に向けて
AIには従来のソフトウェアとは質的・量的に異なるAI固有の脆弱性、「AIリスク」が存在しており、こうしたリスクへの対策はサービスの安全な運用やレピュテーションの観点から経営上の重要課題となりつつあります。また、昨今は国内外のAIリスク管理をめぐる政策的な議論もハイスピードで進んでおり、企業がAI活用による価値創造を考える際には、AIリスク管理をセットで検討することがスタンダードになっていく見込みです。
Robust Intelligenceは、End-to-Endのリスク管理プラットフォームをはじめ、AIリスク対策をシンプルに、迅速化することができるソリューションを開発・提供しています。
今後も、ＳＯＭＰＯホールディングス、損保ジャパンのAI活用を通じた安心・安全・健康に関する社会への価値提供を支援するべく、技術力を生かしたAIモデルの評価及び政策的知見を生かしたガイドライン構築の両面に共同で取り組んでまいります。
【参考：ＳＯＭＰＯホールディングスについて】https://www.sompo-hd.com/
会社名 ：ＳＯＭＰＯホールディングス株式会社
代表者 ：グループCEO取締役代表執行役会長執行役社長：櫻田 謙悟
所在地 ：東京都新宿区西新宿1-26-1
設立年月日 ：2010年4月
【参考：損保ジャパンについて】https://www.sompo-japan.co.jp/
会社名 ：損害保険ジャパン株式会社
代表者 ：取締役社長：白川 儀一
所在地 ：東京都新宿区西新宿1-26-1
設立年月日 ：1888年10月
【参考：Robust Intelligenceについて】
会社名 ：Robust Intelligence, Inc.
代表者 ：CEO：Yaron Singer
所在地 ：555 19th Street San Francisco, CA 94107 U.S.A
設立年月日 ：2019年3月
.jpg)
.jpg)
.jpg)
.jpg)
