2023
,
10
,
25
-
5
minute read

Robust Intelligenceと損保ジャパンが業務提携 〜AIの信頼性確保に向けた大規模言語モデルのリスク評価と全社的なガバナンス体制の構築〜

Robust Intelligence, Inc.(米国、CEO Yaron Singer/Co-founder Kojin Oshiba、以下「Robust Intelligence」)は、AIの信頼性確保に向けたガイドラインの策定とリスク管理体制の構築のため、SOMPOホールディングス株式会社(グループCEO取締役代表執行役会長執行役社長:櫻田  謙悟、以下「SOMPOホールディングス」)、損害保険ジャパン株式会社(代表本社:東京都新宿区・取締役社長:白川 儀一、以下「損保ジャパン」)と業務提携を行い、2023年8月より生成AIを活用した業務システムのリスク評価テストを開始しました。 

提携の背景・目的

現代社会におけるAI技術の進歩は目覚ましく、生活者や企業活動における生産性の向上や意思決定スピードの強化など様々な好影響をもたらしています。

損保ジャパンにおいては、「お客さまの安心・安全・健康に資する最高品質のサービスをご提供し、社会に貢献」することを経営理念に掲げ、その実現のため生成AIや音声認証、画像認識といった最先端のAI技術を活用して様々な事業展開を進めています。

一方で、AI活用に際しては品質や倫理、セキュリティといった様々な観点でのリスクが発生します。損保ジャパンにおいても自社のAIサービスの信頼性確保のため、AIリスクを適切に管理し、利用者に対する透明性を確保することが課題となってきました。

そこで、Robust Intelligenceは、AIリスク管理プラットフォーム及び国内外の制度やAIセキュリティに関する専門性や知見を生かし、損保ジャパンのAIサービスの信頼性確保の実現を全面的に支援します。具体的には、Robust Intelligenceが第三者の立場から多数のテストを継続的に実施することでAIモデルのリスクを評価し、それらを適切に管理する方法を提案・議論することで、同社の安全で信頼性の高いサービス提供を実現します。さらに、今回対象としたサービスに限らない幅広いユースケースにおけるリスク対応を見据えて、SOMPOグループ全体に適用可能なガイドライン策定を支援し、全社的なAIガバナンスの構築に向けた取組を後押しします。

取り組みの概要

現在、損保ジャパンでは大規模言語モデルを組み込んだ社内照会システムを開発中です。

本プロジェクトでは、システムのリスクの検証・対策のため、同システムで採用している生成AIモデルに対してRobust Intelligenceのプラットフォームを活用し、品質・倫理・セキュリティなど様々な観点から設計された多数のテストによるリスク評価を行いました。

評価結果とRobust Intelligenceによる分析を通して、生成AIモデルの出力結果の正確性向上のための具体的な対策の検討や、同システムの挙動の特性を踏まえた適切な利用ルールの策定における観点の整理を迅速に行うことができました。

今回のリスク評価の結果は同システムの改善に生かされるだけでなく、SOMPOグループ全社への展開を見据えたAIガイドライン策定にも活用されます。実際に活用しているAIモデルのテスト結果をもとに検討した評価指標をAIガイドラインに反映させることで、より実効性のあるガイドラインの策定・改定につながり、「テスト→評価→評価項目の反映→テスト」というサイクルを回すことでアジャイルなAIガバナンスを実現できます。Robust Intelligenceでは、こうした動的にルールをアップデートしていくプロセスを定着させるための支援も引き続き行っていきます。

損保ジャパンからいただいたコメント

保険業界にもデジタル化の波が押し寄せる中、損保ジャパンでは従来の業務を大胆に変革しつつAIなどの技術を積極的に取り入れ、よりお客さまにとって安心・安全・健康な世界の実現を目指しています。AIの活用には常にリスクが伴いますが、私たちはRobust Intelligenceとともにそれらのリスクを適切にコントロールすることで、お客さま、そして世の中により多くの価値を提供していきます。

村上 明子
執行役員CDO DX推進部長

生成AIを用いたプロトタイプを検証したところ、知見に基づいた網羅的なテストにより、当初想定していなかったリスクが多数炙り出されました。さらに、リスク評価だけでなく製品の品質向上にも踏み込んで具体的なアドバイスも提供していただきました。生成AIは、決定論的ではなく確率論的であり、また自然言語は無限のバリエーションがあることから、信頼できるツールで定期的にリスクを検証することが、リスク管理と品質向上の両方に極めて有用で、今後必須となると確信しています。

石川 隼輔
DX推進部開発推進グループリーダー

AIガバナンスの構築を通じたAI活用の推進に向けて

AIには従来のソフトウェアとは質的・量的に異なるAI固有の脆弱性、「AIリスク」が存在しており、こうしたリスクへの対策はサービスの安全な運用やレピュテーションの観点から経営上の重要課題となりつつあります。また、昨今は国内外のAIリスク管理をめぐる政策的な議論もハイスピードで進んでおり、企業がAI活用による価値創造を考える際には、AIリスク管理をセットで検討することがスタンダードになっていく見込みです。

Robust Intelligenceは、End-to-Endのリスク管理プラットフォームをはじめ、AIリスク対策をシンプルに、迅速化することができるソリューションを開発・提供しています。

今後も、SOMPOホールディングス、損保ジャパンのAI活用を通じた安心・安全・健康に関する社会への価値提供を支援するべく、技術力を生かしたAIモデルの評価及び政策的知見を生かしたガイドライン構築の両面に共同で取り組んでまいります。

【参考:SOMPOホールディングスについて】https://www.sompo-hd.com/
会社名       :SOMPOホールディングス株式会社
代表者       :グループCEO取締役代表執行役会長執行役社長:櫻田 謙悟
所在地       :東京都新宿区西新宿1-26-1
設立年月日     :2010年4月

【参考:損保ジャパンについて】https://www.sompo-japan.co.jp/
会社名       :損害保険ジャパン株式会社
代表者       :取締役社長:白川 儀一
所在地       :東京都新宿区西新宿1-26-1
設立年月日     :1888年10月

【参考:Robust Intelligenceについて】
会社名       :Robust Intelligence, Inc.
代表者       :CEO:Yaron Singer
所在地       :555 19th Street San Francisco, CA 94107 U.S.A
設立年月日     :2019年3月

Blog

関連記事

2023
,
07
,
21
-
5
minute read

トラスト確保のための「第三者検証」

Heading
For:
2023
,
10
,
25
-
5
minute read

より良いAIガバナンス実装に向けて〜「AIガバナンスホワイトペーパー ver. 1.0」の概要〜

Heading
For:
2023
,
04
,
03
-
7
minute read

Robust Intelligenceのビジョンと日本市場の新体制

Heading
For:
2023
,
11
,
18
-
3
minute read

共同創業者の大柴が日韓首脳とのスタートアップ車座対話に出席しました

Heading
For:
2024
,
03
,
29
-
6
minute read

Robust Intelligence、東京海上ディーアール社と日本企業のAI活用支援を目指す協業を開始

Heading
For:
2023
,
03
,
16
-
5
minute read

Workday訴訟をきっかけに考える、人事・雇用領域のAIリスク

Heading
For:
2024
,
02
,
28
-
3
minute read

2024年、AI活用本格化の年に取り組むべきAIリスク対策・AIガバナンスの社会実装

Heading
For:
2023
,
04
,
10
-
6
minute read

AIシステム実用化のためのTest-Drivenアプローチ

Heading
For:
2023
,
03
,
06
-
5
minute read

自民党・AIプロジェクトチームの議論に参加しました

Heading
For:
2024
,
03
,
13
-
3
minute read

Robust Intelligence、日立ソリューションズと協業しAIガバナンスを支援

Heading
For:
2023
,
11
,
30
-
3
minute read

政策企画責任者の佐久間がMHMセミナー2023のパネルディスカッションに登壇しました

Heading
For:
2023
,
12
,
08
-
5
minute read

AIを用いたGPT-4やその他のLLMの脱獄の自動化の研究結果を発表

Heading
For:
2024
,
02
,
22
-
3
minute read

Robust Intelligence、米商務省のAI安全性コンソーシアムへの参加が決定

Heading
For:
2024
,
01
,
10
-
2
minute read

Robust Intelligence、日本ディープラーニング協会(JDLA)に正会員企業として入会

Heading
For:
2023
,
12
,
26
-
10
minute read

AIガバナンスをめぐる議論の現在地点 〜「AI事業者ガイドライン案」を踏まえて

Heading
For:
2023
,
11
,
02
-
10
minute read

エグゼクティブイベント “AI Risk Management Summit 2023” 開催報告

Heading
For:
AIリスク管理のソリューションの詳細をご紹介します。
無料デモをリクエスト