2023
,
11
,
02
-
10
minute read

エグゼクティブイベント “AI Risk Management Summit 2023” 開催報告

2023年10月25日(水)に、Robust Intelligenceは国内で初のエグゼクティブ向けのカンファレンスイベントであるAI Risk Management Summit 2023を開催いたしました。

昨今の生成AIの急速なビジネス利用の拡大を受け、AIの活用シーンとともに、AIリスクが議論される機会も大幅に増加しました。AI活用において、誤りや有害な内容を含む入出力は、サービスの品質や企業のレピュテーションを毀損し、ビジネスに悪影響を与えるため、AIリスク管理は重要度を増しています。特に昨今では、国内の事業者向けガイドラインの統合・刷新を含め、日米欧の規制も急ピッチで進んでおり、AIリスクは避けては通れない喫緊の経営課題となっています。

こうした昨今の流れを受け、AIリスクに関する各業界リーディングプレイヤーの皆様や有識者の皆様にお集まりいただき、日本企業がAIリスク管理をどのように位置付け、立ち向かっていくべきかをご議論いただきました。

以下、開催の様子の一部をお伝えします。

開会挨拶

講演者
平 将明 氏 自由民主党デジタル社会推進本部「AIの進化と実装に関するプロジェクトチーム」座長

冒頭、平 将明衆議院議員から、開催に寄せたビデオメッセージでのご挨拶をいただきました。

自由民主党の「AIの進化と実装に関するプロジェクトチーム」からの政府に対する提言をはじめとする日本のAI政策の動向をご紹介いただくとともに、AIを開発しやすく、実装しやすい社会をつくっていくことへの意気込みと、産業界への期待をお伝えいただきました。

様々な社会課題を抱える日本だからこそ、AI活用でそれらを解いていく必要がある。そしてそのために、民間の知恵を結集してAIのリスクへ対応していかなければならない。こうした力強いメッセージで、本イベントも含め産業界が横断的にAIリスク管理について議論することの重要性を改めてご示唆いただきました。

基調講演「今立ち向かうべき AI Riskとは」

講演者
Yaron Singer CEO, Robust Intelligence, Inc.

基調講演では、Robust Intelligenceの創業者・CEOであるYaron Singerから、AIリスクをテーマとした本イベントの枠組みの導入として、AIリスクとはどのようなものか、また、企業がAIリスク対策に取り組むにあたって踏むべき対策のステップをご紹介しました。

まず、AI、特にLLM(大規模言語モデル)のような生成AIが抱える品質面、倫理面、セキュリティ面の3つのリスクについて、ジェンダーバイアスがかかった出力や悪意あるWebページへの誘導などの実例を交えてご紹介しました。

AIを活用する企業はこういったリスクに対応する必要がありますが、多数の優秀なデータサイエンティストやエンジニアを抱える組織であっても、タイムリーなAIリスク管理を行うことは困難です。手作業でのAIリスクの検証・対策は労働集約的かつ長い時間を要するものとなり、自社のリソースだけで複数のAIモデル・サービスのリスクを管理することは非効率、ないしは不可能といえます。

では、こうした課題に対して企業はどう対処すべきなのか。そこで、Robust Intelligenceの考える、AIリスク管理における以下の4つのステップをご紹介しました。

  1. Policy:AIの脆弱性を特定し、特定したリスクをどのように制御するかを検討した上で、AIリスクに関するポリシーを策定する
  2. Testing:AIモデル・サービスの開発・運用を通じて適用できるテストツールを導入し、AIリスク検証を自動化する
  3. Protection:リアルタイムで問題のある入出力を防ぐAI Firewallを導入し、運用中のAIモデル・サービスを保護する
  4. Reporting:検出されたリスクの報告を自動化し、リスク管理のコストを削減しつつ関係部門のコミュニケーションを促す

これらのステップを踏むことで、必要に応じてリスク管理を自動化することで、企業はAIリスクへの恐れなく新しい事業・サービス開発に注力することができます。

3つのリスクと4つのリスク対策ステップという枠組みは、AIリスクをどう捉え、対応すれば良いのか見通しを立てる上での良い補助線となるでしょう。

パネルディスカッション「AIリスク管理の最前線から」

パネリスト(画面右側から順に)
黒住 昭仁 氏 専務執行役員 CIO & CTO, 楽天グループ株式会社
宮澤 弦 氏 上級執行役員 生成AI統括本部長, LINEヤフー株式会社
森 健太郎 氏 執行役員, 株式会社リクルート

モデレーター
平田 泰一 日本事業責任者, Robust Intelligence, Inc.

日本市場で活動するプレイヤーとしていちはやくAIリスク管理・AIガバナンスの構築に取り組み、成果を上げている3社をパネリストとしてお迎えし、各社での取組について具体的なお話を共有いただきました。

各社のこれまでの達成に触れつつ、組織、人材、プロセス、技術などAIガバナンスの実行に必要なポイントを挙げていただきました。いずれの企業にも共通して語られていたのは、「AIを活用して『攻める』ためにこそ、AIリスク管理が必要だ」ということでした。どこまで踏み込んでAIを活用してよいのか、そのために必要なリスク対策は何か、といった点を明らかにし、社員が安心してAIを活用できる環境を整備することこそが、企業としてのAI活用の第一歩なのだと改めて理解できました。どの企業も、AIガバナンスを単なるコストではなく、ビジネス展開のために必要な投資として捉えていらっしゃったのが印象的でした。

また、AIガバナンスの実行に向けた具体的なポイントの一つとして、社内のDX・リスク・コンプライアンス部門といった多様なステイクホルダーを巻き込むとともに、AIリスクに知見を持つ第三者の関与も確保して施策を検討していくことが挙げられました。外部の専門家の知見を活かし、対外的な透明性を確保するためにも、「第三者検証」は今後のAIガバナンスのひとつのスタンダードになる可能性を秘めていると感じました。

パネルディスカッション「AIのトラスト確保のために〜激動する政策潮流と企業に求められるガバナンスモデル」

パネリスト
岡田 淳 氏 パートナー弁護士, 森・濱田松本法律事務所
落合 孝文 氏 代表取締役共同創業者・弁護士, スマートガバナンス株式会社
原山 優子 氏 東北大学名誉教授
森 正弥 氏 グループパートナー・執行役員, デロイト トーマツ コンサルティング合同会社

モデレーター
佐久間 弘明 政策企画責任者, Robust Intelligence, Inc.

政府の委員会で委員を務められるなど、AIのリスク管理・AIガバナンスに関する有識者として活動されているパネリストを4人お招きし、政策的観点からのパネルディスカッションを行いました。

国内外の政策動向を振り返りつつ、国内の企業が取り組むべき内容についてご意見をいただいたほか、AIガバナンスについて社会全体でどのように合意形成を図り、根付かせていくことができるか、今後必要とされる枠組みについてもご議論いただきました。

議論の中では、政策の動きを他人事として傍観するのではなく、積極的に意見発信し、政策形成者やステイクホルダーとコミュニケーションしていくことの重要性が強調されました。得てして企業は国際的な議論や政府のガイドライン等を所与のものとして受け取ってしまいがちですが、不確実性の高い状況下に置かれた企業には、むしろ積極的にスタンダード形成に関わり、自社のAI活用のあり方を発信していくことが求められているのだと感じました。

また、AIのサプライチェーン上のどのプレイヤーもこのAIガバナンスという課題に関わる、という点も重要なご指摘でした。基盤モデルの開発者、AIサービス提供者、そしてエンドユーザの間で、それぞれがAIリスクを理解し、対策していくことが求められていることを再認識できました。

いずれにせよ、まず第一歩はAIリスクの存在を理解し、明日から議論を始めることです。AIガバナンスが企業にとって「ブレーキ」ではなく、よりうまい活用を進めるための「ガードレール」であるという認識のもと、産業界としてマルチステイクホルダーの議論を進めていくことが重要である−−図らずも一つ前のセッションで産業界のリーダーのみなさまが仰っていたことと重なりますが、それがパネリストの皆様に共通したメッセージでした。

講演「LLMの信頼性確保で目指す「AI立国」」

講演者
吉崎 敏文 氏 執行役 Corporate EVP 兼 CDO, 日本電気株式会社

生成AIの台頭によるビジネス環境への影響を踏まえ、NECが取り組む国産LLM(大規模言語モデル)の信頼性確保とビジネスの展望についてご講演いただきました。

同社は本年(2023年)7月に、130億パラメータで世界トップクラスの日本語性能を有する軽量なLLMの開発について公表しています。具体的な推進体制として、CDO直下にLLM開発や生成AIのソフトウェアサービスの展開を中心に手がける「ビジネス推進(=攻め)」と、グローバルな政策動向も踏まえつつAIガバナンスを構築する「リスクマネジメント(=守り)」の両輪となる機能を備えてLLM事業を進めていることの紹介があり、多くの企業が参照できる枠組みであると感じました。

特にリスクマネジメントについては、エンジニアがAIに関する最先端技術の開発・活用に躊躇してしまわないようにするために、いち早く社内のルール整備を進め、グローバルな政策の最新動向に合わせてアジャストしているというお話があり、早期のAIガバナンス構築の必要性の観点から示唆深いものでした。

また、開発事業者自身ではない第三者の視点を入れて、リスク評価済みの安全・安心な国産LLMを展開し、日本の基盤モデル開発を牽引していくという展望も示され、一貫して日本のLLM開発・利活用のリーダーとして最前線で事業を展開するに当たってのAIリスク管理への強いコミットメントが表れていた講演でした。

閉会挨拶

講演者
大柴 行人 共同創業者, Robust Intelligence, Inc.

最後に、Robust Intelligenceの共同創業者である大柴から閉会のご挨拶を差し上げました。

セッション全体を振り返り、

  1. AIリスクマネジメントに取り組み、積極的に「守り」を固めることによってこそ、存分にAIモデル・サービスの開発や利活用を促進し「攻め」に転じることができること、
  2. 政策・技術が目まぐるしく展開する中で、今こそAIリスクに対処する体制を整え、イノベーションを起こす準備をするタイミングであること、
  3. AIガバナンスは各企業が個別に取り組むだけでなく、国内のマルチステイクホルダーで一丸となって進めていくべきものであること

の3点を全体を総括したメッセージとしてお伝えし、カンファレンスは終了しました。

日本社会のAI活用とリスク管理の未来に向けて

直近1年間はAIの話題がビジネスシーンを席巻し、国内外での新たなモデルやシステムの開発、AIに関する新事業の開始など、AIについて耳にしない日はないほどでした。

日本の企業はリスク対策意識が非常に高く、また、遵法意識も高いと言われています。今回のAI Risk Management Summitに各業界のリーダーにお集まりいただき、「AIリスクは技術的な問題ではなく、社会的な問題である」「新しい技術、画期的な技術であればあるほどリスクとのトレードオフをしっかりと見極めねばならない」などのご発言があったことからも、AI利活用にかかるリスク側面への関心の高さが窺えます。一方で、政策・技術が激しく変化する中で各企業が自らのリソースのみでAIリスク対策を行おうとすると多大なコストがかかり、ともすればビジネスチャンスを逸することにもつながりかねません。「AIの積極的な活用による価値創造と、リスクへの備えや説明責任への取組の両輪が産業界として必要になるのではないか」とのコメントも参加の皆様より頂きましたが、本イベントのセッションを通じて触れられた、第三者の政策的・技術的な知見の活用、マルチステイクホルダーでの共同による国内社会でのAIガバナンスに関する議論の推進が、AIに関する「攻め」と「守り」を両立し、日本のビジネス・イノベーションを前進させて行くうえでの鍵となると考えています。

Robust Intelligenceは、高度なエンジニアリング技術、国内外の制度やAIセキュリティに関する専門性、多くの顧客企業とAIリスク対策に取り組む中で得られた知見をもとに、AIリスク対策をシンプルに、迅速化することができるソリューションを開発・提供しています。これからも、企業のAIリスク管理を強力に支援するプレイヤーとして、AIの活用推進に貢献してまいります。

【開催概要】
名称:AI Risk Management Summit 2023
日時:2023年10月25日(水)16時00分~20時00分
会場:ブルガリホテル東京 Ballroom I, II, III(東京都中央区八重洲2丁目2-1 ミッドタウン八重洲40階)
参加者数:56名(ご招待制)
主催:Robust Intelligence, Inc.

【ご参加者一覧】
以下に掲載した企業・団体、ご参加者を含め、合計46の企業・団体から56名の方にご参加いただきました。

一覧(※氏名五十音順。掲載許可をいただいた企業・団体の代表者のみ掲載。)

市原 尚久 氏 CISO, 株式会社メルカリ
一本木 真史 氏 代表取締役社長, MS&ADインターリスク総研株式会社
梅宮 真 氏 取締役兼執行役副社長, 株式会社みずほフィナンシャルグループ
岡川 隆俊 氏 執行役員 R&D戦略部長, 株式会社NTTドコモ
岡田 淳 氏 パートナー弁護士, 森・濱田松本法律事務所
落合 孝文 氏 代表取締役共同創業者・弁護士, スマートガバナンス株式会社
小野 和俊 氏 取締役 専務執行役員 CDO兼CTO, 株式会社クレディセゾン
河合 祐子 氏 副頭取, 株式会社高知銀行
車 真佐夫 氏 執行役員 CIO グローバルIT本部長, 三菱自動車工業株式会社
黒住 昭仁 氏 専務執行役員 CIO & CTO, 楽天グループ株式会社
黒田 潤 氏 執行役員 ITビジネスプロセス企画部長, 第一生命保険株式会社
小宮 義則 氏 常務執行役員, 株式会社IHI
坂本 康昭 氏 Chief Analytics Officer, マニュライフ生命保険株式会社
佐々木 一浩 氏 常務執行役員 兼 CDO, ソフトバンク株式会社
佐藤 市雄 氏 社長室ビッグデータ担当 部長 兼 SBI生成AI室長, SBIホールディングス
佐藤 和夫 氏 取締役常務執行役員, 日本生命保険相互会社
菅沢 伸浩 氏 常務執行役員, 東京ガス株式会社
鈴木 博司 氏 コンプライアンス・ガバナンス担当役員, 株式会社あおぞら銀行
染谷 豊浩 氏 デロイトアナリティクス パートナー, デロイト トーマツ リスクアドバイザリー株式会社
堤 伸浩 氏, 代表取締役社長, 東京海上ディーアール株式会社
寺沢 慶志 氏 常務取締役 最高財務責任者(CFO) 最高情報責任者(CIO) 経営管理本部長 兼 社長室長, 株式会社ミロク情報サービス
寺元 寛治 氏 取締役兼専務執行役員, オリックス銀行株式会社
冨安 寛 氏 取締役常務執行役員, 株式会社NTTデータ
中山 知章 氏 執行役員 コーポレート・トランスフォーメーション部 セブン・ラボ担当役員, 株式会社セブン銀行
生田目 雅史 氏, 常務執行役員 CDO グループデジタル戦略総括, 東京海上ホールディングス株式会社
西村 佳久 氏 執行役員 イノベーション戦略本部 統括, 東日本旅客鉄道株式会社
原山 優子 氏 東北大学名誉教授
平栗 拓也 氏 執行役員CDO 兼 産業DX部門長, 三菱商事株式会社
古田 貴 氏 執行役員 DX本部長, 三井不動産株式会社
松岡 紀幸 氏 執行役員(兼)総合リスク管理部長, ソニー銀行株式会社
宮澤 弦 氏 上級執行役員 生成AI統括本部長, LINEヤフー株式会社
村瀬 智之 氏 執行役副社長 情報技術担当 CIO 兼 データ管理担当 CDO, 株式会社大和証券グループ本社
村林 聡 氏 取締役副社長, 株式会社インターネットイニシアティブ
森 健太郎 氏 執行役員, 株式会社リクルート
森 正弥 氏 グループパートナー・執行役員, デロイト トーマツ コンサルティング合同会社
森田 英嗣 氏 専務執行役員, 株式会社日立ソリューションズ
横田 浩二 氏 取締役会長, 株式会社みんなの銀行
吉崎 敏文 氏 執行役 Corporate EVP 兼 CDO, 日本電気株式会社

【Robust Intelligenceについて】
Robust Intelligenceは、2019年にハーバード大学の研究者らが創業しました。これまでに世界最大のベンチャーキャピタルであるSequoia Capital等から累計80億円を調達し、AI Securityの実現に向けたAIリスク管理のソリューションを提供しています。
Robust Intelligenceは、End-to-EndのAIリスク管理プラットフォームを提供し、AIリスクから組織を保護します。私たちのプラットフォームは、継続的な検証プロセスを通じて、AIのライフサイクル全体においてモデルとデータに対して何百もの自動テストを実施し、セキュリティ面、倫理面、品質面のリスクを未然に軽減します。Robust Intelligenceはサンフランシスコに本社を置き、アメリカにおいてはJPモルガン・チェース、エクスペディア、米国防総省など、日本国内においては東京海上ホールディングス、SOMPOホールディングス、NEC、楽天グループ、LINEヤフー、リクルートなどの業界リーダーから信頼を得ています。

Blog

関連記事

2024
,
02
,
28
-
3
minute read

2024年、AI活用本格化の年に取り組むべきAIリスク対策・AIガバナンスの社会実装

Heading
For:
2023
,
12
,
08
-
5
minute read

AIを用いたGPT-4やその他のLLMの脱獄の自動化の研究結果を発表

Heading
For:
2023
,
07
,
21
-
5
minute read

トラスト確保のための「第三者検証」

Heading
For:
2023
,
04
,
03
-
7
minute read

Robust Intelligenceのビジョンと日本市場の新体制

Heading
For:
2023
,
10
,
25
-
5
minute read

Robust Intelligenceと損保ジャパンが業務提携 〜AIの信頼性確保に向けた大規模言語モデルのリスク評価と全社的なガバナンス体制の構築〜

Heading
For:
2023
,
11
,
30
-
3
minute read

政策企画責任者の佐久間がMHMセミナー2023のパネルディスカッションに登壇しました

Heading
For:
2023
,
12
,
26
-
10
minute read

AIガバナンスをめぐる議論の現在地点 〜「AI事業者ガイドライン案」を踏まえて

Heading
For:
2023
,
03
,
06
-
5
minute read

自民党・AIプロジェクトチームの議論に参加しました

Heading
For:
2024
,
02
,
22
-
3
minute read

Robust Intelligence、米商務省のAI安全性コンソーシアムへの参加が決定

Heading
For:
2023
,
04
,
10
-
6
minute read

AIシステム実用化のためのTest-Drivenアプローチ

Heading
For:
2023
,
11
,
18
-
3
minute read

共同創業者の大柴が日韓首脳とのスタートアップ車座対話に出席しました

Heading
For:
2023
,
10
,
25
-
5
minute read

より良いAIガバナンス実装に向けて〜「AIガバナンスホワイトペーパー ver. 1.0」の概要〜

Heading
For:
2024
,
03
,
13
-
3
minute read

Robust Intelligence、日立ソリューションズと協業しAIガバナンスを支援

Heading
For:
2024
,
03
,
29
-
6
minute read

Robust Intelligence、東京海上ディーアール社と日本企業のAI活用支援を目指す協業を開始

Heading
For:
2023
,
03
,
16
-
5
minute read

Workday訴訟をきっかけに考える、人事・雇用領域のAIリスク

Heading
For:
2024
,
01
,
10
-
2
minute read

Robust Intelligence、日本ディープラーニング協会(JDLA)に正会員企業として入会

Heading
For:
AIリスク管理のソリューションの詳細をご紹介します。
無料デモをリクエスト