2024
,
05
,
20
-
5
minute read

セキュアなAIトランスフォーメーションの実現を目指すRobust Intelligenceが日本語LLM対応の「AI Firewall®」を提供開始

セキュアなAIトランスフォーメーションの実現を目指すRobust Intelligenceが日本語LLM対応の「AI Firewall®」を提供開始

最新のAIリスク研究に基づき、リアルタイムでAIアプリケーションを保護

 End-to-EndのAIリスク管理ソリューションを提供し、セキュアなAIトランスフォーメーションの実現を目指すシリコンバレー発のAIスタートアップ・Robust Intelligence, Inc.(本社:米国カリフォルニア州、CEO:ヤローン・シンガー、Co-Founder:大柴 行人、以下:ロバストインテリジェンス)は、最新のAIリスク研究の知見に基づき、リアルタイムでAIアプリケーションを有害な入出力から保護する「AI Firewall」の提供を開始します。英語および日本語の大規模言語モデル(以下:LLM)のリスクに対応しています。

 ロバストインテリジェンスは、AIの脆弱性に関する研究に基づき、様々なリスク観点から設計された多数のテストを用いたリスク検証を行い、生成AI・非生成AIを問わず、AIのライフサイクルを通じたリスク管理を可能にするプラットフォーム『Robust Intelligence Platform』を国内外の大手企業の皆様に提供してきました(https://www.robustintelligence.com/jp)。

 ロバストインテリジェンスがこれまで提供してきた、Test-DrivenアプローチによるAIの脆弱性の検証と対策は、安全なAIアプリケーションの開発・運用において非常に有効性が高いものですが、これだけでは十分なリスク対策とは言えなくなりつつあります。

 ChatGPTの普及以降広く知られるようになった「ハルシネーション」「差別的・攻撃的な出力」などの出力の問題にとどまらず、日々AIに対する新たな攻撃手法が発見・報告されている昨今、生成AIの学習データに有害な操作を施す「データポイズニング」、AIモデルやデータから機密情報の漏洩を狙う「プライバシー攻撃」、AIモデルに本来想定されていない挙動を促す「プロンプトインジェクション」など、リアルタイムでの防御を必要とする様々なリスクがAIアプリケーションを取り巻いています。

 こうした多種多様なリスクから運用中のAIアプリケーションをリアルタイムで保護し、企業の安心・安全なAIトランスフォーメーションへの取組をサポートするため、ロバストインテリジェンスは「AI Firewall」の提供を開始します。

 「AI Firewall」はリアルタイムでAIアプリケーションの入出力をモニタリングし、有害な入出力をブロックすることで、運用時におけるリスクの発現を未然に防ぐソリューションです。GoogleやMicrosoft等のテック大手やイェール大学等アカデミア出身の自社のAIリスクリサーチャーによる最新の調査研究を踏まえて開発・アップデートを実施しており、自社が策定に携わったOWASP TOP 10 for LLMやMITRE ATLAS、米国NISTのAdversarial Machine Learning Taxonomyといった最新のリスクフレームワークで重要とされるリスクに対応しています。機密情報(個人情報、PII)の抽出や準拠すべき文脈との出力の矛盾をはじめとして日本語LLMのリスクにも対応しており、今後も対応可能なケースを順次拡充予定です。

 本サービスは、すでに国内でも大手保険会社における導入を開始し、『Robust Intelligence Platform』をすでに導入している国内外の金融・テック系企業でも導入を検討いただいています。サービスの詳細は下記リンク先の紹介ページも併せてご確認ください。

【AI Firewallの特長】

  • リアルタイムのモニタリングで、運用中のAIアプリケーションを有害な入出力から保護
  • AIリスク調査研究の知見に基づき、最新の国際的なリスクフレームワークに適宜対応
  • API接続により、既存のAIアプリケーションに大幅な改変を加えることなく簡単に導入可能
  • AIのセキュリティ対策の問題を個別のAIアプリケーション開発の現場から分離し、セキュリティに専門特化・標準化された対応策を導入

【ロバストインテリジェンス日本事業責任者 平田 泰一 コメント】
 2024年に入り、日本企業も諸外国に大きく遅れを取ることなく、生成AIの本格実装の段階を迎えています。しかし、生成AIは非生成AIと比べて様々なリスクが増大し、不正確な情報・ハルシネーション、バイアス、様々なハッカーからの攻撃、など様々なリスクが質的にも量的にも飛躍的に増大しています。
 このリスクからAIアプリケーションを守るには、サイバーセキュリティにおけるWebアプリケーションファイアウォール(WAF)と同様に、AIのセキュリティに専門特化した「AI Firewall」を導入し、AIアプリケーションの保護を問題として分離しつつ、開発部門が性能や利便性の向上に集中できるようにする手段が非常に有効です。米国で先行して開発し好評を博している「AI Firewall」について、多くのお客様のご要望にお応えして日本語LLMのリスクへの対応版を提供開始でき、ますます安全なAIトランスフォーメーション実現をご支援できることを嬉しく思います。

【ソリューション詳細】
 「AI Firewall」の製品紹介ページは以下のとおりです。詳細のご紹介・デモをご希望の方はリクエストの送付等にてお問い合わせください。
・製品紹介ページ:https://www.robustintelligence.com/jp/platform/ai-firewall
・製品デモのリクエストはこちら:https://www.robustintelligence.com/request-a-demo

 ロバストインテリジェンスは今後も、AIリスクに対応する企業のガバナンス構築を支援し、日本市場におけるAI利活用を後押ししていきます。

【ロバストインテリジェンスについて】
 ロバストインテリジェンスは、2019年にハーバード大学の研究者らが創業したスタートアップ企業です。これまでに世界最大のベンチャーキャピタルであるSequoia Capital等から累計90億円を調達し、セキュアなAIトランスフォーメーションの実現に向けたAIリスク管理のソリューションを提供しています。ロバストインテリジェンスのAIリスク管理プラットフォームは、AIのライフサイクル全体を通じてモデルとデータに対して何百もの自動テストを実施し、品質面、倫理面、セキュリティ面のリスクを未然に防ぐ「AI Testing」と、リアルタイムで有害な入出力をブロックし、AIアプリケーションを保護する「AI Firewall」から構成されます。
 サンフランシスコに本社を置き、アメリカにおいてはJPモルガン・チェース、エクスペディア、米国防総省など、日本国内においては東京海上ホールディングス、楽天グループ、LINEヤフー、NEC、リクルート、SOMPOホールディングスなどの業界リーダーから信頼を得ています。2021年、2022年2年連続で米国調査会社 CB Insights が選ぶ「世界で最も有望な AI スタートアップ 100 社『AI100』」のほか、2023年に「東洋経済すごいベンチャー100」、2024年に「Fortune Cyber 60 2024」に選出されています。

【ロバストインテリジェンス会社概要】https://www.robustintelligence.com/jp
会社名       :Robust Intelligence, Inc.
代表者       :CEO:Yaron Singer、共同創業者:大柴行人
所在地       :555 19th Street San Francisco, CA 94107 U.S.A
設立年月日     :2019年3月14日
従業員数    :70人
主な投資家   :Sequoia Capital、Tiger Global、In-Q-Tel ほか

Blog

関連記事

2024
,
06
,
17
-
3
minute read

共同創業者の大柴が東京大学の特別講座で講演を行いました

Heading
For:
2023
,
04
,
03
-
7
minute read

Robust Intelligenceのビジョンと日本市場の新体制

Heading
For:
2023
,
12
,
26
-
10
minute read

AIガバナンスをめぐる議論の現在地点 〜「AI事業者ガイドライン案」を踏まえて

Heading
For:
2023
,
11
,
02
-
10
minute read

エグゼクティブイベント “AI Risk Management Summit 2023” 開催報告

Heading
For:
2023
,
12
,
08
-
5
minute read

AIを用いたGPT-4やその他のLLMの脱獄の自動化の研究結果を発表

Heading
For:
2023
,
04
,
10
-
6
minute read

AIシステム実用化のためのTest-Drivenアプローチ

Heading
For:
2023
,
07
,
21
-
5
minute read

トラスト確保のための「第三者検証」

Heading
For:
2024
,
05
,
30
-
5
minute read

LLMのファインチューニングにより安全性とセキュリティのアラインメントを損なう可能性が明らかに

Heading
For:
2023
,
11
,
30
-
3
minute read

政策企画責任者の佐久間がMHMセミナー2023のパネルディスカッションに登壇しました

Heading
For:
2024
,
02
,
28
-
3
minute read

2024年、AI活用本格化の年に取り組むべきAIリスク対策・AIガバナンスの社会実装

Heading
For:
2023
,
10
,
25
-
5
minute read

より良いAIガバナンス実装に向けて〜「AIガバナンスホワイトペーパー ver. 1.0」の概要〜

Heading
For:
2023
,
10
,
25
-
5
minute read

Robust Intelligenceと損保ジャパンが業務提携 〜AIの信頼性確保に向けた大規模言語モデルのリスク評価と全社的なガバナンス体制の構築〜

Heading
For:
2024
,
03
,
13
-
3
minute read

Robust Intelligence、日立ソリューションズと協業しAIガバナンスを支援

Heading
For:
2023
,
03
,
16
-
5
minute read

Workday訴訟をきっかけに考える、人事・雇用領域のAIリスク

Heading
For:
2024
,
03
,
29
-
6
minute read

Robust Intelligence、東京海上ディーアール社と日本企業のAI活用支援を目指す協業を開始

Heading
For:
2024
,
01
,
10
-
2
minute read

Robust Intelligence、日本ディープラーニング協会(JDLA)に正会員企業として入会

Heading
For:
2023
,
03
,
06
-
5
minute read

自民党・AIプロジェクトチームの議論に参加しました

Heading
For:
2024
,
02
,
22
-
3
minute read

Robust Intelligence、米商務省のAI安全性コンソーシアムへの参加が決定

Heading
For:
2024
,
05
,
30
-
4
minute read

Robust Intelligence、5月に3つの権威あるサイバーセキュリティ賞を受賞

Heading
For:
2024
,
06
,
19
-
3
minute read

Robust Intelligence、KPMGジャパンと生成AIを含むAI評価、AIガバナンス評価サービスの提供に向けた協業を開始

Heading
For:
2023
,
11
,
18
-
3
minute read

共同創業者の大柴が日韓首脳とのスタートアップ車座対話に出席しました

Heading
For:
AIリスク管理のソリューションの詳細をご紹介します。
無料デモをリクエスト