Post-Deployment: AI Firewall

リアルタイムでモデルを保護

AIシステムに不具合を引き起こすデータが入力されることを防ぎます。

不具合を引き起こすデータをリアルタイムで検知

運用中のモデルはどうしても、学習段階で考慮されていない「質の低い」データを受け取ることになります。
AI Firewallはそうした不具合を引き起こすデータに関して、データがモデルに到達する前に検知/除去/修正できます。
これによりモデル運用の障害を排除し、パフォーマンスを向上させることができます。

データやモデルパイプラインを自動で検証

新しいデータセットやモデルを毎回手作業で検証するのは、コストがかかり間違いも発生しやすい作業です。AI Firewallは、そうしたデータの品質テストを自動化します。
モデルの運用を開始するたびに、カスタマイズされた条件群を自動で構成し、モデルの信頼性を確保するとともに、検証ロジックを個別に設定する時間を短縮します。

変則的なデータにも柔軟に対応

AI Firewallの基本的な動作はAI Stress Testingの結果をもとに実施されますが、不正なデータの処理についてはカスタマイズも可能です。
デフォルトの設定を変更し、特に問題のあるデータポイントについて検知/除去/修正することができます。

モデルのダウンタイムを短縮

AI Firewallは、入力データに対して、リアルタイムで一連の検証を実行します。これにより、重大な問題を発見し、特に問題のあるデータに対してアラートを出し、ユーザによる積極的な対処をサポートします。
その結果、モデルのダウンタイムを短縮することが可能です。

高度なモデル保護

AI Stress Testingで発見した脆弱性をもとに、AI Firewallの機能が自動で設計されます。

リアルタイムでの処理

ほぼリアルタイムで不具合を引き起こすデータからモデルを保護し、モデルのダウンタイムを最小限に抑えます。

スムーズな導入

シンプルなPythonライブラリのインターフェイスにより、たった1行のコードで導入できます。

シームレスな統合

モデルによる推論やモニタリングアプリケーションと接続することで、運用中のAIのフレームワークと連携します。

企業がAIの導入を加速する中で、モデルの失敗がもたらす影響は深刻化しています。企業は、社会的・経済的な悪影響を防ぐため、モデルのライフサイクルを通じて対策を講じなければならなりません。機械学習モデルのガバナンスを実現させるRobust Intelligenceは、NECのAI活用に関する豊富な経験と知識にさらなる強みをもたらします。私たちは、NECの様々な業界のお客様に対して、安全・公正なAIシステムを提供するために協力していきます。

Yousuke Motohashi

Principal Researcher

セブン銀行は、ATMサービスや金融サービスの中核にAIを活用し、社会的な課題やニーズにお客様の視点で取り組んでいます。Robust Intelligenceは、こうしたAI活用において欠かせないモデルの品質を保証するものです。Robust Intelligenceにより、お客様の行動やニーズの変化など、潜在的な変化に対して常にAIの状態を保証することができ、お客様目線のサービスのさらなる飛躍が可能になります。

Yoshiyuki Nakamura

Assistant General Manager, Corporate Transformation

東京海上グループでは、保険金支払業務、商品提案からカスタマーサポートに至るまで、さまざまな領域でAIを活用しています。Alのメリットは計り知れませんが、事業に導入すればするほど、リスクもより深刻化します。Robust Intelligenceが提供するユニークな技術を使えば、Alの脆弱性を特定し、こうしたリスクに対処することができます。私たちは、Robust Intelligenceとの連携を図り、ビジネス上のコラボレーションをさらに加速させることを約束します。

Masashi Namatame

Chief Digital Officer

Robust Intelligenceプラットフォームを利用することで、かつて手動で行っていた品質管理のプロセスが促進され、より効率的で、頑健で、統一的な開発が可能になりました。Robust Intelligenceのエンジニアの技術的なスキルは素晴らしいです。

Eiji Yoshida

Head of IOWN Innovation Office