Post-Deployment: AI Firewall
リアルタイムでモデルを保護
AIシステムに不具合を引き起こすデータが入力されることを防ぎます。


不具合を引き起こすデータをリアルタイムで検知
運用中のモデルはどうしても、学習段階で考慮されていない「質の低い」データを受け取ることになります。
AI Firewallはそうした不具合を引き起こすデータに関して、データがモデルに到達する前に検知/除去/修正できます。
これによりモデル運用の障害を排除し、パフォーマンスを向上させることができます。
AI Firewallはそうした不具合を引き起こすデータに関して、データがモデルに到達する前に検知/除去/修正できます。
これによりモデル運用の障害を排除し、パフォーマンスを向上させることができます。
データやモデルパイプラインを自動で検証
新しいデータセットやモデルを毎回手作業で検証するのは、コストがかかり間違いも発生しやすい作業です。AI Firewallは、そうしたデータの品質テストを自動化します。
モデルの運用を開始するたびに、カスタマイズされた条件群を自動で構成し、モデルの信頼性を確保するとともに、検証ロジックを個別に設定する時間を短縮します。
モデルの運用を開始するたびに、カスタマイズされた条件群を自動で構成し、モデルの信頼性を確保するとともに、検証ロジックを個別に設定する時間を短縮します。


変則的なデータにも柔軟に対応
AI Firewallの基本的な動作はAI Stress Testingの結果をもとに実施されますが、不正なデータの処理についてはカスタマイズも可能です。
デフォルトの設定を変更し、特に問題のあるデータポイントについて検知/除去/修正することができます。
デフォルトの設定を変更し、特に問題のあるデータポイントについて検知/除去/修正することができます。
モデルのダウンタイムを短縮
AI Firewallは、入力データに対して、リアルタイムで一連の検証を実行します。これにより、重大な問題を発見し、特に問題のあるデータに対してアラートを出し、ユーザによる積極的な対処をサポートします。
その結果、モデルのダウンタイムを短縮することが可能です。
その結果、モデルのダウンタイムを短縮することが可能です。

高度なモデル保護
AI Stress Testingで発見した脆弱性をもとに、AI Firewallの機能が自動で設計されます。
リアルタイムでの処理
ほぼリアルタイムで不具合を引き起こすデータからモデルを保護し、モデルのダウンタイムを最小限に抑えます。
スムーズな導入
シンプルなPythonライブラリのインターフェイスにより、たった1行のコードで導入できます。
シームレスな統合
モデルによる推論やモニタリングアプリケーションと接続することで、運用中のAIのフレームワークと連携します。