2024
,
02
,
22
-
3
minute read

Robust Intelligence、米商務省のAI安全性コンソーシアムへの参加が決定

以下の記事は、2月8日に当社USメンバーが執筆した以下のブログ記事の和訳バージョンです。

Robust Intelligenceは、米国政府の新しい安全研究所の下、安全で信頼できるAIの開発と普及を促進するべく、200以上の主要なAI関係者としての参画が決定しました。

米国時間2月8日、Robust Intelligenceが、米国を代表するAI関係者200社以上とともに、信頼できる安全なAIの開発と普及を支える商務省のイニシアチブに参加することが発表されました。商務省の国立標準技術研究所(NIST)により設立された米国AI安全研究所コンソーシアム(AISIC)は、この使命を果たすため、AIの製作者とユーザー、学者、政府および業界の研究者、市民団体を集めています。

「AIの安全性とセキュリティは世界的な関心事です。この課題を解決するには、AIの技術に対応するように設計された新たな戦術を広く採用する必要があります。」とRobust IntelligenceのCTOであるHyrum Andersonは述べます。「Robust Intelligenceは、安全で信頼できるAIの開発と利用を促進し、AIがそのポテンシャルを最大限に発揮できるようにする業界標準を推進するために、我々の専門知識を結集して貢献できることを誇りに思います。」

「米国政府は、必要な基準を設定し、AIのリスクを軽減しつつ、その巨大な可能性を活用するツールを開発する上で重要な役割を担っています。バイデン大統領からは、安全基準の設定とイノベーション・エコシステムの保護という2つの重要な目標を達成するため、あらゆる手段を駆使するよう指示がありました。米国AI安全研究所コンソーシアムは、まさにそのために設立されたのです」と、Gina Raimondo米国商務長官は語りました。「バイデン大統領の画期的な大統領令を通じて、アメリカがトップランナーとなるでしょう。産業界、市民社会、学界のリーダーからなるこのグループと協力することで、私たちは共にこれらの課題に立ち向かい、米国の競争力を維持し、責任を持ってAIを開発するために必要な方策と基準をつくることができます。」

このコンソーシアムには、AIシステムの開発と活用の最前線を走る200以上の企業や組織、また、AIがどのように我々の社会を変革しうるかの理解構築に取り組む市民社会やアカデミアからのチームが加盟しています。これらの団体は、国内の大企業や革新的なスタートアップ、世界で最も先進的なAIシステムやハードウェアの開発者、市民社会や学術界の主要メンバー、そして今日のAI利用に深く関わる専門職を代表しています。コンソーシアムには、州政府や地方自治体、非営利団体も参加しています。コンソーシアムはまた、世界中で相互運用可能で効果的な安全を設定する上で重要な役割を担う、志を同じくする国々の組織とも連携を図っていきます。

Robust Intelligenceのミッションは、地球上のあらゆる組織がAIを安全に導入できるようにすることです。エンド・ツー・エンドのAIセキュリティ・プラットフォームの開発に加え、AIの安全な利用を促進するため、業界が参照するリソースや標準の整備に貢献しています。Robust Intelligenceは、MITRE ATLASの創設メンバーをCTOに迎え、AIリスクデータベースのオープンソース化に取り組むほか、NISTのAdversarial Machine Learning Taxonomyの共同執筆、LLMアプリケーションのトップ10を含むOWASP脅威ランドスケープ策定への協力などを行っています。この度、安全で信頼できる人工知能の開発と配備を促進する米国AI安全研究所コンソーシアムに参画することを誇りに思います。

詳細については、contact@robustintelligence.com までお問い合わせください。

Blog

関連記事

2023
,
11
,
02
-
10
minute read

エグゼクティブイベント “AI Risk Management Summit 2023” 開催報告

Heading
For:
2024
,
01
,
10
-
2
minute read

Robust Intelligence、日本ディープラーニング協会(JDLA)に正会員企業として入会

Heading
For:
2024
,
05
,
30
-
4
minute read

Robust Intelligence、5月に3つの権威あるサイバーセキュリティ賞を受賞

Heading
For:
2024
,
03
,
13
-
3
minute read

Robust Intelligence、日立ソリューションズと協業しAIガバナンスを支援

Heading
For:
2023
,
11
,
18
-
3
minute read

共同創業者の大柴が日韓首脳とのスタートアップ車座対話に出席しました

Heading
For:
2024
,
05
,
30
-
5
minute read

LLMのファインチューニングにより安全性とセキュリティのアラインメントを損なう可能性が明らかに

Heading
For:
2023
,
03
,
16
-
5
minute read

Workday訴訟をきっかけに考える、人事・雇用領域のAIリスク

Heading
For:
2024
,
05
,
20
-
5
minute read

セキュアなAIトランスフォーメーションの実現を目指すRobust Intelligenceが日本語LLM対応の「AI Firewall®」を提供開始

Heading
For:
2023
,
04
,
03
-
7
minute read

Robust Intelligenceのビジョンと日本市場の新体制

Heading
For:
2023
,
04
,
10
-
6
minute read

AIシステム実用化のためのTest-Drivenアプローチ

Heading
For:
2024
,
03
,
29
-
6
minute read

Robust Intelligence、東京海上ディーアール社と日本企業のAI活用支援を目指す協業を開始

Heading
For:
2024
,
02
,
28
-
3
minute read

2024年、AI活用本格化の年に取り組むべきAIリスク対策・AIガバナンスの社会実装

Heading
For:
2023
,
03
,
06
-
5
minute read

自民党・AIプロジェクトチームの議論に参加しました

Heading
For:
2024
,
06
,
17
-
3
minute read

共同創業者の大柴が東京大学の特別講座で講演を行いました

Heading
For:
2023
,
11
,
30
-
3
minute read

政策企画責任者の佐久間がMHMセミナー2023のパネルディスカッションに登壇しました

Heading
For:
2023
,
10
,
25
-
5
minute read

Robust Intelligenceと損保ジャパンが業務提携 〜AIの信頼性確保に向けた大規模言語モデルのリスク評価と全社的なガバナンス体制の構築〜

Heading
For:
2024
,
06
,
19
-
3
minute read

Robust Intelligence、KPMGジャパンと生成AIを含むAI評価、AIガバナンス評価サービスの提供に向けた協業を開始

Heading
For:
2023
,
12
,
08
-
5
minute read

AIを用いたGPT-4やその他のLLMの脱獄の自動化の研究結果を発表

Heading
For:
2023
,
10
,
25
-
5
minute read

より良いAIガバナンス実装に向けて〜「AIガバナンスホワイトペーパー ver. 1.0」の概要〜

Heading
For:
2023
,
12
,
26
-
10
minute read

AIガバナンスをめぐる議論の現在地点 〜「AI事業者ガイドライン案」を踏まえて

Heading
For:
2023
,
07
,
21
-
5
minute read

トラスト確保のための「第三者検証」

Heading
For:
AIリスク管理のソリューションの詳細をご紹介します。
無料デモをリクエスト