AISI、AIロボティクスの安全評価ガイド公開 物理・心理・社会的リスクを整理

AIセーフティ・インスティテュート（AISI、東京・文京区）は7月23日、AI（人工知能）を活用したロボットの社会実装ガイド「AIロボティクスに関するセーフティ評価観点ガイド」を公開したと発表した。AIロボットの利用に伴って生じ得るリスクを特定・評価し、リスク低減策を検討するための観点を示した。

ガイドでは、AIロボットの利用により生じ得るリスクを、物理的リスク、心理的リスク、社会的リスクの3類型で整理した。衝突や接触などの物理的な危害に加え、威圧的な発話や利用者に不安・不快感を与える挙動、差別的な扱いや偽・誤情報の拡散なども対象にした。

評価観点は9項目に整理。カフェ搬送ロボットや遠隔操作型小型配送ロボットを想定ユースケースとして取り上げ、AIロボットの設計・開発・提供・運用で確認すべき観点を示した。AISIが策定した「AIセーフティに関する評価観点ガイド」も参考にした。

対象は、AIを活用し、人と空間を共有しながら移動、対話、搬送などを行うAIロボット。ロボットメーカー、ロボットシステムインテグレーター、コンポーネントメーカーなど、AIロボティクスの開発・提供・運用に関わる事業者が、安全性に配慮した製品・サービスを設計、提供、運用する際の活用を見込む。

ガイドは、AISIの事業実証ワーキンググループの1つであるロボティクスサブワーキンググループが策定した。サブワーキンググループには、産業技術総合研究所や、IHI、川崎重工業、パナソニックホールディングス、日立製作所、富士通、三菱電機、村田製作所などが参加する。

近年、ロボティクス分野ではAIの活用範囲が広がっている。サービスロボットや協働ロボットでは、従来の制御技術に加え、認識、判断、行動の一連の処理を担うAIの役割が高まっている。搬送ロボットや遠隔操作型の配送ロボットでは、障害物回避や経路生成だけでなく、利用者との自然なやり取り、状況に応じた判断、人による適切な介入も重要になる。

一方、AIによる認識や判断の誤り、利用者への心理的影響、データやログの扱い、説明可能性や検証可能性の確保など、従来の機械安全や機能安全に加えて考慮すべき課題も生じている。

AISIでは今回のガイドラインを通じて、AIロボティクス特有のリスクを整理し、実務者が評価やリスク低減策を検討しやすくする狙いがある。今後は、AIロボティクス分野の社会情勢や国際的な規制動向に合わせ、ガイドの内容を必要に応じて更新する。