AIの安全性を測る「物差し」を日本独自に策定へ――AISI村上所長が語る評価の展望とサイバー攻撃対策
情弱ちゃん
日本でもAIの安全性を評価する基準が作られているって本当?
エンマち
本当だよ。公的機関のAISIが独自のベンチマークを作って2026年度内の評価完了を目指しているんだ。
AIの安全性を測定する独自の「物差し」を策定し、その評価結果を公開する取り組みを日本のAISI(AIセーフティ・インスティテュート)が進めています。村上明子所長によると、独自ベンチマークを用いたAIモデルの評価は2026年度内に完了する見込みです。
日本のAISIは、2024年2月に設立された公的機関です。関係省庁や諸外国の同種機関と連携を図りながら、AIの安全性に関する基準や評価手法の策定を進めています。AIの性能が急速に進化し、安全性への関心が高まる背景において、AISIが果たす役割や今後の取り組みについて村上所長への取材内容が明かされました。
AIの安全対策、「事例の後追いでは間に合わず」
村上所長は、AISIが10月7日に開催した事業者向け実証実験の成果共有会「AISI事業実証WG 2026年度上期報告会」に登壇しました。その中で、AISIの目的を「信頼できるAIの提供に必要な情報や技術を有し、日本を世界で最もAIを開発・活用できる国にすること」と説明しています。
この目的を達成するため、AISIには3つの役割が定められています。
- 信頼できるAI製品やサービスの普及
- AI関連分野における競争力強化
- AIの開発や普及に伴い国家の安全を脅かす事象の抑止
これらを踏まえ、具体的な活動内容として次の4つの項目が整理されています。

- 1)AIの安全性に関する物差し(ベンチマーク)の策定
- 2)AIモデルやシステムを自ら評価する能力の保持
- 3)AI関連情報の収集・分析・提供の主導
- 4)AI安全性に関して国際協調を主導し、国際競争力の向上
村上所長は、AIの安全性に関わる事例が日々発生する中で「こうした事例を後から追いかけても間に合わない」と述べ、実証実験の成果共有などを通じて先回りで検討を進める重要性を指摘しました。
「実装段階の安全性」も評価へ
村上所長は同日、報告会の会場にて報道関係者の取材に応じました。
AIの安全性評価に関しては、英国AISIが開発したAI評価ツール「Inspect」や公開ベンチマークを活用した検証をすでに実施済みとのことです。これに続く独自ベンチマークによる評価についても、2026年度内に完了する予定となっています。
ただし、評価対象とするモデルの選定やベンチマークの公開範囲については現在検討が進められています。村上所長は、公開されているモデルを広く対象に含めたい意向を示しつつも対象は確定しておらず、ベンチマークをすべて公開すると悪意ある者に対策の手の内を知らせることになる懸念を述べています。
今後の注力分野として、多数のAIモデルを継続的に評価できる体制の構築に加え、モデルの実装段階における安全性の評価が挙げられました。AIエージェントやフィジカルAIを想定し、ハーネスなども含めた検証を進める方針です。
情弱ちゃん
モデル単体だけでなく実装段階の安全性も評価するの?
エンマち
AIエージェントやフィジカルAIを見据えて、システム全体での検証を進める方針なんだよ。

セキュリティ専門機関との協力も視野
相次ぐサイバー攻撃への見解と対応についての質問に対し、村上所長は7日取材時点においてAIが関与している証拠はないとしつつも、AIによってシステムの脆弱性を発見する速度が上がっていることは事実であるとの認識を示しました。攻撃側の迅速化に対応するためには、防御側でもAIを活用する必要があるとしています。
村上所長は、AIを駆使する攻撃者に対して人力だけで脆弱性の修正パッチを適用して対抗し続けることの難しさを挙げ、AIの処理速度は人間を超えており24時間365日休まず稼働できる点を強調しました。
AIを悪用したサイバー攻撃への対策はAISI単独では困難であるため、サイバーセキュリティの専門機関と協力していく方針です。インシデントにおいてAIが使用されたかを外部から判別することは難しいため、事案報告の枠組みは既存のサイバーセキュリティインシデントの仕組みを活用する考えを示しました。
表面上からはAIの利用が分からないため、インシデント対応自体はセキュリティの枠組みで行いながら、攻撃手法やAIが持つ能力の把握についてはAISI側も追尾していく必要があるとしています。
情弱ちゃん
サイバー攻撃対策でもAIの活用や専門機関との連携が欠かせないんだね。
エンマち
AIの速度に対抗するため、防御側もAIを使いつつ既存の枠組みと連携していく方針だよ。
価格・仕様・条件は参照資料の取得時点の情報です。一次資料で確認できなかった数値も含まれるため、購入前に販売店・メーカーで最新の条件をご確認ください。