AI規制は、緩めたのか強めたのか
EUのAI法をめぐる5月7日の暫定合意は、規制を強めたという一語でも、緩めたという一語でも読みにくい。高リスクAIの義務は、対象によって2027年12月2日または2028年8月2日へ時間軸を置く。一方で、同意のない性的・親密な生成物や児童性的虐待素材につながるAIシステムは、禁止の方向を前に出した。
ここで変わった前提は、企業がAIを評価する軸だ。モデルがどれだけ賢いか、安いか、速いかだけでは導入判断ができない。禁止すべき出力を止められるか、本人同意をどう扱うか、地域ごとに仕様を変えられるか、あとで監査に耐える証跡を残せるかが、導入の条件に入ってくる。
急がれるのは、被害が出る出力
性的画像生成の禁止が先に立つのは、被害が直接的で拡散が速いからだ。識別可能な人物について、本人同意なしに親密部位や性的行為を描く生成物、また児童性的虐待素材につながる生成物は、いったん流通すれば削除だけで回復しにくい。画像だけでなく、動画や音声も対象になり得るため、単なる画像生成機能の問題ではない。
重要なのは、作った人だけを見ているわけではないことだ。そうした目的でAIシステムを市場に出すこと、安全措置なしに市場に出すこと、その目的で使うことが問題になる。事業者には、利用規約に禁止を書く以上の対応、つまり出力前の制御、検知、通報後の削除、再発防止までを設計に入れる圧力がかかる。
高リスクAIには準備時間が与えられた
一方で、高リスクAIの義務は同じスピードで走らない。特定の高リスク用途は2027年12月2日、EUの製品安全・市場監視法制の対象となる安全部品型AIは2028年8月2日が軸になる。現時点では暫定合意であり、正式採択と最終条文の確認は残る。
これは規制後退というより、義務を動かすための運用時間を置く判断に近い。高リスクAIでは、標準、検査、文書化、監査、現場教育がそろわないまま義務だけ先に始まると、企業は何を満たせばよいか判断しにくい。EUは、被害が即時化しやすい出力は止め、高リスク用途の制度運用は準備してから走らせるという二段構えを取った。
モデルの外側に置かれる制御層
技術的に重要になるのは、モデルそのものの性能だけではない。出力フィルター、年齢や本人同意の確認、プロンプトや生成結果の監査ログ、通報削除の運用、AI生成コンテンツを検知・追跡する透かしが、アプリや配布基盤の中核機能になる。透かし義務も2026年12月2日まで適用が先送りされるが、生成物の追跡可能性という論点は残った。
汎用AIほど難しいのは、用途の切り分けだ。文章、画像、音声、動画を横断して使えるサービスは、無害な編集機能と禁止される生成を同じモデルやUIが扱う場合がある。EU向けだけ機能を制限する地域別仕様、企業版だけログや管理者権限を強める配布設計は、現実的な選択肢になっていく。
企業導入の確認項目が増える
企業ユーザー側でも、実務の負担は増える。社内利用規程では、生成画像の扱い、個人情報や取引先データの投入、社外公開物の確認、問題出力が出た場合の通報・削除手順を決める必要がある。従業員教育も、便利な使い方だけでなく、使ってはいけないデータと用途を明確にする方向へ寄る。
慎重化しやすいのは、採用、人事評価、教育、マーケティング、顧客対応など、人に直接影響する領域だ。ベンダー選定では、精度や料金に加えて、管理者権限、ログ保持、出力制御、データ分離、EU向け仕様への対応が比較される。企業導入の壁は、AIが何をできるかではなく、何をさせない設計を説明できるかに移る。
安全措置が競争軸になる
競争軸も変わる。これまでのAI競争は、モデル性能、価格、応答速度、開発者への配布で語られやすかった。そこに、安全措置、配布地域ごとの仕様、監査対応、学習データと顧客データの管理、管理者が使える権限制御が加わる。企業向け販売では、安全機能は規制対応であると同時に信用材料になる。
大手には、法務、政策、セキュリティ、インフラの対応コストを吸収しやすい利点がある。小規模事業者や新興企業は、同じ水準のログ、通報対応、地域別制限を作る負担が重くなりやすい。簡素化の名目があっても、実装できる安全機能の差が競争力の差になる可能性がある。
次に動くのは仕様、契約、社内ルール
最初に見るべきは、正式採択の時期と最終条文の表現だ。とくに、禁止対象の範囲と合理的な安全措置がどこまで具体化されるかで、AI各社の対応範囲は変わる。
次のサインは、主要AIサービスのEU向け仕様変更、透かしや通報削除の実装、企業向け契約の更新だ。契約書や管理画面に、監査ログ、出力制御、通報対応、データ管理が標準項目として入ってくれば、導入の壁が現実の運用に落ちたと見てよい。逆に、正式採択後も仕様変更が限定的で、企業規程の更新も広がらないなら、今回の影響は当面、特定の生成機能にとどまる。
今回の暫定合意は、AIを使うか使わないかの話ではない。使えるAIの条件が、性能表から統制表へ広がったという話だ。