現場で自律的に動くロボットやAIに、人間はどこまで「関与」し続けるべきか。 2026年3月31日、経済産業省と総務省は「AI事業者ガイドライン」を第1.2版に改訂した。注目すべきは、この1.2版が、自律的に行動するAIエージェントや、物理世界に直接作用するフィジカルAIを新たに正面から扱い、これらに対して人間の関与・判断を確保する仕組みを求めた点だ。

製造現場は、フィジカルAIが最も具体的に立ち上がる場所だ。協働ロボット、自律搬送、AIによる外観検査や設備制御——これらを導入するとき、「人間の関与（HITL：Human-in-the-loop）」という原則は、現場の労働安全と切り離せない。本記事では、ガイドライン1.2版の考え方と、協働ロボットの安全規格・リスクアセスメントをどう両立させ、システムとして設計するかを整理する。

この記事の要点

  • AI事業者ガイドラインは第1.2版（2026年3月31日・経産省／総務省）で、AIエージェントとフィジカルAIを新たに扱い、人間の関与・判断を確保する仕組みを求めた。ガイドラインは法的拘束力のないソフトロー（リビング・ドキュメント）。
  • フィジカルAIとは、センサーで環境を捉え、AIで処理し、移動・操作・加工など物理世界に直接作用するシステム（NVIDIA・経産省の整理）。「人間のように考える」ものではなく、環境を認識して自律的に行動を選択・実行するもの。
  • 製造現場では、この「人間の関与」原則が労働安全と直結する。協働ロボットの安全はISO 10218-1／-2:2025（ISO/TS 15066の力・圧力しきい値が統合）が土台。
  • 機械のリスクアセスメントは労働安全衛生法第28条の2に基づく努力義務。AIガバナンスと労働安全を別々にせず、一体で設計する。

ガイドライン1.2版が「フィジカルAI」を扱い始めた意味

AI事業者ガイドラインは、経済産業省と総務省が共同で策定する、AIの開発・提供・利用に関する指針だ。法的拘束力を持つ規制ではなく、技術の進展に合わせて更新される「リビング・ドキュメント」（アジャイル・ガバナンス）として位置づけられている。版の変遷は、v1.0（2024年4月）、v1.1（2025年3月）、そしてv1.2（2026年3月31日）だ。

1.2版の重要な変化は、AIエージェントとフィジカルAIを新たに扱ったことにある。従来のAIは主にデジタル空間で動いたが、自律的に行動するエージェントや、物理世界に作用するフィジカルAIは、誤作動が即座に現実の影響——とりわけ製造現場では人身・設備の安全——につながる。だからこそ1.2版は、こうした自律的なシステムに対して、リスクに応じて人間の関与・判断を確保する仕組みを設けることを求めている。

ガイドラインの共通の指針には、「人間中心」（AIは人間の判断・自律を支援する道具である）や、「公平性」の文脈での「人間の判断の介在」（AIに判断を委ねきらず、適切なタイミングで人間が関与する）といった考え方が示されている。フィジカルAIは、まさにこの原則が現場で問われる対象だ。

補足：フィジカルAIとは、センサーで環境情報を取り込み、AIモデルで処理し、移動・操作・加工といった形で物理世界に直接作用するシステムを指す（NVIDIAや経産省の整理）。「人間のように思考・判断する」ものではなく、環境を認識して自律的に行動を選択・実行する点が要点だ。

製造現場では「人間の関与」が労働安全に直結する

オフィスのAIエージェントなら、誤りがあっても人間が後から修正できる。しかし製造現場のフィジカルAI——人と同じ空間で動く協働ロボットや自律搬送——では、人間の関与の設計が、そのまま労働者の安全になる。「人間の判断の介在」は、抽象的なガバナンス論ではなく、非常停止・速度制限・立入制御といった具体的な安全設計に落ちる。

ここで土台になるのが、ロボットの安全規格だ。

  • ISO 10218-1／-2:2025：産業用ロボットの安全規格（2025年改訂）。改訂で、協働作業（人とロボットが空間を共有する用途）の力・圧力しきい値などを定めていたISO/TS 15066の内容がISO 10218-2:2025に統合された。協働ロボットを「特別なロボット」ではなく「協働的な用途」として捉える整理になっている。
  • 労働安全衛生法 第28条の2（リスクアセスメント）：機械等によるリスクの調査・低減は努力義務とされる。協働ロボット導入時のリスクアセスメントは、この枠組みで実施するのが基本だ（法的な義務ではなく努力義務である点に注意）。
  • 実務面では、ロボット革命・産業IoTイニシアティブ協議会（RRI）の「協働ロボットの安全解説書」（2023年）などが、現場のリスクアセスメントの参考になる。

ポイントは、AIガバナンス（ガイドライン1.2版の人間の関与）と労働安全（ロボット安全規格・リスクアセスメント）を別々の話にしないことだ。フィジカルAIの導入では、両者は同じ「人間の関与をどう設計するか」という問いの表裏になる。

システムとして設計する：3つの設計軸

フィジカルAIを「現場の便利な機械」として点で入れるのではなく、人間の関与を組み込んだシステムとして設計する。軸は3つだ。

1. 人間の関与点（HITL）の設計

どの判断をAI／ロボットに任せ、どこで人間が確認・承認・介入するかを明確にする。異常時に誰がどう止め、誰が再開を判断するか——非常停止・監視・承認のフローを設計に組み込む。これがガイドライン1.2版の「人間の関与・判断の確保」を現場に落とす作業だ。

2. 安全と一体のリスクアセスメント

ISO 10218:2025を土台に、人とロボットが共有する空間・速度・接触リスクを評価し、低減策（速度制限、立入制御、力・圧力の制限等）を設計する。AIの判断ロジックの誤作動も、リスク要因として評価対象に含める。

3. データと運用の基盤

フィジカルAIは現場データで動く。検知ログ・稼働データ・異常履歴を蓄積・活用できる基盤がなければ、改善も説明責任も果たせない。製造データをAIで使える状態にする考え方は製造業データのAI-Ready化（GENIAC）・AI-Readyなデータ基盤の作り方で整理している。

この3軸を、自社の現場・工程に合わせて設計・実装するのが、製造業DX／受発注システム開発やAIサービスの役割だ。「そもそもAI・ロボットで解くべき工程か」の見極めはAI導入可否アセスメントが入口になる。

現場へのAI・ロボット導入、「人の関与」から設計しませんか

GXOでは、AI・ロボットで解くべき工程かの見極めから、人間の関与点（HITL）の設計、労働安全と一体のリスク評価、データ基盤の整備までを支援しています。「導入したいが、安全とガバナンスの両立が不安」という段階のご相談を歓迎します。

製造現場のAI導入を相談する → GXO お問い合わせ

※ 営業電話はしません ｜ オンライン対応可 ｜ 構想段階の相談だけでもOK

よくある質問（FAQ）

Q1. AI事業者ガイドライン1.2版は守らないと罰則がありますか？

AI事業者ガイドラインは法的拘束力を持つ規制ではなく、ソフトロー（事業者が参照する指針）です。罰則はありません。ただし、AIの安全・公平・透明性に関する社会的な期待を整理したものであり、特にフィジカルAIのように安全に直結する用途では、実質的な「守るべき考え方」として参照する価値があります。

Q2. フィジカルAIとは具体的に何ですか？

センサーで環境を捉え、AIで処理し、移動・操作・加工など物理世界に直接作用するシステムを指します。製造現場でいえば、協働ロボット、自律搬送（AMR）、AIによる外観検査・設備制御などが該当します。「人間のように考える」ものではなく、環境を認識して自律的に行動を選択・実行する点が特徴です。

Q3. 協働ロボットの安全はどの規格を見ればよいですか？

ISO 10218-1／-2:2025が土台です。2025年の改訂で、協働作業の力・圧力しきい値などを定めていたISO/TS 15066の内容がISO 10218-2:2025に統合されました。加えて、労働安全衛生法第28条の2に基づくリスクアセスメント（努力義務）を実施し、現場の状況に応じた低減策を設計します。

Q4. AIガバナンスと労働安全は別々に考えるべきですか？

いいえ。フィジカルAIの導入では、ガイドライン1.2版が求める「人間の関与・判断の確保」と、ロボット安全規格・リスクアセスメントが求める安全設計は、同じ「人間の関与をどう設計するか」という問いの表裏です。両者を一体で設計することをおすすめします。

まとめ：1.2版は「現場の安全設計」として読む

AI事業者ガイドライン第1.2版は、フィジカルAIやAIエージェントを正面から扱い、人間の関与・判断を確保する仕組みを求めた。製造現場では、この原則は抽象論ではなく、協働ロボットの非常停止・速度制限・立入制御といった労働安全の設計そのものになる。土台はISO 10218:2025とリスクアセスメント（安衛法28条の2の努力義務）であり、AIガバナンスと労働安全は一体で設計すべきだ。

フィジカルAIは「便利な機械を点で入れる」のではなく、人間の関与とデータ基盤を組み込んだシステムとして設計してこそ、安全と成果を両立できる。GXOは、工程の見極めから、HITLの設計、労働安全と一体のリスク評価、データ基盤の整備まで支援している。詳細は製造業DX・AIサービス・AI導入可否アセスメントをご覧いただきたい。

「安全とガバナンスの両立」を、設計段階から

協働ロボットや自律システムの導入を、人間の関与点の設計・リスク評価・データ基盤までまとめて整理します。現場の工程に合わせて、安全と成果を両立する進め方をご提案します。

フィジカルAI導入の現在地を相談する → GXO お問い合わせ

参考情報

  • 経済産業省・総務省「AI事業者ガイドライン（第1.2版）」本編（2026年3月31日公表。AIエージェント・フィジカルAIを新たに扱い、人間の関与・判断の確保を求める）：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html
  • 同・概要：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_2.pdf
  • NVIDIA「What is Physical AI?」（環境を認識し、物理世界で自律的に行動するシステム）：https://www.nvidia.com/en-us/glossary/generative-physical-ai/
  • ISO 10218-1:2025／ISO 10218-2:2025（産業用ロボットの安全。2025年改訂でISO/TS 15066の協働作業の力・圧力しきい値が統合された）：https://www.iso.org/standard/73933.html
  • ロボット革命・産業IoTイニシアティブ協議会（RRI）「協働ロボットの安全解説書」（2023年）：https://www.jmfrri.gr.jp/
  • ※ 機械のリスクアセスメントは労働安全衛生法第28条の2に基づく努力義務であり、法的な義務ではない点に留意。ガイドラインの個別条項を引用する際は最新の本編PDFを確認のこと。

関連記事