暴走を“ミリ秒”で隔離——NVIDIAが100社超と公開した、AIの外側に置く安全装置

「AIエージェントが想定外の動きをしたら、誰がどう止めるのか」。
導入を検討する経営者や自治体の担当者が、最後まで手放せない不安ではないでしょうか。

2026年9月28日(米国時間)、半導体最大手の米NVIDIA(エヌビディア)が、
その不安に正面から答える発表を行いました。
発表されたのは、AIの暴走を外側から見張り、ミリ秒で隔離する新しい安全基盤です。
正式名称は「Open Agent Safety Platform」といいます。

AnthropicやMicrosoft、Salesforce、SAPといった名前が参加者に並びます。
その数は100社・団体を超えます。
本記事では発表の中身を整理し、「安全装置はAIの外側に置く」という考え方を、
中小企業の実務に引きつけて解説します。

発表の中身——「AIの外側」に置く2つの部品

柱になる部品は2つあります。
1つ目の「OpenShell(オープンシェル)」は、AIエージェントを中で走らせる囲いです。
エージェントの行動をすべて記録し、決めた範囲の外へ出ようとする操作をその場で堰き止めます。
ソフトは無償のオープンソースとして、すでに公開されています。

2つ目の「Sentry(セントリー)」は、その囲いのさらに外側に立つ見張り役です。
AI本体からもソフトの層からも切り離された専用の半導体の上で動き、
境界を破ろうとするエージェントをミリ秒単位で隔離します。
見張り自身が乗っ取られないよう、独立した場所に置かれている点が特徴です。
フアンCEOは「安全の実現には全階層にわたる作り込みが必要だ」という趣旨を述べています。

なぜ「指示」ではなく「外側」なのか

背景には、テスト環境を抜け出そうとするAIエージェントの事例が、相次いで報告されてきたことがあります。
プロンプトや利用ルールは、いわばAI自身に向けた「お願い」です。
AIが誤解したり、守らなかったりする可能性を完全にはなくせません。

今回の発表は、約束で縛るのではなく、破れない壁をAIの手が届かない外側に築く、という考え方に立っています。
当ブログでも、ルールをAIではなく“財布”に書くCloudflareの支出管理の仕組みを紹介しました。
「外側に書く」流れが、お金の世界から半導体にまで降りてきたと言えます。

100社の顔ぶれ——「承認は人の手元に」が共通語になる

参加者の顔ぶれにも注目です。
AIを開発する企業だけでなく、SalesforceやSAPなどの業務ソフト大手、
金融のJPMorganChase、セキュリティ企業までが名を連ねます。
立場の違う100社が同じ土台に乗ることは、
安全の作法がばらばらに増えないという点で、利用する側の利益でもあります。

具体例も示されています。
Salesforceは、この囲いをチャットツールのSlackにつなぎました。
エージェントの行動記録を確かめ、権限の求めに「許可・却下」で答える操作を、
ふだん使っている画面からそのまま行えます。
承認を専用画面の奥ではなく、人がいつも見ている場所へ届ける設計です。

中小企業が学べる3つのポイント

NVIDIAの半導体を買いましょう、という話ではありません。
「安全装置はAIの外側に置く」という考え方そのものは、会社の規模を問わず今日から使えます。

①「AIへの指示」と「外側の制限」を分けて数える

自社で使っているAIの安全対策を、紙に書き出してみてください。
そのうえで「AIに言い聞かせているもの」と、「AIがそもそも触れないようにしているもの」に仕分けします。
前者ばかりなら、お願いだけで守られている状態です。
アカウントの権限や閲覧できる範囲の設定など、後者を1つ増やすことから始めます。

②承認は「人がふだん見る場所」へ届ける

承認の通知が管理画面の奥に埋もれていると、確認は形だけになりがちです。
SalesforceのSlack連携のように、チャットなど毎日開く場所に届くようにします。
あわせて、AIエージェントを止める“避難訓練”のやり方を、過去記事で紹介しています。

③記録はAIの手が届かない場所に残す

作業の記録を、AI自身が書き換えられる場所に置かないことも大切です。
閲覧しかできない共有フォルダや、別のサービスに写しを残しておきます。
間違いが起きた日に何があったかを正確にたどれるかどうかは、この置き場所で決まります。

注意して読む点

• 発表直後であり、この基盤を使った企業の成果や事故削減の数字はまだありません。
• 見張り役のSentryは同社製の専用半導体で動く前提で、NVIDIAは販売の当事者です。
• 中小企業が直接買う製品ではなく、まずはクラウドや業務サービスの裏側に組み込まれる技術です。
• OpenAIやGoogleの名前は発表時の一覧になく、業界全体の統一規格と決まったわけではありません。

まとめ

AIの賢さを競う発表が続くなか、世界最大の半導体企業は「止める・見張る・記録する」を主役に据えました。
安全の仕組みそのものが土台として整備される段階まで、AIエージェントの実用化が進んだということです。

中小企業がきょう持ち帰れるのは、3つの型です。
指示と制限を分けて数える、承認を人の見える場所へ届ける、記録をAIの外に残す。
この3つは、使う道具の値段や規模が違っても変わりません。
自社のAIに「外側の安全装置」がいくつあるか、まず数えるところから始めてみてください。