AI時代のセキュリティ。発注する側が、何に気をつけて頼むか

こんにちは、山上です。

数日前、AIの世界でちょっとした事件がありました。2026年6月12日、米政府がAnthropicに対して、最上位モデルのFable 5とMythos 5へのアクセスを止めるよう命じたのです。対象は「米国内外を問わず、すべての外国籍ユーザー」。日本の私たちも、その日を境にこの2つのモデルを使えなくなりました。

理由は、ひとことで言えば安全保障です。このモデルがコードの欠陥（セキュリティの穴）を見つける能力に長けていたことが問題になりました。優秀すぎて、サイバー攻撃の道具に転用されかねない。だから国が、半導体と同じように「輸出を止める対象」として扱った。AIモデルそのものに輸出規制がかかったのは、これが初めてです。

Anthropic自身は「その穴は他のAIでも同じように突ける、うちだけの話ではない」と反論しています。どちらの言い分が正しいかは、ここでは脇に置きます。私が注目しているのは、その手前の事実です。AIは今、コードの弱点を探す作業を、安く速くこなせるところまで来た。国が武器並みに警戒するくらいに。

なぜ、普通の会社にまで関係するのか

「フロンティアモデルがどうとか、うちには関係ない」。そう思うのが自然です。実際、止められたのは最上位モデルで、ほとんどの会社の業務には影響しません。

ただ、ここで効いてくるのは逆側の話です。攻撃する側も、同じ性能を手に入れているということ。

これまで、会社のシステムに侵入したり、弱点を探したりするには、それなりの技術と時間が必要でした。だから「うちみたいな小さい会社を、わざわざ狙う人はいないだろう」が、ある程度は通用した。手間に見合わなかったからです。

その前提が崩れます。AIが弱点探しを自動化すれば、攻撃側は一社ずつ吟味する必要がなくなる。手当たり次第に、機械的に、薄く広く狙える。狙われる確率は「会社の大きさ」ではなく「穴が空いているかどうか」で決まるようになっていきます。

つまり、これまでセキュリティを意識せずに済んでいた会社ほど、これから否応なく意識させられる。ニュースが伝えていたのは、その地殻変動の前触れだと思っています。

まず、昔ながらの基本が、もっと大事になる

新しい話をする前に、当たり前のことを先に言います。フィッシング、なりすましメール、パスワードの使い回し。こういう古典的な手口こそ、これまで以上に警戒すべきです。

なぜなら、AIは攻撃の「質」も上げてしまうからです。これまでの詐欺メールは、不自然な日本語ですぐ見抜けました。これからは違う。取引先の文体をまねた、完璧な日本語のメールが届く。社長の声をまねた電話がかかってくる。「いつもの感じ」を装われると、人は驚くほど簡単に引っかかります。

だから対策の入口は、相変わらず地味な習慣のほうにあります。心当たりのない添付は開かない。お金や情報が動く依頼は、メール以外の手段でもう一度確かめる。社員ひとりひとりのこの一拍が、いちばん安いセキュリティ対策です。ここを飛ばして高度な話に進んでも、足元から崩れます。

発注する側が、新しく気にすべきこと

そのうえで、本題です。これからAIやシステムを誰かに頼むとき、発注する側として何を気にすればいいか。

正直に言うと、ここはエンジニアでない方には、いちばん分かりにくい領域です。出てくる言葉が専門的で、何を聞けばいいのかすら分からない。だから「プロにお任せします」になり、ふたを開けたら大事なデータが知らないところを通っていた、ということが起こります。

難しく考える必要はありません。発注の場面で押さえるべき急所は、つきつめると次の3つです。

1. うちのデータは、どこを通って、どこに保存されるのか
2. それを誰が見られて、その記録は残るのか
3. 万が一漏れたら、どこまでの被害になるのか

この3つに、相手がすらすら答えられるか。それが、頼んでいい相手かどうかの分かれ目になります。

「セキュアにして」では、何も伝わらない

ここで多くの発注者がやってしまうのが、「とにかくセキュアにしておいてください」という頼み方です。気持ちは分かります。でも、これはオーダーとして成立していません。

セキュリティは、強さのつまみを最大にすればいい、という単純な話ではないからです。守りを固めるほど使い勝手は落ちるし、費用も上がる。「外に一切出さない」を求めれば、その分、性能も利便性も犠牲になります。どこまで守って、どこは妥協するか。これはあなたの業務を知っている人にしか決められません。だから丸投げできない。

代わりに、こう頼みます。専門用語は要りません。自分の言葉で、扱うデータの中身を伝えるだけでいい。

• このデータには、顧客の個人情報が入っている。だから外部のAIに丸ごと渡したくない
• この見積もりの金額は、社外に出たら困る。社内の誰が見られるかを絞りたい
• ここは社内のメモ程度だから、多少ゆるくても、安く速いほうがありがたい

データの性質と、漏れたときの怖さを、具体的に伝える。守り方を指定するのではなく、守るべきものを指定する。そうすれば、作る側は適切な構成を選べます。「絶対に外に出せないデータ」なら自社サーバの中だけで完結させる作り方があるし、「学習に使われたくない」だけなら、業務向けの契約で十分にカバーできる。手段はちゃんと揃っています。このあたりは以前のコラム（AIに業務データを入れて大丈夫か）でも書いたので、あわせて読んでもらえると分かりやすいと思います。

もうひとつ、相手を見極める簡単な方法があります。その人が、専門用語を使わずに説明できるかどうかです。「お客さんのこのデータは、ここを通って、ここに保管されます」を、あなたが分かる言葉で説明できる相手は、信頼していい。煙に巻くように専門用語を並べてくる相手は、本人も分かっていないか、分からせたくないかのどちらかです。

自分では聞けない、を埋めるのが私たちの仕事

ここまで読んで、こう思った方もいるはずです。「言いたいことは分かった。でも、その急所を自分で聞ける自信がない」と。

それでいいんです。発注する側が、最初から正しい問いを持っている必要はありません。問題は、AIやシステムを頼むときに、判断に必要な言葉を持っていないこと。そこに断絶があって、多くの会社が一歩を踏み出せずにいます。

私たちがやっているのは、その断絶を埋めることです。あなたの業務を一緒に整理して、どのデータが危なくて、どこまで守ればちょうどいいかを、専門用語抜きで翻訳する。そのうえで、現実的な構成を一緒に決める。発注の代わりに考えるのではなく、あなたが自分で判断できる材料を渡す。

AIが武器として警戒される時代に入りました。怖がって止まるのも、知らずに無防備でいるのも、どちらも違うと思っています。正しく恐れて、正しく頼む。何が危なくて、何が大丈夫なのか。その線引きから一緒に考えるところを、私たちは入口にしています。「うちの場合はどうなんだろう」と引っかかったら、雑談ベースで構いません。声をかけてください。