Scribble at 2025-04-07 07:59:53 Last modified: 2025-04-08 06:51:12

AI のリスク、というよりも AI を利用する人の動機や目論見という脅威を想定して、国家安全保障にどのようなリスクが考えられるかという予想は、もちろん AI の脅威を訴える業界の外にいる人々だけではなく、プロパーにとっても関心の高い話題だ。もう既に現時点でも、プロパーの手に負えないリスクというものは色々と考えられているわけで、事件の報道も増えてきている。

僕ら企業で情報セキュリティを担当している実務家だけではなく、大半の人々にとって（それが国家安全保障に関わるなら、たとえば当人がスマートフォンやインターネットを利用していなくとも）、こういうリスクは関心をもっておくべきだろうと思う。色々な脅威があるにせよ、場合によっては個々の場面で自分の財産やプライバシーを保護するチャンスがあるし、公的な機関や企業に何かを促すきっかけや行動にも繋がる可能性があるからだ。そして後でも繰り返すが、自衛のためにも情報セキュリティのリテラシーは「情報I」なんていう教育科目だけでなく、もっと生活全般のリテラシーとして普及してよいと思う。いまや性別に関係なく洗濯やオムツの交換を社会人として知っておくべきであるというスタンスで言えば、情報セキュリティだって或る意味では「家庭科」で教えて良いことかもしれない。

さて、既に AI を利用して北朝鮮軍やヤクザだけでなく、どこにでもいるガキが犯罪に手を染めていることはご存知であろう。大昔から言われていることだが、みなさんの息子や娘であろうと、いまや気軽に巨額の金銭を簡単に騙し取ったり、他人から失わせるような犯罪を起こせる。オンラインで公開されている情報を利用して、AI が騙す相手をうまく見つけ出し、AI が騙しやすいメールの文面を作成し、AI が一斉にメールを配信して、AI がメールに記載された URL に銀行や証券会社のログイン画面を捏造し、AI が入力された ID/PW で正規のサイトからレスポンスを受け取って相手に表示して、何らかのアクションを起こさせたりする。騙されている当人は気づかないし、正規のサービス・サイトも当人のアクセスやアクションであるとしか記録されない。こういう、AI が攻撃手法や攻撃対象を勝手に見つけて、「上げ膳据え膳」で実行してくれるという犯罪は、これから確実に増えるであろう。

それから、これまでのコンピュータ・ウイルスとは違って、ウイルスが感染していく仕組みも更に高度なふるまいとなる。たとえば、小さな AI を搭載するウイルスが、自らの亜種を API 経由で自ら「コーディング」するようになる。ファイルのアップロードや転送が許されていないサービス上にも、こうして攻撃コードを実装できるようになるわけで、人ができることを代わりに何でもやるようになるのだから、原則として人が利用しているサービスならなんでも攻撃対象になりえるし、人が操作しているサービスならなんでも攻撃の方法に使えるというわけである（ちなみに、僕が JavaScript のコーディング・サンプルのサイトへアクセスしないのは、そういうリスクが明白だからだ）。

情報セキュリティの実務家なら誰でも知っているように、情報資産のリスク・レベルを維持するに当たって最も管理を厳しくしなければいけないのは、もちろん human beings という最も脆弱な「資産」の管理である。企業の人事というものは、自然災害から人命を守るとか、職場の労働環境を改善して健康に留意するといった「よさげ」な管理手法だけではなく、コア・コンピタンスを満たしていない人材を教育したり配置転換したり、場合によっては肩を叩くことで、生産性の向上に努めたり、企業にとっての「癌細胞」を駆除する役目もあるわけだが、もちろんいたずらに凡庸な人間の首をどんどん切ればいいというものではない。採用活動には人事担当者の工数や人材紹介会社などを利用する費用をはじめとして、おおよそ採用したい人物に予定している年収の 1/3 くらいは投資コストがかかるので、なるべく社員をクビなんてしないほうがいいに決まっているのだ。なので、教育や研修は採用と同じくらい丁寧にやるべき仕事である。僕が昔から、上場企業や大企業であろうとたいていの人事部なんて社会心理学の博士号すらもっていない素人集団であり、せいぜい一人の人間が30年ほど勤務しても数百人ていどの人間しかしっかり観察したりコミュニケートしていないという些末な分量の経験しか積み上げられない。そのくせ、なにやら一見識もっているかのように「人を見る目」などと思い上がったことを言っている。元マッキンゼーの人事だったという物書き（もういまでは殆ど名前も出てこないが、なんとかチキ、あるいはちきりんとか言ったか）が何を書いていようと殆ど世の中や行政に影響力などないという明白な事実が僕の仮説を裏書きしている。まぁ、「元マッキンゼー」という印籠みたいなもののご利益はあるだろうから、当人はクズみたいな会社の社外執行役とかで食っていけるんだろうけど。

もちろん、啓発だけしていればいいというものでもなく、技術的な対策も必要だし、法的な整備も必要になってくる。ただ、ひとたび誰かがオンラインで、この手の「AI ウイルス」をリリースしてしまえば、あとは勝手に感染が広がっていき、勝手に実行されていく。当人の銀行口座へ送金するといった分かりやすいトレースができればともかく、子供が腕試しや自己承認欲求だけで何の直接的な見返りもなしにリリースしたものであれば、AI ウイルス自体がログなどの痕跡を消してしまう可能性もあり、トレースは非常に難しくなって責任を問うにも時間やコストがかかる。その間にどんどん被害は広がるわけなので、僕としては社内でも、それから情報セキュリティの実務家という立場で書いている当サイトでも、みなさんには自衛を勧めるだけである。

感染経路としてメール（しかも GMail サイトなどのウェブ・メール）のアンカーあるいは添付ファイルが危険であることは周知だが、ウェブサイトへアクセスして勝手に仕込まれるウイルスも大きな脅威だ。そして、こういう経路での感染は、セキュリティ・ソフトが検知しなければ感染した事実に気づく方法がないので、僕らのような実務家であろうと対応は後手に回ってしまう。なので、このようなリスクを低減させる一つの提案としては、皮肉なことだが、何かを調べるにあたっては検索エンジンでヒットしたリンク先へアクセスするのではなく、もっと積極的に AI を利用して、見ず知らずの個人が運営しているサイトやブログになどアクセスするべきではないだろう（おお、僕はいま、力強く墓穴を掘っているな！）。たとえば、「子育てに利用できる公的な補助として、どんな制度や助成金があるのか」という質問がある人は、Google でウェブ検索して出てきた結果からブログや見知らぬサイトへアクセスするのではなく、同じ質問を Gemini に質問して、Gemini の回答で「正解」ではなくとも手がかりが得られそうなら、それで満足したほうがいい。どのみち Gemini も検索のデータを元に回答を生成しているし、検索結果の上位10ページを眺めるのに比べて Gemini はもっとたくさんのページをもとに回答を生成しているのだから、信頼度はおおむね高いと思ってよいだろう。そして、クリックして見ず知らずのサイトへアクセスする必要がないのだから、Gemini そのもののリスクがないわけではないが、更に安全でもある。