「AI人民解放軍」の本当の脅威 続【2024年を占う！】その３
林信吾の「西方見聞録」
【まとめ】
・中国が軍事部門、特に核兵器の分野におけるAIの導入拡大に力を注いでいる。
・映画ではAIと軍事力が負のイメージとして映し出されているが、実際はヒューマンエラーのリスクも高い。
・AIは副次的なもので、問題はこれを使う政治や軍部の責任ある人間なのではないか。
前回に続いてAI絡みの話題ということになるが、昨年末に古森義久氏が本誌に寄稿された『中国軍核戦略のAI依存の危険性』という記事が興味深かった。
中国が軍事部門におけるAIの導入拡大を急いでおり、とりわけ核兵器の分野におけるその進捗ぶりに、米軍筋は神経を尖らせている、とのこと。
詳細は当該記事に譲るが、AIが核兵器を管制するようになった場合、人間とは比べものにならないほどレスポンスが速い分、偶発的に核戦争が勃発するリスクがあるのではないか、というのがその趣旨である。
1983年秋、米国のTV映画『THE DAY AFTER』が大反響を呼んだ。
米国のカンザスシティを舞台に、核戦争が勃発する前後の状況が描かれている。
日本では翌84年に緊急ロードショーと銘打って劇場公開されたと記録にあるが、私はその頃、英国ロンドンに留学していた。英国ではTV放送で、担任が、是非見て欲しいと言うので視聴した。そして翌日、会話の授業で感想を述べ合うことになったのである。
私は、核ミサイル基地の軍人たちが、まるで工場の流れ作業のように淡々と発射の手順をこなしてゆくことに、むしろ恐怖を感じたと述べ、問題は「THE DAY BEFORE」ではないのか、と発言した。なかなかユニークで良い意見だ、と皆に評価されたのを覚えている。
ただ、当時の私は本格的な英語の勉強を始めてさほど時間が経っていなかった。核戦争の描写に関しては、生存者が元気だったり、本当はあんな甘いものではないだろう、ということを指摘したかったのだが、そこまでの語彙が身についていなかったのは残念だ。
同じ年に映画館で『WAR GAMES ウォー・ゲーム』を見た。
こちらは、前述の『THE DAY AFTER』と同じく1983年に米国で制作・公開されている。1989年の、ソ連邦によるアフガニスタン侵攻をきっかけに、一度はデタントに向かっていた冷戦のテンションが一挙に高まり、核戦争の危機が現実味を帯びてきていた、という背景があったものと思われる。
この映画のストーリーはこうだ。
大のパソコン好きで、しかもハッキングなどの能力に長けた男子高校生がいた。
教務主任のパソコンに侵入して自分の成績をCからAに改竄したり、無料で電話をかけまくっているうちはよかったが（本当はよくありません。よい子は真似をしないように笑）、ある日たまたま「世界全面核戦争」というゲームソフトを発見し、深く考えることもなく、無課金でダウンロードしてしまう。
実はこれ、本人がゲームソフトだと思い込んでいただけで、実は米軍の核ミサイル管制ソフトだったのである。
嬉々としてゲームを始めたその高校生（役名はデヴィッド）だったが、彼のパソコン上で進行するゲームは、そのままNORAD（米航空宇宙防衛司令部）のスクリーンに投影される。つまり、核戦争が現実のものとなる一歩手前まで行ったのだ。
デヴィッドが、母親にゴミ出しを命じられたことでゲームが中断し、すんでのところで核戦争が回避されたが、これにて一件落着とはならず……これ以上はネタバレになるので、見てのお楽しみに。
この映画が公開された直後から、
「本当にこういうことは起きないのか」
といった問い合わせが、国防総省など政府・軍の関係機関に殺到したという。これを受けて、前述のNORADの広報担当官がコメントを発表した。
- 本部のコンピューターに対するハッキングなど不可能である。
- コンピューターが算出したデータは、必ず人間がダブルチェックしている
だから大丈夫だ、という主旨であったが、その後コンピューターがAIへと進化し、今やこのコメントが説得力を持つとは言い難い。
まず①について述べると、ハッキングどころかAI自体が暴走したらどうなるのか。これは『2001年宇宙の旅』（公開は1968年）という映画を見た方ならば、私がなにを案じているか、容易にご理解いただけよう。
次に②の問題だが、こちらについては、むしろヒューマン・エラーが心配される。
1995年に公開された『クリムゾン・タイド』という映画をご覧になるとよい。
ロシアの反政府勢力がシベリアの核ミサイル基地を占拠した、との事態を受けて、米海軍のミサイル原子力潜水艦「アラバマ」が出撃。
艦長は、たたき上げで好戦的な白人（ジーン・ハックマン）。新任の副長は、ハーバード大学卒で、アフリカ系のインテリ（デンゼル・ワシントン）というキャスティング。
出撃から6日目、北太平洋にあった「アラバマ」に、無電が届いた。反乱軍が核ミサイルに燃料注入を開始。発射を阻止すべく先制攻撃を加えよという指令であったが、発射準備に取りかかった矢先、反乱軍に加担する攻撃型潜水艦が魚雷攻撃を加えてきたのである。
間一髪、魚雷はかわしたが、船体をかすめた際に通信用のアンテナが損傷してしまい、次なる指令が途中までプリントされたところで途絶えてしまう。
その結果、即時核攻撃を主張する館長と、まずは通信の復旧に全力を挙げるべし、とする副長が対立。「内戦」が勃発することになる。
ここでもネタバレを避けるべく、こうした戦術上の対立にとどまらず、人種間の軋轢なども描かれ、単なる戦争映画の枠を超えた、骨太の人間ドラマが楽しめる、とだけ述べておくが、要は、AIの判断を人間がダブルチェックしたとて、絶対安全とは言い切れないのだ。
別の問題もある。
私自身も最近知ったことだが、中国軍は目下、ミサイルが飛行中に、グラスファイバーで出来た籠のようなものを展張し、敵のレーダーをあざむく技術を開発中であるらしい。グラスファイバー製の籠の中に本体がある、というに近い状態で飛翔するため、レーダー画面では、大型旅客機のように映ってしまう。敵にしてみれば、誤って民間機を撃ってしまうリスクを避けねばならず、迎撃までの時間にロスが生じることとなるというわけだ。
これで思い出されるのが、1983年9月1日に起きた、大韓航空機撃墜事件である。
ニューヨークを発ち、アンカレッジを経由してソウルに向かった大韓航空007便が、ソ連邦の領空を侵犯した。その原因については諸説あるが、自動操縦装置に緯度と経度を入力した際、電卓の打ち間違いのようなミスが生じたのではないか、と見る向きが多い。実際、その前提で飛行航路をシミュレーションしたところ、007便の航路と一致したとも聞く。
ともあれ007便はフライトプランを逸脱してソ連邦の領空を侵犯してしまい、防空軍の迎撃戦闘機がスクランブルをかけた。
最初に接触したスホーイ15TMは、闇夜で機種の識別は不可能であったが、航法灯と衝突防止灯が点灯していることを報告している。
つまりこの時点で、ソ連邦防空軍の側では、民間機ではないか、と疑って然るべきであったのだが、米軍の偵察機であろう、との判断に従い、二度目に接触したミグ23に対して、撃墜命令を出したのである。一応、ミグ23は警告射撃も行ったが、曳光弾を搭載していなかったため、効果がなかった（007便のパイロットが気づかなかった）ようだ。
この結果、乗員・乗客合わせて269人の命が失われた。米国からの帰路にあった（西日本に住む人の場合、ソウル経由の方が早くて安い、とされていた）日本人乗客28人も含まれている。
日米韓は一斉にソ連邦を非難したが、1988年には、ペルシャ湾で哨戒任務に就いていた米海軍のイージス艦「ヴィンセンス」が、離陸直後のイラン民間機を撃墜してしまっている。こちらは、イランの首都テヘランの空港が軍民共用になっており、管制塔よりの民間機に対する離陸許可の無線と、同国空軍のF14戦闘機に対するそれが混信したことが原因であったらしい。
米国政府は、遺族に補償金を支払ってはいるが、イランとの敵対関係は今も続いている。
以上を要するに、民間人（＝非戦闘員）の安全など一顧だにしないような軍隊が、物量と技術水準の両面において、世界最高レベルの軍備を現有もしくは整備しつつあることが問題なので、AIの導入は現象面、それも副次的な問題に過ぎないと、私は考える。
最後に、前述の大韓航空機撃墜事件の経緯を今一度思い起こしていただきたいのだが、こちらは技術の進歩のおかげで、今ならば防ぎ得た自体であると考えられる。
まず自動操縦装置も進歩し、ヒューマン・エラー（＝入力ミス）のせいで航路を逸脱するリスクはほとんどなくなっているし、今では他の航空機が接近した場合、コクピットの警報装置が作動する。
このようにAIを含むハイテクとは、人間がより安全で快適な生活を送れるような使い方をされるべきなのだが、各国の政治と軍事の分野で責任ある立場の人たちが、そのことに気づく日は来るだろうか。
トップ写真：建国60周年記念で行われた軍事パレード（北京）出典：Photo by Feng Li/Getty Images
この記事を書いた人
林信吾作家・ジャーナリスト
１９５８年東京生まれ。神奈川大学中退。１９８３年より１０年間、英国ロンドン在住。現地発行週刊日本語新聞の編集・発行に携わる。また『地球の歩き方・ロンドン編』の企画・執筆の中心となる。帰国後はフリーで活躍を続け、著書５０冊以上。ヨーロッパ事情から政治・軍事・歴史・サッカーまで、引き出しの多さで知られる。少林寺拳法５段。
執筆記事一覧
