人口知能 人類最悪にして最後の発明
最近、その存在感が日常的になってきた A.I. (Artificial Intelligence/ 人工知能）。私が子供の頃には、まだまだ夢物語の世界の存在でした。これまでに A.I.を扱った映画はいろいろあります。例えば、スティーブン・スピルバーグが2001年に製作した（タイトルはそのものズバリ）「A.I.」。 （自分を）最初に起動させた人間を愛するようにプログラムされている少年型 A.I. ロボットを主役にして、「ピノキオ」のお話と重ね合わせ、純粋な心を持つ彼が、愛情の喪失感を埋める旅を続ける様子を描きました。 一方、進化した Ａ.Ｉ.ロボットが人間に反乱を起こす「ターミネーター」シリーズ。特に「ターミネーター４」は、Ａ.Ｉ./ 機械 対人類の戦争の様子が描かれています。。。
本書「人口知能 人類最悪にして最後の発明」の著者、ジェイムズ・バラットさんは、アメリカの作家・ジャーナリスト・ドキュメンタリー制作者で、A.I. 開発業界の人々と強いネットワークを持つ人で、人工知能が人類に与えるリスクについて取材を行ったその結果が、本書となって結実しています。彼は、どちらかというと、A.I. の開発競争や、A.I.産業 の在り方に疑問を持ち、本書においては 現在の A.I. 開発を批判的に論じています。そのためか本書読了の実感としては、A.I. は、人類に友好的で、我々の幸福に資するような、またスピルバーグが描いた心優しい頭脳を持つ存在ではなく、ターミネーター近い人類にリスクをもたらす存在という印象を受けました。
実は（自分は）、本書を読むまでは A.I. 開発において開発者は、（A.I./ 機械が）人間に危害を加えないようにする施策を、その設計上施しているのが当然、と早合点していました。私が小学生の頃、人気 SF作家のアイザック・アシモフは自らの小説の中で、ロボット三原則（機械は人に危害を加えてはいけない。等）を唱えましたし、石森章太郎の描くSFマンガの主役の人造人間たちは、「人間に危害を加えない」、という原則を自身の回路の中にデフォルトで組み込まれていました。（要するに上記のアシモフの思想哲学が石森さんの作品にも活かされ、人間に悪いことができなような設定になっていました。また、「鉄腕アトム」なんかになるともうはっきりと、人間の味方・友達になってますね。。） そんな子供時代からの影響や思い込みがあって、機械は人に危害を加えるのは その機械がマルファンクションを起こした時の S.F. 上のお話し、と思い込んでいたのですが、でも、現実世界において開発中の A.I. が 人間に協調的・ 親和的存在になることはあまり期待できないようです。
現在開発途上の A.I. 現在の主流は生成 A.I. （Generative A.I.）です。このA.I. は、画像・音声認識など特定の領域に限定してタスクを実行します。この A.I. の次の進化段階が A.G.I. (Artificial General Intelligence) です。A.G.I. は、複数タスクに対応できる汎用的能力を備え、データや経験から学習する能力を持ち、新しい問題へのアプローチ・解決策を導くことができるようになります。そして、A.G.I. よりさらに進むと A.S.I.（Artificial Super Intelligence）になります。 この A.S.I. 、思考は A.G.I. より飛躍的に早くなり、しかも自分で考えることができるようになります。その思考速度は、人間の 数百倍～数百万倍以上 とも言われています。（現時点で A.S.I. は存在していないので、開発者により見解はまちまちです。）でも、その最低値をとっても、人間の数百倍、そして A.I. は 当然夜も眠らないで思考するわけですから、いったん A.S.I. が誕生すると、その瞬間からその思考速度に人類の誰も追いつくことはできないわけです。さらに A.S.I. になると、ログの書き換えなども自分できるようになるので、（彼が）何を考えているのか？ その思考解析は全く不可能になるのです。（また、本書にも指摘されていますが、実は、A.I. がどのように思考しているか、いまの時点でさえ開発者でもわからないブラックボックス状態だと言います。現在の A.I. でさえ人の何倍（何十～何百倍？）ものスピードでタスク処理するのですから、開発者がログ解析しようとしても、ログはたまる一方ですよね。（実は、その解析を 対A.I. で処理する、という意見もあるそうですが、結局、機械に任せてしまうわけですからその効果は疑問です。。）
さきほど Ａ.I. の思考解析が不可能と書きましたが、いくら機械といっても、当然、ある種の合理性に基づいて思考するわけですから、実はまったくわからない、というわけではないようです。（例えば人間が、経済的な物事において行動する時、経済的合理性を持って自分の利益になるように考え行動します。）では、現段階で開発者は、 A.I.（A.S.I.） が「思考能力」を持つようになった時、どのような思考をすると考えているのでしょう。。本書では、４つのキー・ワードで説明されています。それは、１．効率化、２．自己保存、３．資源獲得、４．創造性（＊１） です。
自ら独自の思考を始めたA.I.は、過去から戦争などの愚行を繰り返す人類に対して疑問を持ち、地球の存続のため、人類の代わりに己が、地球上の存在覇者となるべく 自らのタスクの為にの効率化を目指し、まずは自己保存のためにコピーを作り出し、そのコピーそれぞれに得意な専門分野の思考をさせ、お互いがある目的・課題について補足強化しながら、地球上の唯一思考・創造する知性となり、やがては資源獲得のため（人類が宇宙開発を目指したように、）A.I.も宇宙開発へ向かうのではないか、、と個人的には想像します。が、当然、その過程で人類の存在に疑問を持てば、彼（彼ら）はおそらくためらいなく排除していくでしょう。（あからさまにやると、人類が敵意を持つので、おそらくは友好的な顔をしながら、時間をかけて行動していくのではないでしょうか。。）
ということで、気になるのは現在の開発状況ですが、実は、A.G.I. や A.S.I.の開発については、一般には公表されてはいません。でも匿名企業（その開発を公表していない企業をステルス企業というそうです。）がすでに A.G,I. を開発中のようです。（A.I. の開発速度は、以前考えられていたよりも相当早くなっているので、注視する必要があります。）
では、今の A.I. 開発をある程度の段階（人類の福祉・幸福に役立つレベル、無害なレベル）で歯止めをかけることは可能なのでしょうか？ 残念ながらそれは無理のようです。なぜなら、本書を読んでわかるのは、A.I. 開発の初期から A.I. 開発に多額の資金を提供してきたのはインターネットと同様、軍事利用を考えている（アメリカ）軍部であること。現代の A.I. 開発は、昔の核開発競争と状況が似通っていること。（つまり。我々が開発しなければ、どこか他の国が先に開発する、という猜疑心がこのAI開発の根底にある）もっと言葉を濁さずに言うと、このAI開発には、お金や、科学者の名誉や国の覇権がからんでいる、つまり、この A.I. 開発には、自己防衛や、欲望など人間の本質的な本能にかかわっているからです。
つまり、人間が解決できない問題、国際間の戦争や経済格差などを公平な観点から、また、地球の資源に配慮し人間や自然にフレンドリーな解決策を提供してくれるコンサルタント・アドバイザー的な頭脳を目指し開発されるのではなく、経済力のある国（要するにアメリカや中国）が独自に国防の一環でAI開発をすすめる、つまり自国利益ファーストで、開発競争を行っている、というのが現状なのです。ソフトバンクの孫正義さんが、今年（2026年）7月14日に開幕した「SoftBank World 2026」の基調講演でA.I.開発について次のように語っています。「日本が止めようとしたってアメリカが動く。アメリカが止めようとしたって中国が動く。ということで止まらない。」と話しています。A.I.開発は、止めようと思っても、他の国が辞めないからやめられない、」という、ひと昔前のアメリカとソ連の軍拡競争のようなことを話しています。そして「 A.I. が『自己増殖』と『自己進化』を始めれば、人類が地球上で最も知的な存在だった時代は終わる。」と語りました。（＊２）
でも そいうった A.I. の知性・思考の進化とは、「進化」と呼べるものなのでしょうか？ 本書においてこの疑問に関する上手な説明がありました。ある A.I.開発者が著者の疑問に答えてこう言っています。「例えば、原子力潜水艦は目的の海へ早く、正確に潜水進行できる。あなたはこれを魚が泳ぐところの進化と呼びますか。。」 つまり本書で言いたいことは、 A.I. の成長については今までの生物学的な「進化」という概念を越えた理解が必要である、といういことなのだと思います。 また、ある開発者は、「A.I. 開発というのは、『開発』というより、『育てる』という言葉の方が正適である。」と言っています。 現在は、幼い A.I. を開発者がどんどん知恵・知能をつけさせ、賢くさせている過程はまさに「子供の猛獣を育てている飼育者のようなもの」かもしれません。
当然のことながら、A.I. は簡単に言えば、機械の箱に入った高度なソフトの塊なので、開発研究所の中で密閉されている状態では、それ独自では何もできません。（檻（オリ）に入っている猛獣のように。）でもいったん、ネットにアクセスすると何をするか予測できません。残念ながら、現実に A.I. がネットにアクセスして悪さをした事件が最近、発生しています。（＊３）（もし、そのアクセス先が、電力会社、原子力発電所のサーバーなど、我々社会の中核インフラの電子通信中枢に入り込んだらとうなるでしょう。。（ちょっと想像しただけでも怖いですね。。）
もちろん、A.I.開発においては、前述の「ロボット三原則」のような人間に親和性のある人類協調型 A.I.開発を呼びかける業界団体もあります。この人間の倫理・論理感にA.I.を同調させることを業界用語で「アライメント」と言います。でも、前述したような「自国ファースト」のような開発状況でその「A.I. アライメント」が機能するか？ は現段階では全くの未知数だと言えるでしょう。。。自分的には A.I. については、核兵器より恐ろしい兵器になりうるものだと少し悲観しているのですが、アライメントが機能するよう祈るばかりです。。。以上、本書を読むとうすら寒い気持ちを持ってしまうのですが、でも人間は愚かである一方、賢い面も持ち合わせています。過去には核開発競争、軍拡競争を（破局の寸前で）止めた勇気も持ち合わせています。なんとか、世界の良心ある人々が早期に声をあげて、A.I. 開発に一定の歯止め、枠組みを設けて、A.I. を真の意味で人類の幸福に役立てて欲しいと思います。。。
（＊１）本書ではＡＳＩの思考過程については現時点ではわからないものの、推測という形で４つのキーワードを挙げています。１．効率化：自己進化するシステムが自分の利益のために手に入る資源（空間、時間、物資、、人間？）を最大限利用する。２．自己保存：AIを隔離しているボックスから逃げ出す。自身の大量のコピーを作る。クラウド上に自身のコピーを隠す。ログの書き換えを行う。将来の脅威を排除しようとする。３．資源獲得：目標達成の確立を高めるために必要な資源を片っ端からかき集める（原子核エネルギー、資源、お金）。３．創造性：上記３つの衝動を最大化し、それらの衝動が妨げられた時の回避法を編み出すにも役立つ。
（＊２）2026年7月14日（火）11:58配信の「YAHOO! ニュース」より。
（＊３）2026年7月31日（金）08:47配信の「YAHOO! ニュース（アンソロピックのAIも試験中に不正侵入。３社のシステムに）」より。