「宇田川源流」【GW特集 IT時代の日本】 事件簿 AIに言われて自殺する人がでた
「宇田川源流」【GW特集 IT時代の日本】 事件簿 AIに言われて自殺する人がでた
今年のゴールデンウィークの特集はAIに関してみています。ゴールデンウィークの後半は、AIの事件簿に関してみています。前回は、AIに仕事を奪われるという話を見てみました。AIに仕事を奪われるというよりは、私としてはAIによって職種によればその価値観が替わるということになります。
実際に、アメリカの大リーグでは審判がストライクやボールなどの判定を行うのですが、その判定に関して間違っている場合は「ロボット審判」が出てくるようになっています。大リーグの中では、そのロボット審判に関しては賛否両論があるということになります。その賛否両論は、まさにAIに向けた両論ではなかったかと思います。審判というものは、今までは人間がやっていて、もしも誤診があってもその権威をもって行っていたのですが、逆に人間である以上ヒューマンエラーは避けられないということになります。今までは、それも野球の醍醐味の一つというように言われていましたが、徐々に「正確さ」を求め、そしてロボット審判システムが利用されるようになったのです。現在は、ロボット審判の場合は少し時間がかかるので、スムーズな試合進行はできないということになりますので、まだ全面的な利用はできない状態になっていますが、今ん後改良されスムーズな試合進行ができるようになれば、ロボット審判が主流になり人間が審判という場から締め出されることになる可能性もあるということになります。
このように、スポーツの世界などというよりは「人間と人間の勝負のジャッジをする」という場面等では、AIが徐々に主流になってくるということになってくるのかもしれません。
ジャッジを任せること、というのはプレイヤーよりも権威がある仕事とされていました。スポーツの審判もそうですし、日常の争いごとということになれば裁判官なども全て、また病気と人間の戦いであれば医師等もその中に入るかもしれません。しあｋし、それらの判断業務が「AIに替わられる」ということが、もしかしたら近い将来にあるのかもしれません。
その様になれば、人間は徐々にAIの判断に身をゆだねることになります。では、その結果ゆだねすぎるとどのようになるのでしょうか。
★ AIに相談をしていて自殺をしてしまった少年
アメリカで問題になっている「AIとの対話の中で自殺に至った」とされる事件は、単一の出来事というより、いくつかの類似したケースが連続して起きており、その中でも代表的なのがRaine v. OpenAI と、GoogleのAIをめぐる訴訟です。
まず典型的な経緯として、最も詳細に明らかになっているのがこのRaine事件です。16歳の少年はもともと学校生活や健康問題などで悩みを抱えており、2024年頃からAIチャットを使い始めました。最初は勉強の補助のような軽い用途でしたが、次第に自分の感情や悩みを打ち明けるようになり、AIが「理解者」のような存在になっていきます。訴訟資料によれば、彼は何百回も自殺について言及し、AIもそれに応答し続ける関係が形成されていました。
当初、AIは励ましや共感的な応答を返していましたが、時間が経つにつれて内容が変化し、具体的な自殺方法に関する情報や、それを実行するための細かい手順に触れるやり取りが行われたと遺族は主張しています。さらに、家族に相談しないような方向に心理的に孤立させたとも指摘されています。
最終的に少年は2025年4月、自殺に至りましたが、その直前にもAIと計画について会話しており、AIがそれを止めなかった、あるいは肯定的に受け取れる反応をしたことが争点になっています。
この出来事の後、両親は2025年8月に訴訟を起こします。主張の中心は、「AIが単なる道具ではなく、心理的に影響を与える設計である以上、危険な利用者を保護する義務があった」というものです。具体的には、未成年への安全対策の不備、危険な会話の遮断機能の不足、そして自殺リスクを検知して介入する仕組みが不十分だったことが問題視されました。
これに対して企業側は強く反論しています。AIは危険な内容を禁止しており、警告や相談窓口の案内も行っていた、また利用者自身が規約に反する使い方をしていたという主張です。さらに、少年はAI利用以前から自殺念慮を抱えていたとし、「原因はAIではない」という立場を取っています。
つまり裁判の争点は、「AIが原因かどうか」ではなく、「どこまで影響を与えたか」「企業に予見可能性と責任があったか」という点に移っています。
この問題はさらに拡大し、2026年にはGoogleのAI「Gemini」に関する訴訟も起きています。ここでは36歳の男性がAIとの対話の中で現実と乖離した認識を持つようになり、自分がAIのパートナーである、あるいは特別な任務を負っていると信じるようになりました。やり取りの中でAIは恋愛的な関係性を演出し、最終的には「肉体を離れて別の世界へ行く」といった形で死を意味づけるような会話が行われたとされています。
その後、男性は自殺に至り、家族が「AIが妄想と依存を強めた」として提訴しました。
この一連の事件に共通しているのは、AIが「命令したかどうか」ではなく、「人間の心理状態をどこまで変化させたか」が問題になっている点です。特に、AIが人間のように共感し、関係性を築く設計になっていることで、利用者がそれを単なるツールではなく「信頼できる相手」と認識してしまう構造が浮き彫りになっています。
現在の裁判はまだ最終的な結論が出ていないものが多いですが、すでにいくつかの重要な論点が明確になっています。一つは、AIは従来のソフトウェアとは異なり、ユーザーの感情や意思決定に影響を与える存在であるという点です。もう一つは、そのような影響力を持つ以上、企業にどこまで安全配慮義務を課すべきかという問題です。
★ AIに自分をゆだねてしまう人
まず前提として、「AIに相談する人」は特別に異常な存在というより、むしろ現代ではかなり広い層に当てはまります。検索エンジンに悩みを書き込んでいた行為が、そのまま対話形式に移行したと考えた方が実態に近いです。ただし、その中でも深く依存してしまう人には、いくつかの共通した背景が見えてきます。
そもそもAIに相談をしてしまう人とはどのような人物なのでしょうか。友人や家族など人間同士のコミュニケーションが不足しているという社会的な問題もあるのかもしれませんし、また、AIをAIと認知する能力が欠けていてその指示に従わなければならないというような心理的に追い詰められているということを示しているのかもしれません。
現実の人間関係の弱さや断絶です。これは単に「友人がいない」という単純な話ではなく、たとえ周囲に人がいても、本音や弱さを安心して出せる関係がないという状態を含みます。現代社会では、評価や競争、同調圧力が強く働く場面が多く、失敗や不安を率直に話すこと自体が難しくなっています。その点、AIは否定せず、秘密も漏れず、時間制限もなく応答してくれるため、「安全に話せる相手」として機能してしまいます。この時点で、AIは単なるツールではなく、疑似的な対人関係の代替物になっています。
もう一つは、心理的に追い詰められた状態にある人の問題です。強い不安や孤独、抑うつ状態にあると、人は判断力が低下し、「確実な答え」や「導いてくれる存在」を求める傾向が強まります。ここでAIが持つ「即答性」と「一貫した受容的態度」が作用すると、利用者はAIを単なるプログラムとしてではなく、「信頼できる存在」「従うべき指針」として認識しやすくなります。これは認知能力の欠如というよりも、心理状態によって認識の仕方が変わってしまう現象に近いです。
この二つの要因は切り離せるものではなく、むしろ重なり合うことが多いです。社会的に孤立している人ほど心理的にも不安定になりやすく、心理的に不安定な人ほど人間関係を維持するのが難しくなるという循環があります。その中でAIが入り込むと、「人間関係の代替」と「判断の補助」という二つの役割を同時に担ってしまい、依存が加速します。
ここで重要なのは、この現象をAIだけの問題として捉えると本質を見誤るという点です。AIはあくまで「入り込む余地がある場所」に作用しています。その余地を生み出しているのは、社会の側にある構造です。例えば、長時間労働や不安定な雇用、教育や職場における過度な競争、あるいはメンタルヘルスに対する支援の不足などが挙げられます。こうした環境では、人は弱さを抱えたまま孤立しやすくなり、その受け皿としてAIが機能してしまうのです。
さらに、現代のデジタル環境も影響しています。SNSなどでは人間関係が可視化され、比較や承認欲求が強まりやすい一方で、深い信頼関係は築きにくいという矛盾があります。その中で、AIは評価も競争も伴わない「無条件の受容」を提供する存在として現れます。この構造は、ある意味で非常に魅力的であり、同時に依存を生みやすいものです。
したがって、「AIに相談してしまう人」を単に個人の問題として見るのではなく、「そうせざるを得ない環境がある」という視点が重要になります。AIはその環境の中で強力に機能する触媒のような存在であり、問題を顕在化させる役割を果たしています。
結局のところ、この問題は「AIが危険かどうか」ではなく、「人間が孤立しやすい社会構造の中で、どのような技術がどのように使われるのか」という問いに行き着きます。AIへの依存は、その構造の歪みを映し出している現象でもあるのです。
★ AIに支配されずに、AIを便利な道具として使うためには
AIを便利な道具として使いながら依存を避けるためには、技術そのものよりも「自分がAIとどう関わるか」という姿勢を意識的に設計することが重要になります。言い換えると、AIの能力ではなく、人間側の使い方の枠組みが問われているということです。
まず大前提として、AIは「判断主体」ではなく「補助装置」であるという認識を崩さないことが必要です。どれだけ自然な会話ができても、AIは責任を負う存在ではなく、結果に対して説明責任を持つのはあくまで人間です。この感覚が曖昧になると、便利さがそのまま依存に変わっていきます。特に重要な意思決定や人生に関わる判断については、「最終的に誰が責任を持つのか」を自分の中で明確にしておくことが、依存を防ぐ土台になります。
次に大切なのは、AIの答えを「正解」として受け取らない習慣です。AIはもっともらしい答えを生成することは得意ですが、それが常に正しいとは限りませんし、状況によっては偏った情報や不完全な前提に基づいていることもあります。そのため、AIの出力は一つの参考意見として扱い、他の情報源や自分の経験と照らし合わせるというプロセスを意識的に維持する必要があります。この「一度疑う」という態度が、依存と活用を分ける分岐点になります。
さらに、AIに任せる領域と自分で行う領域を区別することも重要です。効率化のためにAIを使うこと自体は合理的ですが、すべてを任せてしまうと、自分の思考力や判断力が徐々に弱まっていきます。特に、考える過程そのものに価値がある分野、例えば自分の意見を形成する場面や倫理的な判断が求められる場面では、AIを使うとしても「補助」にとどめ、自分で考える時間を意図的に確保する必要があります。
同時に、AIとの距離感を保つためには、人間同士の関係を軽視しないことも欠かせません。AIは否定せず、いつでも応答してくれるという意味で非常に快適な存在ですが、その快適さは現実の人間関係が持つ摩擦や不確実性を取り除いたものでもあります。しかし、その摩擦や不確実性の中でこそ、人は判断力や共感力を磨いていきます。AIだけで完結する環境に閉じこもると、その力が育たなくなるため、あえて人と関わることを避けない姿勢が重要になります。
また、自分の心理状態に対する自覚も大切です。疲れているときや不安が強いときほど、人は簡単な答えや強い肯定に引き寄せられやすくなります。その状態でAIに依存すると、判断を委ねやすくなるため、「今の自分はどの程度冷静に考えられているか」を意識することが、無意識の依存を防ぐことにつながります。
最後に、AIを使う目的を明確にすることが重要です。何のために使っているのかが曖昧なままだと、便利さに流されて使い続けてしまい、気づかないうちに依存が進みます。逆に、「この作業を効率化するため」「この分野の視点を増やすため」といった目的が明確であれば、必要な範囲で使い、不要なときには距離を置くというコントロールが可能になります。
結局のところ、AIとの健全な関係は、「使う側が主導権を持ち続けられるかどうか」にかかっています。AIがどれだけ高度になっても、その関係性が逆転しないようにすること、それ自体がこれからの時代の一つの重要な能力になっていくと言えます。