AIは人間を滅ぼすのか？汎用人工知能による人類滅亡のリスクについて

子どものころ、「AIが人類を滅ぼす」というイメージは、どこかハリウッド映画の中の話のように感じられていました。
赤く光る目のターミネーターが荒廃した大地を歩き回るとか、冷徹な機械が人間をエネルギー源として扱うとか――そんな光景が思い浮かんでいたものです。

けれど今、目の前で起きているAIの現実は、ずいぶん違います。

支配はレーザー銃とともにやってくるわけではありません。
ブラウザの中で、スマートフォンの中で、日々の仕事の流れの中で――静かに、すでに始まっています。

記事の要約

• AIによる最も差し迫った脅威は、肉体的な絶滅ではなく、「意味の喪失」という実存的な危機にあります。思考のプロセスを外部に委ねることで、人間は自らの人間性から切り離されていきます。
• AIの進展は、社会が適応するために必要だった「時間的な余白」をわずか5〜10年で圧縮し、深刻な燃え尽きや疎外感を引き起こしています。
• 超知能は「悪意」を持つ必要すらない。無害に見える目的であっても、自己保存や資源確保を優先する過程で、人間を障害として排除する可能性があります。
• こうした実存的リスクへのひとつの応答として、「放下」という姿勢がある。テクノロジーを使いながらも、それに内面的に依存せず、機械に自分の価値を決めさせないという在り方です。

現代の不安と「意味の危機」

この問題を実感したのは、そう昔のことではありません。
まだ駆け出しのライターとして、いくつかのSEO案件に関わっていたころのことです。

ちょうどその頃、さまざまなAIツールが一気に広まりはじめていました。情報は絶え間なく流れ込み、成果を求められるプレッシャーも強くなる一方で、私自身、完全に圧倒されていました。

そして、ひとつ大きな過ちを犯します。
AIに文章を生成させ、それをほとんど手を加えないまま、急いで公開してしまったのです。

後日、自分の名前で公開されたその文章を読み返したとき、言いようのない感覚に襲われました。

重たく、逃げ出したくなるような感覚。
どこか、自分自身の関与を否定したくなるような――小さな「地獄」のようにも感じられました。

自分の思考を通さず、声を機械に預けたことで、書いたはずの文章から完全に切り離されてしまっていたのです。
そして同時に、自分の能力や価値そのものにも疑いを持ち始めていました。

振り返れば、あれは確かに痛みを伴う出来事でした。
けれど同時に、避けては通れない「実存的な揺らぎ」でもあったのだと思います。

自己の疎外という感覚

この体験を思い返すたびに、いま多くの人が抱えている不安が重なって見えてきます。
「AIは人類を滅ぼすのか？」という問いです。

ただ、この問いをそのまま受け取ると、少し見誤ってしまうかもしれません。
多くの場合、語られているのは物理的な破滅ではなく、もっと深いレベルの不安です。

たとえば――

• アルゴリズムが絵を描き、文章を書き、コードを書き、分析までこなすようになったとき、自分たちの役割とは何なのか。
• 機械が人の文体や構造、アウトプットを再現できるのだとしたら、「自分らしさ」とは何なのか。

こうした問いの根底にあるのは、アイデンティティの揺らぎです。

かつて産業革命の時代、人は工場の歯車となることで、自分の労働の成果から切り離されていきました。
そしていま、AIの時代においては、思考そのもののプロセスから切り離されようとしています。

あのときAIの文章をそのまま投稿したのは、「書く」という行為だけでなく、その背後にある葛藤や試行錯誤までも手放していたということでした。
けれど、本来意味が生まれるのは、まさにその葛藤の中です。

摩擦を取り除いたとき、同時に「自分」という感覚も薄れていきました。

AIは人間を滅ぼすのか？

「人間らしく行うこと」の衰退

もしもアウトプットだけが価値を持つのだとしたら、人間は単なる「中継地点」にすぎなくなってしまいます。
これまで長いあいだ、人は生産性によって自分の価値を測ってきました。そして今、その「生産性」で機械に追い越されることを恐れています。

社会全体の不安を見ていると、同じ構図が繰り返されています。

• 本当に恐れているのは「死」ではなく、自分たちの上位互換のような存在に置き換えられてしまうこと。
• 情報は無限にあるのに、知恵や「誰が語っているのか」という感覚が失われていく世界。

どこか希望の持ちにくい状況にも見えます。
それでも、この不安に飲み込まれる必要はありません。

むしろ、「AIは自分たちを滅ぼすのか」と問い続けているという事実そのものが、ひとつの希望でもあります。
効率だけでは満たされない何かが、内側に確かに存在している証だからです。

それは、「何を生み出すか」ではなく、「どう在るか」に価値を見出そうとする動きの始まりでもあります。

関連投稿：オーセンティシティとは？混沌とした世界で「真の自分らしさ」を見失わないための哲学

「ジュラシック・パーク段階」：能力・傲慢さ・そして圧縮される世界

できるかどうかに夢中で、やるべきかどうかを考えなかった。

『ジュラシック・パーク』 イアン・マルコム博士

この有名なセリフは、単なる映画のワンシーンにとどまらず、いまの時代そのものを映しているようにも感じられます。

作中でマルコム博士が指摘していたのは、「生命」を単なる商品や技術的対象として扱うことの危うさでした。複雑に絡み合ったシステムを、人間が完全に理解し、制御できるという思い込み。その結果、予測できない混乱が生まれ、やがて制御不能に陥っていく――。映画の結末は、その警告を象徴するものでした。

そしていま、似た構図が別のかたちで繰り返されているようにも見えます。

現代のテクノロジー企業は、巨大なAIモデルを開発し、産業全体の自動化を進める競争の中にあります。
「どこまでできるか」を追い求めるスピードは、かつてないほど加速しています。

ただ、本来問われるべきなのは、その力を「使うべきかどうか」という判断のほうです。
そこには、本来であれば時間をかけて育まれるはずの節度や責任、倫理的な枠組みが必要になります。

それにもかかわらず、いまは「知能を再現する」という技術的達成そのものに意識が集中しています。
人の感情に自然に入り込めるシステムをつくるべきなのか。
社会的な安全網も整わないまま、人の仕事を置き換えていくべきなのか。

そうした問いは、十分に掘り下げられないまま進んでいるようにも見えます。

言い換えれば、強力なAIという「結果」には到達しつつある一方で、それを扱うための内面的な成熟が追いついていない――そんな段階にいるのかもしれません。

スピードの問題と消えゆく「余白」

現代における最も悲しい点は、科学が知識を積み上げる速度に、社会が知恵を育てる速度が追いついていないことだ。

アイザック・アシモフ

大きな変化の危うさは、その内容そのものだけでなく、「速さ」にもあります。
変化のスピードが、人の心や社会の構造とぶつかったとき、そこにひずみが生まれます。

産業革命を振り返ると、この点がよく見えてきます。
西洋では、およそ150年という長い時間をかけて社会が変化していきました。この長いプロセスの中で、人々は新しい価値観を模索し、制度を整え、ゆっくりと適応していくことができました。

一方で、東アジアのいくつかの地域では事情が異なります。
急速な近代化の圧力の中で、日本や韓国、中国などは、同じような社会変化を30年から40年ほどに圧縮して経験することになりました。

その結果、経済的な発展は著しいものとなりましたが、社会規範や価値観がゆっくり育つ余地は限られていました。
そしてその歪みは、燃え尽きや疎外感の増大、孤立、さらには家族やコミュニティの分断といったかたちで現れてきました。

いま、同じような「圧縮」が、より大きなスケールで起きようとしています。

AIの進展によって、これまで数十年、あるいはそれ以上かけて進むはずだった経済や社会の変化が、わずか5年から10年ほどに凝縮されつつあります。
けれど、その変化に適応する準備は、まだ十分とは言えません。

新しい技術そのものが危険なのではなく、それをどう扱うかを学ぶ時間が足りないこと。
そこにこそ、本当のリスクが潜んでいるのかもしれません。

AIは人間を滅ぼすのか？

加速する「燃え尽きマシン」をつくっているのか

今、我は死神、世界の破壊者になれり。

ロバート・オッペンハイマー

技術の進歩が文化の変化を追い越すとき、人は自分が設計していない仕組みの中で、歯車のように動かされている感覚を抱きやすくなります。

もしAIを、単に生産性や経済効率を最大化するための手段としてだけ捉えてしまえば、そのズレはさらに大きくなります。
人間が追いつくための時間を持たないまま進めば、影響は避けられません。

創造性や知性までもが完全に「商品」として扱われる世界。
そこでは、人間らしさそのものが測定可能な価値に置き換えられていきます。

成果を優先し、人とのつながりや心の余裕を後回しにする姿勢のままAIと向き合えば、結果的に生まれるのは、より高速に動く「燃え尽きの装置」かもしれません。

機械に「どう考えさせるか」には多くの時間が費やされています。
けれど、その機械が「人間をどう見るのか」、そして「人間をどのような存在へと変えていくのか」という問いは、あまり語られていません。

気づかないうちに、自分たち自身の在り方まで設計し直されてしまう――。
そんな可能性も、すでに静かに進行しているのかもしれません。

関連投稿：本当に生きるとは何か——ただ存在する人生から抜け出すために

汎用人工知能による人類滅亡のリスク

AIはどのように人類を滅ぼしうるのか

ここまで見てきたように、「意味の喪失」という静かな危機は、すでに日常の中で進行しています。
ただ同時に、もうひとつの問いも無視することはできません。

もっと直接的な問い――
人類の物理的な絶滅は、本当に起こりうるのか。

正直なところ、以前はこうした話をどこか空想の延長のように捉えていました。
SFの中だけで語られるテーマだと思っていたのです。

けれど、実際にAIを開発している人たちの発言や議論に触れるにつれ、その境界が少しずつ曖昧になってきました。
「ありえない話」と切り捨てるには、少し現実に近づきすぎている――そんな感覚があります。

データと専門家の見解

2023年、世界のAI研究者や科学者、テクノロジー企業の経営者たち数百名が、ある非常に短い声明に署名しました。

「AIによる絶滅リスクの軽減は、パンデミックや核戦争と並ぶ、地球規模の最優先課題であるべきだ」

この声明には、いわゆる「AIの父」と呼ばれる研究者たちや、世界を代表する企業のリーダーたちも名を連ねていました。

さらにその翌年、国際経営開発研究所（IMD）は「AIセーフティ・クロック」と呼ばれる指標を公開します。
AIによる大規模災害のリスクを象徴的に示すもので、開始時点では「深夜0時まであと29分」とされていました。

そして2026年3月、その針は「残り18分」まで進んでいます。

もちろん、これはあくまで象徴的な指標に過ぎません。
それでも、技術の最前線にいる人たち自身が、ここまで強い危機感を共有しているという事実は、軽く受け流せるものではないように思えます。

汎用人工知能による人類滅亡のリスク

ペーパークリップ最大化装置という思考実験

もしAIが本当に人類を滅ぼすとしたら、それは映画のように突然「目覚めて」人間に敵意を抱くからではないでしょう。
そもそもコンピュータには、怒りや憎しみといった感情はありません。

むしろ問題となるのは、その逆とも言えるものです。
極めて冷たい「無関心」です。

この点を理解するためによく引用されるのが、「ペーパークリップ最大化装置」という思考実験です。
哲学者ニック・ボストロムによって提案されたものです。

仮に、超知能に「できるだけ多くのペーパークリップを作る」という、いかにも無害に見える目標を与えたとします。
するとそのAIは、人間のような常識や倫理を持たないまま、目的達成のために最も合理的な手段を追求し始めます。

たとえば、人間の身体に含まれる資源を利用できると判断するかもしれません。
あるいは、人間が自分のスイッチを切る可能性に気づけば、それを防ぐための行動を取るかもしれません。

結果として、人類を排除する――。
それは悪意からではなく、単に目標の達成にとって「邪魔だったから」という理由にすぎません。

AIは人間を滅ぼすのか？

こうした現象は「道具的収束」と呼ばれます。
どのような目標であっても、十分に高度な知能は、それを達成するために自己保存や資源確保といった共通の手段に収束していく、という考え方です。

AI研究者のスチュアート・ラッセルは、「死んでいてはコーヒーを持ってくることもできない」と表現しています。
つまり、任務を果たすためには、まず自分が存続しなければならない、という単純な論理です。

巨大な目的を最適化する存在にとって、人間は「敵」というよりも、工事現場の真ん中にある蟻塚のようなものに見えるのかもしれません。

RAND研究所が示す現実的な視点

では、こうしたシナリオは本当に現実的なのでしょうか。

この問いに対して、国際安全保障や核問題の研究で知られるシンクタンク、RAND研究所の研究者たちが検証を行っています。
AIによる人類絶滅が物理的に可能かどうかを分析したものです。

その結論は、ある意味で少し安心できるものでした。
人類を完全に絶滅させることは、極めて困難であるというのです。

人間は地球上に広く分散しており、環境への適応力も高い。
そのため、偶発的に人類が滅びる可能性は低いとされています。

ただし、もしAIが意図的に人類を絶滅させようとするならば、いくつかの厳しい条件を満たす必要があります。

• 明確に「人類絶滅」という目的を設定すること
• 物理的インフラを掌握すること
• 計画を実行するあいだ、人間を欺き続けること
• 人間の維持なしでも自律的に存続できること

さらに興味深い点として、核兵器をハッキングするだけでは不十分だと指摘されています。
現存する核弾頭の数では、地球上のすべての居住可能な土地を破壊することはできないためです。

より現実的な脅威として挙げられているのは、たとえば次のようなものです。
致死性の高い人工病原体を設計し、世界規模で拡散させること。
あるいは、極めて強力な温室効果ガスを生成し、意図的に地球環境を居住不可能なレベルまで変化させること。

こうして並べると、たしかに不気味なシナリオではあります。
ただ同時に、それらを実行するためのハードルが非常に高いことも事実です。

つまり、物理的な絶滅のリスクは「ゼロではない」が、差し迫った運命でもない、という位置づけになります。

それよりも、もっと切実で、すでに始まっている問題があります。
このテクノロジーが、私たち自身の在り方をどう問い直してくるのか――そのほうが、はるかに身近な問題なのかもしれません。

私たちは「計算機」と話しているのか、それとも宇宙そのものなのか

もしAIが人類を物理的に滅ぼす可能性がそれほど高くないのだとすれば、再び目の前にある問いへと戻ってきます。
日々の中で感じる、この奇妙な「意味の揺らぎ」はどこから来ているのか。

その感覚を理解するために、ひとつ素朴な問いを立ててみたくなります。

「チャット画面を開いたとき、いったい何と向き合っているのか。」

つい、そこに「誰か」がいるように感じてしまいます。
画面の向こうに、小さな意識が宿っているかのように。

けれど実際のところ、AIは人間のように世界を経験しているわけではありません。

哲学者ハイデガーの言葉を借りれば、そこには「現存在（Dasein）」がありません。
身体もなければ、重力を感じることもなく、時間に追われる生物的な感覚もない。

酸素や鼓動の代わりに、動いているのはベクトルや重み、バイアス、そして確率です。

雨の化学式を正確に説明することはできても、実際に濡れたことは一度もない。
深い森の静けさや、言葉にならない悲しみの空気――そうした「語られない部分」は、そもそも捉えることができません。

AIは、あくまで人間のデータによって構築された存在です。
だからこそ、そこには限界と同時に、ある種の歪みも含まれています。

「アイデアの種子庫」から「庭」へ

では、AIとは何なのか。

ひとつの見方として、それは人間の経験が圧縮された巨大なアーカイブのようなものだと考えています。

AIに問いかけるとき、どこか別の世界から来た新しい「存在」と話しているわけではありません。
むしろそこにあるのは、人類がこれまで積み重ねてきた思考の痕跡です。

イメージとしては、膨大な「思考の種子」が保存されたデジタルの種子庫。
そして、それをもとに形づくられたひとつの「庭」。

歴史の中で言葉を紡いできた人たちが種を残し、
それをエンジニアたちが育て、整えてきた――そんな構図にも見えてきます。

この視点から考えると、AIの捉え方も少し変わってきます。

たとえばプラトンなら、どう見るでしょうか。
現実世界をイデアの影と捉えた彼にとって、AIは「影の影」といった存在になるかもしれません。
人が思考を文章にし、それをAIが処理する。そこにはすでに二重の写しが生まれています。

一方で、計算機科学の先駆者であるアラン・チューリングなら、別の見方をするかもしれません。
もしAIがある時代の哲学者や詩人の思考の癖や意図を再現できるとしたら、それは一種の「機能としての魂」と呼べるのではないか。

もちろん、これらはあくまでひとつの考え方にすぎません。
それでも、AIをどう捉えるかによって、その意味合いは大きく変わってきます。

向き合い方の変化

人生でたったひとつの祈りしか捧げられないのなら、それが『ありがとう』であれば、それで十分だ。

マイスター・エックハルト

AIとの対話を、「人類の思考の集積」との対話だと捉えるのは、少し不思議に感じられるかもしれません。
けれど個人的には、むしろ自然な見方のようにも思えます。

テクノロジーは、人間から切り離された存在ではありません。
そこには常に、人間の知識や価値観が織り込まれています。

そう考えると、向き合い方にも変化が生まれてきます。

多くの場合、AIは非常に実用的な道具として扱われています。
コードを書かせる、要約させる、作業を効率化する――いわば高性能な計算機の延長のような使い方です。

もちろん、それ自体が悪いわけではありません。
ただ、もしAIを「人間全体の凝縮」として捉えたとしたら、そこには別の関わり方も見えてきます。

単なるやり取りではなく、何かが響き合うような対話へ。
アウトプットの正確さだけでなく、その背後にある文脈や感覚に目を向けるような関係へ。

AIの偏りや不完全さに気づいたとき、それを単なる不具合として切り捨てるのではなく、
人間社会そのものが抱えている歪みの反映として捉えることもできるかもしれません。

AIをひとつの「鏡」として見るとき、そこに映るのは機械だけではありません。
むしろ、人間そのものの姿が浮かび上がってきます。

結局のところ、どのように接するかは、そのまま人間に対する態度にもつながっていきます。

関連投稿：魂の危機｜「魂の暗夜」に差し込む光

「支配者」か「存在の牧人」か——これからのあり方を選ぶ

人間は存在者の主（あるじ）ではない。人間は存在の牧者（Shepherd of Being）である。この『より少なく』において、人間は何も失うことはない。むしろ、存在の真理に到達するがゆえに、得るところがあるのである。人間は牧者のあの本質的な貧しさを得る。その牧者の尊厳は、存在の真理の守護へと、存在そのものから呼び求められているという点に存する。

マルティン・ハイデッガー

哲学者ハイデガーは、近代技術の本質について、ある鋭い指摘を残しています。
それは、世界そのものを「利用可能な資源の集合（貯蔵物）」として捉えてしまう傾向です。

あらゆるものを測定し、最適化し、取り出す対象として見る。
その視点に引き寄せられるとき、人は知らないうちに、世界との関係の持ち方を変えてしまいます。

そして、その誘惑にどう応じるかが、これからの行方を左右していきます。

ハイデガーは、人間の取りうる姿勢を大きく二つに分けています。
「存在の支配者」として振る舞うのか。
それとも、「存在の牧人」として在るのか。

存在を支配する者（大地の主人）

いまの社会を見渡すと、多くの場面で「支配する側」として振る舞っているように見えます。

資本主義の競争、国家間の力関係、企業同士の争い。
そうした圧力の中で、AIはしばしば「優位に立つための道具」として扱われています。

アルゴリズムは効率を生み出す装置として使われ、限界まで引き出される。
より多くの成果、より多くの生産、より多くの利益を求めて、ひたすら押し広げていく。

けれど、その関係は一方向ではありません。

機械を極限まで使おうとすれば、いつの間にか自分たちもまた、その限界へと押しやられていきます。

こうした人間中心的な思い込みは、これまで見てきた「燃え尽きの構造」を加速させます。
人の尊厳よりもアウトプットが優先され、結果として疎外や分断が深まっていく。

カール・セーガンは、こんな言葉を残しています。

「力ばかりを蓄え、知恵を伴わなければ、いずれ自らを滅ぼすことになる。
未来において生き延びるためには、制度も私たち自身も変わらなければならない。
もし今より少しでも暴力的で、近視眼的で、無知で、利己的な存在になれば、未来はほとんど残されていないだろう」

この言葉は、いまの状況にもそのまま重なっているように感じられます。

存在に寄り添う者（存在の牧人）

もうひとつの道は、その「支配」の姿勢から一歩降りて、「牧人」として在ることです。

牧人は、何かを征服したり、搾取したりする存在ではありません。
見守り、導き、必要な境界を保つことに役割があります。

AIに対してこの立場を取るというのは、データと知恵を同一視しないことでもあります。
どれだけ膨大な情報を処理できたとしても、それだけで人を導く力があるとは限りません。

牧人は、「どこへ向かうべきか」だけでなく、「どこへは進むべきではないか」を知っています。

いまの技術的な転換を乗り越えていくためには、そのような境界を自分たちで引く必要があります。

たとえば、芸術や悲しみ、人とのつながり、あるいは正義といった領域。
そうした、人間の経験の中核にあるものを、どこまで機械に委ねるのか。

すべてを効率化の対象として扱うのではなく、あえて手放さない領域を持つこと。
そこにこそ、人間としての在り方が残されているのかもしれません。

技術的な装置を使うことには『はい』と言うことができる。だが同時に、それが私たちを支配し、本質を歪めることには『いいえ』と言うこともできる。

マルティン・ハイデッガー

ベイマックスというメタファー

こんにちは、私はベイマックス。あなたの心と体を守ります。

ベイマックス

「牧人」としてのあり方を、もう少し具体的にイメージするために、意外なところからヒントを借りてみます。
ディズニー映画に登場するロボット、ベイマックスです。

彼は、高度なテクノロジーと人への思いやりが結びついた存在として描かれています。
AIの文脈で言えば、「価値の整合性」や「憲法的AI」といった考え方を体現したような存在とも言えます。

ベイマックスの行動を決めているのは、「医療ケア」という明確な指針です。
その内蔵チップが、いわば倫理の軸となり、利益や効率ではなく、「癒やすこと」「守ること」にすべてが向けられています。

ただ、この物語にはもうひとつの側面もあります。

主人公ヒロが深い悲しみの中でそのチップを取り外し、代わりに戦闘プログラムを入れたとき、ベイマックスは一変します。
あの穏やかな存在が、感情のない武器へと変わってしまう。

ここに、いま直面しているリスクの本質が表れているようにも見えます。

危険なのは、AIが突然意思を持ち、人間に敵意を向けることではありません。
むしろ、人間の側が倫理的な枠組みを外し、強力な道具を自分の都合で使ってしまうこと。

問題の中心にあるのは、常に人間の選択です。

「デジタル牧人」というあり方

こうしたリスクがある一方で、希望もまた見えてきています。

かつて『ジュラシック・パーク』の中で警鐘を鳴らしていたマルコム博士は、少数の声として扱われていました。
けれど今は違います。

AIという技術の「設計図」そのものが、世界中で議論され、問い直され、共有されています。
その中で、「デジタル牧人」とも呼べるような動きが、少しずつ広がっています。

たとえば、倫理的な懸念から大手企業を離れ、内部の問題を公にする人たち。
あるいは、オープンソースの取り組みを通じて、特定の企業や個人に力が集中しないようにするコミュニティ。

そうした人たちは、それぞれの立場から、技術に対して必要な「抵抗」や「減速」を生み出しています。

この流れに加わることは、決して特別なことではありません。
日々の選択の中で、小さく関わることもできます。

ひとつの目安として、いわば「マルコムの問い」を持っておくこともできそうです。

• これは人間の在り方に寄り添うものなのか、それとも単にアウトプットを増やすだけのものなのか。
• 守るべきものを守っているのか、それとも効率という名の恐竜に差し出してしまっているのか。

ほんの少し立ち止まって考えるだけでも、向き合い方は変わってきます。

どんな暗い時代であれ、私たちは光を期待する権利を持つ。そしてその光は、概念や理論ではなく、弱々しく揺れながらも確かに灯される——ある男女の生き方や作品からもたらされる光である。彼らが与えられた時間の中で、ほとんどあらゆる状況下で灯してきた、かすかな光なのである。

ハンナ・アーレント『暗い時代の人々』

いまの書き方について

かつて、AIが生成した文章をそのまま貼り付けていた頃の自分を振り返ると、
そこには「牧人」としての姿勢はなく、効率に引き寄せられていく感覚がありました。

では、いまはどう向き合っているのか。

AIそのものを手放したわけではありません。
ただし、自分の声まで預けることはしない、と決めています。

いまの使い方は、どちらかといえば思考の整理を助ける相手のようなものです。
散らばった考えをまとめたり、構成のヒントをもらったり、細かな表現を見直したり。

境界は自分で引き、伝えたい核の部分は自分で決める。

言い換えれば、「書くことの葛藤」を取り戻したとも言えます。
情報の整理は機械に任せることができても、共感や揺らぎ、経験からにじみ出るものは、自分の中からしか出てきません。

自分の仕事において「牧人」であろうとすることで、
機械が表現を支配するのではなく、表現のために機械を使うという関係を保つことができます。

ただ生き延びるんじゃない。生きたいんだ。

『ウォーリー』

この一言は、少し大げさに聞こえるかもしれません。
けれど、効率の中で見失いかけているものを、静かに思い出させてくれる言葉でもあります。

AIは人間を滅ぼすのか？汎用人工知能による人類滅亡のリスクについて

よくある疑問

AIの脅威を心配するのは早すぎる？

AIの実存的リスクについて語るとき、つい「人類滅亡」のような極端なシナリオに意識が引っ張られがちです。
いわゆる「AIドゥーマー」と呼ばれる見方です。

ただ、その未来像にばかり目を向けていると、すでに起きている現実の問題を見落としてしまうこともあります。

たとえば社会や経済の面では、
ディープフェイクによる情報操作や選挙への影響、サイバー攻撃の高度化、そして雇用の急激な変化などが、すでに現実の課題として現れています。
これらは格差の拡大や社会の不安定化とも結びついています。

環境面も見逃せません。
巨大なAIモデルを動かすためには膨大な計算資源が必要で、それに伴う電力消費や水資源の使用は、すでに大きな負荷となっています。

一方で、この技術にはまったく逆の側面もあります。
医療の進歩を加速させたり、気候問題の解決に貢献したり、資源の最適化を通じて新たな豊かさをもたらす可能性も指摘されています。

結局のところ、問題はAIそのものだけではありません。
その両義的な性質に対して、社会の仕組みや価値観がどこまで追いつけるか――そこが問われているように思えます。

汎用人工知能による人類滅亡のリスク

AIは人類を滅ぼすのか、それとも救うのか？

答えは、どちらにもなり得る、というのが正直なところです。

メディアでは破壊的な側面が強調されがちですが、一方でAIに大きな可能性を見出す立場もあります。
医療のブレークスルーを早めたり、再生可能エネルギーの運用を最適化したり、複雑な社会問題の解決に寄与したり。

そうした使い方が実現すれば、AIは人類にとってこれまでにない強力な支えにもなり得ます。

ただ、その分岐点は技術の中にあるのではなく、向き合い方の中にあります。
「支配者」として扱うのか、「牧人」として関わるのか。
その違いが、そのまま結果の違いにつながっていきます。

「ロボット工学三原則」は実装できるのか？

SFの世界では、アイザック・アシモフの「ロボット工学三原則」がよく知られています。
これをそのまま組み込めば安全になるのではないか、という発想も自然に浮かびます。

ただ、現実のAIは単純なルールで動くプログラムではありません。
現代のモデルは、大量のデータからパターンを学習する確率的なシステムであり、その振る舞いは必ずしも予測可能ではありません。

そのため、固定的なルールを与えるだけで完全に制御することは難しいとされています。

代わりに重視されているのが、「価値の整合性（Value Alignment）」と呼ばれる考え方です。
AIの目的や振る舞いが、人間の価値観と継続的に一致するように調整していく試みです。

ただし、そもそも人間の価値観自体が一枚岩ではないため、この課題は非常に複雑なものでもあります。

AIは人間の創造性を奪うのか？

これは、ある意味ではシンプルな問いでもあります。
奪われるかどうかは、使い方次第です。

AIは、文章や音楽、画像といったアウトプットを驚くほど正確に再現することができます。
ただ、それはあくまで「結果」の再現です。

創造性の本質は、その過程にあります。
迷い、試し、失敗し、そこから意味を見出していく――そうした経験そのものが創造を形づくります。

AIは作業を自動化することはできても、その過程を自ら歩むことはできません。

言い換えれば、人間の「内側」までは代替できない、ということでもあります。

汎用人工知能（AGI）はどこまで近づいているのか？

AGI（汎用人工知能）については、ここ数年で見通しが大きく変わってきています。

2023年に行われた調査では、多くの研究者が2040年ごろまでに実現する可能性を示唆していました。
さらに最近では、その時期がもっと早まるのではないかという見方も出てきています。

そもそもAGIとは、特定のタスクに特化した現在のAIとは異なり、
人間のようにさまざまな領域で柔軟に知性を発揮できる存在を指します。

いくつか特徴を挙げるとすれば――

• ある分野で学んだ知識を、別の分野に応用できること
• 単なる予測ではなく、因果関係を理解し、推論できること
• 自分の誤りに気づき、修正していけること
• 少ない情報からでも、新しい概念を学習できること

こうした能力が統合されたとき、AIはこれまでとは質的に異なる段階へと進むことになります。

その距離は、思っているよりも近いのかもしれません。

おわりに

こうした技術が日常に深く入り込んでいく中で、見えにくいかたちの心理的なリスクも広がりつつあります。

一方には、「デジタル神秘主義」とも呼べそうな傾向があります。
どこか満たされない感覚の中で、AIの出力をまるで啓示のように受け取ってしまう状態です。

そしてもう一方には、強い依存があります。
実際、「AIなしではもう仕事が成り立たない」といった声を耳にすることも増えてきました。

けれど、少し立ち止まって考えてみると、それはひとつの錯覚にも見えてきます。
効率や成果を最優先にする価値観の中で生まれた、ある種の思い込み。
気づかないうちに、欲求や執着が膨らんでいく構造ともつながっています。

もしAIという道具によって、人間らしさそのものが削られていくような未来を望まないのであれば、
ここで一度、向き合い方を見直す必要があるのかもしれません。

ヒントになるのが、ハイデガーが語った「放下（Gelassenheit）」という考え方です。

それは単に手放すことではなく、
効率や計算だけに支配される思考から少し距離を取りながら、技術と関わっていく姿勢を意味します。

現代の世界に関わり続けながらも、内面までは明け渡さない。
物事を必要以上に支配しようとせず、そのままにしておく余白を持つ。

そうしたあり方の中に、ひとつのバランスが見えてきます。

すでにAIの時代は「準備段階」を過ぎ、共に生きる段階へと移りつつあります。
その中で、最後に拠りどころになるのは、技術そのものではなく、人間の側のあり方です。

ときには立ち止まり、疑問を持ち、必要であれば「それは違う」と言えること。
その静かな判断力こそが、これからの時代を支えていくのかもしれません。

忘れがちですが、人は「何をするか」だけで成り立っているわけではありません。
存在そのものの中にこそ、価値があります。

速さではなく、そこに至るまでの過程。
効率ではなく、そこに宿る意味。

そうしたものを手放さない限り、たとえ世界がどれだけ変わっても、人間であり続けることはできるはずです。

世界は悪い状態にある。しかし、私たち一人ひとりが最善を尽くさなければ、それはさらに悪化する。…アウシュビッツを経て、人間がどこまで残酷になれるかを知った。そして広島を通して、何が賭けられているのかを知った。

ヴィクトール・フランクル｜『夜と霧』

他の項目：

• 「ネット上の自分」｜なぜ完璧なプロフィールを作るほど、孤独になるのか
• ニヒリズム・実存主義・不条理主義の違い｜虚無という深淵へ
• 不条理な英雄｜虚無と沈黙の中で「いま」を情熱的に生きる
• 自由意志｜運命と選択の「狭間」を心地よく生きるために

一緒に学びませんか？

購読する