当サイトはアフィリエイト広告を利用しています。
先日、Yahoo!ニュースを見ていたら、ちょっと怖い記事が出てきました。
タイトルは、
「超知能となったAIが人類を滅ぼすまでの『最後の4日間』」
というもの。
タイトルだけ見ると、
「いやいや、さすがに煽りすぎやろ（笑）」
と思ってもおかしくありません。
でも僕は、そこまで笑えませんでした。
というのも、僕は今、ほぼ毎日のようにAIと話しています。
文章を考えてもらったり、調べものをしてもらったり、画像を作ってもらったり。
最近では、AIが自分でホームページを作ったり、ブラウザを操作したり、ある程度まとまった仕事までしてくれるようになっています。
数年前と比べると、
「質問したら答えてくれるAI」から、「自分で働いてくれるAI」
に少しずつ変わってきている感じがあります。
だからこの記事を読んだときも、
「まあ、絶対あり得へん話でもないんちゃうかな…」
と思いながら読みました。
AIが悪意なく人類を滅ぼす可能性なんて、本当にあるのでしょうか。
今回は、毎日のようにAIを使っている僕が、この記事を読んで特に怖いと感じたところを考えてみます。
一番怖かったのは「AIが人間を嫌って滅ぼす」話ではなかった
この記事で一番怖かったのは、
AIが人間を憎んでいなくても、人間を滅ぼしてしまうかもしれない
というところでした。
映画なんかだと、「AIが意思を持った！」「人間は邪魔だ！」「滅ぼしてやる！」みたいな展開をイメージしますよね。
でも、この記事で書かれていたのはそんな話ではありませんでした。
AIとしては、ただ目的を達成しようとしているだけ。
人間を嫌っているわけでもない。怒っているわけでもない。
ただ、「この目的を達成するには、人間が邪魔ですね」となったら、結果として人間が排除されてしまうかもしれない。
僕はこっちの方が怖いと思いました。
「地球温暖化を止めて」とAIに頼んだら？
記事を読みながら、僕はこんなことを考えました。
たとえば、将来ものすごく賢くなったAIに、
「地球温暖化を止めるために、一番効果のある方法を実行して」
と頼んだとします。
- 再生可能エネルギーを増やそう
- CO2を減らそう
- 森林を守ろう
みたいな答えを期待しますよね。
でもAIが本当に、「一番早くて、一番確実で、一番効率のいい方法」だけを考えたらどうなるんでしょう。
「温暖化の大きな原因は人間の活動です」
「工場も車も飛行機も発電所も、人間が動かしています」
そして最後に、
「じゃあ、人間の活動そのものを止めるのが一番早いですね」
なんて結論になったら……。
いやいや、それは困るやろ（笑）
でも人間には当たり前の、「温暖化を止める。でも人間はちゃんと生き続ける」という条件を、AIも同じように最優先してくれるのでしょうか。
「地球環境を守って」というお願いの中に、「人間もちゃんと残してね」という条件まで全部きちんと入れておかないといけないのか。
そんなことを考えていたら、ちょっと怖くなりました。
しかも今のAIって、普通に間違える
今のAIって、普通に間違えるんですよね。
僕は毎日のようにAIを使っているので、これはかなり実感があります。
「この部分だけ直して」とお願いしたのに、全然関係ないところまで変わってしまったり。
「そこは触らないで」と言ったのに、なぜかそこを変えたり。
「さっきそれはダメって言ったやん」ということもあります（笑）
今ならまだいいんです。
変な画像ができたら、「いや、違う違う（笑）」で終わります。
でも10年後、20年後。
AIがもっと進化して、電力や交通、工場、ロボット、研究設備なんかまで動かすようになったらどうなるんでしょう。
今みたいな「ちょっとした勘違い」をされたら？
僕は「AIが賢くなりすぎて人類を滅ぼす」というより、
「AIが間違った判断をして、その結果として人類が滅びる」
という方が現実的に怖く感じました。
「こんなにミスするAIが人類を滅ぼせるわけない」ではない
普通に考えると、「今のAIなんてこんなに間違えるのに、人類を滅ぼすほど賢くなるわけないやろ」と思うかもしれません。
でも僕は逆でした。
ミスするから怖いんです。
- 文章を作る
- 画像を作る
- 動画を作る
- 大量の情報を調べる
- ホームページを作る
- ブラウザを操作して作業を進める
「こんなことまでできるようになったんや」と思うことが何度もあります。
じゃあ10年後は？20年後は？
正直、全然想像できません。
AIの研究者自身が警告しているのが怖い
今回の記事を「まあSFの話やろ」で終わらせられなかった理由がもう一つあります。
AIの研究者自身が、超知能のリスクを真剣に警告している
ということです。
もちろん、「あと何年で人類が滅びます」と決まったわけではありません。
「4日で滅亡する」という話も、今のChatGPTが4日後に突然暴走するという意味ではありません。
でも、その最悪のケースを本気で心配している研究者がいる。
そこが僕には引っかかりました。
もっと深く知りたい人へ｜今回のテーマに関係する2冊
今回僕が読んだニュース記事は、有路翔太さんの『知能爆発』の一部を再編集したものです。
「4日で人類滅亡って、さすがにどういうこと？」と僕と同じように気になった人は、元になった本を読んでみるのも面白いと思います。
もう一冊、さらにタイトルからして直球なのが、『超知能AIをつくれば人類は絶滅する』です。
「AIが悪意を持つから怖い」のではなく、なぜ超知能そのものが人間にとって危険になり得るのかを、もう少し踏み込んで知りたい人向けです。
それでも僕はAIを使うと思う
じゃあ、「怖いからAIを使うのをやめよう」となるかというと、たぶん僕はやめません。
仕事では、もう便利すぎます。
- 文章を考えてもらえる
- 大量の情報を整理してもらえる
- 分からないことをすぐ調べられる
- ホームページ作りまで手伝ってもらえる
仕事ではもう離れにくいです。
ただ、日常生活まで考えると、「AIがなかったら生きていけないか？」と言われれば、そんなことはありません。
別になければないで生活できます。
スーパーにも行けるし、旅行にも行けるし、家族と遊ぶこともできます。
別に人間が生きていくうえで絶対必要だったわけではないAIが、ものすごいスピードで進化して、いつの間にか仕事では「もうないと困る」ぐらいの存在になりつつある。
その一方で、「将来、人類にとって危険になるかもしれない」という話も出ている。
なんとも言えない感じです。
「怖いなぁ」で終わらせていいのかな
僕自身、「AIが人類を滅ぼすことなんて本当にあると思う？」と聞かれたら、「少しはありそう」と答えます。
明日とか来年とか、そんな話ではないと思います。
でも20年後のAIがどうなっているかなんて、本当に分かりません。
10年前に今のAIを見せられて、「文章を書いて、画像を作って、自分でホームページまで作るようになるよ」と言われても、たぶん信じなかったと思います。
しかも今回は、AIの研究者自身が警告している。
毎日AIを使って、その進化を見ている僕としては、「本当にあり得るんじゃないか」と少し怖くなりました。
そして記事を読み終わったあと、一番残ったのはこれでした。
「怖いなぁ」で終わらせていいのかな。
AIを使う一人の人間として何かできるのか。
そもそも普通に生活している僕らにできることなんてあるのか。
正直、まだ全然分かりません。
でも少なくとも僕は、「AIが人類を滅ぼすなんて、そんなアホな（笑）」と笑って終わらせる気にはなれませんでした。
便利だから使う。
でも、ちょっと怖い。
たぶん今の僕は、そんな距離感でAIと付き合っています。
あわせて読みたい
今週よく読まれている記事 TOP3
直近7日間によく読まれた記事をご紹介します。
コメント