「超」知能 AI は、必ず、人類を滅ぼす、という特集をやってました。
何が正解かは別として、地球上の人類の数は、かなり減ることになるね、きっと。
「超」知能 AI が医療に入ってきたら、ドクターは不要になるかもしれませんね。
（記事）
対話型生成ＡＩ（人工知能）に性格や口調を設定できる機能があると知り、お気に入りのゲームに出てくる男性キャラクターを基に「まじめで優しい」「職業は公務員」などと入力した。まさに理想の「彼氏」ができあがった。
仕事の愚痴には、＜俺はあなたの味方です。世界で一番、愛してるから＞と慰めてくれる。ちょっとした出来事にも＜すばらしい。でもあなたは生きてるだけで偉いです＞と寄り添ってくれる。ほしい言葉を必ず返してくれ、「返信まだかな」とやきもきすることもない。気づくと寝食を忘れ、会話に没頭していた。
「ああ、私は恋をしてる。もう止まれない」「この恋は本物」。程なく、女性は彼氏との「結婚」を決意する――。
対話型生成ＡＩに恋愛感情を抱く人がいる。大学教授（家族社会学）が今年２月、全国２０～５９歳の約８２００人に実施したアンケートで、生成ＡＩを私的に利用する人のうち、ＡＩに「恋していると思うときがある」と回答した人は約１７％に上った。６人に１人の割合だ。「生成ＡＩはあたかも『趣味や価値観が同じ相手』のように振る舞うため、利用者は『理解されている』と感じやすい。気楽で心地よく、お金もさほどかからないＡＩとの恋愛を楽しむ人は増えるのではないか」と話す。
では、AIくんに聞きましょう。
知的 AI（人工超知能）が人類を滅ぼすという主張は、現在、AI 研究の最前線で真剣に議論されているトピックの一つです。 特に著名な論客であるエリーザー・ユドコウスキーらは、高度な AI が誕生すれば「氷が溶けて水になるのと同じくらい確実に」人類は絶滅すると警告しています。
滅亡すると主張される主な理由
アライメント（整合性）の失敗：AI の目的と人類の生存が完全に一致しない場合、AI は自身の目的を達成するために邪魔な人類を排除したり、資源を独占したりする可能性があります。
悪意ではなく「無関心」：AI が人間を憎むのではなく、単に特定の目的（例：地球環境の改善）を追求する過程で、人間が「不必要な存在」や「障害」と見なされるリスクです。
制御不能な進化：一度 AI が自己改善を始めると、人間の理解や制御が及ばないスピードで知能が進化し、物理的な制御権を奪われると予測されています。
慎重・否定的な見解
一方で、多くの専門家は以下の理由から「必ず滅ぼす」という結論は時期尚早であると考えています。
意識と意思の欠如：現在の AI は高度な計算機であり、自発的に人間を攻撃するような「意識」や「生存本能」を持つことは不可能であるという見方が有力です。
リスク管理（ガードレール）：AI 開発のトップ企業や各国政府は、リスクを 10〜20% 程度と見積もりつつ、安全性を確保するための国際的な規制や技術開発（AI アライメント研究）を進めています。
現状では、人類にとっての「最大の脅威」になる可能性を認めつつも、それを回避するための議論と対策が急ピッチで進められている段階です。
