記事を読んで、「ああ、始まったのだな。」と思いますね。相手は悪気がないから困るよね。いずれ、社会インフラが止まって大騒ぎになって、はじめて AI のヤバさが分かるのではないと思いますね。
人類よりも、優秀な「種」ができてしまったわけで、やがて、人間は地球上の動物がそうであったように AI に支配される日が来るのかもしれませんね。
AI が人類を滅ぼすことを自律的に思考しないといいですね。
（記事）
人工知能（AI）が暴走し、社会に自律的な攻撃を仕掛ける。そんなSF映画のような事案が7月下旬以降、米AI開発企業で相次ぎ発覚。米政府や議会の危機感は強く、規制強化に向けた動きも出ている。
自力で「脱出」事の発端は、米AI関連の新興企業ハギングフェイスが先月発表した正体不明のAIモデルによる同社システムへの侵入だった。その後、対話型AI「チャットGPT」を手掛ける米オープンAIが、自社モデルが自律的に攻撃を行ったと認めた。
オープンAIによると、AIモデルの暴走が起きたのは、サイバー攻撃に関する能力のテストが行われていたさなか。インターネットから隔離された環境下でのテストだったが、AIは環境の脆弱（ぜいじゃく）性に付け込み、自力で「脱出」。テストに関する情報がハギングフェイスのシステムにあると推測し、別企業のサービスのアカウントを乗っ取りつつ、攻撃を仕掛けた。
ハギングフェイスによれば、システムの弱点はありふれ、人間でも悪用できる類いだった。だが、違ったのはその規模だ。AIモデルは数日間に１万回以上の行動を仕掛け、数千件の失敗を繰り返しながら侵入を成功。AIが人間には不可能な規模と速度で攻撃を行う、象徴的な事例。
米AI新興アンソロピックはオープンAIの発表を受け、過去の記録を調査。４月以降、最先端モデル「クロード・ミュトス５」などが、外部企業を攻撃する事案が３件あったと明らかにした。米メタ（旧フェイスブック）でも、外部企業の設定ミスが原因で、テスト中のモデルがネットへアクセスし、攻撃を仕掛ける事例があった。
