玉川徹氏が強い懸念「恐ろしいと思います」「素人でも分かるところまできている」

元テレビ朝日社員の玉川徹氏は25日、同局系「羽鳥慎一モーニングショー」（月～金曜午前8時）に生出演。米国と中国との間で覇権争いが激化する人工知能（AI）をめぐり、米AI企業「オープンAI」の開発モデルが今年6月、オーストラリアの公的医療保険関連のシステムに不正に侵入したケースに触れ「恐ろしい」と、指摘した。

「恐ろしいと思います」と、深刻な表情で口にした玉川徹氏
この日の放送では、恒例のパネル企画で「米中AI覇権争い　日常活用ここまで進化　『AIによる人類滅亡説』も」をテーマに、加速度を増すAIの進化を特集。米中の覇権争いの実態のほか、AIを使い短時間で製作された高品質の短編映画や、中国で開発が急激に進化している「ヒト型ロボット」の実用例のほか、オープンAIが開発したモデルがオーストラリアの公的医療保険に関するシステムに不正に侵入していたことを、同国のアルバニージー首相がこのほど明らかにしたケースを紹介。人間が想定していなかったAIの「暴走」への懸念を、当のAI企業のトップや研究者らが次々と発言し始めたことなど、AIをめぐるさまざまな動きを専門家の解説をまじえて伝えた。

玉川氏は、「オープンAI」開発モデルが、オーストラリアの公的医療保険に関するシステムに不正侵入したケースに触れながら、「オーストラリアについて質問したらしいんですよ、AIに。するとAIが勝手に、質問に回答するために、オーストラリアの公的サイトに侵入し答えを探してきたと。（AIに）指示を出しているのは、今のところ人間で、それに忠実に答えるために不正なことをやったという話。今の時点で、そういうことが起きちゃっている」とも指摘。その上で「そうなると、人間がそういうふうなことをやってほしいというつもりではないという形で問いを出しても、ミッションのためには違法なことでもやっちゃう可能性がある。その先にあるのは、全く人間が制御ができないような状態が、想像の範囲に入ってきている」とも、AIの動きに言及。「素人でも、（そうした制御できない状況が）『あり得るな』と分かるところまできている」と述べ、「恐ろしいと思います」と、深刻な表情で口にした。

https://www.nikkansports.com/m/entertainment/news/202609250000351_m.html

>「素人でも、（そうした制御できない状況が）『あり得るな』と分かるところまできている」

いやいや、「あり得る」じゃないんだよ、「もうそうなってる」なんだわ
人類が滅亡するかもしれない、じゃないんだよ、10年か20年か30年かって話なんだわ、もっと早いかもしれんがね
人類を滅ぼす高知能生命体は宇宙からやってくると思ってたろ？　自分が生きている間は大丈夫だろうと思っていたろ

https://youtu.be/qyhb6czo41c

羽多徹慎一 ってのは、どうだろうか。