【AI】AIに「人類絶滅リスク」　ChatGPT開発トップら共同声明

米サンフランシスコを拠点とし、AIの安全性を検証する非営利団体のセンター・フォー・AIセーフティーが共同署名の形で声明を公開した。

共同署名にはAI研究の大家として知られるカナダのトロント大学のジェフリー・ヒントン名誉教授のほか、米アルファベット傘下でAIを開発するグーグルディープマインドのデミス・ハサビスCEO、AI新興アンソロピックのダリオ・アモデイCEOも名を連ねた。

声明は「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などと並び、世界の優先事項であるべきだ」としている。チャットGPTに代表される高度なAIがもたらす将来的な危険性について議論を呼びかけた。

生成AIは偽情報の拡散や差別の助長のほか、サイバー攻撃や兵器などへの軍事転用の問題がある。欧州では包括規制に向けた動きが進んでいる。米国では4日にハリス副大統領ら政府高官が、AI開発を主導するアルファベットなど4社のトップとホワイトハウスで会談した。

オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。同社はAIを安全に使えるようにするための公募プロジェクトも打ち出すなど、規制当局に先手を打つ形で動いている。
https://www.nikkei.com/article/DGXZQOGN3106A0R30C23A5000000/