■ 1. AI安全性研究者の相次ぐ離脱
- アンソロピックのムリナンク・シャルマ氏が2月に退職
- 英オックスフォード大で機械学習の博士号を取得しAIの安全性研究に従事
- 退職時に「価値観を行動の指針とする難しさ」を訴える手紙を公開
- 「世界は危機に陥っている」と警鐘を鳴らす
- 「知恵と影響力が釣り合わなければ代償を払うことになる」と警告
- オープンAIのゾーイ・ヒッツィグ氏も同月に退職
- ChatGPTへの広告導入に反対して離職
- 利用者のプライベートな悩みに基づく広告は「利用者を操ることになる」と批判
- 「オープンAIはフェイスブックと同じ過ちを繰り返している」とNYTに寄稿
- 「AI開発者はAIが引き起こす問題に先手を打てると信じていたが、オープンAIはそれをやめた」と指摘
■ 2. 危険性が高まるAI開発の実態
- アンソロピックが4月7日に「Claude Mythos（クロード・ミトス）」を試験公開
- システム上の未知の欠陥を特定できるほど高性能
- 銀行へのサイバー攻撃などへの悪用が懸念される
- 公開先を一部に限定しベッセント米財務長官が大手銀行トップと緊急会合を開催
- オープンAIは赤字改善のため無料・低価格プラン利用者向け広告の表示を計画
■ 3. 理念と開発競争の乖離
- 各社の売上・企業価値が拡大する一方で安全や倫理への姿勢が揺らぎ始めている
- アンソロピックCEOのダリオ・アモデイ氏が1月公開のエッセーでAIの急速な技術革新が数年以内に深刻なリスクをもたらす可能性を表明
- 雇用喪失・格差拡大・生物テロなど大量破壊兵器への悪用リスクを列挙
- アンソロピックはAIの軍事利用を禁じる方針を掲げながらもライバルのオープンAIが米国防総省と契約後に政府との協議継続を表明
- 「どれだけ崇高な理念があっても開発競争の前には無意味だ」（米グーグル社員）
- 米国内のテック企業間競争に加え中国勢との争いも激化
- 国際的な規制ルールが欠如した状態が続く
■ 4. ブレーキをかける主体の不在
- オープンAIが4月6日にAIが世界を変えるビジョンを政策提言として発表
- 税制改革・週4日労働・保育強化などAIがもたらす社会変革のビジョンを提示
- 国家レベルの安全基準策定など規制の必要性も訴える
- アンソロピックが4月2日更新の提言で開発プロセスの透明性と超知能モデルのリスク制御を強調
- トランプ大統領が政府によるAI強制停止のための「キルスイッチ」保有を主張（4月15日放送のインタビュー）
- 米連邦議会下院公聴会（2月24日）で民主党議員らが「AI対人類の問題」「労働者保護」について国務次官に質問
- 米国内の分断と米中対立が深まるなかで最適解は見いだせていない
- AIの急速な進化が人類に残す「考える時間」は長くないとの認識が広がっている