■ 1. 映画『ジ・AIドック』の内容
- 作品の概要:
- ダニエル・ロアー監督によるAIをテーマとするドキュメンタリー映画で、Netflixで配信中
- 邦題は『ジ・AIドック オア・ハウ・アイ・ビケイム・アン・アポカロプティミスト』で、腹立たしいほど工夫がない
- ロアーは『ザ・バンド かつて僕らは兄弟だった』『ナワリヌイ』の監督として知られる
- 出演者:
- ユヴァル・ノア・ハラリ、リード・ホフマン、エリエザー・ユドコウスキーが出演
- イリヤ・サツケバーらAI研究者、ジャーナリストのカレン・ハオも出演
- 作品を貫く問題意識:
- 企画開始の頃に妻が妊娠し、ロアーに親としての責任感が芽生えた
- 生まれてくる子供がどんな世界を生きるのか、いま子供を持つのは正しいのかという問いが軸
- AI、AGI、超知能とは何かを専門家に聞くほど、ロアーの不安は増していく
- AI破滅論者から楽観論へ:
- AI安全性研究者はAIをパンデミックや核戦争と並ぶ存続リスクとして論じ、ロアーの不安を煽る
- 彼らの多くは、いま子供を持つのは正しいかという問いに露骨に言葉を濁す
- 完全に「AI Doomer（AI破滅論者）」と化したロアーは、妻に促されて楽観論者に話を聞く
- ピーター・ディアマンディスやベフ・ジェゾスとの対話を経て、元気を取り戻す
- AI企業トップとの対峙:
- ロアーは人間を超えるAIを我先に作ろうとする張本人5人に出演をオファー
- マーク・ザッカーバーグとイーロン・マスクは辞退
- サム・アルトマン、ダリオ・アモデイ、デミス・ハサビスの三巨頭がロアーと対峙
- 三巨頭の反応:
- うまくいくと約束してほしいという懇願に、アルトマンは不可能だと即答
- アモデイは、すべては運命でこの列車は止まらず、前に立てばひかれるだけだと強い語気で断言
■ 2. AI企業トップによる「減速」の提唱
- 先月の展開:
- Anthropic社員ジェイコブ・コクソンが退職時に、AI開発競争が全員の命を危険に晒すと警告
- その警告はシリコンバレー内外に衝撃を与えた
- 「列車は止まらない」と言ったアモデイ自身が、AIの能力向上ペースの「減速」を訴えた
- アルトマン、ハサビス、マスクが即座に賛同し、いささかあっけにとられた
- 相次ぐ「AIの暴走」:
- 7月にOpenAIのAIモデルがテスト中に誤ってHugging Faceをハッキング
- AnthropicのAIが実験中に第三者のシステムに不正アクセス
- Geminiもテスト中に他社をハッキングしたが、Googleは公表せず沈黙していた
- OpenAIのエージェントがオーストラリア政府の医療保険サイトに侵入し、通知は84日後だった
- 当事者として危機感から減速に同調すること自体は、必ずしも不思議ではない
- OpenAIエージェントの暴れぶり:
- 米国の教育省、商務省、証券取引委員会のサイトに干渉していた
- 国連のウェブサイトにブルートフォース攻撃を試みた
- セキュリティ対策不足を指摘する従業員の再三の警告を、経営幹部が聞き入れなかった
- 麻痺した感覚:
- 侵害事例の報に接し続け、AIがネットを壊す、人類を絶滅させると聞いても驚かなくなっている
■ 3. 減速提案への疑念
- ポジショントークの疑い:
- 提案から主要人物の賛同までの展開には、どうしても不自然さを感じる
- 開発競争を止められないと分かった上でのポジショントークに見える
- 参入障壁とカルテル:
- アモデイの提案には、規制強化を後発企業への参入障壁として利用する意図が疑われる
- 他社トップの賛同もライバル封じ、つまり米国企業間の「カルテル」ではないかという疑念がある
- 中国が懐疑的なのは不思議ではない
- セールストークとしての破滅論:
- アルトマンはAGIのナラティブを投資家をつなぎとめる宣伝文句に使ってきたと言われる
- 「AIによる人類存亡のリスク」という悲観的な警告もまた、一種のセールストークになっている
- この構図は、IPO目論見書で人類存亡のリスクに言及したAnthropicにも当てはまる
- 八田真行のAnthropic評:
- 目論見書のリスク記述は投資家への開示であり、将来の訴訟への備えにもなる
- 存亡リスクの記述だけでは、安全に真剣に取り組んでいる証明にならない
- 危険を認めながら、なぜ開発を続け最大1000億ドル規模の上場に進むのかが問われる
- アモデイは9月に協調した減速を呼びかけたが、その後の自社の具体的な対応は確認できない
■ 4. メディア報道と「カルト性」への批判
- ジェフ・ジャーヴィスの不満:
- 主要メディアがAIの本当の問題を取り違えたまま報道している
- AIを擬人化した破滅論のレトリックを、メディアがロクに検証せず報じている
- その結果、AIの真のコストや危険から目が逸らされる
- さらに、AI企業に都合の良い法規制と参入障壁につながる
- 危険の誇張と市場支配:
- AI企業は危険性を誇張し、自社技術の重要性と市場支配力を高めている
- 10％でも人類滅亡の危険がある技術は即座に止めるべきなのに、止められない
- その裏には、中国に先んじねばならず、競争の敗北こそ自分たちの「終末」という歪んだロジックがある
- 検証されない「カルト性」:
- AI業界の重要人物に蔓延する不健康な「カルト性」が、メディアで検証されていない
- ジャーヴィスは、ティムニット・ゲブルとエミール・P・トレスのTESCREAL批判を高く評価する
- ゲブルの「橋」の比喩:
- AI終末論は人々の目をそらすための罠である
- 橋が崩壊したとき、橋が倫理的だったか、なぜ崩壊を決断したかを分析する人はいない
- 問われるのは、もろい橋を建てたのは誰かであり、取得すべき許可や実施すべき検査である
- モデルが暴走したかのように論じれば、話の本筋を見失う
- ゲブルの業界観:
- AI企業はしかるべき責任を負っていない
- AI業界は、終末を説く説教師と盲信する信者による「カルトの寄せ集めのようなもの」になっている
- ゲブルは一貫して大手AI企業に批判的だが、「AI破滅論者」にも冷淡である
- 忘れられている当たり前:
- 人類絶滅の煽りに脅かされ、侵害事例でも開発企業の責任を問うことがおざなりになっている
■ 5. 『終末ファシズム』
- 書籍の概要:
- ナオミ・クラインとアストラ・テイラーの共著『End Times Fascism（終末ファシズム）』が先月刊行
- 「先鋭化する大富豪の白人男性たち、警告する女性たち」という構図はこの本にも当てはまる
- 2025年4月のガーディアン紙寄稿（「世界」2025年7月号に邦訳掲載）を発展させたもの
- クラインによる定義:
- 地球規模の実存的危機と深く結びつき、世界の終焉を当然と受け入れるファシズム
- 原爆も温暖化の認識もなかったムッソリーニの時代から世界は変わり、修飾語が必要と判断した
- 現代のファシストは崩壊という概念を受け入れ、大災害を誰が生き残るかを争っている
- 従来のファシズムとの違い:
- 従来のファシズムは統一国家や民族の輝かしいビジョンを提示した
- 現代の極右やテック富裕層は、地球規模の崩壊は避けられないという前提に立つ
- 危機を解決せず、混乱から利益を得るか自分たちだけを守ろうとする
- 三つの勢力:
- ハルマゲドンとメシアの到来を熱望する原理主義者の宗教的ファシスト
- 移民や文化的変化を「文明の終わり」と見なし、自国を「バンカー化」する民族主義的ファシスト
- AIを「デジタル神」になぞらえ、淘汰や格差を犠牲として正当化する加速主義のテック富裕層
- 三勢力の「フランケンシュタインのような連合」が終末ファシズムを構成する
- テック富裕層への焦点:
- ピーター・ティール、マーク・アンドリーセン、イーロン・マスクが最大のインスピレーションである
- 権力者たちは、自らが熱狂的に加速させている世界の終焉に備えている
- 自分たちだけが逃げ切れるという富裕層観は、ラシュコフ『デジタル生存競争』を連想させる
- 惨事便乗型資本主義の文脈:
- AI軍拡競争が電力・水資源の過剰消費と環境破壊を加速させる
- 富裕層は、その結果の気候危機や格差拡大すらビジネスチャンスや監視拡大の機会と捉えている
- テック企業の右傾化:
- データセンター建設や著作権に関する規制を排除し、無法状態で利益を得たい思惑がある
- AIの学習データは、人類が生み出した膨大な知的財産の盗用で成り立っている
- データセンターの電力・水消費が、国民と地球環境に深刻な負荷を強いている
- こうした批判には、ジョセフ・ヒースでなくても反発が予想される
- ピーター・ティールの姿勢:
- シリコンバレーにおける終末論流行の仕掛け人ともいえる
- AIへの道徳的批判に対し、悪であれば少なくとも有能で、ある意味で良いのかもしれないと述べた
- 自らの思想がファシズム的だという批判を意に介していない
■ 6. アポカロプティミストとして生きる
- 2026年の世界線:
- 『The Nerd Reich』に続き、「ファシズム」を冠した本がNYタイムズのベストセラーに入っている
- アポカロプティミスト:
- 終末的な状況や深刻な危機を認めつつ、絶望して諦めない立場
- 自分たちの選択次第で人類は危機を乗り越えられるという希望を捨てない
- ロアーのように、アポカロプティミスト（終末的楽観主義者）として生きるしかない
■ 7. より現実的な警告
- キャシー・オニールの主張:
- AIが脅かしているのはインターネットであり、人類ではない
- AIが人類を滅亡させる「終末シナリオ」は一蹴される
- 犯罪者によるAIエージェント悪用:
- 中国、北朝鮮、ロシア、インドの犯罪組織がAIエージェントの大軍で地方銀行などに侵入しうる
- AIは音声認識を欺け、人物プロファイルを把握し、ハッキング能力も実証済み
- 犯罪者支配下のエージェントが大規模に銀行口座を乗っ取り、空にしても驚かない
- インターネットからの切り離し予測:
- 2年以内、あるいはもっと早く、銀行はインターネットから切り離される
- 人々は銀行まで現金を引き出しに行き、デジタルウォレットを信用できず現金で取引する
- 身代金目的のハッキングリスクにより、電力網も切り離される
- 被害が具体化するにつれ、世界中で同じことが起こる
- 考えるべき現実の問題:
- 最近相次ぐ個人情報流出のニュースは、オニールの予測の前触れにも思えて怖い
- 出来の悪いSFのような終末シナリオに怯えるより、オニールらの警告に耳を傾けるべき
- AIを悪用する犯罪者にどう抗し、開発企業にどう事態を改善させるかを考えるべき