/note/science

Terry Tao Is on the Front Lines of the Debate Over AI and the Future of Math

要約:

■ 1. AIによる数学界の危機とテレンス・タオ

  • タオの現状:
    • 世界最高の現存数学者の一人とされるが、現在はほとんど数学をしていない
    • 自らの状態を「戦時体制(war footing)」と表現
    • UCLAで開かれた2日間のワークショップは、AIが数学界にもたらした存亡の危機の話題で持ちきり
  • OpenAIによるナビエ・ストークス問題の解決発表:
    • 7つの「ミレニアム懸賞問題」の1つで、約1世紀にわたり最高の頭脳を阻んできた問題
    • タオは「もはやルールは存在しない」と述べる
    • 1年前なら驚愕した出来事にも麻痺しており、いずれPTSDの波に襲われるかもしれないと語る
  • 10月6日のOpenAIの大規模発表:
    • ほぼすべての分野で350件超の成果を公開
    • 対象は代数、数論、理論計算機科学、数理論理学、位相幾何学など
    • 長年取り組み解決間近だった数学者たちが、一瞬でAIに先を越される
  • 非公式スポークスマンとしての役割:
    • タオは24歳から終身教授であり、シニア研究者は若手ほどAIの脅威を受けない
    • 数学界が答えを求めてタオに注目し、その役割が現在の時間の大半を占める

■ 2. OpenAIとの関係悪化

  • かつてのAI推進者としての立場:
    • 2023年からOpenAIのモデルを試し、計算、コード作成、文献検索、発想出しに活用
    • 人間とAIの「両方の長所を生かす」未来を支持していた
  • 利用されたという感覚:
    • 1年前まではOpenAI社員と良好な関係にあり、科学者を力づけるAIという展望を共有していた
    • 成果発表を急ぐ姿勢に、モデルを評価するために数学を利用したという真の目的が表れている
    • 現時点で建設的に関与する道は見えない
  • ブログ「Proofs and Prompts」での怒りの表明:
    • 特に若手数学者による多くの人年分の研究が気軽に破壊されることに戦慄している
    • 映画のネタバレのように、既存の解を知った後では問題を豊かに探求できない
    • 技術開発の熱狂的競争の中で失われた「選ばれなかった道」と機会を悼む
  • プロモーション動画への出演:
    • トランプ政権がUCLAへの6億ドルの研究助成を停止し、タオが所属する純粋・応用数学研究所の存続が危機に
    • 緊急資金集めの一環でOpenAIに連絡し、6〜7万ドルでワークショップ開催の支援を得る
    • 3月に1時間のインタビューを受けたが、OpenAIは1分に編集し、AIは「本番の準備ができている」と語る部分を使用
    • 使用を許可したことは認めつつ、もっと強く反対すべきだったとブログに記す
  • OpenAI側の声明:
    • タオおよび数学コミュニティとの関与を重視していると表明
    • AIの進歩を人間の深い理解と新発見につなげるため、フィードバックに基づき行動し続けると述べる
  • 利益相反の開示:
    • ニューヨーク・タイムズはOpenAIとMicrosoftを著作権侵害で提訴しており、両社は否定している

■ 3. AIによる証明の質への評価

  • ナビエ・ストークス問題の証明:
    • 技術的には読めるが、議論全体を理解した専門家はいない
  • 最新発表の成果:
    • 文章は改善したが玉石混交
    • 一部の論文はタオの研究を適切に引用し、もっともらしい形で発展させている
    • それでも結果について本当に議論できる著者が存在しない
  • 評価の変化:
    • 発表前は「有毒廃棄物(toxic waste)」と呼んでいた
    • 現在は「処理済みの廃棄物かもしれない(maybe treated waste)」と呼ぶ

■ 4. 純粋数学が直面する根本的な問い

  • 中心的な問い:
    • 難問の解決が数学の使命なら、機械がより速く解ける時に何が起こるのか
    • 採用、昇進、大学院教育、名声は論文の難度、質、影響力に基づいている
  • AI支援は不可避という共通認識:
    • ただし新しい世界の姿は誰にもわからない
    • ハーバードで博士教育を議論した数学者グループの報告書草案は、今後数年は深い不確実性が続くと結論
    • 報告書はAIの刺激的な可能性を示しつつ、問題解決の知的冒険に惹かれた人々の喪失感を暗に含む
  • 発見の喜び:
    • 米国数学会会長ラヴィ・ヴァキルは、突然すべてが明確になるひらめきの体験を語る
  • 純粋数学の性質:
    • 科学であると同時に芸術として愛され、数学そのものの理解を広げることが主目的
    • 応用数学者は工学、金融、気象予報などでAIを概ね受け入れてきた
    • 純粋数学者は形、構造、数、抽象概念を研究する
  • 純粋数学の社会的貢献:
    • インターネット、マイクロチップ、GPS、暗号、CTスキャンなどを生み出した
    • 2006年にタオらが創出した圧縮センシング理論はMRIの撮影時間を短縮
    • 現在のMRIは拍動する心臓のリアルタイム画像を撮影でき、多くの子どもが鎮静なしで検査可能

■ 5. タオの人物像と活動

  • 人柄:
    • 穏やかなオーストラリア訛りで話し、自虐的でユーモアもある
    • 苦悩する天才のステレオタイプとは程遠く、明るさと謙虚さで知られる
    • 色褪せたジーンズにポロシャツ姿で自転車通勤し、3日前の残り物を弁当にする
  • 「コミュニティ・オーガナイジング」:
    • 数学者の結集、戦略立案、メディア対応、AIに関する講演、相談対応に時間を費やす
    • 助けを求める人に自分は対応できなくとも、相談相手を紹介する
  • ブログの役割:
    • 20年続くブログは数学界のトップページとなり、寄稿や講義ノート、ニュースが載る
    • 他の24人のフィールズ賞受賞者と共に、OpenAIの数学を「有害」とする声明に署名
    • その掲載日にブログは10万ビューに達し、妻からハフィントン・ポストのようだと言われる
  • 経歴:
    • オーストラリアで中国系移民の両親のもとに生まれ、2歳で独学で読字を習得
    • 8歳でSAT数学760点、13歳で国際数学オリンピック金メダル、20歳でプリンストン博士号取得
    • 1996年からUCLAに在籍し、31歳でフィールズ賞を受賞
  • フィールズ賞の業績:
    • 調和解析、偏微分方程式、加法的数論、組合せ論での業績
    • ベン・グリーンとのグリーン・タオの定理で、任意の長さの等間隔な素数列の存在を証明

■ 6. UCLAワークショップでの議論

  • ワークショップの概要:
    • テーマは「AI時代の偏微分方程式」
    • ハーバード、プリンストン、東京大学、サンディア国立研究所などから数十人の研究者が参加
  • タオの講演:
    • 夏の間にAIが構築・維持する明示的解析数論の「生きたスプレッドシート」を作る予定だった
    • 9月を充てていたが、ここ数週間の出来事で気を取られ未完成だと謝罪
  • 集団セラピーのような議論:
    • バークレーのタチアナ・トロは、人間の数学者の役割を問い直すなら数学の原点に立ち返るべきと提起
    • UCLAのアンドレア・ベルトッツィは、鉛筆と紙とコーヒーで証明できる点が数学の魅力だったと語る
  • ナビエ・ストークス証明のコスト:
    • 1万のエージェントが88時間かけて165ページの証明を生成
    • 費用は600万ドルではなく2200万ドル程度との声が上がる
  • AIのコストの非民主性:
    • 特に途上国の数学者にとって不公平であると指摘
    • トロは世界の半分が取り残されると述べる
  • タオの締めくくり:
    • 数学界には自己省察が必要と同意
    • ただし変化が速すぎ、「銃を突きつけられた自己省察」かもしれないと述べる

■ 7. 博士課程の学生たちの不安

  • ベン・ゴールドマン(25歳、博士課程4年):
    • 数学研究の創造性に長く惹かれてきた
    • 教科書に載る定理でなくとも、自分のDNAが宿る証明を望んでいた
    • 企業の雑な原稿で陳腐化する可能性があっても、学位論文の研究を進めている
    • 愛する分野が「露天掘り(strip mined)」されることに動揺している
  • シッダールト・ムルヘルカル(27歳、博士課程5年):
    • 終身教授への一歩となるポスドク職に応募中
    • タオからAI使用の許可を得ているが、AIの助けを開示した場合の評価が不明
    • ボタンを押して答えを得るだけの存在にはなりたくない
    • 伝統的な研究数学者として訓練してきたが、必要な新スキルやキャリアの姿が全くわからない
  • アリアン・ナジムザデ(26歳、博士課程5年):
    • 自分の研究に関連する4次元掛谷予想などの解決発表に衝撃を受け、数日数学を休んだ
    • AIの証明は極めて読みにくく、分野外の不慣れな用語を使う
    • 人間の発表者は講演や説明を通じて結果に責任を持つ点が良い
    • タオの助言で、ポスドク応募書類に10月6日の発表と自身の研究の関係を記載
    • タオは「部屋の中の象(elephant in the room)」に向き合うことが重要だと助言

■ 8. 数学の再発明と未来への展望

  • 数学教育の再発明:
    • タオは今後数年で数学、少なくとも数学教育の再発明が必要と考える
  • ハーバード報告書の提言:
    • 数学をより人間中心にすべき
    • 博士号は学位論文の文章よりも、厳格な対面での口頭審査を重視すべき
    • 学生は自身の研究について流暢に語れることを定期的に教授に示すべき
  • カリフォルニア工科大学でのタオの講演:
    • OpenAIの発表後も最前線の問題の大半は未解決
    • 数学は無限であり、問題の難度にも際限がない
    • AIで膨大なデータを集められるため、数学者は大集団で前例のないプロジェクトに協働するようになる
  • 学生との面談:
    • 週1回の面談は技術指導よりもセラピーの色合いが強まっている
    • 以前できたことだけに注目すれば、見通しは暗い
  • 戦いではなく必要から生まれた受容:
    • 問題解決は目的地ではなく旅であり、途中の学びは答えより重要なことが多い
    • 1つの問題を独力で解くより、AIで10の問題を解き新たなパターンや問いを見出せる
  • 学生への期待:
    • 想像力を使う必要があり、今は創造性の時代
    • 学生が望んだ状況ではないが、多くの学生が周囲を驚かせると期待している

MEMO: