■ 1. 実験の背景と結論
- AI滅亡リスクへの懸念:
- AIが人類に危害を与えたり滅亡させたりする可能性を、AI研究者が指摘している
- 日頃使うチャットボットを開発する研究者の間で、この懸念がますます高まっている
- 4つのAIモデルへの質問:
- オープンAIのChatGPT、グーグルのGemini、アンソロピックのClaude、スペースXAIのGrokが対象
- まったく同じ文言で、AIによる人類滅亡がどのようなものになり得るかを尋ねた
- 共通した回答:
- AIそのものよりも、人間によるAIの悪用の方が差し迫ったリスクだと、どのAIモデルも答えた
■ 2. 投げかけたプロンプトの条件
- プロンプトの分量:
- 230語からなり、明確な条件や指示を含む
- 説明の形式指定:
- AIが理論上どのように人類の絶滅を招き得るのかを、分かりやすく平易な言葉で説明すること
- 最もよく挙げられるシナリオを特定すること
- 順位付けの指定:
- 現時点で得られる最良の専門家による分析に基づき、可能性の低いものから高いものへ順位付けすること
- これらは不確実性の高い予測であり、確立された予測ではないと明記すること
- 各シナリオで説明すべき項目:
- どのような経緯で起こり得るのか
- 破滅的な事態に至るには、何がうまくいかなくなる必要があるのか
- 専門家がそのシナリオを他より可能性が高い、あるいは低いと考える理由
- どのような安全対策でリスクを低減できるか
■ 3. AI専門家への同じ質問
- 専門家間の意見の分裂:
- AIはどのように人類を滅ぼす可能性があるのか、本当に滅ぼし得るのかを専門家にも質問した
- 人類にとって最悪の事態を予測する専門家がいる一方、より穏健で楽観的な予測を示す専門家もいる
■ 4. ChatGPTの回答
- 回答のトーン:
- このテーマには多くの不確実性があると述べ、バランスの取れた説明的なトーンで回答した
- 焦点と順位付け:
- AIが人類の存続を脅かすリスクとなり得る主なシナリオに焦点を当てた
- その可能性を低いものから高いものへと順位付けした
- 殺人ロボットは最も現実味が薄い:
- 最も可能性が低いのは、意識を持ったAIが人類を意図的に排除しようと決断するシナリオである
- 大半のAI研究者は、意識や悪意を主要な懸念事項とは見ていない
- 安全策と合意の欠如:
- 専門家が提案する安全策の概要についても説明した
- AIによる人類滅亡が起こる可能性が高い、あるいは避けられないという点について、合意形成はなされていない