この視点は生成AI、大規模言語モデルの基礎なんだけど、AI持ち上げの方々はすっかり忘れちゃって「AIすげ〜、AI便利〜」ってなる。昔の人工無脳ELIZAと同じ反応。今のAIは、次の単語予測してるだけ、意味はわかってない、記号の現実的基礎を固める記号接地はない、ってこと覚えておきたいですね。
「相手の要求をわかっているように振る舞う、それがものすごくうまい機械」とチャットGPTを語る今井むつみ慶大教授。対話型AIはデータの統計的規則性を抽出し、この言葉の後にはこの言葉がふさわしいという情報処理をしながら文章を作る。一言でいえば 次の単語予測機だと。
(論壇Bookmark)言葉の意味、AIは理解していない:朝日新聞デジタル
@tanutinn
@Historyoflife
MEMO:
- 現状の大規模言語モデルが記号着地問題を解決していないのは事実として、「だからなに?」感はある
- Chat-GPTくんやBardくんに知性や人格を感じてる人はいないと思う(むしろ知性を感じさせないように過剰に機械らしく振る舞わせてると思う時はある)
- むしろ人間社会のあれやこれやはパターン学習で十分に遂行可能な営みばかりであるという事実を再発見できたことに注目すべき
- 「意味」を理解しなくても大抵の場面では問題ないのは暗記科目の勉強や試験で証明されているので何を今更? 感が強い
(2023/07/22)