人工知能は世界の夢を見るか
人工知能は世界の夢を見るか
興味深い記事を読んだ。
言語は人間にとってはかれが持っている世界理解から生じるひとつのあらわれにしかすぎないが、大規模言語モデルはその世界理解そのものを持たず、ただあらわれを確率的になぞるだけだから、その答えは世界理解に根ざしていない、という問題がある。
古いサイエンス・フィクション的な人工知能理解においては、むしろそれは sentient であるが故に感情を理解せず、人間との対話においてその理不尽さを不思議がるというイメージがあったように思おう。しかし大規模言語モデルが明らかにしたことは、人間の非理性的な言語利用はむしろ確率論的に模倣可能なものであって、深い内的理解に基づく適切な回答を行うことは、少なくとも2023年現代の技術では難しいということである。人工知能は今のところ世界に関するモデルを持たない。画像生成人工知能は指が５本あるということを知らない。それは現実に存在する指ではなく、絵や写真によって画像として描かれた指しか見てこなかったからだ。そしてどうやら、表現された指から指のモデルを作り出すことは、今のところ非常に難しいのである。それがどこからきているか、まだわからないが。