三宅陽一郎　オートマトン・フィロソフィア――人工知能が「生命」になるとき　第八章　人工知能にとっての言葉（後編）:PLANETS Mail Magazine: PLANETSチャンネル(PLANETS/第二次惑星開発委員会)

8beeb7562916cfa5ff3a5904a96a84c79f6d784f

ゲームAIの開発者である三宅陽一郎さんが、日本的想像力に基づいた新しい人工知能のあり方を論じる『オートマトン・フィロソフィア――人工知能が「生命」になるとき』。人工知能と人間の間で自然な会話を行おうとするときに、大きな障壁となるのがが「フレーム問題」です。言語は人工知能に「意思」を与えうるのか。禅や華厳哲学の認識論をヒントに、その可能性を探ります。※本記事の前編はこちら

言語世界から逃れて

人は生まれてから学習し続け、その人の世界には意味が満ち、意味が固形化して行きます。そこから逃れる手段は東洋では「禅」と呼ばれます。「禅」とは固形化・形骸化した知の体系から逃れること、世界の意味の網を外す、という行為です（図8-6）。自らの知の体系を壊し、言葉ではなく体験を重んじる手法です。しかし、この意味の世界を、西洋はさらに言葉を重ねて探求していきます。その結果、言葉が言葉を生み出し続ける現象が現れます。
ヴィトゲンシュタインは、多くの哲学が「言語によって語り得ぬもの」に対して言語を使っていると批判しました。意味で溢れた世界はとても危険です。ありもしないものをあると信じ、そのせいで人が争いあったのが、２０世紀の歴史です。人は意味を浴びますが、それはある時には呪いとなり、浄化する必要があるのです。

7f3996c804a01c5a485636676ffed9c7fe0b313f
▲図 8-6 分節化の網を外してあるがままを観る

人工知能は物の見方を人間から指定されます。これをフレームと言います。人工知能はフレームを与えられて初めて駆動します。人工知能はフレーム内で知識を整理する能力がありますが、それを拡張する力はありません。フレームは固定されたままです。人工知能が自らフレームを作り出す能力、フレームを拡張する能力がない問題を「フレーム問題」と言います。そこで意味は固定され、世界はフレームの中でのみ意味を持つことになります。人工知能はフレームから逃れることはできません。人工知能は人間の与えたフレームの中で生きるのです。たとえ間違ったフレームの中でも人工知能はその中で生きます。たとえば、「リンゴを取る」というフレームで、人間が頑張って、腕の伸ばし方や、リンゴの位置の特定など、問題設定を探求したとします。しかし実際にロボットを動かすと、足がリンゴの机に引っ掛かって手がそもそも届かないかもしれません。そのとき、もし人間であれば足の痛みから問題設定が足りなかったことがわかります。つまり、人間にとって身体は、間違ったフレームに本来あるべき足りなかった変数を教えてくれる、クリエイティブな源泉であるのです。

「クリエイティブな行為の基盤にあるのは、認識枠を臨機応変に広げたり狭めたりする賢さであることを、様々な事例で論じてきた。身体で世界に触れること（現象学の言葉で言えば、「現出」を意識に上らせること）を通じて、身体がそれまで想定外だった変数（着眼点）にふと意識を向けることで、それは可能になると論じた。」
「街でからだメタ認知を実践する習慣がつくと、最初は定番の変数群しか意識が及ばないかもしれない。しかし次第に、些細な、自分だけしか気づかないような変数にも意識が及ぶようになる。…自分の街の些細な変化に、そして身体に生じる体感の微妙な差異に、気付くようになる。」（諏訪正樹「身体が生み出すクリエイティブ」ちくま新書、2018年（P.190-191））

このように人間は身体を伴った行動が、間違ったフレームの夢を覚まし、狭い了見を広めてくれるのです。「行動せよ、そうすれば、見えてくる」という格言が言っていたことは、思考だけでは逃れることができないフレームの制約から、身体が開放してくれる、ということでもあるのです。
しかし、世界に根差した身体、また認識と分離してしまった身体しか持たない人工知能では、身体のエラーからフレームを拡張することはできません。そもそも、人工知能はフレームを生成しないので、そのフレームが足りなくても、「あらかじめ含まれていないこと」を含ませることができないのです。
「禅」はいわば、フレームを外すことです。知識を規定している枠そのものを乗り越えることです。東洋的思想の極と言えるでしょう。意味ある世界と、意味のない世界を自由に行き来するのが「禅」の行為です。それは意味を超越し、意味を相対化することです。世界に対する意味の網を自由にはめたり、はずしたりすることは、とても危険なことですが、禅はそれを可能にする行為です。