AIの限界について
-- 「AI vs. 教科書の読めない子どもたち」を読んで --
2018年のベストセラーの１つとなった新井紀子さんの「AI vs. 教科書の読めない子どもたち」という本をご存知でしょうか？ 25万部も売れたとのことなので読まれた方もおられるかと思います。今回はこの本を読んで思ったことについてお話します。
本の内容は大きく２つに分かれます。前半は新井さんが主催された「ロボットは東大に入れるか」というプロジェクト（通称「東ロボくん」）の説明と、それを通したAIについての考察、後半は子どもたちの読解力の分析とその低下への警鐘となっています。
「東ロボ君」プロジェクトでは参加した研究者たちの努力の結果、偏差値にして57.1の得点を取れるようになったそうですが、新井さんによれば今後コンピューターの処理速度がいかに上がっても、東大に入れる実力には決して到達しないだろうとのことです。新井さんは本書の前半でその理由を原理的な所から丁寧に説明されています。
その内容を手短にまとめると次のようになると思います。
コンピューターというのは原理的にはたし算とかけ算を高速に行う「演算装置」に過ぎない。 そのためコンピューターに何かをさせるためには数学の言葉を使って「数値化」する必要がある。そのとき使える数学の言葉は「論理」「確率」「統計」の３つだが、最近のAIは統計的手法によって効率を上げてきた。実際、画像認識などの数値化しやすく大量のデータを扱える分野や、囲碁将棋などのルールが決まっていてAI同士の対戦で大量のデータを生み出せる分野などでは驚くほどの成果をあげている。
しかし、今の数学の言葉では数値化できないものも多くある。その最たるものは「意味」である。コンピューターは意味を理解しない。AIは意味がわかっているような振る舞いをするときがあるが、実はそう見えるように作られているだけだ。
たとえば東ロボ君が英語の問題を解く場合、問題の意味を理解して論理的に正解にたどり着くのではなく、問題に含まれるキーワードから統計的に正解である確率の高い答えを選んでいるに過ぎない。そのため同じ内容でも問題の形式が変わると正解率が極端に下がったりする。
AIにはこうした原理的な限界があるので、数値化できデータが充分にある分野ではめざましい成果をあげ人間の能力を超えていくと思われるが、すべての分野で人間の能力を凌駕するという意味での「シンギュラリティー」はやって来ない。
以上が新井さんの説明の要約です。
「AIは意味を理解しない」というのがこの説明の核心だと思います。
それゆえ将来AIに仕事を奪われないためには、AIにない「読解力」をつけることが重要になるが、現状ではむしろ「子どもたちの読解力」の低下が危ぶまれる。というのが本書の後半の流れになっていきます。
ただ、その前に１つ考えてみたいことがあります。
それは「AIは意味を理解しない」といった時の「意味」とはどんなものかということです。
私たちは日常的に「意味」という言葉を使っているので何となく「意味」ということの内容がわかっている気がしているのですが、いざそれがどんなものかと問われると明確に答えられるでしょうか？ 冗談めかして言うと「意味の意味は？」という質問に答えられるかやということです。
これはけっこう難しい問題なのでうまく答えられるかわかりませんが、以下説明してみます。
まず、意味という言葉は単独で使われるのではなく「言葉の意味」とか「動作の意味」とかのように「〜の意味」という形で使われるのではないでしょうか。そしてこの場合、言葉や動作が指し示しているものがわかれば「意味がわかった」ということになると思います。
「言葉が指し示しているもの＝意味」ということです。
では「指し示されたもの」とはいったい何か？
それは我々が五感を通して知覚したり、思考したりしている世界の一部ではないでしょうか。我々が知覚したり思考したりしている世界の一部が言葉によって対応付けられ分節されたとき「意味がわかった」ということになるのだと思います。
ある言葉を聞いたとき感覚が働いてイメージが頭の中に浮かぶということが「言葉の意味がわかる」ということです。ですから「意味がわかる」ためには実際に「生きて感じている」事が必要なのです。
また普段私たちは言葉の意味を辞書で調べたりしますが、これは分かりやすい別の言葉で説明することでイメージしやすくしているのであって、「別の言葉＝意味」ではないと思います。
さらに「意味がある」という使い方になると単にわかるというだけでなく自分にとって「有用である」というメッセージも含まれてくるのでしょう。
このように考えると「意味がわかる」ためには生命活動である知覚や思考と、言語能力が必要であるということになります。ですから知覚することがないAIや言語を解さない動物には原理的に「意味がわかる」ということはあり得ないでしょう。
もちろんAIの場合はセンサーを使えば外界からの刺激に反応して、あたかも「知覚」しているかのように見せかけることは可能です。でもこれはあくまで人為的にプログラムされたものに過ぎません。
以上、少しややこしい話をしたのは、「AIが意味を理解できない」のなら逆に人間の学習ではとことん「意味」にこだわるべきではないかと思ったからです。
新井さんも指摘されている通り、AIには限界もありながらも、これから先は多くの仕事がAIに取って替わられていくことは間違いないでしょう。そうした中でこれからの学習を考えるとき、効率やスピードを重視した「訓練的」な学習よりも、意味を理解することに重きを置いた学習を心がけるべきではないかと思います。 そして先述したように「意味を理解する」には五感を通して知覚したり、思考する「生きる世界」を広げることが必要で、そのためには時間はかかっても多くの体験、経験を積まなければなりませんし、試行錯誤しながらいろいろと考えてみることも重要です。
また時には「自分にとって学習をする意味とはなにか？」と問うてみることも貴重なことでしょう。
以前にお話させていただきましたが明治以来の日本の学校教育は効率を求めた訓練的な要素が強いものでした。その傾向はいまだに色濃く残っているものの、近年はいろいろと新しい取り組みも見られるようになりました。
微力ですが生野学園もそうした取り組みの一端を担えればと思っています。
少し長くなったので、新井さんの本の後半「読解力」のことは機会を改めてお話できればと思います。
本の内容は大きく２つに分かれます。前半は新井さんが主催された「ロボットは東大に入れるか」というプロジェクト（通称「東ロボくん」）の説明と、それを通したAIについての考察、後半は子どもたちの読解力の分析とその低下への警鐘となっています。
「東ロボ君」プロジェクトでは参加した研究者たちの努力の結果、偏差値にして57.1の得点を取れるようになったそうですが、新井さんによれば今後コンピューターの処理速度がいかに上がっても、東大に入れる実力には決して到達しないだろうとのことです。新井さんは本書の前半でその理由を原理的な所から丁寧に説明されています。
その内容を手短にまとめると次のようになると思います。
コンピューターというのは原理的にはたし算とかけ算を高速に行う「演算装置」に過ぎない。 そのためコンピューターに何かをさせるためには数学の言葉を使って「数値化」する必要がある。そのとき使える数学の言葉は「論理」「確率」「統計」の３つだが、最近のAIは統計的手法によって効率を上げてきた。実際、画像認識などの数値化しやすく大量のデータを扱える分野や、囲碁将棋などのルールが決まっていてAI同士の対戦で大量のデータを生み出せる分野などでは驚くほどの成果をあげている。
しかし、今の数学の言葉では数値化できないものも多くある。その最たるものは「意味」である。コンピューターは意味を理解しない。AIは意味がわかっているような振る舞いをするときがあるが、実はそう見えるように作られているだけだ。
たとえば東ロボ君が英語の問題を解く場合、問題の意味を理解して論理的に正解にたどり着くのではなく、問題に含まれるキーワードから統計的に正解である確率の高い答えを選んでいるに過ぎない。そのため同じ内容でも問題の形式が変わると正解率が極端に下がったりする。
AIにはこうした原理的な限界があるので、数値化できデータが充分にある分野ではめざましい成果をあげ人間の能力を超えていくと思われるが、すべての分野で人間の能力を凌駕するという意味での「シンギュラリティー」はやって来ない。
以上が新井さんの説明の要約です。
「AIは意味を理解しない」というのがこの説明の核心だと思います。
それゆえ将来AIに仕事を奪われないためには、AIにない「読解力」をつけることが重要になるが、現状ではむしろ「子どもたちの読解力」の低下が危ぶまれる。というのが本書の後半の流れになっていきます。
ただ、その前に１つ考えてみたいことがあります。
それは「AIは意味を理解しない」といった時の「意味」とはどんなものかということです。
私たちは日常的に「意味」という言葉を使っているので何となく「意味」ということの内容がわかっている気がしているのですが、いざそれがどんなものかと問われると明確に答えられるでしょうか？ 冗談めかして言うと「意味の意味は？」という質問に答えられるかやということです。
これはけっこう難しい問題なのでうまく答えられるかわかりませんが、以下説明してみます。
まず、意味という言葉は単独で使われるのではなく「言葉の意味」とか「動作の意味」とかのように「〜の意味」という形で使われるのではないでしょうか。そしてこの場合、言葉や動作が指し示しているものがわかれば「意味がわかった」ということになると思います。
「言葉が指し示しているもの＝意味」ということです。
では「指し示されたもの」とはいったい何か？
それは我々が五感を通して知覚したり、思考したりしている世界の一部ではないでしょうか。我々が知覚したり思考したりしている世界の一部が言葉によって対応付けられ分節されたとき「意味がわかった」ということになるのだと思います。
ある言葉を聞いたとき感覚が働いてイメージが頭の中に浮かぶということが「言葉の意味がわかる」ということです。ですから「意味がわかる」ためには実際に「生きて感じている」事が必要なのです。
また普段私たちは言葉の意味を辞書で調べたりしますが、これは分かりやすい別の言葉で説明することでイメージしやすくしているのであって、「別の言葉＝意味」ではないと思います。
さらに「意味がある」という使い方になると単にわかるというだけでなく自分にとって「有用である」というメッセージも含まれてくるのでしょう。
このように考えると「意味がわかる」ためには生命活動である知覚や思考と、言語能力が必要であるということになります。ですから知覚することがないAIや言語を解さない動物には原理的に「意味がわかる」ということはあり得ないでしょう。
もちろんAIの場合はセンサーを使えば外界からの刺激に反応して、あたかも「知覚」しているかのように見せかけることは可能です。でもこれはあくまで人為的にプログラムされたものに過ぎません。
以上、少しややこしい話をしたのは、「AIが意味を理解できない」のなら逆に人間の学習ではとことん「意味」にこだわるべきではないかと思ったからです。
新井さんも指摘されている通り、AIには限界もありながらも、これから先は多くの仕事がAIに取って替わられていくことは間違いないでしょう。そうした中でこれからの学習を考えるとき、効率やスピードを重視した「訓練的」な学習よりも、意味を理解することに重きを置いた学習を心がけるべきではないかと思います。 そして先述したように「意味を理解する」には五感を通して知覚したり、思考する「生きる世界」を広げることが必要で、そのためには時間はかかっても多くの体験、経験を積まなければなりませんし、試行錯誤しながらいろいろと考えてみることも重要です。
また時には「自分にとって学習をする意味とはなにか？」と問うてみることも貴重なことでしょう。
以前にお話させていただきましたが明治以来の日本の学校教育は効率を求めた訓練的な要素が強いものでした。その傾向はいまだに色濃く残っているものの、近年はいろいろと新しい取り組みも見られるようになりました。
微力ですが生野学園もそうした取り組みの一端を担えればと思っています。
少し長くなったので、新井さんの本の後半「読解力」のことは機会を改めてお話できればと思います。
