AIの歴史は技術の進歩だけでなく、「そもそも解けるのか」という難問との格闘の歴史でもあります。G検定ではこの難問がまとめて問われます。
こんにちは、zawato（@zawato7）です！
本記事はディープラーニング入門ロードマップの第3回です。
- AI分野で議論されてきた9つの難問を表で整理できる
- フレーム問題とシンボルグラウンディング問題を身近な例で理解できる
- G検定で間違えやすい「強いAI・弱いAI」の落とし穴がわかる
AI分野の難問を一覧で整理する
まず全体像を表で押さえ、重要な3つを掘り下げるのが最短ルートです。用語が一気に出てくるので、一度で覚えきろうとせず枠だけ作ってください。
| 用語 | ひとことで言うと |
|---|---|
| トイ・プロブレム | 単純化した問題は解けたが現実の問題は解けなかった |
| フレーム問題 | 今の目的に関係あることだけを選び出すのが困難 |
| チューリングテスト | 会話相手を機械だと見抜けなければ知能があるとみなす判定法 |
| ローブナーコンテスト | チューリングテスト合格を目指す会話ソフトのコンテスト |
| 強いAI・弱いAI | ジョン・サールの区分。心を持つAIか、有用な道具か |
| 中国語の部屋 | チューリングテストへの反論。記号操作と意味理解は別物 |
| シンボルグラウンディング問題 | 記号（言葉）と実体を結びつけるのが難しい |
| 身体性 | 身体を持つことが概念理解の土台という考え方 |
| シンギュラリティ | AIが自分より賢いAIを作る時点。2045年到来説がある |
フレーム問題：アイスを買いに行くロボット
AIが「今の目的に関係あることだけ」を選び出せない、という問題です。
ロボットにコンビニでアイスを買ってくるよう命じると、1回目は信号を無視して事故にあいました。「交通ルールを守れ」と教えると標識ごとに立ち止まり、帰る頃にはアイスが溶けています。「関係あるものだけ見分けて早く行け」と言うと、今度は考え込んで動けなくなりました。
人間は買い物のたびに、財布や上着、傘の要否を無意識に絞り込んでいます。これを機械にやらせると、検討すべきことが際限なく増えてしまうのです。
強いAI・弱いAIと中国語の部屋
「強い・弱い」は能力の高低ではなく、心を持つかどうかの区分です。
強いAIは人間と同じ意味で心を持つAIで、ドラえもんのようなイメージです。弱いAIは心を持つ必要はなく、特定分野で役立つ道具であればよいという立場。囲碁や将棋のAIは人間より強くても、心はないので弱いAIです。
この区分を提案した哲学者ジョン・サールは、チューリングテストへの反論として「中国語の部屋」も示しました。中国語がわからない人でも、マニュアル通りに記号を並べ替えれば外からは理解しているように見える。AIは記号を操作しているだけだ、という主張です。
シンボルグラウンディング問題と身体性
記号（言葉）と実体を結びつけられない、という問題です。
リンゴは、木になっていてもスーパーに並んでいても、皮をむいてもサラダに入っていてもリンゴです。人間は一瞬で見分けますが、コンピュータには「リンゴ」という言葉と多様な実体を結びつけること自体が難関でした。
人間にこれができるのは身体を持っているからだ、という考え方が身体性です。この延長線上にあるのがシンギュラリティ（技術的特異点）で、AIが自分より賢いAIを作る時点を指します。
まとめ
- フレーム問題は「関係あることだけを選べない」問題。アイスを買うロボットの例で押さえる
- 強いAI・弱いAIは能力の高低ではなく心の有無。語感に引きずられない
- シンボルグラウンディング問題は記号と実体を結ぶ難しさ。身体性とセットで覚える
よくある質問
Q. フレーム問題は解決されたのですか？
A. 完全な解決には至っていません。扱える問題の範囲は広がりましたが、関係する要素だけを絞り込む一般的な方法は確立されていません。
Q. トイ・プロブレムとフレーム問題の違いは？
A. トイ・プロブレムは「単純化した問題しか解けなかった」という結果を指し、フレーム問題はその背景にある原理的な難しさを指します。
Q. 中国語の部屋は何への反論ですか？
A. チューリングテストへの反論です。会話が成立して見えても、それは記号操作の結果であり意味を理解した証拠にはならない、という主張になります。
コメント