Chatterbot is Thinking | BBS | Materials | JAPANESE
last update: Jul 2,2003
next:Strategy of Chatterbot >> Next Session:Learn from AI
Machines with conversation skill, Artifacts with mind, We always want these existance from the age of myths as if it is a duty of the human races. People once excited about the comming of very thinking programs supported by computers and the developping artificial intelligence technology, only to find out reserachers could tell us very few about our intelligence and mind. In fact, to build a mind program means to describe all of human mind by the computer language, while M. Minsky and other philosophers emphasized that the too mach parts of the mind are beyond description. H. L. and S. E. Dreyfus11H. L. Dreyfus ,S. E. Dreyfus and Tom Athanasiou, "MIND OVER MACHINE"(in Japanese: "Pure Critics on AI" (maybe)) ISBN: 0029080614 showed that an expert can't show out all of the technique he has. Now consider bicycle-riding for example. A novice rider pays all attention to running bike without tunbling down; gaining enough speed, not turning too sharply, and so on. He will finally learn rules to run a bike from a teacher or many experiences and failures. On the other hand, an expert will pay no attention to controlling a bicycle, but considering the effective route and the purpose. The trial to describe these rules experts applied implicitly makes almost no result. They suppose that the most of our thought were consist of these non-descriptive rules.
Understanding of the meaning is anothor big problem. AI is a significant performer of a operation of the symbols and the knowledges such as chess game; we can find Logic Theolist and General Problem Solver(GPS), Production System and Truth Maintenance System, of course Big Bule, etc. But there have been no adequate solutions yet, that can tell us how to convert natural language into the cripsy data structure, and how to describe world itself. Especially in Japan, some people believe that "Japanese Morphological Analysys"22Japanese Morphological Analysis: ChaSen, JUMAN, KAKASI could analyze the natural Japanese language. Japanese is not a space-separated language, in fact an analyzer that determines a boundary of the words may need large dictionaries and grammatical knowledges (rule of suffixing kana, conjugation with many variations, or so: that always suffer school students..) The syntactic analysis and other techniques following morphological analysis seemed to neccessary, but not sufficient. Japanese natural language has a tendency to avoid pronouncing things we can understand implicitly.
A:「B君は家にいるかな？」("Is B home?)
C:「今日は天気がいいですから」(couse it's fine today.)
While C make no "yes/no" answer to the question in this chat, C can understand A because both of them know the personality of B. If a computer wants to understand this situation, it has to choice one possiblility from various interpretations, and it needs the common background to know the semantics. Imagine this. A collage student of informatic science made a mistake to enter the chemistry class: Professor said, "If you apply TAR or TAN instead of PAN, Copper chelate of TAR and TAN will show fast exchange reaction between EDTA to...". You never understand unless you know the common sence, technical terms, and knowledges. Even if you can analyze morphology, syntax, and semantics. What' wrong? We supposed the problem is to isolate language from thought. A language without thinking loses a meaning. This may be a frequently happend mistake in the field of phycology, artificial intelligence and of course, chatter-bot. When people find out a clear descriptive part in the complex system, they tend to redraw the whole map using the part without careful examination.
The next point we discuss is a representation of the world. We will see the frmame problem33The Frame Problem and machine education. The frame problem is essentially state explosion, while question is why humans do not fall into the state explosion. When a student is directed to look up a word 'cow' in a dictionary, he will find an item 'cow' at first. The 'cow' item tell him that it is a mammal, it produce a milk, it is found in some proverbs, then the student will again look up unknown words in the item like as 'mammal' or 'milk' recursively. But Teacher is still waiting for him, he must break off seraching before he find all of unknown words up.
When student looks up many word, some of them are rather meaningless for knowing a concept of 'cow', though, the student haven't made sure that there are any other words mentioning 'cow'.
もちろん枝葉末節の言葉になるほど例え意味がわかっても『牛』の概念を説明するときにはほとんど意味がなくなるだろう。しかしここで考えてみると、辞書の中でこれまでに調べた項目以外の内容で牛について述べている項目がないことを確かめたわけではない。いやまて、この辞書には無いことが別の辞書には載っているかもしれない。かくしてプログラムは辞書をしらみつぶしに読み始め、牛という言葉がそれ以上辞書に出てこないことを証明するまで吟味をあきらめない。幸いなことに辞書には終わりがあるが、現実の問題には終わりがあるだろうか？これがフレーム問題と呼ばれる、選択肢が多くなりすぎることによる処理の行き詰まりである。
生徒はなぜフレーム問題を起こさないのだろうか？生徒の飽きっぽさに一つの原因があるだろう。飽きっぽいというのは別に悪いことではない。システムとしての人間にとってそれは重要な危機回避の機構なのである。飽きる、というのはその人にとって変化がなくなったことを意味する。生徒は辞書を引く行為自体に飽きたり、辞書引いて出てくる言葉が当初の問題である「牛」の概念を変化させなくなることによって飽きたり、さらには授業が自分の知識にとって何の刺激にもならなくなることによって飽きる。プログラムにこうした判断ができないのは、現在の懸案が当初のテーマに対してどれほど重要かを評価できないことによる。
世界の記述にきりがないという話はわかった。現実には記述できる量は有限なのだし何らかの歯止めを用意すれば回避でききるかもしれない。しかしその世界の記述はどうやって用意するのだろうか？もちろんプログラマが教え込むことはできる。しかしプログラマもまた飽きっぽいためにすべてのルールを教えることは不可能である。常に変化する状況、新しい状況に対応するためには人工知能は自分でルールを獲得しなければならない。現在手持ちのルールで失敗した場合は同じ失敗を繰り返さないようにしなければならない。それゆえ学習は必要になるのであるが、そこには可能性爆発以上に難しいハードルが待ち受けている。それはルールを作るルールが作れていないということであり、疑問は自然と、どうやって人間はルールを作っているのかということに向く。
人間がルールを作る方法については幾多の仮説はあるものの、まだあまりよくわかっていない。心理学では抽象的な仮説レベルで十分、あるいはそれ以上検証不可能なのであるが、コンピュータは残酷なまでに明文化を求め、その結果心理学がこの問題について解釈できた領域はそれほど広くなかったという事実が明らかとなってしまった。それはともかくとして、心理学では一般化の一般化5、メタ認知65ヴィゴツキー,"思考と言語"(柴田義松訳), 明治図書 1962
6市川真一編, "認知心理学４ 思考", 東京大学出版 1996, ISBN 4-13-015104-5
7辻井潤一, 安西祐一郎, "機械の知 人間の知" 東京大学出版 1988, ISBN 4-13-013070-6とよばれる概念群が学習の本質に近いと思われる。ここで対象としている学習とは「ウサギはネズミの一種じゃないんだね」とか「今日は新しいことを憶えた」というような自分の中で新しいルールを作り出す能力のことで、手書き文字認識に見られるような既存のパラメータの調整戦略や効率のよい問題解決法の探索戦略のことではない。したがってニューロネットワークによるパターン認識も、SOARや適応的プロダクションシステム7もあまり役に立たないことになる。
一般化の一般化を自動車を例に考えてみよう。子供が始めて自動車を見たとき、それが自動車という名前を持つことは親から教えてもらう。次に子供は町を走る車は形が違い、色が違い、大きさが違っているが、どれも自動車と呼ばれることを発見する。このとき子供の中では自動車に共通の特徴を抽出し、一般的な『自動車』の概念が形作られる。これが一般化である。こうした手法を一歩引いて観察すると一般化操作自体も一般化できることが発見される。自分を観察するもう一人の自分、といってもよいかもしれない。こうした心の働きなしにはルール形成はできないだろう。しかしそれがどんなルールなのかはわかっていない。
実は既存の人工知能が「ルールを作り出せない」ということが意味することはかなり重要である。たとえば研究者がさまざまな問題を解くアルゴリズムを考え出し人工知能がそれによってさまざまな問題を解決したとしても、それはあらかじめ知っている方法で問題を機械的に解いたということ以上の意味はない。むしろ我々が本当に知りたいのは研究者がどうやってそのアルゴリズムに到達したのか、である。人間は問題を提示されてから解決する方法を考えつくのであって、すでに知っている解法を使っているだけではない。ここに進歩可能な人間と進歩不可能な人工知能の決定的な差が見られるといってもいいだろう。将来誰かが新しい知能のアルゴリズムを考案したら「そのアルゴリズムは自分自身のようなアルゴリズムを自発的に考えつく能力があるか」ということに留意して観察してほしい。
An AI research has
人工知能研究は心の研究であり、また脳神経の研究であるという側面を持っている。これまで述べてきたように研究者たちは脳や心をめぐって仮説をたて、実験-解析を繰り返してそれぞれのモデルを構築し、プログラムを作り上げてきた。 さらに近年、自然言語の解釈や擬人インタフェースには感情が必要であるという見方が再び注目されているが88岡田直行, "自然言語理解には情緒的機能も必要", 電子情報通信学会誌 70[9] 897-902 (1987)、それらの試みは関数や膨大なIF-THENルール、すなわち規則で感情を表現できるという立場にたっている。しかしこのような行動心理学的なアプローチは基本的に低い次元の感情を表現するのに適した方法であって、好奇心、創作など高度で記述不可能な精神活動をプログラム化できないという根本的問題を解決できないだろう。
結局科学的手法であるがゆえに客観的に検証できない領域には目を向けることはできず、結果として人工知能研究は脳らしさの追求にとどまってしまったのではないだろうか？そこにはユーモアや芸術、人を楽しませること、なごませることなどが存在する余地はない。ところが我々がのぞむ人と話す機械にとってそれらは最も重要な要素なのである。ゆえに我々のメインテーマは検証不可能なブラックボックスの中身を記述することであることが明らかとなる。言葉を変えればそれは心らしさの追求なのである。そして検証不可能であるがゆえに、あらゆるモデルにとってモデルの科学的正当性や必然性は無意味となり、唯一の尺度『それに接したひとがどれだけ人間らしさを感じられたか』をもって評価される。かといってチューリングテストを人工無脳に用いるのは間違いである。人工知能の研究者J. Weizenbaum99 J. Weizenbaum, "ELIZA--A Computer Program For the Study of Natural Language Communication Between Man and Machine", Commun. ACM 10[1] 36-45(1966)
10このことにWeizenbaumはショックを受けたと伝えられているが彼は研究者として科学的手法の呪縛から逃れられなかったゆえに、人間の心が科学的ではないという事実を受け入れられなかったのである。が作ったElizaと呼ばれるプログラムは、このテストで高い得点をマークした。Elizaはきわめて単純な構造の英語版の人工無脳であり、カウンセラーとして多くの人の人生相談を聞き、それを癒したという10。人工知能技術はそこには存在しないにもかかわらず。また日本語版の人工無脳たちは我々を楽しませてくれるにもかかわらずチューリングテストでは記録的な低得点をマークするだろう。チューリングテストが目指している『人間らしさ』は概念操作や記号操作に重きをおく｢知的さ｣であって、我々が思う『人間らしさ』とは食い違っているからである。我々が会話していて楽しい相手、気の許せる友人の条件はチューリングテストなどで評価できるだろうか？我々の目的は、笑いやユーモアを感じさせるプログラムの創出なのである。この瞬間、人工知能と人工無脳は違う道を歩み始める。人工無脳は科学的であることをやめアートの一種またはおもちゃの一種になったのである。
だが、それが心本来の素直な姿なのではないだろうか。