機械は、人が命じたことしかできないのではないか。この反論は、バベッジの解析機関（完成しなかった機械式のデジタル計算機）についての、ラブレス伯爵夫人の覚書から始まる。彼女は、「解析機関は、何かを創り出すことをまったく標榜しない。それは、私たちが命じ方を知っていることなら何でも行える」と述べた。チューリングの論文は、この言葉が、ハートリー（70頁）に引かれている、と述べる。

ハートリーは、こう付け加えている。「これは、『自ら考える』電子装置、あるいは生物学の言葉でいえば、『学習』の基礎となりうる条件反射を設定できる装置を、作ることが可能でないということを意味しない」。ただし、「当時作られた、あるいは計画された機械が、この性質をもっていたとは思われなかった」。

何の反論なのか

ラブレスが言ったのは、解析機関は、人が命じたことしかできない、ということである。これを機械一般に広げると、機械は独創的に考えられない、という反論になる。ハートリーの補足は、だからといって「自ら考える」装置が作れないわけではなく、ただ、当時作られた機械には、その性質がなかったようだ、というものである。

チューリングの五つの答え

第一に、チューリングは、ハートリーに完全に同意する。チューリングは、ハートリーが、ラブレスに「利用できた証拠が、彼女にそれをもっていると信じさせるものではなかった」と言っているのだ、と読む。ラブレスは、あることを断定したのではなく、手元の証拠からは、そう信じられなかっただけだ、というのである。

第二に、「解析機関は万能のデジタル計算機だったので」、記憶容量と速度が十分であれば、適切なプログラミングによって、問題の性質をもつ機械を模倣させることができた、と述べる。そして、おそらくこの論証は、伯爵夫人にもバベッジにも思い浮かばなかっただろう、と付け加える。

第三に、この反論の変種、「機械は「本当に新しいことは決してできない」」には、古い格言「日の下には新しいものはない」で、しばらくは受け流せるという。そのうえで、問い返す。「自分がなした「独創的な仕事」が、教えによって自分のうちに植えられた種の成長でも」、よく知られた一般原理に従った結果でもなかったと、誰が確信できるだろうか、と。

第四に、より良い変種、機械は「私たちを驚かせる」ことは決してできない、には、「機械は、非常にしばしば私を驚かせる」と答える。大きな理由は、機械が何をするかを予想するのに十分な計算を、自分がしない（あるいは、急いでずさんにしかしない）ことだ、という。チューリングは、これで批判者が黙るとは期待していない、とも書いている。

第五に、機械が驚きを生じさせえないという見方は、「哲学者と数学者が特に陥りやすい誤謬」による、と指摘する。それは、「ある事実が精神に提示されるやいなや、その事実のすべての帰結が、それと同時に精神に浮かぶという仮定である」。多くの場面で役に立つ仮定だが、誤りであることを、人は忘れやすい。

この問題は、論文の第7節（学習する機械）で、あらためて取り上げられる。そこでチューリングは、学習する機械の後期の教育では、教師は機械の内部をほとんど知らないまま、その振る舞いを予測できると述べる。これに照らすと、「機械は、私たちが命じ方を知っていることしかできない」という見解は、「これに照らすと奇妙に見える」と書く。

いまの見方と並べる

ラブレスの原文は、1843年に、メナブレアの論文を英訳したときの注（Note G）にある。チューリングの引用は、その要旨を伝えているが、文面は原文と細かな点で異なる（詳しくは解説本の出典一覧を参照）。ハートリーの本の70頁は、Internet Archiveの全文で確認した。ラブレスの言葉は、そこでも引用されている。

いまの大規模なAIは、人が一つ一つの応答を書くのではなく、データから学んで応答を作る。そのため、「人が命じ方を知っていることしかできない」という見方は、論文が第7節で学習する機械について述べたことと、重なって見える。ただし、これは本稿の整理であり、AIが独創的かどうかの判断ではない。独創とは何かは、論文が「驚き」の話で述べたことをふまえれば、見る側の問題でもあると考えられる（本稿の解釈）。

出典