Logic-hood's end/クラークふたたび、あるいはAIがもたらす論理の死

SF作家アーサー・C・クラークはかつてこう言った。

「十分に発達した科学技術は、魔法と見分けがつかない/Any sufficiently advanced technology is indistinguishable from magic」

こんなところでクラークと再会するとは。

2017年6月16日のNHK解説委員室では、将棋プログラム「Ponanza」の開発者である愛知学院大学特任准教授 山本一成氏が「人工知能と黒魔術」というテーマで語っている。

「人工知能と黒魔術」(視点・論点) | 視点・論点 | NHK 解説委員室 | 解説アーカイブス

この中で、山本准教授は<(略)人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっている>と言う。
山本准教授はこう続ける。
<Ponanzaは私が開発したプログラムなので、細部まで私が考えて作っています。しかも私は、将棋プログラムという狭い領域のことなら、世界でもトップレベルによく理解しています。それでも、Ponanzaはすでに理論や理屈だけではわからない部分が沢山でてきています。
「プログラムの理論や理屈がわからない」とは、たとえばプログラムに埋め込まれている数値がどうしてその数値でいいのか、あるいはどうしてその組み合わせが有効なのか、そういったことを真の意味で理解していないということです。>

将棋プログラムの開発者ですら、なぜそのプログラムが有効なのか論理的に理解できない部分がある、というのだ。非常に有効だがなぜ有効なのか、どのような論理で有効なのかわからない部分を、人工知能AIの開発者たちは「黒魔術」と呼ぶという。

 

イギリス『エコノミスト』誌が編集した『2050年の技術 英『エコノミスト』誌は予測する』(文藝春秋 2017年)の中で、ケネス・ツーケルがこんな指摘をしている。
<二〇五〇年までに世界は、効率性と引き換えに因果関係の理解をあきらめることに慣れていくだろう。>(上掲書kindle版 4027/4925)

ツーケルが挙げた例のひとつはコンピュータを使った病理診断である。

 

ツーケルによれば、ハーバード大学のチームはコンピュータ・ビジョンと機械学習プログラムによって乳がん細胞の病理組織からがんの発症を予測できるか調べた(kindle版 3885/4925)。

<生検材料に癌が潜んでいるかを判断するのにアルゴリズムが使った一一個の属性のうち、細胞そのものに関連するものは八個だけだった。あとの三個はそれを取り囲む「間質組織」に関するもので、医師は注目していなかった。つまり、医師の目には見えなかったものが、膨大なデータの分析によって発見されたのである。>

 

病理組織と患者の生存率の膨大なデータを読み込むことで、なんらかのパターンを機械学習プログラムを発見した。そのパターンをどんどん応用することで診断精度を上げていったわけだが、そこには通常の論理、ロジックというものはない。
人間の病理学者の場合には、病理組織と患者の予後についてなんらかのパターンを見つけ出した場合には、因果関係について仮説を立て検証する。どんな理屈やメカニズムがそこに働いて病気を引き起こしているのか、論理を追求し、応用可能なエッセンスを抽出する。

論理こそ人間が人間たる由縁だと近代的人間は考える。論理や因果関係を把握できるのは人間の強みだと思っているのだが、AIからすれば論理や因果関係というのは膨大なデータを迅速に情報処理できないという人間の弱みの裏返しに過ぎないのかもしれない。
膨大なデータをありのままに瞬時に、そして疲れを知らずに延々と情報処理できるのであれば、世界を理解するのに論理は不要なのだ。

 

医療や法律、人事や教育といった分野でどんどんAIが活躍していく。そこで行われる判断は、人間よりもはるかに正確で、成功率が高いものとなる。だがそこに論理はない。ただ単に、ポンと成功率の高い答えのみが与えられる。

AIが下す答えは論理的思考の結果による解答ではなく、「ご神託」とでもいうべきものとなる。

論理と合理性の近代を過ごした人類は、ロジックの塊に見えたAIによって実は論理を奪われていく。

近代を越えた超近代は、一方の極にAIを、もう一方の極に宗教的原理主義を置いて、そのはざまで論理と合理性を蒸発させ、黒魔術と「ご神託」で作られていくわけだ。どえらいことやで。

3分診療時代の長生きできる受診のコツ45

3分診療時代の長生きできる受診のコツ45

 

 関連記事

hirokatz.hateblo.jp

hirokatz.hateblo.jp

hirokatz.hateblo.jp

hirokatz.hateblo.jp