『私たちはAIを信頼できるか』(文藝春秋)

人間の生き方を考え問う

AI（人工知能）の解説書を読んでも全体像は見えず、期待と不安がないまぜの落ち着かない気分になるばかりだった。本書で納得したとまでは行かないが、考える方向が見えてきたような気がする。

AIで問題なのは、知能とは何かが分かっておらずその定義が不可能なことだ。本書には「人間から見て知能っぽく感じられるなにかしらの仕事を、コンピュータに自動で行わせる仕組み」とある。何を知能っぽく感じるかは人それぞれですっきりはしないが、ここから始めるしかなかろう。

AI研究・ゲーム開発の三宅が「つくる」、言語学の川添が「使う」、社会学の大澤が「共に生きる」をテーマに語る。ここで見えてきた根本問題である「信頼」をテーマにした座談会は読み応えがある。聞き手と全体構成を山本、吉川が担当する。

三宅は、世界の細分化による理解能力ではAIが人間に勝るが、「偶発性の観点では人間の圧勝」と語る。知能と生命は不可分であり、AIを情報だけで考えず、「内部構造、身体性、世界の偶発性」の三つの深さを持たせる必要があるという指摘に納得する。ニューラルネットワークを用いて混沌（こんとん）をつくり出す新しい動きへの期待には、AIで混沌ですかと問いたくなるが、これで現実世界とのつながりが見えるかもしれない。

川添は、ディープラーニングを用いて文学を書くAIには、相手にこれを伝えたいという意図も表現欲求もないことを指摘する。しかも自分が学んだデータに問題点を見つけようとする能力はなく、人間がよく抱く「なにかおかしい」という問いは出せないのだ。ここでも生命に必要な能力をもつ身体の必要性が浮かび上がる。要は、AIのバイアスをどう取り除くかが重要であり、それには人間が知恵を手放さないことだという言葉が印象的だ。

大澤は、「AIは人間のようには考えない」のであり、物語性や規範的次元がないことに注目する。ビッグデータを駆使したAIの答えに振り回されている人間は偶有性を失い、無意識の次元の自由を奪われているという指摘は重要だ。巷（ちまた）に見られるデータ教への疑問は評者も共有する。AIにつきものの難題である「フレーム問題」（関連要素の限定不能性）を突き詰めると、人間の特徴は不要なものの無視ができることであり、それが無為につながることが分かってくるのが興味深い。「人間は＜何もしないでいられる＞がゆえに、さまざまなことができるのだ」。ここから他者という課題も生じる。

座談会では、ここまでに出た課題を踏まえて、社会の一員としてのAIをどう信頼するかを話し合う。ここで人間は無根拠に相手を信頼することで社会を円滑に動かしているという視点が出される。この信頼は同じ共同体への所属に根があり、これを外に広げるには価値観の共有が必要だ。現在のAIに価値観を云々することはできないので大量のアウトプットからの推測という方法をとるのだが、そこに信頼が生まれるものだろうか。

結局、AI開発は人間がどう生きようとしているのかを問うていると評者には見えてきた。人間自身に対する不安がAIに投影されているのであり、今必要なのは人間そのものを直視して知る努力をし、生き方を考えることだというのが読後の思いである。