『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』(インターシフト)

米国で蔓延する計算機的思考

このタイトルだけを見ると、いささか扇情的な、怪しげな本に見えるかもしれない。かといって、このタイトルが嘘（うそ）だというわけでもない。内容を読めばわかるが、じつは案外地味な、まともな本である。

原題はブッシュ政権時代の大量破壊兵器ウェポンズ・オブ・マスデストラクションをもじったもので、マスつまり「大量」が算数マスマティクスのマスになっている。イラクの大量破壊兵器の所有が嘘の話だったことをご記憶の方は多いであろう。その意味で、この原題はじつは両刃（もろは）の剣である。そこまでうがって考える人は少ないであろうが。

そもそも著者は女性で、数学者であり、最初は素数論の大学教授で、その次に「ヘッジファンド業界のハーバード」として知られるD・E・ショーに迎え入れられる。在職中にリーマン・ショックに見舞われ、その過程で著者は専門とする数学の使われ方について、強い危機感を抱くようになる。

新しい仕事を始めたころは、まさか自分が最前列の席で金融危機を目の当たりにすることになるとは、思ってもみなかった。そこで目にした身の毛もよだつような恐ろしい現実は、数学がいかに狡猾（こうかつ）に、いかに破壊的になりえるかを教えてくれた。私が数学破壊兵器の威力を至近距離で目撃したのは、このときが初めてだった。

そこでヘッジファンドを辞め、さらに転職をし、データサイエンティストとして大手で働く。「ビッグデータ空間で2年ほど働き、学ぶうちに、私はすっかり幻滅し、目を覚ました。そのあいだにも、数学の乱用は加速されていた」

最初の章はモデルの説明である。モデルは実際のできごとを頭の中で整理再現するやり方である。これをきちんとした手続きでやれば、コンピューター化することができる。この手続きをアルゴリズムと呼ぶ。著者は具体的に、第一に、選手に関するデータから野球チームの監督が考えること、第二に、主婦としての自分が毎日の献立を考えること、第三に悪い例として、ワシントン特別区で実際に行われた、能力の低い教師を排除するための教師評価システムを説明する。最初の結論はこうである。数学破壊兵器となり得るシステムの三大要素とは「不透明であること、規模拡大が可能であること、有害であること」。

第二章以降は、社会の様々な局面での数学破壊兵器の使用について語る。データビジネス、大学ランキング評価、オンライン広告、犯罪、求職者に対する適性検査、職場の支配、信用度の格付け、個人の行動や健康、そして最後の章が民主主義すなわち政治である。このいずれの部門でも、数学破壊兵器の威力が急速に増しつつある。

時に言われることだが、「コンピューターに（データとして）クズを入れると、クズしか出てこない」。コンピューターはデータから優れた結論を出すようには作られていない。ただし、ロボットや機械を扱うなら、話は別である可能性がある。こうした機械は生きものではないし、はじめから人が理屈で設計している。そうしたシステムではコンピューターがヒトより優れた答えを生むことはあり得る。ヒトは機械ではないし、面倒くさい計算は苦手だからである。

この本を読んで気が付いた。アメリカは理性的に社会を構築するしかない。移民の国だからである。各家に神棚を置けなどという議論はできない。そこで計算機的思考が蔓延（まんえん）するのは当然ではないか。