書評

『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』(インターシフト)

  • 2018/07/29
あなたを支配し、社会を破壊する、AI・ビッグデータの罠 / キャシー・オニール
あなたを支配し、社会を破壊する、AI・ビッグデータの罠
  • 著者:キャシー・オニール
  • 翻訳:久保 尚子
  • 出版社:インターシフト
  • 装丁:単行本(336ページ)
  • 発売日:2018-06-18
  • ISBN:4772695605
内容紹介:
AI・ビッグデータの暴走を止めよ!業界内部を熟知するデータサイエンティストによる、人類への警鐘!いまやAI・ビッグデータは、人間の能力・適性・信用、さらには善悪や身体までも評価し、選別し始めた。格差を広げ、社会を破壊するデータ活用を変えよ!

米国で蔓延する計算機的思考

このタイトルだけを見ると、いささか扇情的な、怪しげな本に見えるかもしれない。かといって、このタイトルが嘘(うそ)だというわけでもない。内容を読めばわかるが、じつは案外地味な、まともな本である。

原題はブッシュ政権時代の大量破壊兵器ウェポンズ・オブ・マスデストラクションをもじったもので、マスつまり「大量」が算数マスマティクスのマスになっている。イラクの大量破壊兵器の所有が嘘の話だったことをご記憶の方は多いであろう。その意味で、この原題はじつは両刃(もろは)の剣である。そこまでうがって考える人は少ないであろうが。

そもそも著者は女性で、数学者であり、最初は素数論の大学教授で、その次に「ヘッジファンド業界のハーバード」として知られるD・E・ショーに迎え入れられる。在職中にリーマン・ショックに見舞われ、その過程で著者は専門とする数学の使われ方について、強い危機感を抱くようになる。

新しい仕事を始めたころは、まさか自分が最前列の席で金融危機を目の当たりにすることになるとは、思ってもみなかった。そこで目にした身の毛もよだつような恐ろしい現実は、数学がいかに狡猾(こうかつ)に、いかに破壊的になりえるかを教えてくれた。私が数学破壊兵器の威力を至近距離で目撃したのは、このときが初めてだった。

そこでヘッジファンドを辞め、さらに転職をし、データサイエンティストとして大手で働く。「ビッグデータ空間で2年ほど働き、学ぶうちに、私はすっかり幻滅し、目を覚ました。そのあいだにも、数学の乱用は加速されていた」

最初の章はモデルの説明である。モデルは実際のできごとを頭の中で整理再現するやり方である。これをきちんとした手続きでやれば、コンピューター化することができる。この手続きをアルゴリズムと呼ぶ。著者は具体的に、第一に、選手に関するデータから野球チームの監督が考えること、第二に、主婦としての自分が毎日の献立を考えること、第三に悪い例として、ワシントン特別区で実際に行われた、能力の低い教師を排除するための教師評価システムを説明する。最初の結論はこうである。数学破壊兵器となり得るシステムの三大要素とは「不透明であること、規模拡大が可能であること、有害であること」。

第二章以降は、社会の様々な局面での数学破壊兵器の使用について語る。データビジネス、大学ランキング評価、オンライン広告、犯罪、求職者に対する適性検査、職場の支配、信用度の格付け、個人の行動や健康、そして最後の章が民主主義すなわち政治である。このいずれの部門でも、数学破壊兵器の威力が急速に増しつつある。

時に言われることだが、「コンピューターに(データとして)クズを入れると、クズしか出てこない」。コンピューターはデータから優れた結論を出すようには作られていない。ただし、ロボットや機械を扱うなら、話は別である可能性がある。こうした機械は生きものではないし、はじめから人が理屈で設計している。そうしたシステムではコンピューターがヒトより優れた答えを生むことはあり得る。ヒトは機械ではないし、面倒くさい計算は苦手だからである。

この本を読んで気が付いた。アメリカは理性的に社会を構築するしかない。移民の国だからである。各家に神棚を置けなどという議論はできない。そこで計算機的思考が蔓延(まんえん)するのは当然ではないか。
あなたを支配し、社会を破壊する、AI・ビッグデータの罠 / キャシー・オニール
あなたを支配し、社会を破壊する、AI・ビッグデータの罠
  • 著者:キャシー・オニール
  • 翻訳:久保 尚子
  • 出版社:インターシフト
  • 装丁:単行本(336ページ)
  • 発売日:2018-06-18
  • ISBN:4772695605
内容紹介:
AI・ビッグデータの暴走を止めよ!業界内部を熟知するデータサイエンティストによる、人類への警鐘!いまやAI・ビッグデータは、人間の能力・適性・信用、さらには善悪や身体までも評価し、選別し始めた。格差を広げ、社会を破壊するデータ活用を変えよ!

ALL REVIEWS経由で書籍を購入いただきますと、書評家に書籍購入価格の0.7~5.6%が還元されます。

初出メディア

毎日新聞

毎日新聞 2018年7月22日

毎日新聞のニュース・情報サイト。事件や話題、経済や政治のニュース、スポーツや芸能、映画などのエンターテインメントの最新ニュースを掲載しています。

関連記事
養老 孟司の書評/解説/選評
ページトップへ