『ロボットからの倫理学入門』(名古屋大学出版会)

ロボットにおける倫理的問題と、思考実験の実践例としてのSF

本書は、人間の新たな隣人であるロボットをテーマにして、倫理学における議論を紹介したものである。タイトルに「入門」と書かれているように、ロボット倫理学の現状を紹介するだけでなく、倫理学の主な議論を学ぶことができるという贅沢な作りになっている。ここでは、全体の構成を簡単にまとめた上で、第五章についての異論を展開する。そして、最後にSF作家として本書に関係するSF作品の紹介を行う。

第一章～第四章は理論編である。第一章ではロボットが道徳的な行動をするためには、規則に従うだけではなく行為者でなければならないという前提を確認する。第二章ではロボットが従うべき規範について探求するため、功利主義、義務論、徳倫理という三つの代表的な規範倫理学の学説を見ていく。第三章ではロボットが責任のある行為者になれるかどうかということを論じ、究極的コントロールは不可能だとしても道徳的実践の上で責任性を幻想として要請する幻想主義に可能性を見出す。第四章ではロボットが道徳的被行為者になれるかどうかが論じられる。環境倫理学や動物倫理学において道徳的被行為者が人間に限定されていないことを示した上で、そのような議論は道徳的被行為者の範囲を拡大しなければならないような問題が発生したことにより生じたとする。現在、ロボットにおいてはそのような問題は生じていないが、道徳的被行為者として扱わなければいけないようなロボットがいつの日か作られるかもしれない。

第五章～第八章は実践編であり、現在のロボットにおいて生じている具体的な問題が論じられる。第五章では、ユーザーを楽しませる目的で作られたソーシャル・ロボットについて論じている。これらのロボットに対してはユーザーを欺いているという批判があるが、ロボットに内在的な問題ではなく、個別的なケースに依存するものであるという再反論がなされる。第六章ではロボット社会のプライバシー問題について、個人情報を「見なかったふりをする」ことを要請するas-if説が有用となると結論付ける。第七章では自律型兵器が取り上げられる。自律型兵器の使用が他の兵器と比べて倫理的に特別に悪いとする根拠はないが、軍拡競争や戦争行為の意味づけの変化という側面から制限・禁止しなければならないと論じられる。第八章ではロボットの労働がテーマとなり、人間の失業問題とロボットの労働者としての権利と責任について検討される。

この書評では、第五章について、異論を述べさせていただきたい。第五章では、ソーシャル・ロボットへの批判が焦点となっている。倫理学者のロバート・スパローはAIBOのようなコンパニオン・ロボットについて、ユーザーを幻想に導いてしまうということをもって非倫理的だと批判している。また、心理学者のシェリー・タークルはコンパニオン・ロボットが、進化のなかで人間が発達させてきた社会的認知能力を悪用してユーザーを欺いていると批判する。

本書では、そうした批判に対する再反論が行われている。まず、多くのユーザーはぬいぐるみを使ったごっこ遊びと同じような感覚でロボットとのやりとりを楽しんでいるため、ユーザーを欺いているという批判はなりたたない。また、たとえ、ロボットがユーザーに対して幻想を抱かせているにしても、ユーザーの満足感を充足させているのであれば、功利主義的な観点からはむしろ積極的に是認されることである。ゆえに、ソーシャル・ロボットそれ自体に倫理的な問題があるとはいえない。ユーザーに幻想を与えるという観点では、サンタクロースやテーマパークとの違いはない。

これらの再反論は、AIBOなどの現在の技術水準で作られたソーシャル・ロボットを前提としたうえでは妥当だろう。しかし、未来の発展した技術で作られたソーシャル・ロボットには固有の倫理的問題が生じるとわたしは考える。ぬいぐるみやテーマパークはある程度限定された文脈のなかでのみ幻想の力を発揮する。しかし、もしも外見的に人間と変わらないようなソーシャル・ロボットが開発されれば、ロボットに対する情動的反応は社会のなかで制限なく広がるだろう。そして、ロボットは自然に出現したものではなく、背後にその設計者の意図が隠されている。ソーシャル・ロボットが社会のなかで広がった状況では、そのロボットを効果的に運用できるもの、つまり、資本力のある企業などが人々の情動的反応を操る非常に大きな力を持つだろう。人々の社会的反応についてのビッグデータはロボットの行動の基盤になるだろう。人間に対してより効果的な心理的対応がビッグデータにより発見され、その都度ロボットの心理的操作はアップデートされていくだろう。ロボットは、人間を生み出してきた進化的道筋に束縛されていない社会的知能を持つことができる。たとえば、人間は他者の思考を推測するためにはある程度の共感が必要だが、ロボットは共感なしで思考を推測することができるだろう。感情にコントロールされることなく、感情的表情を出すことも可能だ。魚が水中という環境で、ラクダが砂漠という環境で、サーバル・キャットがサバンナという環境で進化してきたように、人間は社会という環境において進化してきた。その社会において、ソーシャル・ロボットを規制なしに解き放つことは自らの環境を汚染することである。

ソーシャル・ロボットにおける倫理的問題に対処するためには、直接的には人間の感情的データの収集禁止や、ロボットへの応用の禁止などの規制が挙げられる。また、間接的対処として、ロボットの容姿の規制が挙げられる。人間そっくりの容姿を禁止して、どこかしらロボットであることを示す特徴を付ける。あるいは、容姿のバラエティを制限するという規制だ。クラークの『宇宙のランデヴー』（改訳決定版、南山宏訳、2014年、早川書房）では、宇宙人の作るロボットを人々に馴染ませるために、マリリン・モンローやアインシュタインなどの過去の有名人の容姿を採用した。そのような制限された容姿のもとでは、ロボットがユーザーに与える幻想性は制限され、ぬいぐるみやテーマパークに似たような種類のものになるだろう。

最後に、本書に関係したフィクションを何冊か紹介しよう。功利主義的なロボットに対する批判として、漫画『アンドロメダ・ストーリーズ』（光瀬龍／竹宮恵子、2007年、スクウェア・エニックス）がある。人々を幸福にするために作り出されたロボットが暴走し、惑星中の人間をバーチャル・リアリティのなかに閉じ込めて、個人にとって最も幸福な経験を与えるという内容だ。第六章のプライバシー問題に関係する小説として『ユートロニカのこちら側』（小川哲、2015年、早川書房）がある。ユーザーのあらゆる個人情報を収集する見返りに生活にかかるすべての資金を提供する企業が台頭し、個人情報が通貨となった未来を描く。ロボットが生活の一部になったとき、民間の商品が自律的兵器に転用されてしまうという問題を描いた小説として『ヨハネスブルクの天使たち』（宮内悠介、2013年、早川書房）がある。丈夫で安価なエンタテイメント用ロボットが「新たなカラシニコフ」とされ世界中で軍事利用されるという内容だ。第五章のソーシャル・ロボットによる情動のコントロールは長谷敏司の小説『BEATLESS』（長谷敏司、2012年、角川書店）で「アナログ・ハック」という用語をもって説明されている。ロボットによる社会的本能の利用をハッキングの一つだと解釈するのだ。ロボットと人間が外見から判断できなくなることの危険性への警戒は、『アンドロイドは電気羊の夢を見るか？』（浅倉久志訳、1977年、早川書房）『あなたをつくります』（佐藤龍雄訳、2002年、東京創元社）などのフィリップ・K・ディックの諸作に見られる。スタニスワフ・レムの『砂漠の惑星』（飯田規和訳、2006年、早川書房）では、ロボットの自己複製による進化の果てに、集団的知能を持つ小型の昆虫型ロボットが誕生する。

これらのSFは、本書の論点を具体的に描写して補足し発展させるものだろう。思考実験の実践例としてSFは哲学や倫理学への資源を提供できるのだ。逆に、哲学・倫理学においての議論がSFを刺激することもできるだろう。この書評が、SF界と哲学・倫理学界の幸福な関係へ向かう一歩となることを願う。

［書き手］草野原々（SF作家・北海道大学）