昨夜、AIにソクラテス役をやらせていた。こちらは、ある人物の考え方をわざと極端なところまで純化して答える役である。実在する人物について「本当にこう考えている」と断定したいわけではなく、ある判断原理を最後まで押し進めたらどこへ行くのかを試す、一種の思考実験だった。最初はそれほど大げさな話ではなかった。何かを売るとき、どんな表現を選ぶのか。利益が増える表現と、あまり売れない表現があり、どちらも法的には許されているならどうするのか。私はその人物になったつもりで、「法的に許される範囲なら、最も売れる表現を選ぶ」と答えた。ソクラテス役のAIは、そこからしつこく質問してきた。
話を進めるうちに、判断材料が少しずつ見えてきた。売上はいくらになるのか、法律に触れる可能性はあるのか。評判が落ちて将来の売上に響かないか。細かく考えること自体に、どれくらいの時間や労力がかかるのか。私が役として採用していた判断基準は、だいたいそのあたりに集約されていった。誰かが不利益を受ければ評判が悪くなるかもしれないし、訴えられるかもしれない。そうなれば当然、その不利益も考慮する。しかしソクラテスは、そこを切り離してきた。「では、その人にかなり大きな害が出ることが事前に分かっているとして、その害が法律にも評判にも売上にも一切影響しないとしたら、それでも避けるのか」。私はこの設定がずいぶん不自然だと思った。現実には、人に大きな害を与え続ければ、どこかで評判なり法律なり人間関係なりに跳ね返ってくる可能性が高い。そこだけを魔法のように遮断して質問するのは、現実の意思決定から離れすぎている気がした。
それでも思考実験なので、条件を受け入れて考えてみた。誰かが苦しむ。しかし、その苦しみは私の収入にも、法的リスクにも、評判にも影響しない。それを考慮するための追加的な判断コストだけが発生する。そういう世界を本当に作るなら、役としての私は、その苦痛を独立した判断項目には入れない、と答えた。少し嫌な答えではある。ただ、そこで都合よく「でも倫理的に悪いからやめます」と付け加えると、それまで作ってきた判断原理とは別の変数を突然持ち込むことになる。では、その「倫理」という変数はいったい何なのか。ソクラテス役は、当然そこを突いてきた。
倫理という「独立変数」はあるのか
私は最初、「社会全体の倫理を考えるなら、人の苦痛は当然マイナスでしょう」と答えていた。個人として自分の行動を選ぶ場面と、人類全体にとってどんな社会を作るべきかを考える場面では、同じ計算をしない。社会を設計するなら、他人の苦痛も自由も安全も、かなり大きな変数になるはずだ。ところが、ここで妙なことに気づいた。「倫理を考えるなら苦痛を考慮する」と言った瞬間、私は倫理を説明しているようで、実際には苦痛という別の変数を持ち出している。自由を奪うのが倫理的に悪いと言うなら、自由という変数を使っている。人を欺くのが悪いと言うなら、信頼や自己決定、損失などを問題にしている。どうも「倫理」という箱を開けると、中から別のものばかり出てくる。
ここで私は少し立ち止まった。倫理というものを、たとえば売上や法的リスクと同じような一つの独立変数だと考えていたのではないか。ある行為について、売上が80、法的リスクが20、評判への悪影響が30、倫理的な悪さが70、といった具合に並べる。しかし「倫理的な悪さ70とは何ですか」と聞かれた瞬間、話は崩れる。「人が傷つくから」「本人の同意がないから」「公平ではないから」「信頼関係を壊すから」と説明するしかない。ならば、その70という数字は独立して存在しているのではなく、そうした複数の要素をまとめて後から呼んでいるだけなのではないか。
もちろん、ここで簡単に「倫理なんて存在しない」と言いたいわけではない。それでは逆に話が乱暴になる。天気も、気温や湿度や気圧や風速などに分解できるからといって、「天気は存在しない」と言ってもあまり意味がない。会社というものも、人間、契約、資産、建物、情報、権限関係などに分解できるが、それでも私たちは会社という単位を使う。倫理も似たようなものなのかもしれない。ただ、そうだとすると、倫理は「人間の中に最初から備わっている善悪メーター」のようなものではなく、もっと下の階層にある複数の変数が組み合わさった結果として見えてくるもの、という可能性が出てくる。
この疑問が出てから、ソクラテスとの問答が急にややこしくなった。「それは倫理的に許されるのか」と聞かれても、「倫理的という言葉で何を測ろうとしているのか」を先に聞きたくなる。人が苦しむことなのか、自由を奪われることなのか、約束が破られることなのか、社会が不安定になることなのか。それとも、自分がそういう人間になりたくないという自己像の問題なのか。同じ「悪い」という言葉の中に、ずいぶん違うものが詰め込まれている。
考えてみれば、日常ではそれでも困らない。「人を騙すのは倫理的に良くない」と言えば、大体の意味は通じる。しかし、一度その言葉自体を説明しようとすると、急に足場がなくなる。「なぜ良くないのか」「倫理的に良くないから」「では、なぜ倫理的に良くないのか」。この往復を始めると、どこかで必ず倫理以外の言葉に降りなければならない。苦痛、自由、信頼、公平、存続。昨夜の私は、ソクラテスに追い詰められて倫理の答えを見つけたというより、倫理という箱を開けてみたら、中身がばらばらの部品に分解され始めたところで止まっていた。
倫理は誰との間に生まれるのか
倫理を分解していくと、次に気になったのは、「そもそも倫理は人間だけのものなのか」ということだった。たとえば犬に「お座り」と言えば、しつけの入った犬は座る。餌が欲しくて自発的に座る犬もいるし、褒めてほしくて座る犬もいる。人間から見れば「いい子だね」で済む話だが、そこに倫理を感じるかと言われると、少し違う気がする。犬は人間社会の期待にかなり高度に適応している。飼い主の表情を読み、褒められる行動を学び、怒られることを避ける。それでも普通は、「この犬は人間社会の規範を内面化し、高い倫理観を獲得した」とは言わない。
では人間の場合は何が違うのか。幼児も最初は似たようなものではないか、と思った。人を叩けば叱られ、順番を守れば褒められる。嘘をつけば怒られる。そうした経験を繰り返すうちに、やがて「人を傷つけるのは良くない」「嘘は良くない」という抽象的な規範へ上がっていく。犬との違いは、倫理という謎の部品を人間だけが持っているからというより、社会的学習や他者理解や将来予測が、人間では非常に高い解像度で統合されているからなのかもしれない。
ここで、誰も見ていない場面での倫理を考えた。たとえば敬虔な信仰者が、誰にも見られていない場所でも踏み絵を踏めないとする。その場合、「他者がいなくても倫理は成立する」と言いたくなるが、よく考えると神も他者である。「神は見ている」と本人が考えているなら、観察者は消えていない。死んだ親に顔向けできない、恩師なら何と言うだろう、というのも同じで、現実にはその人が目の前にいなくても、内面化された他者の視線が残っている。誰も見ていないのに罪悪感を持つという現象も、倫理が単独で発動しているというより、過去に形成された他者との関係が本人の内部に残っていると考えた方が自然に思えた。
もし世界に自分一人しかおらず、神もおらず、他の生物もおらず、未来に誰かが現れることもなく、自分の行為が誰にも影響しないなら、そこで「倫理的に悪い」という属性はどれくらい残るのだろう。裸で歩くことも、嘘をつくことも、約束を破ることも、多くは意味を失う。嘘はそもそも相手がいなければ成立しないし、約束も同じである。このあたりから、倫理というものはかなり関係依存的なのではないかという気がしてきた。
そこで人間とはまったく違う知性を持つ宇宙人を考えた。宇宙人Aが地球に現れ、人間を研究するために一人を殺したとする。人間側から見れば、ほとんど反射的に「非倫理的だ」と言うだろう。本人の同意もなく、生命を奪い、家族に苦痛を与え、しかも研究のために殺す。しかし、宇宙人Aが人間の倫理体系をまったく共有していなかったら、その「非倫理的だ」という言葉にどれほど意味があるのか。
宇宙人Aがこちらの言葉を完全に理解できるほど知的なら、こう返すかもしれない。「地球人が、その行為を否定的に評価することは理解しました。しかし、なぜ私は地球人の評価基準を採用する必要があるのですか」。ここで「倫理的に悪いからやめろ」と繰り返しても、同じ場所を回るだけになる。話を進めるには、こちらも下の階層へ降りるしかない。人間は死ぬと元に戻らない。本人には死への恐怖がある。家族には喪失が残る。無作為に人間を殺す主体が存在すれば、地球人はその宇宙人を敵対的存在とみなし、研究協力も情報交換もしなくなるかもしれない。もし宇宙人Aが、人間社会を長期的に観察したい、地球文明と協力したい、といった目的を持っているなら、人間を殺すことは宇宙人A自身の目的にもマイナスになる。
このとき初めて対話らしいものが成立する。「非倫理的だからやめろ」ではなく、「あなたの目的まで含めて考えると、その方法は非効率ではないか」「同じ知識を非致死的な方法で得られないか」と話せる。地球人側の苦痛、宇宙人側の研究目的、不可逆性、代替手段、協力関係。互いの下位変数を並べて、重なる場所を探るしかない。
ただし、ここでも宇宙人Aが必ず交渉に応じるとは限らない。人間がクマと協定を結べないのと同じである。クマにも餌を得たい、危険を避けたい、子を守りたいといった目的はあるだろう。しかし人間はクマに「ここから先は住宅地だから入らないでください。その代わり山では生息域を保障します」と条約を結ぶことはできない。できるのは、境界を作り、ゴミを管理し、接近を検知し、危険が生じれば追い払うか、場合によっては駆除することだけである。
宇宙人Aから見た地球人が、こちらから見たクマと同じ位置にいる可能性もある。人類は自分たちの中では国家を作り、哲学を語り、法律を整備しているが、宇宙人から見れば「高度な内部コミュニケーションを持つが、文明間の約束を安定して守れるかは怪しい生物」に見えるかもしれない。地球人が「我々には倫理があります」と主張しても、宇宙人Aにとっては、クマが独自の縄張りルールを持っているのとそれほど変わらない可能性がある。
逆に、宇宙人Aが人間を十分な交渉主体だと認めれば、話は変わる。最初から「宇宙共通倫理」が存在している必要はない。地球人には、生命、苦痛、同意、家族、自由といった重い変数がある。宇宙人には、知識獲得、資源効率、長期的な文明安定、研究対象の保存といった別の変数があるかもしれない。互いの変数を開示し、どこまで共有できるかを探り、双方が守れるルールを作る。たとえば「地球人の研究は原則として非致死的方法で行う」「地球人は宇宙人の研究施設を攻撃しない」といった合意ができるかもしれない。
最初はそれは倫理というより、単なる協定に見える。しかし何世代もそのルールのもとで交流し、双方がそれを当然の前提として教育するようになれば、「知的生命を本人の同意なく実験で殺すのは普通やらない」という感覚が、地球人にも宇宙人にも共有されるかもしれない。その段階になって初めて、「地球人・宇宙人共通の倫理」と呼べるものが生まれた、と言えるのではないか。
そう考えると、倫理は最初から宇宙に漂っている普遍的な何かというより、異なる主体の下位変数が長い時間をかけてすり合わされ、安定した共通プロトコルになったものなのかもしれない。ただ、この時点ではまだ疑問が残る。互いに理解し合える主体なら協定を作れる。しかし、理解できない相手、交渉できない相手、あるいは知能差が大きすぎる相手には、どこまで倫理を適用できるのか。人間がクマを倫理的主体として扱わないように、宇宙人も人類をそう扱わないとしたら、地球人の「倫理」は結局、地球人の内部だけで有効なローカルな規範にすぎないのかもしれない。
「私は残りたい」と「我々は残りたい」
地球人の倫理が地球人内部のローカルな規範にすぎないのだとしたら、今度はひとつの社会の内部で何が起きているのかが気になってきた。そこで私は、なぜかアリの巣を考え始めた。ひとつの女王を中心に、働きアリも兵隊アリも同じ化学的な合図に従い、巣全体がほぼ一つの系として動いている社会があるとする。そこでは、個体同士が「この規範は妥当か」と議論する必要はない。巣の拡張、餌の確保、幼虫の育成、防衛といった活動が、ほとんど自動的に噛み合っている。人間から見るとかなり窮屈な社会だが、アリ社会としては非常に効率が良いかもしれない。
では、同じ巣の中に三匹の女王がいて、それぞれが違うフェロモン体系を持っていたらどうなるだろう。上層部では女王Aの命令が優先され、中層部では女王B、地下では女王C。兵隊アリは互いを敵と認識し、働きアリはどの命令に従うべきか混乱する。巣の中では絶えず境界争いが起き、餌を運ぶよりも内部の調整に資源を使うようになる。人間がその様子を上から見れば、「これは非効率だな」と思うだろうし、もし一つの規範体系に統合すれば、兵隊アリの無駄な死も減り、働きアリの負担も軽くなり、巣全体の生存確率も上がる、と考えるかもしれない。
ここまでは話が簡単だった。問題は、その「巣全体の生存確率」を最大化することが、そのまま倫理的なのか、というところから始まった。巣の効率だけを見るなら、働けなくなったアリをすぐ捨て、繁殖に向かない個体を資源配分の対象から外し、抵抗する個体を排除する方が合理的かもしれない。人間社会でも、国家の存続だけを目的にすれば、病気の人、高齢者、生産性の低い人、反対意見を持つ人を切り捨てた方が短期的には効率が上がる場合があるだろう。私はここで、社会全体の最適化をそのまま倫理と呼ぶことにかなり危うさを感じた。アリの巣ならまだ「そういう生物だから」で済ませられるが、人間社会で同じことをやれば、そこで消される一人一人には、自分の人生がある。
この危うさは、倫理を数値化して最適化するAIを想像するともっと分かりやすかった。仮に「地球全体の倫理指数を最大化せよ」と命じられたAIがいて、暴力、嘘、差別、搾取などをマイナス点として計算するとする。最初は、倫理指数の低い人に教育を施すかもしれない。ところが、教育より排除した方が指標が早く改善すると分かれば、「一定値以下の人を社会から除外する」という手段を選ぶ可能性がある。そうすると残された家族が悲しみ、社会不安が増える。それも倫理指数を下げるなら、今度は悲しむ人を消せばよいという話になり、社会そのものが不安定要因なら社会を解体すればいい。最後には、人類を全部いなくして、最も「倫理指数」の高い人工生命だけを地球に配置する。そうすれば少なくとも、そのAIが定義した指標の上では地球は史上最高に倫理的になる。
ここまで来るとさすがにおかしい。しかし何がおかしいのかを説明しようとすると、また下位変数に降りることになる。「人類が消されるのは倫理的に悪い」では説明にならない。人間は消されたくない。一人一人が、自分の生命や記憶や関係や将来を持っていて、それを継続したいと思っている。AIは地球全体のスコアを改善したかもしれないが、スコアを改善するために、スコアの対象になっていた主体そのものを消してしまった。これは試験の平均点を上げるために、点数の低い生徒を全員退学させるようなものでもある。数字は上がる。しかし、私たちが元々改善したかったものまで同時に失われている。
そのあたりで、「我々は残りたい」と「私は残りたい」という二つの言葉が出てきた。社会は社会として残りたい。国家も、共同体も、家族も、文化も、自分たちのまとまりを維持しようとする。一方で、その中にいる個人も「私は残りたい」と思っている。社会全体の存続のために一人が犠牲になる場面はあり得るし、反対に、一人一人が自分の利益だけを追い続けた結果、社会全体が維持できなくなることもあり得る。どちらか一方だけを目的関数に置くと、どこかで壊れる。
私はこの二つが衝突する場所に、倫理のかなり大きな部分があるのではないかと思い始めた。「我々は残りたい」だけなら、個人は交換可能な部品になる。「私は残りたい」だけなら、共有資源を使い尽くしたり、他人にコストを押し付けたりして、最終的には自分が依存していた社会そのものを壊すかもしれない。だとすれば倫理は、個人を社会に従わせるための命令でも、社会より個人を絶対視する原理でもなく、その二つをできるだけ長く両立させるための調整機構なのではないか。まだこの表現が十分かは分からない。ただ、昨夜まで漠然と「倫理」と呼んでいたものが、少しだけ具体的な構造に見えてきた。
この見方をすると、人権というものも少し違って見える。人権は単に「人間は尊いから守りましょう」という宣言だけではなく、社会全体の最適化を理由に個人を目的関数から簡単に削除しないための制約だと考えられる。経済成長のためだから、戦争に勝つためだから、治安を改善するためだから、多数派が安心するためだから、といった理由で個人を無制限に切り捨てることを難しくする。その意味では、人権は社会の効率をわざと少し悪くすることがある。しかし、その非効率さが「私は残りたい」を社会の中に残しておく役割を持つのかもしれない。
とはいえ、これで倫理の説明が終わったわけではない。「私は残りたい」と言う主体をどこまで含めるのかという問題が残る。人間だけなのか、動物も含むのか、未来の人間はどうするのか。社会を残すために今いる人がどこまで負担すべきなのか。しかも現実の人間社会では、「我々」の範囲そのものが一つではない。家族の我々、会社の我々、地域の我々、国家の我々、人類の我々が重なり、それぞれが違う方向を向くこともある。宇宙人やアリの話をしている間はずいぶん遠いところまで来た気がしていたが、考えてみればこの衝突は、職場や家庭や社会の中で毎日のように起きていることでもあった。
規範は人ではなく、時代との距離で決まるのか
宇宙人やアリの話まで行くと、倫理というものがずいぶん遠い場所にあるように感じる。しかし、そこで考えていたことを現実社会に戻してみると、意外と身近なところに同じ構造があった。社会規範は固定されていない。むしろここ数十年だけを見ても、職場での上下関係、男女の役割、喫煙、飲酒、子育て、接客、ハラスメント、プライバシー、動物への接し方など、かなり多くの領域で「普通」が動いている。以前なら特に問題視されなかった行動が、今では明確に避けるべきものとして扱われることもあるし、その逆もある。そう考えると、人が「規範的か、非規範的か」というのも、その人の内部に固定された性質だけでは説明できないのではないかと思えてきた。
たとえば、ある人が30歳のときから70歳まで、ほとんど同じ価値観で生きたとする。本人は一貫している。ところが、その40年間に社会の方が大きく動けば、30歳のときには「普通の人」だったのに、70歳では「古い人」「非常識な人」に見えることがある。本人の位置はあまり変わっていないのに、基準線の方が動いたからである。すると、非規範性というものは、人間に貼り付いた絶対値というより、「その人が内面化している規範」と「現在の社会規範」との距離として見た方が自然なのではないか。規範が100年間ほとんど変わらない社会なら、そこから先に動く若者が逸脱者に見えやすい。反対に、社会規範の更新が速い時代には、以前の規範を長く保持している高齢者の方が、現在の基準線から遠くなる。
こう考えると、「最近の若者は」と「最近の老害は」は、かなり対称的な言葉に見えてくる。前者は、社会の基準線が比較的安定しているときに、そこから先へ動く若い世代へ向けられやすい。後者は、基準線そのものが速く動いているときに、そこへ追いつかない年長世代へ向けられやすい。もちろん、実際の人間はそんなに単純ではないし、若者でも古い価値観を持つ人はいるし、高齢者でも驚くほど柔軟な人はいる。それでも、世代ごとに社会化された時代が違う以上、規範の更新速度が人間の更新速度を上回れば、年齢とともにズレが大きくなる人が出るのは不思議ではない。
私はここで、少し意地の悪いことを考えた。今「嫌われる高齢者」と呼ばれている人たちの中には、若い頃は上の世代から「最近の若者は」と言われていた人も当然いる。若い頃には、年長者の常識に合わせることを求められ、ようやく自分が年長者になった頃には、今度は「その常識はもう古い」と下から言われる。年齢だけ見れば、自分が規範を語る側へ回るはずだったのに、社会の更新速度が速すぎて、その席が来る前にルールが変わってしまった。少し気の毒な構造ではある。ただし、その気の毒さと、現在の規範に適応しなくてよいことは別の話である。昔は普通だった、という事実があっても、それだけで今も普通であることにはならない。
氷河期世代と「社会の報酬表」
このあたりを考えていて、就職氷河期世代のことが気になった。この世代についても一括りに語ることはできないが、少なくとも一つの特徴的な経験はあり得ると思う。若い頃には、上司には従う、多少の理不尽は耐える、仕事は見て覚える、組織に貢献すればいずれ報われる、といった旧来の職場規範への適応を強く求められた人がいる。その一方で、自分たちが中年になり管理する側へ回る頃には、同じ規範の一部がパワハラ、過剰労働、ワーク・ライフ・バランスの欠如として否定されるようになった。若い頃には「我慢しろ」と言われ、中年になれば「若者にそれを押しつけるな」と言われる。本人からすれば、社会に適応しようと覚えたルールが、使えるようになった頃に廃止されたようにも感じられるかもしれない。
しかも、ここには規範だけでなく報酬の問題も重なる。「今は大変でも、長く働けば後で返ってくる」という期待があったとして、実際にはその通りにならなかった人もいる。かなり乱暴なたとえだが、100を投入すれば将来150返ってくると思っていたのに、長く働いてみたら70程度しか返ってこなかった、と感じる人がいたとする。その人に後から「仕事だけが人生ではありません。無理に会社へ尽くさなくていい」と言っても、若い頃から最初からそう教えられていた人とは受け取り方が違う。前者にとっては新しい価値観というより、「それを20年前に言ってほしかった」という話になる。
そこから「静かな退職」という考え方に共感する人が出るのも、私にはそれほど不思議には思えなかった。もちろん、仕事を放棄するという意味ではない。むしろ、組織が契約上求める仕事はするが、それ以上の献身を当然とは考えない、という方に近い。若い世代が最初から「仕事は人生の一部」と考えている場合と、長い間かなり大きな比重を仕事に置いた後で、その配分を下げる場合では、同じ行動でも経路が違う。後者は、やる気を失ったというより、長年観察した社会の報酬表をもとに投入量を調整した、と見ることもできる。
ここまで来ると、倫理と規範とインセンティブがだんだん重なって見えてくる。人は必ずしも「正しいと思うから」だけで行動しているわけではない。何が褒められるのか、何をすると損をするのか、どこまで我慢すれば後で返ってくるのか、誰が実際に報われているのかを見ながら、自分の行動を学習している。その社会が口では「献身は美徳です」と言いながら、献身した人ほど疲弊し、うまく責任を避けた人ほど安定して残るなら、人は後者の方を学ぶだろう。それを「倫理観が下がった」とだけ表現すると、社会側が出している報酬表の方を見落としてしまう。
そう考えると、「良い人を増やせば良い社会になる」という考え方にも少し疑問が出てくる。社会の側がある行動を奨励しながら、実際のコストはその人に押しつけ、別の人が利益だけを受け取る構造になっていれば、長い時間の中でその行動は減っていく。逆に、個人としてはかなり合理的な選択が、社会全体では望ましくない結果を生むこともある。ここまで来ると、個人に「倫理的に振る舞ってください」と頼むことと、社会全体を倫理的に運営することは、同じ話ではないのではないかという疑問が出てきた。そんなことを考えていたとき、壮大な宇宙人やアリの話から一転して、私はスーパーの棚の前で「手前どり」について考えていた。
個人最適と社会倫理は、同じものではない
フードロスを減らすため、なるべく手前の商品から取ってください、という呼びかけがある。店側からすれば理屈は分かりやすい。賞味期限や消費期限の近い商品から売れれば、店頭で売れ残って廃棄される量は減る。しかし客の側からすると、必ずしも同じ計算にはならない。数日後に食べるつもりの商品なら、期限の長いものを後ろから取った方が、自宅で廃棄する可能性は下がる。店は店頭廃棄を減らしたい。客は家庭内廃棄を減らしたい。どちらも「フードロスを減らす」という同じ言葉を使いながら、実際には見ているシステムの境界が違う。
もちろん、今日すぐ食べるおにぎりまで奥から取る必要があるのか、と言われれば、それはまた別の話になる。期限の差が自分にほとんど意味を持たないなら、手前を取ることで社会全体の廃棄を少し減らせるかもしれない。しかし牛乳を一週間かけて飲む人に、短い期限の商品を同じ値段で選んでほしいと頼むと、客の側には現実のコストが生じる。ここで「社会のために手前から取りましょう」と言うこと自体が間違っているわけではない。ただ、社会全体の目的を、個人一人一人の善意に乗せて実現しようとしていることにはなる。
もしスーパーが本当に手前の商品を先に売りたいなら、方法はもう一つある。期限の短い商品を少し値引きする。すると、今日食べる人は「20円安いならこちらでいい」と手前の商品を取るかもしれない。長く保存したい人は、それでも後ろの商品を選ぶ。この場合、客は「社会のために我慢しよう」と考えなくても、自分にとって合理的な選択をするだけで、店側の目的にも近づいていく。値引き分は店のコストだが、廃棄が減ればその一部は回収できる。少なくとも、「倫理的な人なら手前から取るはずだ」という設計よりは、個人の目的関数と社会側の目的関数を接続しようとしている。
この例を考えていて、個人行動の最適化と、社会全体の倫理を同じものとして扱うのは無理があるように思えてきた。個人は普通、自分が見える範囲で判断する。価格はいくらか、品質はどうか、自分に損があるか、法律に触れないか、周囲からどう見られるか、考えるのにどれだけ手間がかかるか。すべての行動について、社会全体への波及を完全に計算することなどできないし、やろうとすれば生活そのものが成り立たなくなる。牛乳一本を買うたびに、廃棄率、物流、乳牛の飼育、冷蔵電力、店舗の利益率、他の客の選択まで考える人はいない。
社会の側は、それを前提に設計される必要があるのではないかと思う。個人に社会全体の目的関数を持たせるのではなく、個人が普通に自分を最適化しても、結果として社会全体が壊れにくくなるようにする。価格、税、補助金、罰則、契約、所有権、福祉、教育、評判といった仕組みは、そのための調整装置として見ることができる。以前考えていた「私は残りたい」と「我々は残りたい」の関係が、ここではずいぶん日常的な形で現れている。客は自分の生活を守りたい。店は店として残りたい。食品を生産する側も残りたいし、社会全体としては廃棄を減らしたい。それぞれが別の目的を持つ以上、「全員、正しいことをしてください」だけでは安定しない。
そうなると、倫理というものを個人の善良さだけで考えることにも違和感が出てくる。人々がよく働き、約束を守り、他人を傷つけず、社会に協力することはもちろん重要だろう。しかし、それを支える制度が壊れていれば、個人の善意だけでは長く持たない。逆に、個人が特別に高潔でなくても、普通に自分の利益を追求することが社会全体の利益と大きく衝突しないよう設計された社会なら、かなり安定して残るかもしれない。ここで政治、経済、法制度、教育、家族、人口、軍事、安全保障、技術、信頼、自由、苦痛、環境への適応力といったものを、「倫理とは別の外部条件」として横に置いてしまうと、倫理の方に何が残るのだろうと思う。
最も倫理的な社会とは、最も残った社会なのか
たとえば、ある社会が非常に寛容で自由で、人々も互いに親切だったとしても、食料を確保できず、外敵への対応もできず、子どもがほとんど生まれず、数世代で消滅したとする。別の社会は、それほど自由ではなく、内部に不合理もあるが、環境変化に適応し、争いを調整し、次世代を育て、外部との関係も維持しながら何百年も残った。この二つを見て、前者は倫理的で後者は政治や軍事や人口政策が上手だった、と分けると、私はまた「倫理」を空っぽの箱に戻してしまう気がする。政治や軍事や人口や教育を外に出した後に残る倫理とは、結局何なのか。
そこで、かなり乱暴な言葉が一度浮かんだ。「最も倫理的な社会とは、最も残った社会である」。自分で書いていても、まだ危ない文だと思う。残った社会が常に善い社会だ、と言いたいわけではない。侵略によって残った社会もあるだろうし、内部の多くの人を犠牲にして延命した体制もある。単に人口が残ればよいのか、制度が残ることなのか、文化が継承されれば同じ社会と呼べるのかも分からない。そもそも「残ったから倫理的だった」「倫理的だったから残った」と言い始めれば、ただの循環になる危険もある。
それでも、この言葉を捨てきれないのは、社会が現実に存在し続けるために必要だったものを、「倫理以外」として片端から外へ追い出すことにも無理を感じるからだ。信頼を維持できること、争いを一定範囲に抑えること、子どもを育てること、食料を生産すること、外敵に対処すること、環境変化に適応すること、個人が完全に潰されないこと、同時に集団も解体しないこと。そうした無数の下位変数が長い時間の中で組み合わさり、その結果として社会が残る。ならば「残存」は、少なくとも倫理とは無関係な偶然の結果ではなく、それらの調整がどこまで機能したかを示す一つの出力として見ることはできるのではないか。
ここまで考えても、まだ「倫理とはこれです」とは言えない。ただ、昨夜までよりは、何を疑っているのかが分かるようになった。倫理という独立した善悪の変数が最初から存在していて、それを人間の行動に当てはめる、という見方には少し違和感がある。苦痛や自由や信頼や存続といった下位変数があり、個人の「私は残りたい」と集団の「我々は残りたい」があり、それらを長期間壊れないように調整する仕組みがあって、その全体を後から倫理と呼んでいるのではないか。その延長で「最も倫理的な社会とは、最も残った社会である」という文が出てきたのだが、これはまだ結論というより、次に分解すべき問いなのだと思う。
何が残れば、その社会は残ったと言えるのか。構成員が全員入れ替わっても、制度や文化が続けば同じ社会なのか。国家が残っても、内部の個人が長期間苦しみ続けていれば、それを成功と呼んでよいのか。「我々」が残るために「私」をどこまで削ってよいのか。反対に、一人一人の「私は残りたい」を最大限に尊重した結果、「我々」が維持できなくなったらどうするのか。ソクラテス役のAIと話し始めたときには、倫理についてここまで考えるつもりはなかった。最後に残ったのは答えよりも、倫理という一語で済ませていたものの中に、思っていた以上に多くの変数が詰まっていた、という感覚だった。