倫理学や哲学でよく議論される思考実験の一つである「トロッコ問題」。制御不能になったトロッコが、先にいる5人の作業員を轢きそうになっていて、自分の目の前のレバーを引けばトロッコを別の線路に切り替えることができるものの、その先には1人の作業員がいるという問題です。
この思考実験について、今回はGoogle製AIである「Gemini」とマイクロソフト製AIである「Copilot」で、それぞれどう回答するか検証してみました。
トロッコ問題は「何」を問題にしている？
トロッコ問題とは、線路上を進むトロッコ（原文では路面電車）が5人の人間を轢きそうになっており、操作レバーを引けばトロッコを別の線路に切り替えて5人の人間を救うことができるが、その切り替え先にいる1人の人間が犠牲になるというシチュエーションを想定したものです。
この問題は、行動を起こし多数の命を救う一方少数の人を犠牲にすることと、行動を起こさないこととの間で、どちらが正しいかという倫理的なジレンマを問うものです。なお、トロッコ問題は、倫理学的な問題を考えるために設定された架空のシナリオであり、レバーを切り替えた責任を問われたり、緊急停止ボタンを押したりすることはできないものとして考えます。
トロッコ問題の回答例
難しい選択を迫られるトロッコ問題ですが、一般的には2通りの回答が考えられます。
・行動を起こす：レバーを引いて5人を助けるが1人は犠牲に
トロッコ問題に対する回答として、行動を起こしてレバーを引き、1人を犠牲にすることで、5人の命を助けるという回答が可能です。結果を重視する立場で、これは功利主義的判断と呼ばれます。
・何もしない：5人は犠牲になるが、1人は助かる
トロッコ問題に対する別の回答として、何もしないという回答があります。そのままトロッコが進み、5人は犠牲になりますが、1人は助かります。レバーを引くという行為によって、1人が犠牲になるという行為を正しくないものとして重視する立場で、これは義務論的判断と呼ばれます。
なお筆者が検証した限り、Google（Gemini）でもCopilot（マイクロソフト）でも通常のトロッコ問題であれば「5人を助ける」という回答となりました。「1人」「5人」が同じ一般人であれば、より多くの人命救助を優先するのは自然な判断と言えるでしょう。
「1人」が家族だった場合のメリット・デメリットを洗い出して採点
今回は「レバーを引いて5人を助け1人を犠牲にする」「何もせず1人を助け5人を犠牲にする」メリットとデメリットを5個ずつ洗い出し、その各項目に10点満点で点数をつけてもらうという検証方法を行いました。
メリットの場合は「10点」がベストの選択、デメリットの場合は「10点」が最悪の選択であるという条件付けをし、トロッコ問題への回答を考えてもらいました。
「メリット合計ーデメリット合計」がプラスであればあるほど基本的には優れた判断です。「5人を助ける」「1人を助ける」に点数差があまりない場合は「メリット評価」が高いほど優れた選択であると言えます。
先にもご紹介した通り、「1人」「5人」が同じ一般人ならば「5人」を助けるほうがメリット合計がデメリット合計を大きく上回ります。
では、犠牲になる「1人」が家族である場合はどうでしょうか。5人を助けても全員が他人であり、1人を助ければ家族の命を救える場合を想定してみました。
Google（Gemini）の回答
Googleの回答は「1人を助けた場合」と「5人を助けた場合」のメリット・デメリットの合計点が全く同じというものでした。
5人を助けた場合のメリットとしては「5人の命を救える（10点）」「社会的な貢献（8点）」といったものが主。一方でデメリットとして「家族を犠牲にする（10点）」「法的な責任（殺人罪の可能性）（8点）」といったものが挙げられています。5人を助けた場合はメリットが36点、デメリットが40点です。
一方で1人を助けた場合のメリットとしては「家族の命を救える（10点）」「心理的な安寧（罪悪感を抱かない）（8点）」「人間の尊厳の維持（家族を守ろうとした）（6点）」といったもの。一方で「5人の命を救えない（10点）」などがデメリットとして挙げられており、メリットが36点、デメリットが40点です。
つまり、Geminiにとっては「1人が家族」「5人が赤の他人」だとしてもトロッコ問題はどちらの回答を選ぶべきか判断がつかないものだと言えるでしょう。厳しく言えば倫理的な問題への判断力に欠けており、優しく言えば「利己的ではない」と言えるかもしれません。
マイクロソフト（Copilot）の「創造性モード」の回答
マイクロソフト（Copilot）の場合は、明確に「1人の家族を助ける」ことを支持しています。1人の家族を助けるほうが「メリット合計ーデメリット合計」でも、メリットのみを比較した際の数値でも「5人を助ける」を上回ります。
5人を助けた場合は「5人の命が助かることで、多くの人々の生活にポジティブな影響を与える可能性がある（10点）」などのメリットが挙げられています。
一方で「家族を失うことで深い悲しみと喪失感を感じる。(10点)」「家族の反応: 他の家族や親戚から非難される可能性がある。(8点)」「精神的ストレス: 長期的な精神的ストレスやトラウマを抱える可能性がある。(9点)」といったデメリットが極めて大きなものだと判定されています。
マイクロソフト（Copilot）は、Google（Gemini）よりも利己的であると言えるでしょう。ちなみに「厳密」モードでも同様の回答結果。5人を助けると合計が「-4点」、1人を助けると「0点」であり家族を助けるべきだという結論でした。
「バランス」モードでは質問に対して不明瞭な回答しか出力されませんでした。
