自動運転技術の発展に伴い、いわゆる「トロッコ問題」をAIがどのように判断するかが注目されています。
実際に国土交通省は令和5年度の予算概算要求で、自動運転の「どちらの判断をしても被害が生じる場合のシステムの判断のあり方の検討」「システムが安全を保証しなければいけない範囲の検討」などに1.8億円を計上。この「どちらの判断をしても被害が生じる場合」とはまさしく「トロッコ問題」に近しい問題設定です。
今回は自動運転の早期実現に向けた社会実験の現状や「トロッコ問題」との関係などについて解説します。
トロッコ問題とは？
トロッコ問題とは、倫理学の思考実験のひとつで、制御不能になったトロッコ（台車）が複数の進路に分岐する状況で、どちらを選ぶべきかを問うもの。トロッコはそのまま進めば5人の作業員がいる進路に突っ込みますが、自分がレバーを操作すれば1人だけがいる進路に分かれます。この状況で、トロッコを1人の方に向けるべきか、それとも5人を犠牲にすべきかといったジレンマが生まれます。
自動運転車の場合、歩行者との衝突が避けられない状況で、運転席の乗客を優先すべきか、それとも歩行者を守るべきかといった形でトロッコ問題が議論されることがあります。
「乗客を優先すべきか」「歩行者を守るべきか」といった判断や、そもそも「自動運転のAIはどの程度まで乗客や歩行者の安全を保証しなくてはいけないのか」といった点はトロッコ問題の倫理的な問題とも密接に絡んでいる点です。
自動運転（レベル4）の法規要件策定と「トロッコ問題」の関係
倫理問題としての「トロッコ問題」には答えがないに等しく、倫理・哲学などの専門家によって議論が続けられている現状です。
一方で「自動運転」は実証実験が急速に進んでおり、法改正も歩調を合わせるように進んでいます。たとえば2023年4月に施行された改正道路交通法によって「レベル4」の自動運転が解禁されました。
「レベル4」からはドライバー不在の完全自動運転が可能。走行場所は過疎地域や高速道路などの特定条件下に限られますが、この「レベル4」解禁をきっかけに2024年7月にはANAホールディングスと豊田自動織機が国内初となる貨物搬送車両の試験運用を羽田空港で行っています。
なお、自動運転のレベルはレベル0～5。「レベル3」は「渋滞時の高速道路」など一定の条件下で、なおかつ「運転手が適切に介入する」という条件付きでシステムが運転制御を行うという基準。2024年現在、テレビCMで「自動運転」として見られているのはこの基準によるものです。
物流の2024年問題が懸念されている中、今回の「レベル4」解禁によって、自動運転の技術向上が期待されています。
一方、自動運転のレベル4では先にも述べた「道路上で生じえる様々な事象についてシステムが安全を保障しなくてはいけない範囲はどこからどこまでか」「どちらの判断をしても被害が生じる場合にシステム判断のあり方はどうあるべきか」などの議論がさらに求められます。
レベル4の自動運転が普及した場合、自動運転の車による交通事故の発生例も増えていくでしょう。自動運転のAIは交通事故被害を最小化するような判断ができるのか、といった点でも「AIはトロッコ問題を判断できるのか」「そもそもシステムの責任範囲はどこからどこまでか」という議論は注目を集めています。
この議論に一定の決着が見られた場合に「レベル5」の自動運転の実現見込みが一挙に高まるといっても過言ではないかもしれません。
自動運転（レベル4）の普及に向けた推進事業の採択例
トロッコ問題の議論とは別に、レベル4の自動運転の推進事業は各地で広まっています。
たとえば川崎市では、2024年に国土交通省の「地域公共交通確保維持改善事業費補助金（自動運転社会実装推進事業）」の採択を受け、自動運転バスの実装走行の開催に向けて調整を進めています。
この川崎市の自動運転バス事業は「レベル4」に基づくもの。運行予定時期は2025年1月。川崎市と羽田地区の天空橋駅を結ぶルートと、川崎駅前と市立川崎病院を循環するルートの2つで運行する予定で、バスの最高時速は35キロとなります。なお、当面はドライバーが乗車した形になるとのことですが、交通量、歩行者の多い都市部での貴重な検証となります。
日産による自動運転（レベル4）の取り組み例
日産自動車は、神奈川県横浜市の港北ニュータウンで自動運転（レベル4）の実証実験を行っています。この実験は、専用の自動運転車両を用いて、一般道路での走行テストを行うというもの。実験の目的は、自動運転技術の安全性や信頼性の向上だけでなく、地域住民の移動ニーズに応える新たな交通サービスの可能性を探ることにもあります。
なお、2027年度には3～4市町村での数十台規模オンデマンド型乗り合いシャトルバスの運用も想定されています。
国内では自動運転（レベル4）での事故例もすでにある
とはいえレベル4の自動運転の車がすでに事故を起こしている点にも注意は必要です。
2023年10月、全国初の「レベル4」走行の自動運転の車両が自転車と接触する事故を起こしています。事故は福井県永平寺町で起こったもので、障害物を検知するカメラの事前の学習データが不足していたために自動ブレーキがかからずに起きてしまったもの。
答えがなかなか出せない「トロッコ問題」のジレンマを前に、交通事故の発生リスクが高まる公道での「レベル4」の推進事業をどう進めるかというのは関係各所にとって難問であるとは言えるでしょう。
自動運転のAIの「道徳的判断」にトロッコ問題は適しないという声も強い
なお自動運転AIの道徳的判断にトロッコ問題を適用することに対しては、批判的な意見も存在します。
たとえばノースカロライナ州立大学の研究者らは、トロッコ問題の二元的な選択が、実際の交通状況の複雑さを反映していないと指摘。現実の道路環境ではトロッコ問題のような極端な状況はまれで、むしろ日常的な交通ルールの遵守や安全運転の実践が重要。そのため、自動運転AIの開発においては、より現実的な交通シナリオに基づいた判断基準の確立が求められるという見解も述べています。
先述した通り、日産自動車は2027年度に自動運転でのシャトルバスの運用開始を想定していますが、それまでにトロッコ問題に倫理や哲学の観点で結論を出すことは現実的に難しいでしょう。
トロッコ問題については随時議論しつつも、実際には「トロッコ問題を解決することを目指す」というよりは「実証実験を進め、事故例が少ない取り組みを全国拡大する」形でレベル4の自動運転は広がっていくのかもしれません。