運転しているときには様々な判断が要求されます。これまでのドライバーの運転では、どんな判断をするにせよ「ひと」が責任を持ち、「ひと」が責任を取ります。
自動運転中の判断はシステム
これが自動運転車で運転の主体がシステムになると、責任者は「システム」ということになってきます。
人には倫理観がありますが、システムにはありません。どう倫理観を実装していくかが、自動運転技術を実装する以上に難問であると思います。
システムにどういった判断をさせるかの基準を設定するのは 最終的には自動車メーカーでしょうか。可能な限り多くのケースを想定して、ケースごとに社会的合意が得られる判断基準の設定が必要になるはずです。
米マサチューセッツ工科大学が「モラル・マシーン」という名のウェブサービスで世界規模の調査を実施しています。以下のサイトで実際に利用できます。
「トロッコ問題」を自動運転車を想定して置き換え発展させて「誰かの犠牲」がなければ「誰かを救えない」という13の事故のシナリオが用意されていて、二択していきます。我々は当事者ではなく「事故を観察する第三者」として「どちらのシナリオが容認可能か」判定を下すように指示されています。
最後に平均値と自分の傾向が分析されます。何度かやると問題は毎回変わります。
簡単にできますので、試しに挑戦してみてください。
歩行者信号を遵守してない人達を犠牲に、を選択。
同じ人数なので不作為、を優先。
13のシナリオは、犠牲者にいろいろなタイプを設定して、人数の多少も組入れて用意されています。女性はこんなタイプに分けられています。
乳幼児、少女、普通の女性、高齢の女性、妊婦
女性経営者、女性医師
アスリート体形の女性、肥満体形の女性
ホームレス(男性イラスト)、犯罪者(男性イラスト)
例えば、医師かホームレスのどちらを犠牲にするか、という選択を迫られます。
世界223か国の約4,000万人から回答で傾向が分析されています。助かる人数が優先か、年齢層か、性別か、体型か、社会的価値か、交通規則の遵守度合いか。これらの結果を分析すると、社会的合意を得られる判断の傾向が、国や地域によって異なることが明らかになったようです。
年齢、性別、国や地域を問わず共通していたのは、ペットなどより人間を優先することと、多くの人数を助けるということです。しかし、どんどん細分化されていくようで、全体傾向として「キリスト教国」、「儒教・イスラム教国」、「中南米・フランス植民地」の3つのグループに分けられる特徴が見られ、各グループの傾向も明らかになっています。
国、地域、宗教により倫理観が異なることはある意味当たり前のことですが、人命に直接関わる自動運転についても世界の傾向が明らかになり、大きな前提としての指針が明確になれば良いと思います。
究極の選択で明快な答えが出せない場合には、不作為(積極的に運転に介入しない)を選ぶようになったような気がしました。
自動運転レベル３が20年に公道へ
レベル３が来年公道に出ます。
「人かシステムか責任明確化」ということだけで、本当に大丈夫でしょうか。
最後までご覧頂きありがとうございます。
🔙前の記事は、運転中にヒヤッとした件です。
