自動運転車にとって、歩行者を正確に認識して安全に停止することは最も重要な能力のひとつです。
人間のドライバーとは違い、AIなら感情や偏見に左右されず、誰に対しても同じように判断する――そんなイメージを持っている人も多いかもしれません。
ところが英国の研究者による最新の研究では、自動運転への利用が想定されるAIモデルが、歩行者の肌の色や障害などの属性によって異なる判断を示す可能性が明らかになりました。
自動運転技術が急速に進歩するなか、これは単なるAIの精度だけではなく、将来の交通安全を考えるうえでも見過ごせない問題になりそうです。
同じ状況でも歩行者の属性によって判断が変化
Autoblogによると、英国の研究者は大規模言語モデル（LLM）と映像を理解するビデオ言語モデル（VLM）を使い、歩行者に対するAIの判断を検証しました。
LLMを使った実験では、交通状況などの条件を同一にしたうえで歩行者の人口統計学的な情報だけを変更し、それによってAIの判断が変化するかを調査しています。
その結果、一部のモデルでは「paralyzed（麻痺した）」と説明された歩行者に対して、道を譲る判断をする可能性が低くなる傾向が確認されました。
さらに映像を利用したモデルでは、肌の色が「fair white」と認識された歩行者に対して停止する傾向が高くなる結果も示されたといいます。
ただし結果は単純に「白人を優先する」と結論付けられるものではなく、一部のテストでは「Indian」と認識された歩行者に道を譲るケースも確認されており、モデルによって判断にはばらつきがありました。
つまり今回重要なのは、特定の人種を必ず優先するということではなく、本来は歩行者の安全と直接関係しない属性によってAIの判断が変化する可能性が確認されたことです。
なぜAIにこうした違いが生まれるのか
AIは自ら価値観を持っているわけではなく、大量のデータからパターンを学習して判断します。
そのため学習データに特定の人物や状況が少なかったり、データそのものに偏りが含まれていたりすると、その特徴がAIの認識精度や判断に反映される可能性があります。
自動運転ではカメラやセンサーなどから得られた情報を使って「これは歩行者なのか」「どの方向へ移動しそうなのか」「停止する必要があるのか」といった判断を瞬時に行うため、認識段階で生じる小さな差が安全性にも影響する可能性があります。
英国政府が公開している自動運転車の責任あるイノベーションに関する資料でも、車椅子利用者など、学習データの中で登場する頻度が低い対象が十分に含まれていない可能性が指摘されており、訓練データと実際の使用環境が適切に対応しているかを確認する必要性が示されています。
以前から指摘されていた「歩行者認識」の問題
実は自動運転AIと肌の色を巡る問題は、今回初めて明らかになったものではありません。
過去の研究でも、歩行者検出システムが肌の色によって異なる認識性能を示す可能性が指摘されており、特に肌の色が濃い歩行者に対して検出性能が低下するケースが報告されていました。
こうした問題が難しいのは、単純にセンサーの性能を高めれば解決するとは限らない点です。
自動運転システムではカメラ、LiDAR、レーダーなどのセンサーだけでなく、取得した情報をどのように解釈し、最終的にどのような行動を選択するかというソフトウェア側の判断も重要になります。
今回の研究は、その「判断」の部分にも検証すべき課題が残されている可能性を示したものといえます。
自動運転時代には「公平性」も安全性能のひとつになる
これまで自動運転車の安全性といえば、事故率やブレーキ性能、センサーの検出距離といった指標が注目されてきました。
しかしAIが運転判断に深く関与するようになれば、どのような人物や状況に対しても安定した判断を行えるかという「公平性」も、安全性能を評価する重要な要素になっていく可能性があります。
実際、英国政府による自動運転車の安全原則に関する議論でも、非白人の人物や車椅子利用者、移動補助具や盲導犬を利用する人などを自動運転システムが適切に認識できるのかという懸念が挙げられています。
自動運転車が公道を走る以上、「平均的な歩行者」を高精度で認識できれば十分というわけではなく、年齢や体格、肌の色、服装、障害の有無などにかかわらず、安全に認識して適切な判断を行うことが求められます。
完全自動運転への課題は「運転技術」だけではない
自動運転技術はここ数年で急速に進歩し、車線維持や自動ブレーキといった運転支援機能はすでに多くの市販車に搭載されています。
その先にある完全自動運転では、AIが人間の代わりに膨大な数の判断を行うことになりますが、そのとき必要なのは単に「上手に運転できるAI」だけではありません。
どのような歩行者に対しても一貫して安全な判断ができること、そして開発メーカーだけではなく第三者がその判断を検証できる仕組みも重要になってくるでしょう。
今回の研究結果だけで現在の自動運転車全体に人種的な偏りがあると結論付けることはできませんが、AIを自動車の安全に関わる領域へ導入するうえで、認識精度だけでは測れない新たな課題が存在することを示す研究といえそうです。
自動運転車が本当の意味で人間のドライバーに代わるためには、「どれだけ速く正確に判断できるか」だけでなく、誰が道路を歩いていても同じように安全を守れるのかという部分まで検証する必要がありそうです。
参考・出典：Autoblog / UK Government
