ウーバーセルフ

Jun 13, 2023

こんにちは。Eye on AI へようこそ。私はジェレミーの代わりを務めるセージ ラザロです。

金曜日の夕方、多くの人が再びうだるような夏の週末を楽しむためにログオフする中、AIが現実世界の物理的危害に直接関与した場合に誰が責任を負うのかをめぐる画期的な訴訟が、5年を経てついに結審した。

2018年にアリゾナ州テンピで歩行者をはねて死亡させた自動運転ウーバーのテストカーのハンドルを握っていたラファエラ・バスケスさんは、危険行為1件で有罪を認めた。 マリコパ郡上級裁判所のデビッド・ガルバリーノ判事は司法取引を受け入れ、彼女に3年間の監視付き保護観察処分を言い渡し、訴訟は永久に終結した。 バスケスは当初、過失致死罪で起訴されており、最高で懲役8年の重罪となる。

2018年に自転車で通りを渡ろうとしていたエレイン・ハーツバーグという女性が死亡した事故は、完全自動運転車が関与した初の死亡事故となった。 この事件は、ウーバーとバスケスがそれぞれ、前例がなかっただけでなく、人間の労働者がAIマシンを監視し、アルゴリズムから指示を受け、最前線に座ることが増えている世界での責任についていくつかの疑問を投げかけた状況の責任を逃れようとしたため、観察者らの注目を集めた。企業のエンジニアによって構築された不完全な AI システム。

昨年掲載されたWiredの詳細なインタビューによると、事故が最初に起こったとき、バスケスさんはウーバーが自分を守ってくれると思っていたという。 彼女は急成長する業界に心から興奮しており、練習マイルを積み上げる同社の自動運転車を監視する仕事をしている、自分を誇り高き会社の管理人だと考えていました。 アリゾナ州は、シリコンバレーの企業からより多くのビジネスを呼び込むために規制を緩和していたところだが、カリフォルニア州がウーバー車の登録を取り消したことを受け、最近ではウーバーの路上試験プログラムの天国となっていた。 監察医は正式にハーツバーグさんの死を事故と認定し、ウーバーは当初バスケスさんに弁護士を紹介したが、上司とのやり取りはすぐに「慰めから不安に」変わったとワイヤードは報じた。

ベラスケスさんの状況が大きく変わったのは、事故当時、彼女の私用携帯電話がテレビ番組『ザ・ヴォイス』をストリーミングしていたことが調査で明らかになったときだった。 車載カメラの映像には、彼女が衝突直前に下を向いていたことも示されており、その後の警察の分析により、バスケスさんは時間内に車を引き継ぐことができ、事件は「完全に回避可能」だったと判断されたと判明した。

この事件は裁判には至らなかったが、バスケスの弁護側には雇用主の責任を指摘する論拠が山積していた。 告訴状の中でバスケスさんは、ウーバーのガイドラインで許可されている「ザ・ヴォイス」を見ているのではなく、聞いているだけだと主張した。 そして、彼女が下を向いているときは、仕事用デバイスで Slack メッセージをチェックするためであり、リアルタイムで監視する必要があると彼女は言いました。 これは従来、2人目のオペレーターが担当していたが、ウーバーは最近、すべての車両に2人のテストオペレーターを配置するという要件を撤回し、バスケスのようなバックアップドライバーが単独で作業するようになった。 これにより、オペレーターが運転システムのフィードバックを入力する方法を含む仕事のダイナミクスが変化し、通常は何の問題もなく、介入する必要もなく、同じ道路を周回する孤独で長いシフトが発生しました。

公判前の弁護活動のもう一つの重要な部分で、バスケスの弁護士らは、車がハーツバーグさんを歩行者として識別できず、それがブレーキをかけられなかった原因となったと認定した国家運輸安全委員会の判決を引用した。 委員会はまた、ウーバーには「不適切な安全文化」があり、テストオペレーターの間で「自動化への自己満足」を防ぐことができなかったと認定した。この現象は、自動化システムの監視を任された作業員が、機械がシステムを制御して停止していると信じ込むようになるという、十分に文書化された現象である。注意を払う。 さらに、同社の元運行管理者は、事故の数日前に、自動運転車部門における不適切な安全慣行のパターンについて内部告発を行った。