Para ahli telah memperingatkan bahwa kendaraan otonom mungkin bersifat rasis karena mereka tidak dapat mendeteksi wajah berkulit gelap dalam kegelapan.

Komite hukum mengatakan bias rasial “telah merayap ke dalam desain kendaraan dan sistem otomatis,” yang dapat menimbulkan konsekuensi yang mengerikan.

Kendaraan otonom didukung oleh kecerdasan buatan (AI) yang dilatih untuk mendeteksi pejalan kaki untuk mengetahui kapan harus berhenti dan menghindari tabrakan.

Tetapi bias yang melekat ini secara efektif berarti bahwa siapa pun dengan warna kulit “tidak putih” mungkin berisiko lebih besar untuk terlibat dalam kecelakaan dalam kondisi pencahayaan yang buruk.

Kendaraan swakemudi juga mungkin bias terhadap wanita dan mereka yang memiliki keterbatasan mobilitas, karena sistem operasinya sebagian besar dibuat oleh pria berbadan sehat, menurut komite hukum.

Otoritas Independen menetapkan kerangka hukum untuk memperkenalkan mobil tanpa pengemudi di jalan raya Inggris Raya.

“Sistem tersebut mungkin belum dilatih untuk menangani berbagai macam kursi roda dan skuter bergerak,” katanya dalam konsultasi bersama dengan Komisi Hukum Skotlandia.

“Airbag menyelamatkan banyak nyawa, tetapi generasi pertama… menimbulkan risiko bagi penumpang yang lebih kecil, seperti wanita bertubuh kecil, orang tua, dan anak-anak, karena dikembangkan dengan mempertimbangkan pria dewasa.

Perangkat lunak pengenal wajah saat ini mungkin juga menunjukkan bias terhadap wajah kulit putih pria.

Untuk wajah non-kulit putih dan non-pria, akurasi sistem pengenalan wajah dapat menurun drastis.

Komite hukum juga mengatakan bahwa jika sistem dirancang untuk mengenali pejalan kaki melalui gerakan kaki, “gerakan ini mungkin tidak terlihat oleh orang-orang dengan rok panjang atau jubah.”

“Ketika desainer sebagian besar dipilih dari satu kelompok demografis (seperti kaum muda), mudah untuk mengabaikan keragaman mereka yang terpengaruh oleh desain tersebut,” katanya.

Pasar mobil swakemudi akan bernilai hampir £ 42 miliar ke Inggris pada tahun 2035 pada tahun 2035 menurut Departemen Transportasi – pada saat itu, 40 persen dari penjualan mobil baru di Inggris dapat memiliki kemampuan mengemudi otonom.

Tetapi kendaraan otonom hanya dapat diadopsi secara luas setelah dipercaya dapat mengemudi dengan lebih aman daripada pengemudi manusia.

Oleh karena itu, mengajari mereka bagaimana menanggapi situasi unik dengan kemampuan yang sama sebagai manusia akan sangat penting untuk penerapan penuh mereka.

Edmund King, Presiden AA Corporation, mengatakan: “ Dalam hal mobil tanpa pengemudi, teknologi ini harus bernuansa, akurat dan tidak diskriminatif. waktu.

Kesalahan manusia adalah faktor dalam sebagian besar kecelakaan, tetapi kita seharusnya tidak hanya mentransfer risiko dan menerima kesalahan robot.

“Hal terakhir yang kami butuhkan adalah agar Mondeo Man generasi berikutnya menjadi mobil self-driving rasis dan misoginis.

Rintangan teknologi ini harus diatasi sebelum pengemudi dapat melepaskan tangan mereka dari kemudi.

Kendaraan self-driving dapat mencegah 47.000 kecelakaan serius dan menyelamatkan 3.900 nyawa selama dekade berikutnya, menurut Mike Howes, CEO Association of Automobile Manufacturers and Traders.

Tapi Howes juga mengatakan bahwa mengemudi otomatis penuh – yang dikenal sebagai Level 5 – “agak jauh”.

2021 sebelumnya diumumkan sebagai tahun ketika kendaraan otomatis akan diluncurkan di jalan raya Inggris – tetapi teknologinya masih dalam tahap beta.

Musim gugur yang lalu, Oxbotica, sebuah perusahaan perangkat lunak kendaraan otonom yang berbasis di Oxford, meluncurkan armada uji enam mobil self-driving Ford Mondeos di kota itu.

Masing-masing kendaraan dilengkapi dengan selusin kamera, tiga sensor lidar dan dua sensor radar, memberikan armada “Tier 4” – kemampuan untuk menangani hampir setiap situasi.

Pada bulan Januari tahun ini, teknologi manajemen koridor baru yang disetujui dalam peraturan Perserikatan Bangsa-Bangsa mulai berlaku di Inggris Raya.

Secara efektif, ini berarti kendaraan dapat dilengkapi dengan Sistem Penjaga Jalur Otomatis (ALKS), yaitu: Itu membuat kendaraan mengendalikan jalurnya untuk jangka waktu yang lama tanpa pengemudi perlu melakukan apa pun.

Namun, pengemudi harus siap dan dapat melanjutkan kendali berkendara saat kendaraan menuntutnya.

Tapi itu berarti pengemudi dapat berlayar di sepanjang jalan raya dengan kecepatan 70 mph sambil mengirim SMS atau bahkan menonton film.

Produsen mobil kemungkinan harus memasang kursi getar untuk memperingatkan pengemudi ketika mereka harus mengendalikan kendaraan.

Armada enam mobil Ford Mondeo tanpa pengemudi berlayar di jalan-jalan Oxford setiap saat dan dalam semua kondisi cuaca untuk menguji kemampuan mobil tanpa pengemudi sebagai bagian dari uji coba pada tahun 2020.

Sistem ALKS telah diklasifikasikan oleh Perserikatan Bangsa-Bangsa sebagai otomatisasi Level 3 – langkah ketiga dari lima langkah menuju kendaraan otonom penuh.

Keselamatan tetap menjadi tantangan utama bagi kendaraan otonom, yang telah menjalani banyak uji coba di seluruh dunia.

Beberapa mobil self-driving mengalami kecelakaan parah – pada Maret 2018, misalnya, sebuah mobil Uber yang otomatis menewaskan seorang pejalan kaki wanita yang sedang menyeberang jalan di Tempe, Arizona, Amerika Serikat.

Seorang insinyur Uber berada di dalam mobil menonton video di teleponnya, menurut laporan pada saat itu.