Divisi kecerdasan buatan Google, DeepMind, menghadapi kekacauan internal setelah sekitar 200 karyawan menandatangani surat yang menuntut perusahaan tersebut mengakhiri kontraknya dengan organisasi militer.

Surat tersebut, yang dirancang pada 16 Mei 2023, mewakili sekitar 5% tenaga kerja DeepMind dan mencerminkan meningkatnya kekhawatiran di laboratorium AI tentang implikasi etis dari penggunaan teknologi mereka untuk tujuan militer.

DeepMind, laboratorium AI rahasia yang beroperasi di bawah payung Google, dikenal dengan pengembangan AI mutakhirnya. Namun, para karyawan mengklaim bahwa keterlibatan perusahaan dengan entitas militer bertentangan dengan prinsip AI Google. Surat tersebut menekankan bahwa masalah ini tidak terkait dengan geopolitik konflik tertentu, namun lebih pada konsekuensi etis dari penggunaan kecerdasan buatan dalam penerapan militer.

Para karyawan mendesak pimpinan DeepMind untuk menolak akses pengguna militer terhadap teknologi AI-nya dan membentuk badan tata kelola baru di dalam perusahaan untuk memastikan teknologi tersebut tidak digunakan untuk tujuan militer di masa depan.

Kekhawatiran dalam DeepMind dipicu oleh laporan bahwa teknologi kecerdasan buatan yang dikembangkan oleh laboratorium kini tersedia bagi organisasi militer melalui kontrak komputasi awan Google. Menurut laporan yang diterbitkan oleh majalah Time, kontrak Google dengan Angkatan Darat AS dan Angkatan Darat Israel memberi organisasi-organisasi ini akses ke layanan komputasi awan yang mungkin mencakup teknologi kecerdasan buatan yang diproduksi oleh DeepMind.

Pengungkapan ini telah menimbulkan kekhawatiran etika yang signifikan di kalangan karyawan DeepMind, yang merasa bahwa kontrak semacam itu melanggar komitmen perusahaan untuk mengembangkan AI yang etis.

Ini bukan pertama kalinya Google menghadapi protes internal terkait kontrak militernya. Kemitraan perusahaan dengan pemerintah Israel, yang dikenal sebagai Project Nimbus, sangat kontroversial.

Proyek Nimbus, yang melibatkan penyediaan layanan cloud kepada pemerintah Israel, telah menuai kritik dari para karyawan yang khawatir tentang potensi penggunaan teknologi Google dalam konteks politik dan militer yang sensitif. Awal tahun ini, Google dilaporkan memecat puluhan karyawannya yang menentang proyek tersebut.

Surat dari karyawan DeepMind menggarisbawahi kekhawatiran tentang dampak kontrak militer terhadap reputasi Google sebagai pemimpin dalam AI yang beretika dan bertanggung jawab. Para karyawan mengklaim bahwa keterlibatan apa pun dalam produksi militer dan senjata melemahkan pernyataan misi perusahaan dan bertentangan dengan prinsip-prinsip AI yang dinyatakan. Mereka menunjuk pada slogan Google sebelumnya, “Jangan Menjadi Jahat,” sebagai pengingat komitmen perusahaan terhadap praktik etis.

Terlepas dari kekhawatiran tersebut, Google belum memberikan tanggapan konkrit terhadap tuntutan karyawan. Empat karyawan yang tidak disebutkan namanya mengatakan kepada TIME bahwa mereka belum menerima tanggapan berarti dari pimpinan dan merasa semakin frustrasi. Menanggapi laporan tersebut, Google menyatakan bahwa mereka mematuhi Prinsip AI dan bahwa kontraknya dengan pemerintah Israel tidak menargetkan beban kerja yang sangat sensitif, rahasia, atau militer terkait dengan senjata atau badan intelijen. Namun, kemitraan dengan pemerintah Israel semakin mendapat sorotan dalam beberapa bulan terakhir.

Google mengakuisisi DeepMind pada tahun 2014 dengan janji bahwa teknologi AI-nya tidak akan pernah digunakan untuk tujuan militer atau pengawasan.

Selama bertahun-tahun, DeepMind telah beroperasi dengan tingkat independensi dari Google, sehingga memungkinkannya untuk fokus pada pengembangan AI yang etis. Namun, seiring dengan semakin intensifnya persaingan global untuk mendapatkan dominasi AI, otonomi DeepMind dibatasi, dan para pemimpinnya kesulitan mempertahankan komitmen etika awal laboratorium tersebut.

Ketegangan internal di DeepMind menyoroti tantangan yang lebih luas yang dihadapi perusahaan teknologi ketika mereka berupaya menghadapi konsekuensi etis dari pengembangan kecerdasan buatan. Ketika teknologi AI menjadi lebih kuat dan beragam, potensi penyalahgunaannya dalam aplikasi militer dan pengawasan telah menjadi perhatian utama.

Surat yang dikirimkan oleh karyawan DeepMind merupakan pengingat bahwa prinsip-prinsip etika yang memandu pengembangan kecerdasan buatan harus dipatuhi, bahkan ketika teknologi tersebut semakin terintegrasi di seluruh sektor, termasuk pertahanan.

Bagi Google, tantangan yang dihadapinya adalah menyeimbangkan kepentingan bisnisnya dengan komitmennya terhadap praktik AI yang etis. Ketidakpuasan yang semakin besar di kalangan karyawan DeepMind menunjukkan bahwa pimpinan perusahaan mungkin perlu mengambil tindakan yang lebih tegas untuk mengatasi masalah ini dan memastikan bahwa teknologi AI digunakan dengan cara yang konsisten dengan prinsip-prinsip yang dinyatakan.