Peneliti Universitas Kedokteran UW di bidang desain protein bersama dengan lebih dari 100 ilmuwan terkemuka lainnya dari lebih dari 20 negara berjanji untuk menggunakan kecerdasan buatan “demi kepentingan masyarakat dan menahan diri dari penelitian yang mungkin menyebabkan kerusakan sistemik atau memungkinkan penyalahgunaan. teknologi kami.”

Penyataan, “Nilai-nilai komunitas, pedoman, dan komitmen untuk pengembangan kecerdasan buatan yang bertanggung jawab untuk desain proteinmuncul dari diskusi selama dan setelah pertemuan puncak tentang keselamatan AI pada bulan Oktober 2023 Itu diadakan Oleh Institut Desain Protein di Fakultas Kedokteran Universitas Washington.

“Saya yakin ini adalah langkah penting bagi komunitas ilmiah,” kata David Becker, profesor biokimia di UW Medicine dan direktur institut tersebut. “Penggunaan kecerdasan buatan yang bertanggung jawab untuk desain protein akan membuka jalan bagi vaksin, obat-obatan dan obat-obatan baru. bahan berkelanjutan yang bermanfaat bagi dunia. Sebagai ilmuwan, kita harus memastikan hal ini terjadi.” Sekaligus mengurangi kemungkinan penyalahgunaan peralatan kita yang dapat menyebabkan kerusakan.

Para penandatangan pernyataan tersebut antara lain: Frances Arnold, profesor teknik kimia, bioteknologi, dan biokimia di Caltech, yang memenangkan Hadiah Nobel Kimia pada tahun 2018 karena menggunakan evolusi terarah untuk merekayasa enzim; Ahli genetika Harvard George Church, pakar terkemuka di bidang genomik dan biologi sintetik; dan Eric Horvitz, kepala staf ilmiah dan pakar AI Microsoft.

Selain Baker, UW yang menandatangani dokumen tersebut termasuk Neil King, asisten profesor biokimia, yang karyanya mencakup desain komputasi vaksin berbasis protein, dan Gaurav Bhardwaj, asisten profesor kimia obat dan pakar desain peptida komputasi.

Teknologi desain protein memungkinkan peneliti membuat protein baru yang dirancang khusus untuk melakukan tugas khusus. Pendekatan ini telah digunakan untuk memproduksi obat-obatan baru, vaksin, enzim khusus, dan biomaterial.

Kecerdasan buatan, dengan kemampuannya menganalisis struktur protein dengan cepat dan merancang struktur baru, telah mempercepat bidang ini dan memperluas jumlah laboratorium yang dapat berpartisipasi dalam desain protein. Namun kekuatan dan ketersediaan teknologi AI yang luas telah menimbulkan kekhawatiran bahwa AI dapat digunakan, baik karena kelalaian atau niat jahat, untuk menghasilkan produk berbahaya, termasuk senjata biologis.

Dalam pernyataan tersebut, para penandatangan mengatakan mereka yakin potensi manfaat AI lebih besar daripada risikonya, namun “pendekatan proaktif terhadap manajemen risiko mungkin diperlukan untuk memitigasi potensi pengembangan teknologi AI yang dapat disalahgunakan, disengaja atau tidak, untuk menyebabkan menyakiti.”

Untuk mencegah penyalahgunaan, pernyataan tersebut menetapkan serangkaian nilai dan prinsip untuk memastikan pengembangan teknologi AI yang bertanggung jawab di bidang desain protein. Hal ini termasuk bekerja sama dengan pemerintah, masyarakat, dan pemangku kepentingan lainnya untuk memastikan bahwa penelitian AI bermanfaat bagi masyarakat, menyaring DNA buatan yang sedang dikembangkan untuk mendeteksi urutan yang mungkin menimbulkan risiko, melakukan penelitian secara terbuka sehingga penelitian AI dapat dievaluasi dan diteliti, dan hanya membatasi akses. Ketika sistem AI menghadirkan “risiko yang berarti, teridentifikasi, dan belum terselesaikan.”

Dengan menandatangani pernyataan, penandatangan tidak berarti bahwa pernyataan tersebut telah disetujui oleh organisasinya.

Diadaptasi dari materi yang dibuat oleh Ian Haydon, Kepala Komunikasi di Protein Design Institute.