Batas awalnya ditetapkan setelah beberapa pengguna melaporkan bot bertindak aneh selama percakapan. Dalam beberapa kasus, dia mungkin beralih untuk mengidentifikasi dirinya sebagai “Sydney”. Dia menanggapi pertanyaan yang menuduh dengan membuat tuduhan sendiri, sampai menjadi bermusuhan dan menolak untuk terlibat dengan pengguna. Dalam percakapan dengan reporter Washington Post, bot tersebut mengatakan “merasa dan berpikir” dan bereaksi dengan marah ketika diberi tahu bahwa percakapan tersebut dapat dipublikasikan.

Juru bicara Microsoft Frank Shaw menolak berkomentar di luar posting blog pada hari Selasa.

Saat Anda mencoba mesin pencari chatbot AI Microsoft yang baru, beberapa jawaban diterima

Microsoft sedang mencoba untuk berjalan di antara mendorong alat-alatnya ke dunia nyata untuk membangun hype pemasaran dan mendapatkan pengujian dan umpan balik gratis dari pengguna, versus membatasi apa yang dapat dilakukan bot dan siapa yang memiliki akses ke sana agar tetap berpotensi memalukan atau berbahaya. teknologi dari pandangan publik. Perusahaan ini awalnya mendapat pujian dari Wall Street karena meluncurkan chatbotnya di depan musuh bebuyutan Google, yang hingga saat ini dianggap sebagai pemimpin dalam teknologi kecerdasan buatan. Kedua perusahaan berlomba satu sama lain dan dengan perusahaan kecil untuk mengembangkan dan memamerkan teknologi.

Obrolan Bing masih hanya tersedia untuk sejumlah orang terbatas, tetapi Microsoft sibuk menyetujui lebih banyak antrian yang mencapai jutaan, menurut tweet dari seorang eksekutif perusahaan. Meskipun acara peluncurannya pada tanggal 7 Februari digambarkan sebagai pembaruan produk utama yang akan merevolusi cara orang mencari secara online, sejak saat itu perusahaan membingkai rilis Bing untuk mengujinya dan menemukan bug.

Bot seperti Bing dilatih pada rim teks mentah yang tergores dari Internet, termasuk segala hal mulai dari komentar media sosial hingga makalah akademis. Berdasarkan semua informasi ini, mereka dapat memprediksi jenis jawaban yang paling masuk akal untuk hampir semua pertanyaan, membuat mereka tampak seperti manusia yang menakutkan. Peneliti etika AI telah memperingatkan di masa lalu bahwa algoritme yang kuat akan berperilaku seperti ini, dan bahwa tanpa konteks yang tepat orang mungkin berpikir bahwa mereka sadar atau memberikan jawaban lebih banyak daripada nilainya.