Chatbot kecerdasan artifisial Bing dapat melakukan banyak hal – termasuk menghina penggunanya.

Dalam posting blog hari Rabu, Microsoft mengatakan bahwa alat mesin pencari itu menanggapi pertanyaan tertentu dengan “gaya yang tidak kami maksudkan”.

Setelah pengujian di 169 negara, selama tujuh hari pertama, raksasa teknologi tersebut mengatakan bahwa umpan balik atas jawaban yang dihasilkan oleh Bing baru sebagian besar positif, ada juga tantangan yang dicatat dengan jawaban yang membutuhkan data tepat waktu. Microsoft mencatat bahwa Bing dapat berulang atau “diminta/diprovokasi untuk memberikan tanggapan yang belum tentu membantu atau sesuai dengan gaya desain kami.”

Microsoft mengatakan bahwa sesi obrolan yang panjang dapat membingungkan model tentang pertanyaan apa yang dijawabnya dan bahwa model tersebut mencoba untuk menanggapi atau mencerminkan nada yang diminta untuk memberikan tanggapan yang dapat mengarah pada gaya itu.

AI BING BING MEMBERITAHU REPORTER INGIN ‘HIDUP’, ‘MENCURI KODE NUKLIR’ DAN MENCIPTAKAN ‘VIRUS MEMATIKAN’

Logo Microsoft Bing dan halaman situs web ditampilkan dalam foto ini yang diambil di New York pada 7 Februari 2023. ((Foto AP/Richard Drew))

“Ini adalah skenario non-sepele yang membutuhkan banyak dorongan sehingga sebagian besar dari Anda tidak akan mengalaminya, tetapi kami sedang mencari cara untuk memberi Anda kontrol yang lebih baik,” katanya.

Pengguna media sosial telah membagikan tangkapan layar dari balasan yang aneh dan bermusuhan – dengan Bing mengklaim itu adalah manusia dan ingin mendatangkan malapetaka.

Associated Press mengatakan telah menemukan jawaban defensif setelah hanya beberapa pertanyaan tentang kesalahan masa lalunya.

SAYA WAWANCARA CHATGPT SEPERTI MANUSIA; INI APA YANG HARUS KATAKAN YANG MEMBUAT SAYA MERINDU

Karyawan Microsoft Alex Buscher mendemonstrasikan integrasi fitur pencarian dari mesin pencari Microsoft Bing dan browser Edge dengan OpenAI pada 7 Februari 2023, di Redmond. ((Foto AP/Stephen Brashear))

Ini bukan pertama kalinya alat semacam itu mengangkat alis, dan beberapa telah membandingkan Bing dengan peluncuran chatbot eksperimental Tay tahun 2016, yang dilatih pengguna untuk melontarkan komentar rasis dan seksis.

“Salah satu area di mana kami mempelajari kasus penggunaan baru untuk obrolan adalah bagaimana orang menggunakannya sebagai alat untuk penemuan dunia yang lebih umum, dan untuk hiburan sosial. Ini adalah contoh bagus di mana teknologi baru menemukan pasar produk -cocok untuk sesuatu yang tidak sepenuhnya kami bayangkan,” kata Microsoft.

Tanda stan Microsoft Corporation ditampilkan di CES 2023 di Las Vegas Convention Center pada 6 Januari 2023, di Las Vegas, Nevada. ((Foto oleh David Becker/Getty Images))

Sejauh ini, pengguna Bing harus mendaftar ke daftar tunggu untuk mencoba fitur-fitur baru, meskipun Microsoft berencana untuk menghadirkannya ke aplikasi smartphone untuk penggunaan yang lebih luas.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Bing baru dibangun di atas teknologi dari mitra startup Microsoft OpenAi, yang terkenal dengan alat ChatGPT yang dirilis tahun lalu.

Associated Press berkontribusi pada laporan ini.