Salah satu pendiri pemimpin kecerdasan buatan OpenAI memperingatkan bahwa kecerdasan super harus dikendalikan untuk mencegah kepunahan umat manusia.

“Kecerdasan super akan menjadi teknologi paling berpengaruh yang pernah ditemukan umat manusia, dan dapat membantu kita memecahkan banyak masalah paling penting di dunia. Tetapi kekuatan superintelijen yang sangat besar juga bisa sangat berbahaya, dan dapat menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia. ,” Ilya Sutskever dan kepala penyelarasan Jan Leike menulis dalam posting blog hari Selasa, mengatakan mereka yakin kemajuan seperti itu dapat tiba paling cepat dekade ini.

Mereka mengatakan mengelola risiko seperti itu akan membutuhkan institusi baru untuk tata kelola dan memecahkan masalah penyelarasan superintelligence: memastikan sistem AI jauh lebih pintar daripada manusia “mengikuti niat manusia”.

“Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superinteligent, dan mencegahnya menjadi jahat. Teknik kami saat ini untuk menyelaraskan AI, seperti pembelajaran penguatan dari umpan balik manusia, bergantung pada kemampuan manusia untuk mengawasi AI. Tetapi manusia tidak akan dapat secara andal mengawasi sistem AI jauh lebih pintar dari kita sehingga teknik penyelarasan kita saat ini tidak akan berkembang menjadi superintelligence,” tulis mereka. “Kami membutuhkan terobosan ilmiah dan teknis baru.”

FBI PERINGATAN DEEPFAKE AI DIGUNAKAN UNTUK MEMBUAT SKEMA ‘SEXTORTION’

Aplikasi OpenAI ChatGPT di situs web App Store ditampilkan di layar dan situs web OpenAI ditampilkan di layar ponsel terlihat dalam foto ilustrasi yang diambil di Polandia pada 18 Mei 2023. (Jakub Porzycki/NurPhoto)

Untuk mengatasi masalah ini, dalam jangka waktu empat tahun, mereka mengatakan bahwa mereka memimpin tim baru dan mendedikasikan 20% daya komputasi yang diperoleh hingga saat ini untuk upaya ini.

“Meskipun ini adalah tujuan yang sangat ambisius dan kami tidak dijamin berhasil, kami optimis bahwa upaya yang terfokus dan terpadu dapat menyelesaikan masalah ini,” kata mereka.

ADMIN BIDEN MENGKLAIM ‘BAHAYA YANG TIDAK DAPAT DIPERBAIKI’, BERUSAHA UNTUK TETAP BERTEMU DENGAN TECH BESAR SETELAH KEPUTUSAN MEMERINTAHKANNYA UNTUK BERHENTI

Ilya Sutskever, ilmuwan komputer Israel-Kanada Rusia dan salah satu pendiri serta Kepala Ilmuwan OpenAI, berbicara di Universitas Tel Aviv di Tel Aviv pada 5 Juni 2023. (JACK GUEZ/AFP melalui Getty Images)

Selain berupaya meningkatkan model OpenAI saat ini seperti ChatGPT dan memitigasi risiko, tim baru ini berfokus pada tantangan pembelajaran mesin untuk menyelaraskan sistem AI superintelligent dengan niat manusia.

Tujuannya adalah untuk merancang peneliti penyelarasan otomatis tingkat manusia secara kasar, menggunakan komputasi dalam jumlah besar untuk menskalakannya dan “menyelaraskan superintelligence secara iteratif”.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

18 April 2023, Berlin, Jerman: Situs web perusahaan OpenAI dibuka di laptop. (Hannes P Albert/gambar aliansi melalui Getty Images)

Untuk melakukannya, OpenAI akan mengembangkan metode pelatihan yang dapat diskalakan, memvalidasi model yang dihasilkan, dan kemudian menguji tekanan pipa penyelarasannya.

Upaya perusahaan didukung oleh Microsoft.

Reuters berkontribusi pada laporan ini.