Rachel Metz-Bloomberg News

Bloomberg, Perangkat software aplikasi kecerdasan buatan tidak selalu melakukan apa yang diinginkan oleh orang-orang yang membuatnya. Ini jadi sebuah sebuah masalah yang berpotensi berbahaya yang telah melanda beberapa perusahaan teknologi besar.

Perusahaan-perusahaan besar seperti OpenAI dan Google milik Alphabet Inc, semakin mengarahkan sumber daya manusia, modal, dan daya komputasi untuk mengatasi masalah ini.

Anthropic, pesaing OpenAI, telah menempatkannya di jantung pengembangan Claude, sebuah produk yang disebutnya sebagai jenis chatbot AI yang lebih aman.   

Mulai bulan ini, sebuah perusahaan baru bernama Synth Labs juga menyelidiki masalah ini. Didirikan oleh beberapa nama industri AI terkemuka, Synth  muncul dari persembunyiannya  minggu ini, dan telah mengumpulkan pendanaan awal dari pemodal ventura seperti Microsoft Corp, M12, dan First Spark Ventures milik Eric Schmidt.