Kemajuan pesat OpenAI dalam bidang AI baru-baru ini telah menimbulkan kekhawatiran tentang bagaimana mereka mengelola potensi bahaya dari teknologi tersebut.
Kekhawatiran meningkat pada musim gugur lalu ketika Chief Executive Officer (CEO) Sam Altman secara singkat digulingkan dalam sebuah kudeta di ruang rapat setelah berselisih dengan co–founder dan chief scientist Ilya Sutskever soal seberapa cepat mengembangkan produk AI dan langkah-langkah untuk membatasi bahaya.
Kekhawatiran tersebut kembali muncul bulan ini setelah Sutskever dan seorang wakilnya, Jan Leike, meninggalkan perusahaan. Kedua eksekutif puncak ini menjalankan tim yang disebut OpenAI sebagai tim super. Mereka berfokus pada ancaman jangka panjang dari AI super.
Leike, yang mengundurkan diri, menulis setelahnya bahwa divisinya “berjuang” untuk mendapatkan sumber daya komputasi di OpenAI. Karyawan lain yang keluar juga menyuarakan kritiknya.
Menyusul kepergian Sutskever, OpenAI membubarkan timnya. OpenAI mengatakan pada hari Selasa bahwa pekerjaan khusus ini akan terus berlanjut di bawah unit penelitian dan John Schulman, co–founder menduduki jabatan baru sebagai Head of Alignment Science.
Sebagai startup, OpenAI terkadang mengalami kesulitan dalam mengelola kehilangan orang–orang penting. Minggu lalu, OpenAI membatalkan kebijakan yang membatalkan ekuitas dari mantan staf jika mereka berbicara menentang perusahaan. Juru bicara perusahaan mengatakan bahwa OpenAI menyadari adanya kritik dari mantan karyawan dan mengantisipasi hal tersebut.
Perusahaan menambahkan bahwa mereka sedang berupaya untuk mengatasi masalah tersebut.
Komite keamanan OpenAI yang baru akan terdiri dari tiga anggota dewan. Ketua Bret Taylor, CEO Quora Adam D'Angelo, dan mantan eksekutif Sony Entertainment Nicole Seligman - bersama dengan enam karyawan, termasuk Schulman dan Altman. Perusahaan mengatakan akan terus berkonsultasi dengan para ahli dari luar, termasuk di antaranya: Rob Joyce, penasihat Keamanan Dalam Negeri di era Donald Trump, dan John Carlin, mantan pejabat Departemen Kehakiman di bawah Presiden Joe Biden.
(bbn)
