SB 1047, yang diperkenalkan oleh Wiener, bertujuan untuk memberlakukan apa yang disebutnya sebagai “standar keamanan yang masuk akal” bagi perusahaan yang membuat model AI (LLM) di atas ambang batas ukuran dan biaya tertentu.
RUU tersebut, yang disahkan oleh Senat negara bagian pada bulan Mei, akan mewajibkan perusahaan AI mengambil langkah-langkah guna mencegah model mereka menyebabkan “bahaya kritis”, seperti memungkinkan pengembangan senjata biologis atau dengan berkontribusi pada kerusakan finansial lebih dari US$500 juta.
Di bawah RUU tersebut, perusahaan harus memastikan sistem AI dapat dimatikan, melakukan “perawatan yang wajar” agar model AI tidak menyebabkan bencana, dan mengungkapkan pernyataan kepatuhan kepada jaksa agung California.
Jika perusahaan tidak mengikuti persyaratan ini, mereka dapat dituntut dan menghadapi hukuman perdata.
RUU ini mendapat halangan keras dari banyak perusahaan teknologi besar, startup, dan pemodal ventura yang mengatakan bahwa RUU ini terlalu berlebihan. Terlebih pengembangan AI dianggap masih dalam tahap awal dan dapat menghambat inovasi teknologi di negara bagian ini.
Beberapa kritikus terhadap RUU tersebut telah menyuarakan kekhawatiran bahwa RUU tersebut dapat membuat perusahaan-perusahaan AI keluar dari California. OpenAI turut menolak dan khawatir melalui surat yang dikirimkan ke kantor Wiener.
“Revolusi AI baru saja dimulai, dan status unik California sebagai pemimpin global dalam AI mendorong dinamisme ekonomi negara bagian ini,” tulis Jason Kwon, chief strategy officer (CSO) di OpenAI, dalam surat tersebut.
“SB 1047 akan mengancam pertumbuhan tersebut, memperlambat laju inovasi, dan membuat para insinyur dan pengusaha kelas dunia di California meninggalkan negara bagian tersebut untuk mencari peluang yang lebih besar di tempat lain.”
OpenAI telah menunda pembicaraan tentang perluasan kantornya di San Francisco di tengah ketidakpastian lanskap peraturan California, menurut seseorang yang mengetahui rencana real estat perusahaan ini.
Dalam sebuah pernyataan, Wiener membela undang-undang yang diusulkan dan mengatakan bahwa surat OpenAI “tidak mengkritik satu pun ketentuan dalam RUU tersebut.”
Dia juga mengatakan bahwa argumen tentang talenta AI yang meninggalkan negara bagian “tidak masuk akal” karena undang-undang tersebut akan berlaku untuk semua perusahaan yang menjalankan bisnis di California, di mana pun kantor mereka berada.
Seorang perwakilan dari kantor Wiener menunjuk dua pakar keamanan nasional terkemuka yang secara terbuka mendukung RUU tersebut.
“Intinya: SB 1047 adalah RUU yang sangat masuk akal yang meminta laboratorium AI besar untuk melakukan apa yang telah mereka komit untuk lakukan, yaitu, menguji model besar mereka untuk risiko keamanan bencana, “kata Wiener.
“SB 1047 telah dikalibrasi dengan baik dengan apa yang kita ketahui tentang risiko AI yang dapat diperkirakan, dan layak untuk diberlakukan.”
Para kritikus berpendapat bahwa RUU tersebut akan menghambat inovasi dengan mengharuskan perusahaan untuk menyerahkan rincian tentang model mereka kepada pemerintah negara bagian, serta mencegah pengembang sumber terbuka yang lebih kecil untuk membuat perusahaan rintisan karena takut dituntut.
(bbn)
