“Saya telah melihat kegagalan AI saat berada di Ola dan Nvidia," ujar Agarwal, yang juga merupakan CEO RagaAI.
“Ada kebutuhan mendesak untuk menghindari skenario seperti ini, terutama dalam kasus penggunaan AI yang berisiko tinggi seperti deteksi kanker, pemeliharaan pesawat terbang, dan alat perekrutan bertenaga AI.”
Agarwal, yang berbasis di Fremont, California, menciptakan RagaAI sebelum peluncuran ChatGPT oleh OpenAI, yang menjadi katalisator pengembangan global model bahasa yang besar (large language models).
RagaAI adalah salah satu dari sekian banyak perusahaan startup baru yang mencoba memenuhi kebutuhan yang muncul dalam hiruk-pikuknya aktivitas tersebut.
AI berpotensi memberikan kontribusi sebesar US$15,7 triliun untuk ekonomi global pada tahun 2030, menurut studi PwC. Namun, sebagian besar aktivitas saat ini difokuskan pada pembuatan model dan aplikasi, daripada mendiagnosis kesalahan atau mengujinya.
Platform RagaAI - yang menurut Agarwal dikembangkan sendiri oleh timnya - menawarkan lebih dari 300 pengujian untuk membantu perusahaan melakukan trace masalah dan melacak akar penyebabnya.
Platform RagaAI dapat menemukan hal-hal seperti pelabelan data yang buruk dan bias, katanya. Hal ini membantu mendeteksi halusinasi - informasi yang salah dan menyesatkan yang disajikan sebagai fakta - dan juga serangan yang disengaja atau upaya untuk membuat model melakukan kesalahan, tambah Agarwal.
Perusahaan startup ini akan menggunakan modal tersebut untuk penelitian, memperluas timnya yang terdiri dari sekitar 40 developer yang sebagian besar berada di Bangalore.
Perusahaan ini telah bekerja sama dengan beberapa klien besar di bidang e-commerce, aeronautika, dan pencitraan medis, meskipun Agarwal tidak mau menyebutkan namanya. Platform ini mampu membantu klien mengurangi kegagalan hingga 90%, katanya tanpa merinci lebih lanjut.
(bbn)
