Synth Labs terutama berfokus pada pembuatan perangkat software, beberapa di antaranya bersifat open source, untuk membantu berbagai perusahaan memastikan bahwa sistem AI mereka bekerja sesuai dengan tujuan awal.
Synth Labs memposisikan dirinya sebagai perusahaan yang bekerja secara transparan dan kolaboratif.
Penyelarasan, demikian istilah yang sering digunakan untuk masalah ini, merupakan tantangan teknis untuk aplikasi AI seperti chatbot yang dibangun di atas model bahasa besar (LLM), yang biasanya dilatih pada petak data internet yang sangat besar.
Upaya ini diperumit oleh fakta bahwa etika dan nilai-nilai masyarakat, serta gagasan mereka tentang apa yang harus dan tidak boleh dilakukan oleh AI, berbeda-beda. Produk Synth Labs dikembangkan untuk membantu mengarahkan dan menyesuaikan LLM, terutama model yang open source.
Synth awalnya adalah proyek di dalam laboratorium penelitian AI nirlaba EleutherAI. Synth dikerjakan oleh dua dari tiga pendirinya - Louis Castricato dan Nathan Lile —ditambah dengan penasihat Synth Labs dan direktur eksekutif EleutherAI, Stella Biderman.
Francis deSouza, eks CEO Illumina Inc, sebuah perusahaan bioteknologi, juga merupakan salah satu pendiri. Synth Labs menolak untuk mengatakan berapa banyak uang yang telah dikumpulkan sejauh ini.
Selama beberapa bulan terakhir, startup ini telah membangun alat yang dapat dengan mudah mengevaluasi LLM dengan topik-topik yang kompleks, kata Castricato. Tujuannya untuk mendemokratisasi akses ke alat yang mudah digunakan dan dapat secara otomatis mengevaluasi, menyelaraskan model AI.
Sebuah makalah penelitian terbaru yang ditulis bersama Castricato, Lile, dan Biderman memberikan gambaran tentang pendekatan perusahaan: Para penulis menggunakan respons terhadap perintah, yang dihasilkan oleh model AI GPT-4 dari OpenAI dan Stability AI's Stable Beluga 2 AI, untuk membuat kumpulan data.
Kumpulan data tersebut kemudian digunakan sebagai bagian dari proses otomatis untuk mengarahkan chatbot agar tidak membicarakan satu topik dan sebaliknya membicarakan topik lain.
“Cara yang kami pikir untuk merancang beberapa alat awal ini benar-benar tentang memberi Anda kesempatan untuk memutuskan apa arti penyelarasan bagi bisnis atau preferensi pribadi Anda,” kata Lile.
(bbn)
