Hal ini membuat sulit bagi pengguna untuk memahami bagaimana teknologi tersebut bekerja dan menghasilan perkembangan dari waktu ke waktu.

"Kami baru saja mendapatkan hasil akhir dari pembuatan model — itu tidak cukup," kata Martell dalam sebuah wawancara. Pentagon tidak tahu bagaimana model disusun atau data apa yang telah digunakan, katanya.

Perusahaan juga tidak menjelaskan bahaya apa yang dapat ditimbulkan oleh sistem mereka, kata Martell.

"Mereka berkata: 'Inilah dia. Kami tidak memberi tahu Anda bagaimana kami membangunnya. Kami tidak memberi tahu Anda apa yang baik atau buruknya. Kami tidak memberi tahu Anda apakah itu bias atau tidak,'" katanya.

Ia juga khawatir bahwa dengan hanya beberapa orang saja yang memiliki cukup uang untuk membangun LLM. Martell tidak menyebutkan nama perusahaan, tetapi Microsoft Corp., Alphabet Inc.'s Google dan Amazon.com Inc. termasuk di antara mereka yang mengembangkan LLM untuk pasar komersial, bersama dengan startup OpenAI dan Anthropic.

Martell mengundang industri dan akademisi ke Washington pada Februari untuk mengatasi masalah tersebut Tim Martell, yang telah menjalankan gugus tugas untuk menilai LLM, telah menemukan 200 potensi kegunaan untuk mereka di Departemen Pertahanan, katanya.

"Kami hanya ingin memahami penggunaan, manfaat, bahaya, dan cara mengatasinya.”

Martell mengatakan pihaknya memainkan peran konsultasi di Pentagin, membantu berbagai kelompok untuk mengetahui cara yang tepat untuk mengukur keberhasilan atau kegagalan sistem mereka. Badan tersebut memiliki lebih dari 800 proyek AI yang sedang berlangsung, beberapa di antaranya melibatkan sistem persenjataan.

Pentagon pun akan menerapkan standar yang lebih tinggi untuk cara menggunakan model algoritmik daripada sektor swasta, katanya.

"Akan ada banyak kasus penggunaan di mana nyawa dipertaruhkan," katanya. “Jadi membiarkan halusinasi atau apapun kita ingin menyebutnya — itu tidak akan bisa diterima.”

(bbn)