"Kekhawatiran terbesar adalah potensi kebocoran data dari model AI ke pemerintah China," ungkap Izrael dari Armis. "Anda tidak tahu ke mana perginya informasi Anda."
Kekhawatiran seputar DeepSeek telah meningkat sejak akhir pekan saat pujian dari para eksekutif teknologi terkemuka, seperti Marc Andreessen, mendorong chatbot AI DeepSeek ke posisi teratas unduhan aplikasi di Apple Store.
Yang paling utama di antara semua kekhawatiran tersebut ialah fakta bahwa DeepSeek menyatakan dalam ketentuan privasinya sendiri bahwa mereka mengumpulkan dan menyimpan data di server di China. Ia menambahkan, setiap perselisihan tentang masalah tersebut akan diatur oleh hukum pemerintah China.
DeepSeek enggan memberikan komentar terkait laporan ini.
Tidak jelas berapa banyak karyawan Departemen Pertahanan yang berusaha mengakses DeepSeek. Tidak ada indikasi bahwa pelanggaran data atau insiden keamanan telah terjadi sehubungan dengan penggunaan DeepSeek di Pentagon.
Menurut kebijakan privasi DeepSeek sendiri, perusahaan mengumpulkan riwayat penekanan tombol pengguna, input teks dan audio, file yang diunggah, umpan balik, obrolan, dan konten lainnya untuk tujuan melatih model AI-nya. Berdasarkan diskresi perusahaan, mereka juga bisa membagikan informasi tersebut kepada penegak hukum dan otoritas publik.
Para peneliti siber yang mulai menyelidiki keamanan DeepSeek mengatakan mereka menemukan basis data publik milik perusahaan yang berisi data internal. Basis data tersebut mencakup beberapa riwayat obrolan DeepSeek, detail backend, dan data log teknis, menurut Wiz Inc, startup keamanan siber yang tahun lalu sempat ingin dibeli Alphabet Inc seharga US$23 miliar.
Wiz mengatakan bahwa DeepSeek sudah mengamankan informasi terkait saat mereka melaporkan penemuan tersebut.
Menurut penelitian dari Bloomberg Intelligence, DeepSeek dan peningkatan penggunaan layanan AI generatif lainnya bisa mempercepat pengembangan dan penjualan layanan keamanan siber.
Analis Bloomberg, Mandeep Singh dan Damian Reimertz, mengatakan CrowdStrike Holdings Inc, Palo Alto Networks Inc, dan SentinelOne termasuk di antara perusahaan yang bisa memperoleh manfaat dari tren ini.
Sudah ada beberapa pemerintah yang meneliti kontrol privasi DeepSeek. Komisi Perlindungan Data Irlandia, yang memberlakukan peraturan privasi Uni Eropa pada banyak perusahaan teknologi terbesar di dunia, mengatakan mereka telah meminta informasi dari DeepSeek untuk menentukan apakah perusahaan tersebut melindungi data pengguna dengan baik.
Pengawas perlindungan data Italia juga telah menghubungi Hangzhou DeepSeek Artificial Intelligence dan Beijing DeepSeek Artificial Intelligence untuk mencari informasi tentang bagaimana aplikasi DeepSeek menangani informasi pengguna Italia. Pejabat Italia menanyakan apakah data pribadi warga negara mereka ditransfer ke China dan memberi perusahaan tersebut waktu 20 hari untuk membalas.
Kantor Komisioner Informasi Inggris mengatakan dalam pernyataannya bahwa pengembang AI generatif harus transparan tentang bagaimana mereka menggunakan data pribadi, dan mereka akan mengambil tindakan jika ekspektasi regulasi mereka diabaikan.
Para pejabat dan lembaga thinktank AS memperingatkan bahwa undang-undang (UU) keamanan nasional China mengizinkan pemerintah di sana memperoleh akses ke kunci enkripsi yang dikendalikan perusahaan yang beroperasi di negara tersebut dan memaksa mereka membantu kegiatan pengumpulan intelijen.
UU ini merupakan inti dari alasan pemerintah AS melarang platform TikTok milik ByteDance Ltd yang berbasis di China. Para pejabat keamanan nasional memperingatkan bahwa kepemilikannya di China memberi Beijing jalan untuk mengakses informasi pribadi warga AS.
TikTok membantah mereka memberikan ancaman seperti itu. Presiden AS Donald Trump berjanji membuat kesepakatan yang akan memungkinkan platform itu terus beroperasi di AS, tak lama setelah ia menjabat pada bulan ini.
Mehdi Osman, CEO startup perangkat lunak AS OpenReplay, merupakan salah satu pemimpin bisnis yang memilih tidak menggunakan layanan API DeepSeek karena masalah keamanan. Namun, dia memperingatkan, harga DeepSeek yang sangat rendah masih mengancam untuk menarik pengembang menjauh dari OpenAI "dalam beberapa bulan mendatang."
Sementara itu, para peneliti kejahatan dunia maya memperingatkan bahwa layanan AI DeepSeek tampaknya tak memiliki "pagar pembatas" di sekelilingnya untuk mencegah peretas menggunakan alat tersebut, misalnya untuk membuat email phishing, menganalisis sekumpulan besar data curian, atau meneliti kerentanan dunia maya.
"Dengan sedikit usaha, penyerang akan dapat membuat modifikasi kode yang mengarah pada peningkatan skala dan kecepatan serangan siber dan penipuan," kata Levi Gundert, kepala keamanan dan intelijen di perusahaan keamanan siber Recorded Future Inc.
(bbn)
