Pekerjaan-pekerjaan tersebut terkadang bisa menimbulkan trauma bagi siapapun yang melakukannya. Pada saat yang sama, banyak perusahaan besar, termasuk Meta Platforms Inc., sudah menggunakan AI untuk mendukung kerja moderasi bersama para staf.

Menggunakan teknologi untuk menafsirkan nuansa tulisan manusia akan menjadi tantangan, dan OpenAI telah menekankan bahwa prosesnya tidak boleh sepenuhnya otomatis. 

Menyusun kebijakan moderasi konten dan memberi label padanya sering kali merupakan pekerjaan menguras waktu. Teknologi pada OpenAI akan membantu mengurangi “delta antara kebutuhan dan solusi,” kata Vallone. 

Idealnya, pekerja manusia di perusahaan dapat menggunakan teknologi untuk membebaskan mereka agar dapat fokus pada keputusan yang lebih rumit atas permasalahan yang paling ekstrem, seperti potensi pelanggaran konten dan bagaimana menyempurnakan kebijakan.

“Kami terus melakukan peninjauan ountuk memverifikasi beberapa penilaian model. Saya rasa penting untuk selalu melibatkan manusia dalam proses ini,” ucap dia.

(bbn)