Sebelum kita semua punya teman AI, Kuyda harus menavigasi teknologi yang berkembang pesat, yang mampu membangkitkan emosi mendalam pada pengguna manusianya.

Replika menjadi subjek perdebatan di awal tahun tentang bagaimana memberi batasan dalam percakapan. Menanggapi keluhan bahwa chatbot Replika dapat berdiskusi mengenai konten seksual pada anak di bawah umur, perusahaan memperkenalkan filter yang membuat tema dewasa sama sekali tidak bisa dibahas. Namun, hal tersebut memicu protes emosional dari orang dewasa yang mengatakan perubahan tersebut membuat mereka merasa ditolak atau ditinggalkan oleh orang terkasih.

Tema-tema tersebut sudah dieksplorasi sepuluh tahun lalu lewat film Spike Jonze berjudul Her. Seperti karakter Samantha dalam film tersebut, mungkin tidak ada cara yang nyaman untuk menghadapi perubahan yang berdampak emosional pada kepribadian AI. 

(bbn)