Curhat Rencana Bunuh Mantan Pacar di ChatGPT, Pria Florida Berujung Ditangkap FBI
PALM BEACH, SUARANEGERI.co.id — Percakapan pribadi dengan chatbot kecerdasan buatan ternyata dapat berakhir di meja penyidik.
Kasus Darren Zhou, 25 tahun, di Florida menunjukkan bagaimana percakapan dengan ChatGPT dapat berubah menjadi jejak digital yang membantu aparat penegak hukum mengidentifikasi ancaman kekerasan.
Zhou menggunakan ChatGPT untuk membicarakan mantan pacarnya dan, menurut dokumen pengadilan, berulang kali mengungkapkan keinginan untuk menyerang dan membunuh perempuan tersebut. Percakapannya kemudian ditandai sebagai ancaman serius dan dilaporkan oleh OpenAI kepada FBI.
FBI selanjutnya meneruskan informasi tersebut kepada aparat Palm Beach County. Zhou ditangkap pada Mei dan kemudian mengaku bersalah atas tiga dakwaan, termasuk stalking berat dan ancaman tertulis untuk membunuh. Pengadilan menjatuhkan hukuman delapan tahun masa percobaan, dengan pemantauan elektronik selama dua tahun.
Kasus itu memperlihatkan perubahan penting dalam hubungan manusia dengan AI: chatbot yang semula dirancang sebagai alat percakapan kini dapat menjadi bagian dari rantai informasi dalam penanganan ancaman terhadap keselamatan manusia.
Bukan sekadar curhat
Menurut dokumen perkara, percakapan Zhou tidak berhenti pada ungkapan kemarahan setelah putus hubungan.
Ia membahas aktivitas dan tempat yang biasa didatangi mantan pacarnya, mengungkapkan kecemburuan serta ancaman berulang. Penyidik menilai pola percakapan tersebut menunjukkan eskalasi dari luapan emosi menjadi pembahasan rencana kekerasan.
Hal itu penting karena kasus tersebut bukan contoh bahwa setiap orang yang mengeluh atau berbicara kasar kepada ChatGPT otomatis dilaporkan kepada polisi.
Yang menjadi perhatian adalah pola ancaman yang dinilai kredibel dan spesifik.
OpenAI menyatakan, dalam kebijakannya bahwa interaksi pengguna dapat ditinjau oleh sejumlah kecil staf ketika sistem mendeteksi kemungkinan rencana untuk menyakiti orang lain.
Chatbot bukan lagi ruang percakapan semata
Selama bertahun-tahun, masyarakat memandang chatbot sebagai ruang privat untuk bertanya, berpikir, bekerja atau sekadar mencurahkan isi hati.
Kasus Zhou menunjukkan bahwa anggapan tersebut memiliki batas.
Ketika sebuah percakapan berisi ancaman serius terhadap keselamatan orang lain, perusahaan teknologi dapat mengambil tindakan untuk mencegah bahaya. Dalam kasus ini, informasi dari percakapan tersebut akhirnya masuk ke dalam proses penegakan hukum.
Namun, menyebut ChatGPT sebagai “saksi” harus dilakukan dengan hati-hati.
ChatGPT tidak pergi ke pengadilan untuk memberikan kesaksian. ChatGPT juga bukan manusia yang menyaksikan sebuah kejahatan. Yang menjadi jejak adalah rekaman percakapan digital dan keputusan perusahaan untuk meneruskannya kepada aparat.
Karena itu, istilah yang lebih tepat adalah “saksi digital” atau “jejak digital yang menjadi petunjuk penyelidikan”.
Pertanyaan yang lebih besar
Kasus Zhou membuka persoalan yang jauh lebih besar daripada penangkapan seorang pria di Florida.
Seberapa privat sebenarnya percakapan seseorang dengan AI?
Di satu sisi, perusahaan AI menghadapi kewajiban moral dan keselamatan untuk bertindak ketika pengguna menunjukkan ancaman yang kredibel terhadap orang lain.
Di sisi lain, semakin banyak orang menggunakan AI untuk membicarakan persoalan pribadi, pekerjaan, hubungan, kesehatan mental dan berbagai hal yang sebelumnya hanya mereka ceritakan kepada manusia terdekat.
Batas antara privasi digital dan keselamatan publik menjadi semakin tipis.
Kasus ini juga menunjukkan bahwa percakapan dengan AI dapat meninggalkan jejak yang berbeda dari percakapan lisan. Sebuah ancaman yang diucapkan kepada seseorang mungkin hanya didengar oleh satu atau dua orang.
Ancaman yang ditulis kepada chatbot dapat tersimpan sebagai rangkaian data yang kemudian dapat ditinjau, dievaluasi dan — dalam keadaan tertentu — diteruskan kepada aparat.
Dari chatbot menjadi bagian dari ekosistem keamanan
Bagi penegak hukum, perkembangan itu menciptakan sumber informasi baru.
Bagi perusahaan AI, hal itu menciptakan tanggung jawab baru.
Dan bagi pengguna, muncul satu prinsip sederhana:
Percakapan dengan AI sebaiknya tidak dianggap otomatis sama dengan percakapan yang sepenuhnya privat.
Kasus Darren Zhou memperlihatkan bahwa ketika sebuah percakapan melewati batas dari sekadar ekspresi emosi menuju ancaman serius dan kredibel, teknologi yang digunakan untuk mendengarkan pengguna dapat berubah menjadi bagian dari sistem peringatan dini.
Pada akhirnya, “saksi digital” mungkin bukan istilah untuk ChatGPT itu sendiri, melainkan untuk jejak percakapan yang ditinggalkan manusia ketika berbicara dengan mesin.
Dan jejak itu, seperti halnya jejak digital lainnya, dapat memiliki konsekuensi di dunia nyata. (Janne Sinten)
