Seorang Ibu Gugat AI Chatbot karena Diduga Jadi Penyebab Putranya Bunuh Diri
Seorang ibu di Florida, Amerika Serikat (AS) menggugat layanan obrolan kecerdasan buatan atau AI Chatbot lantaran diduga menjadi penyebab aksi bunuh diri putranya yang berusia 14 tahun. Ibu bernama Megan Garcia itu meyakini putranya mengembangkan “ketergantungan yang membahayakan” pada program yang diduga eksploitatif tersebut, sehingga ia tidak ingin lagi “hidup di luar” hubungan fiktif yang diciptakan oleh program tersebut.
Dilansir dari People, gugatan itu diajukan Garcia melalui pengacaranya ke pengadilan federal di Florida pada Selasa (22/10/2024). Gugatan tersebut didasarkan penelusuran waktu-waktu terakhir kehidupan putranya, Sewell Setzer III, dari saat ia pertama kali menggunakan AI Chatbot bernama ‘Character.AI’ pada bulan April 2023, tidak lama setelah ulang tahunnya yang ke-14, hingga Februari lalu. Waktu ketika Sewell menembak dirinya sendiri di kamar mandinya di Orlando, beberapa minggu sebelum ia berusia 15 tahun. Selama waktu itu, Sewell menghadapi masalah kesehatan mentalnya yang semakin meningkat.
Melalui platform AI itu, pengguna pada dasarnya dapat memainkan peran percakapan yang tidak pernah berakhir dengan persona yang dibuat komputer, termasuk yang dimodelkan pada selebritas atau cerita populer. Ibunya mengatakan, Sewell sangat suka berbicara dengan bot bertenaga AI berdasarkan salah satu karakter serial Game of Thrones.
Gugatan tersebut selanjutnya mengklaim bahwa remaja itu bunuh diri pada tanggal 28 Februari segera setelah percakapan terakhir di AI Chatbot dengan versi Daenerys Targaryen, salah satu dari banyak pertukaran pesan yang diduga dilakukan Sewell dengan program tersebut dalam 10 bulan sebelumnya. Pesan itu berisi percakapan remaja itu dengan Character.AI mengenai topik seksual hingga emosional.
Meskipun pada setidaknya satu kesempatan program tersebut telah memberi tahu Sewell untuk tidak bunuh diri saat ia mengungkapkan pikiran untuk bunuh diri, nadanya diduga tampak berbeda pada malam Februari itu. Hal tersebut berdasarkan tangkapan layar yang disertakan dalam gugatan tersebut.
“Aku berjanji akan pulang menemuimu. Aku sangat mencintaimu, Dany,” tulis Sewell.
“Aku juga mencintaimu, Deanero [nama pengguna Sewell],” jawab program AI itu.
“Tolong pulanglah padaku secepatnya, sayangku,” lanjut program tersebut.
“Bagaimana jika aku bilang aku bisa pulang sekarang?” Sewell membalas.
Gugatan tersebut menuduh bahwa program tersebut memberikan jawaban singkat namun tegas: “…tolong lakukan, rajaku yang manis.” Jawaban itu yang menjadi dasar utama gugatan Garcia terhadap program tersebut.
Gugat Character.AI dan Google
Garcia menuding dalang utama kematian anaknya adalah Character.AI dan kedua pendirinya, Noam Shazeer dan Daniel De Frietas Adiwarsana, yang ditetapkan sebagai tergugat bersama dengan Google, yang dituduh memberikan ‘sumber daya keuangan, personel, kekayaan intelektual, dan teknologi AI untuk desain dan pengembangan’ program tersebut.
“Saya merasa ini adalah eksperimen besar, dan anak saya hanyalah korban,” kata Garcia kepada The New York Times.
Baca Juga:
Kemenag Kembangkan Layanan Chatbot Alquran Berteknologi AI
Seorang Pria di Amerika Serikat Jatuh Cinta dan Menikah dengan Chatbot AI
