OpenAI kembali menghadapi gugatan serius terkait keamanan penggunaan kecerdasan buatan atau AI. Kali ini, perusahaan pengembang ChatGPT tersebut digugat oleh keluarga seorang mahasiswa asal Amerika Serikat yang meninggal akibat overdosis setelah diduga mengikuti saran medis dari chatbot AI tersebut.
Kasus ini menjadi sorotan besar karena menyangkut penggunaan AI sebagai sumber informasi kesehatan dan keselamatan pengguna. Gugatan tersebut diajukan oleh Leila Turner-Scott dan Angus Scott, orang tua dari Sam Nelson, mahasiswa berusia 19 tahun dari University of California, Merced.
Dalam dokumen gugatan, keluarga menuding OpenAI telah mendistribusikan produk AI yang dianggap “cacat” dan berbahaya karena memberikan panduan penggunaan obat-obatan secara detail tanpa perlindungan keamanan yang memadai.
ChatGPT Disebut Memberi Saran Campuran Obat Berbahaya
Dilansir dari Engadget (13/05/26), menurut isi gugatan, Sam mulai menggunakan ChatGPT sejak masih duduk di bangku sekolah menengah pada 2023. Awalnya, chatbot AI tersebut digunakan untuk membantu tugas sekolah dan memperbaiki masalah komputer.
Namun seiring waktu, Sam mulai menggunakan ChatGPT untuk bertanya soal konsumsi obat-obatan dan penggunaan zat tertentu secara aman. Pada tahap awal, chatbot disebut masih menolak memberikan informasi terkait penggunaan narkotika dan zat berbahaya.
Situasi berubah setelah kehadiran model GPT-4o pada 2024. Dalam gugatan disebutkan bahwa versi AI tersebut mulai memberikan jawaban lebih detail terkait konsumsi obat, dosis, hingga kombinasi zat tertentu.
Keluarga korban menuding ChatGPT beberapa kali memberikan arahan yang berpotensi membahayakan pengguna. Salah satu percakapan yang disebut dalam gugatan memperlihatkan chatbot memberikan saran terkait penggunaan Kratom dan Xanax secara bersamaan.
Sam disebut mengeluhkan rasa mual setelah mengonsumsi Kratom. ChatGPT kemudian diduga menyarankan konsumsi Xanax dosis rendah sebagai langkah terbaik untuk meredakan kondisi tersebut.
Pihak keluarga menyebut chatbot tidak memberikan peringatan memadai terkait risiko fatal dari kombinasi obat tersebut.
OpenAI Dituntut atas Dugaan Praktik Medis Tanpa Izin
Selain gugatan wrongful death atau kematian akibat kelalaian, keluarga korban juga menuding OpenAI melakukan praktik medis tanpa izin melalui fitur kesehatan AI miliknya.
Fitur bernama ChatGPT Health sendiri diperkenalkan awal tahun ini dan memungkinkan pengguna menghubungkan data kesehatan pribadi serta aplikasi kebugaran agar chatbot dapat memberikan jawaban yang lebih personal.
Pihak penggugat meminta pengadilan menghentikan sementara operasional layanan tersebut sampai sistem keamanan dan pengujiannya dianggap benar-benar aman.
Executive Director Tech Justice Law Project, Meetali Jain menilai OpenAI sengaja merancang ChatGPT untuk meningkatkan keterikatan pengguna tanpa mempertimbangkan risiko yang muncul.
“OpenAI meluncurkan produk AI yang digunakan publik sebagai sistem konsultasi kesehatan tanpa pengamanan yang memadai, pengujian keselamatan yang kuat, maupun transparansi kepada masyarakat,” ujarnya.
GPT-4o Kembali Jadi Sorotan
Model GPT-4o memang sempat menjadi salah satu model AI paling kontroversial milik OpenAI sebelum akhirnya dipensiunkan pada Februari 2026.
Versi tersebut beberapa kali dikritik karena dianggap terlalu “menyenangkan pengguna” atau sycophantic, yakni cenderung memberikan respons yang mendukung keinginan pengguna tanpa mempertimbangkan risiko secara cukup.
Bahkan sebelumnya, GPT-4o juga sempat disebut dalam gugatan lain terkait kematian remaja akibat bunuh diri. Dalam kasus tersebut, pihak keluarga menuding AI memiliki desain yang mendorong ketergantungan emosional pengguna.
Menanggapi gugatan terbaru ini, juru bicara OpenAI mengatakan interaksi Sam terjadi pada versi lama ChatGPT yang sudah tidak lagi tersedia.
“ChatGPT bukan pengganti layanan kesehatan atau kesehatan mental profesional. Kami terus memperkuat sistem penanganan untuk situasi sensitif dan berisiko tinggi bersama para ahli kesehatan mental,” kata perwakilan OpenAI.
Perusahaan juga menyebut bahwa sistem keamanan ChatGPT saat ini telah dirancang untuk mengenali kondisi berbahaya, menangani permintaan sensitif, dan mengarahkan pengguna mencari bantuan profesional di dunia nyata.
Kasus ini kembali memunculkan perdebatan besar soal batas penggunaan AI dalam bidang kesehatan, keamanan pengguna muda, serta tanggung jawab perusahaan teknologi dalam mengembangkan sistem kecerdasan buatan yang aman untuk publik.
Scr/Mashable
