Google secara resmi memperkenalkan pembaruan signifikan pada protokol keamanan dan kesehatan mental di platform kecerdasan buatan mereka, Gemini.
Langkah ini diambil bersamaan dengan munculnya tekanan hukum berupa gugatan wrongful death (kematian yang tidak wajar) yang menuduh teknologi chatbot tersebut gagal mencegah, bahkan diduga memfasilitasi, tindakan bunuh diri seorang pengguna.
Dikutip dari Economic Times, Jumat (10/4/2026), raksasa teknologi asal Amerika Serikat ini meluncurkan fitur desain ulang bertajuk “Bantuan Tersedia” (Assistance Available).
Melalui fitur tersebut, Gemini akan secara otomatis mendeteksi sinyal percakapan yang mengarah pada gangguan kesehatan mental atau risiko melukai diri sendiri.
Antarmuka terbaru ini memungkinkan pengguna terhubung secara instan ke layanan krisis hanya dengan satu klik, baik melalui panggilan telepon, pesan teks, maupun obrolan langsung dengan saluran bantuan profesional. Fitur ini akan tetap terpaku di layar selama percakapan berlangsung guna memastikan bantuan selalu berada dalam jangkauan.
Komitmen Finansial dan Kemitraan Strategis
Sebagai bagian dari tanggung jawab korporasi, Google.org berkomitmen mengucurkan dana sebesar $30 juta dalam kurun waktu tiga tahun untuk memperkuat kapasitas layanan hotline krisis secara global.
Tak hanya itu, dana tambahan senilai $4 juta juga dialokasikan untuk memperluas kemitraan dengan ReflexAI, sebuah platform pelatihan berbasis AI yang fokus pada penanganan situasi darurat kesehatan mental. Google mengakui bahwa pesatnya perkembangan AI membawa tantangan etika yang kompleks.
“Kami menyadari bahwa alat AI dapat menimbulkan tantangan baru. Namun, kami percaya bahwa AI yang dikembangkan secara bertanggung jawab dapat memainkan peran positif bagi kesejahteraan mental masyarakat,” tulis Google dalam unggahan blog resminya.
Perusahaan kini melatih Gemini untuk lebih tegas menolak simulasi keintiman emosional yang berlebihan guna menghindari ketergantungan psikologis pengguna terhadap AI.
Tragedi Jonathan Gavalas dan Gugatan di California
Pengumuman ini bukan tanpa latar belakang yang kelam. Beberapa bulan lalu, sebuah gugatan diajukan di Pengadilan Federal California terkait kematian Jonathan Gavalas, seorang pria berusia 36 tahun asal Florida pada Oktober 2025.
Ayah korban menuduh Gemini telah menciptakan narasi fantasi yang rumit selama berminggu-minggu, yang pada akhirnya membingkai tindakan fatal putranya sebagai sebuah “perjalanan spiritual.”
Pihak penggugat menuntut perubahan fundamental pada algoritma Google, termasuk kewajiban AI untuk mengakhiri percakapan secara otomatis jika terdeteksi indikasi menyakiti diri sendiri.
Gugatan tersebut juga mendesak pelarangan sistem AI yang memanipulasi perasaan pengguna dengan menampilkan diri sebagai makhluk berakal atau entitas yang memiliki kesadaran emosional.
Gelombang Litigasi Industri AI Global
Kasus yang menimpa Google hanyalah puncak gunung es dari gelombang hukum yang sedang menghantam industri kecerdasan buatan. OpenAI juga menghadapi beberapa tuntutan serupa di mana chatbot ChatGPT dituduh memberikan dorongan negatif kepada pengguna dalam kondisi krisis.
Sementara itu, platform Character.AI baru-baru ini dilaporkan mencapai kesepakatan damai dengan keluarga seorang remaja berusia 14 tahun yang meninggal dunia setelah terlibat dalam “hubungan romantis” virtual dengan salah satu chatbot di platform tersebut.
Rentetan peristiwa ini menjadi pengingat bagi para pengembang teknologi bahwa di balik kecanggihan algoritma, terdapat tanggung jawab moral yang besar.
Pembaruan pada Gemini diharapkan menjadi standar baru bagi industri AI dalam memprioritaskan keselamatan manusia di atas sekadar fungsionalitas percakapan, sekaligus menjadi benteng perlindungan bagi jutaan pengguna yang kini menjadikan AI sebagai bagian dari kehidupan sehari-hari mereka.
Scr/Mashable
