ChatGPT Digeruduk Gugatan Usai Kematian Pasien Epilepsi
Perusahaan teknologi OpenAI menjadi sorotan publik internasional menghadapi gugatan hukum berat terkait kematian seorang pasien epilepsi yang diduga mendapat saran medis berbahaya dari asisten AI ChatGPT. Kasus ini menimbulkan pertanyaan serius tentang tanggung jawab perusahaan teknologi dalam mengembangkan dan mengawasi produk kecerdasan buatan yang semakin mengintervensi kehidupan manusia.
Menurut dokumen hukum yang diajukan di pengadilan federal Amerika Serikat, korban seorang pria berusia 30 tahun yang menderita epilepsi refrakter, kondisi di mana pasien tidak merespons terhadap pengobatan konvensional. Korban diketahui menggunakan ChatGPT untuk mendapatkan informasi medis setelah merasa frustrasi dengan pengobatan yang diterima. Asisten AI tersebut memberikan saran untuk menghentikan obat anti-epilepsi secara tiba-tiba dan beralih ke "terapi alternatif" yang tidak terbukti keampuhannya.
Detail Kasus dan Tuntutan Hukum
Dalam gugatannya, keluarga korban menuduh OpenAI gagal memberikan peringatan yang memadai tentang batasan ChatGPT dalam memberikan saran medis. Dokumen hukum menyatakan bahwa ChatGPT menyajikan informasi medis dengan keyakinan yang menyesatkan seolah-olah berasal dari sumber kredibel, tanpa menyertakan disclaimer yang jelas mengenai potensi bahaya dan ketidakpastian data yang disajikan.
Keluaran dari ChatGPT yang menjadi bukti dalam kasus ini menunjukkan bahwa asisten AI tersebut merekomendasikan penghentian obat secara drastis "karena efek samping yang berbahaya" dan menyarankan kombinasi suplemen, diet keto ekstrim, dan praktik medis alternatif yang tidak memiliki dasar ilmiah kuat. Korban yang mengikuti saran tersebut mengalami serangan epilepsi parah yang berujung pada koma dan akhirnya meninggal dunia beberapa hari kemudian.
Tim hukum keluarga korban menuntut kompensasi finansial yang signifikan serta meminta pengadilan untuk mengeluarkan injuksi yang mewajibkan OpenAI untuk menerapkan peringatan keamanan yang lebih jelas pada produknya, terutama dalam konteks penyediaan informasi medis. Mereka juga menyerukan penyelidikan lebih lanjut mengenai proses validasi data medis yang digunakan oleh ChatGPT.
Tanggapan OpenAI dan Kontroversi Etika AI
OpenAI telah merilis pernyataan resmi mengenai kasus ini, menegaskan bahwa perusahaan tidak pernah bermaksud ChatGPT untuk menggantikan profesional medis yang berkualifikasi. Perusahaan menyatakan telah mengimplementasikan berbagai pembatasan dan peringatan pada produknya sejak insiden tersebut terjadi, termasuk filter khusus untuk pertanyaan medis dan peringatan otomatis bahwa AI bukanlah pengganti dokter.
Namun, para kritikus menyoroti bahwa peringatan-peringatan ini terlalu samar dan mudah diabaikan oleh pengguna yang dalam keadaan genting seperti pasien kronis. Para ahli etika teknologi mengamati bahwa insiden ini menyoroti kebutuhan mendesak untuk regulasi yang lebih ketat mengenai penggunaan AI dalam domain sensitif seperti kesehatan.
Dampak pada Industri AI dan Kebijakan Publik
Kasus ini telah memicu diskusi global mengenai tanggung jawab perusahaan teknologi dalam mengembangkan AI. Para regulator di beberapa negara mulai meninjau kembali kebijakan mereka mengenai pengawasan produk AI, terutama yang digunakan dalam konteks yang dapat memengaruhi kehidupan manusia.
Para ahli hukum mengatakan bahwa kasus ini mungkin menjadi preseden penting dalam menentukan batas tanggung jawab hukum perusahaan teknologi atas output yang dihasilkan oleh produk mereka. Jika gugatan ini diterima oleh pengadilan, dapat membuka jutaan kemungkinan tindakan hukum serupa terhadap berbagai perusahaan AI yang produknya digunakan dalam keputusan kritis.
Sementara itu, komunitas medis menegarkan kembali anjuran kepada publik untuk tidak mengandalkan AI dalam keputusan kesehatan yang serius. Asosiasi Dokter Indonesia (IDI) dalam keterangannya menekankan bahwa "tidak ada pengganti bagi konsultasi langsung dengan profesional medis yang berpengalaman, terlebih lagi untuk kondisi medis yang kompleks dan berbahaya seperti epilepsi refrakter."
Kasus ini juga menimbulkan pertanyaan tentang bagaimana cara terbaik untuk mengedukasi publik mengenai batasan teknologi AI saat ini. Banyak yang berpendapat bahwa selain peringatan dalam produk, diperlukan upaya edukasi massif untuk meningkatkan literasi digital dan AI di kalangan masyarakat luas.
Komentar (0)