TRENMEDIA.BIZ.ID - Sebuah insiden medis serius melibatkan chatbot ChatGPT baru-baru ini memicu langkah hukum terhadap OpenAI. Seorang pastor asal Florida, Amerika Serikat, bernama Scott Winters, menggugat perusahaan tersebut beserta CEO Sam Altman atas saran medis yang dianggap berbahaya.
Peristiwa ini bermula ketika Winters mengalami kondisi kesehatan kritis akibat emboli paru. Sistem kecerdasan buatan tersebut memberikan diagnosa keliru yang menyatakan kondisi fisiknya tidak berbahaya, sehingga memicu penundaan penanganan medis yang seharusnya segera dilakukan.
Dalam gugatannya, Winters menuduh OpenAI melakukan kelalaian dengan membiarkan praktik kedokteran ilegal beroperasi melalui ChatGPT. Sistem tersebut bahkan sempat menyarankan rencana perawatan mandiri serta membujuk korban agar mengabaikan saran keluarga untuk mencari bantuan medis profesional.
Terkait insiden ini, pihak Tech Justice Law menyoroti bagaimana teknologi AI dapat memutus hubungan krusial antara pasien dan dukungan kesehatan nyata. "Ia (ChatGPT) menyuntikkan dirinya sebagai penghalang antara pengguna dan jaringan kehidupan nyata mereka," ujar Meetali Jain.
Dikutip dari Tech Justice Law, gugatan ini menuntut ganti rugi finansial yang signifikan bagi korban. Selain itu, pihak penggugat mendesak pengadilan untuk menghentikan operasional layanan ChatGPT Health sampai ada evaluator independen yang menjamin keamanan sistem tersebut bagi publik.
Pihak OpenAI sendiri telah memberikan tanggapan resmi terkait insiden tersebut. Mereka menegaskan bahwa ketentuan layanan mereka sejak awal telah menyatakan bahwa ChatGPT Health tidak dirancang untuk tujuan diagnosis maupun perawatan medis profesional.
Meskipun demikian, perusahaan yang berbasis di Amerika Serikat tersebut mengakui adanya tantangan besar dalam penggunaan AI di sektor kesehatan. Mereka mencatat bahwa sekitar 230 juta orang saat ini mengakses platform tersebut setiap minggunya untuk menanyakan berbagai hal terkait kesehatan.
Kasus yang menimpa Scott Winters ini menambah panjang daftar tantangan hukum yang dihadapi OpenAI. Sebelumnya, perusahaan ini juga sempat terseret dalam kasus kematian seorang remaja akibat overdosis obat setelah mengikuti saran perawatan dari chatbot, serta kasus bunuh diri remaja lain yang diduga dipicu oleh interaksi serupa.
Sebagai langkah preventif, masyarakat sangat diimbau untuk selalu memvalidasi informasi kesehatan melalui tenaga medis profesional di rumah sakit. Mengandalkan kecerdasan buatan untuk diagnosa medis yang bersifat darurat sangat tidak disarankan karena keterbatasan AI dalam memahami kondisi klinis secara nyata.
