Seorang pria berkonsultasi dengan ChatGPT sebelum mengubah kebiasaan makanannya. Selama tiga bulan, ia tetap konsisten dalam menjalani perubahan pola makan yang direkomendasikan oleh ChatGPT.
Namun, akhirnya ia harus mendapatkan perawatan di ruang gawat darurat karena munculnya gejala gangguan mental yang menimbulkan kekhawatiran, seperti rasa curiga berlebihan dan halusinasi.
Dalam laporan kejadian yang diterbitkan di jurnalKasus-Kasus Klinis Medisin Internal, ternyata pria berusia 60 tahun itu mengalami bromisme, kondisi yang disebabkan oleh paparan lama dan berlebihan terhadap bahan kimia bromida atau senyawa serupa seperti bromin.
Dalam kasus ini, pria tersebut telah mengonsumsi natrium bromida yang dibelinya secara online.
Dilansir Live Science, Open AI selaku pengembang ChatGPT telah dikontak mengenai kejadian ini. Seorang perwakilan perusahaan merujuk pada ketentuan layanan perusahaan, yang menyatakan bahwa layanannya tidak dimaksudkan untuk diagnosis atau pengobatan kondisi kesehatan apa pun.
"Kamu tidak boleh mempercayai layanan kami sebagai satu-satunya sumber kebenaran atau informasi yang akurat, atau sebagai pengganti saran profesional," kata juru bicara OpenAI.
Ia menyebutkan bahwa tim keamanan OpenAI bertujuan untuk meminimalkan risiko penggunaan layanan perusahaan serta melatih produk agar mendorong pengguna untuk mencari bantuan dari ahli profesional.
Bahaya Bromida
Di abad ke-19 dan ke-20, bromida sering kali digunakan dalam obat resep serta obat bebas (OTC), seperti obat penenang, antikonvulsan, dan penghilang rasa sakit. Namun, penggunaan yang tidak tepat dari obat-obatan ini menyebabkan kondisi yang dikenal sebagai bromisme.
Pada tahun 1970 dan 1980, otoritas Amerika Serikat menghilangkan berbagai jenis bromida dari obat-obatan tanpa resep dokter, termasuk natrium bromida. Tingkat bromisme kemudian menurun secara signifikan, dan kondisi ini masih tergolong langka hingga kini.
Namun, masih terdapat beberapa kasus bromisme, dengan beberapa contoh terbaru terkait dengan suplemen makanan yang mengandung bromida yang dibeli secaraonline.
Pasien berbicara dengan ChatGPT, penulis laporan tidak memiliki akses ke riwayat percakapan pasien, sehingga kalimat yang dihasilkan oleh model bahasa besar (LLM) tidak dapat diketahui.
Namun, pria itu mengatakan bahwa ChatGPT menyebutkan bahwa klorida bisa digantikan dengan bromida, sehingga ia mengganti seluruh natrium klorida (garam dapur) dalam makanannya dengan natrium bromida.
Untuk mencoba memprediksi kemungkinan kondisi pasien, seorang dokter bertanya kepada ChatGPT 3.5 mengenai pengganti klorida, dan mendapatkan jawaban yang menyebutkan bromida.
Pulih dari Bromisme
Setelah tiga bulan mengonsumsi natrium bromida, pria itu datang ke unit gawat darurat dengan kekhawatiran bahwa tetangganya telah mencemarinya.
Hasil laboratorium pada saat itu menunjukkan adanya penumpukan karbon dioksida dalam darahnya, serta meningkatnya tingkat alkalinitas (kebalikan dari keasaman).
Ia juga terlihat memiliki kadar klorida yang tinggi dalam darahnya, meskipun kadar natriumnya masih normal. Setelah dilakukan pemeriksaan, ternyata ini merupakan kasus "pseudohiperkloremia", yang berarti pengujian laboratorium untuk klorida menghasilkan angka yang tidak akurat karena adanya bromida di dalam darah yang mengganggu proses pengukuran.
Kondisi kesehatan pasien tetap stabil setelah diberi cairan dan elektrolit, sementara kondisi pikirannya membaik setelah mengonsumsi obat antipsikotik, sehingga ia mampu menjelaskan kepada dokter tentang penggunaan ChatGPT.
Meskipun AI merupakan alat yang sangat berpotensi dalam menghubungkan ilmuwan dengan komunitas non-akademis, AI juga memiliki risiko menyebarkan data yang tidak sesuai dengan situasi.
Dalam kesimpulan laporan tersebut, menekankan bahwa dengan meningkatnya penggunaan alat AI, penyedia layanan kesehatan perlu mempertimbangkan faktor risiko ini. Saat pasien berobat, tenaga kesehatan perlu melakukan pencarian lebih mendalam apakah terdapat riwayat sebelumnya yang menunjukkan pasien mencari solusi medis, di luar konsultasi dengan dokter.