Yapay zeka uygulamaları restoran önerilerinden e-posta yazmaya kadar birçok konuda yardımcı olsa da, sağlık tavsiyesi söz konusu olduğunda ciddi riskler barındırabiliyor. Bunun çarpıcı bir örneği, bir sohbet robotunun önerdiği beslenme planını uygulayan bir adamın hastanelik olmasıyla yaşandı.
Sağlığını iyileştirmek amacıyla tuz (sodyum klorür) tüketimini azaltmak isteyen adam, alternatif bulmak için ChatGPT’ye başvurdu. Chatbot, sodyum bromür kullanmasını önerdi. Adam, bu kimyasalı internetten sipariş ederek beslenmesine dahil etti. Ancak sodyum bromür, mutfaklarda değil genellikle sıcak su havuzlarını temizlemek için kullanılan bir maddeydi.
PARANOYAK DÜŞÜNCELERE KAPILDI
Yaklaşık üç ay sonra hasta, komşusunun kendisini zehirlediğine dair paranoyak düşüncelerle acil servise başvurdu. İlk 24 saatte halüsinasyonlar ve artan paranoya belirtileri gösteren hasta, kaçma girişiminde bulununca zorunlu psikiyatrik gözlem altına alındı.
Tedavi sırasında adam, uyguladığı diyetin detaylarını anlattı. Yapılan testler sonucunda bromizm olarak bilinen, vücutta bromür birikmesi kaynaklı toksik durum teşhis edildi. Sağlıklı bireylerde bromür seviyesi genellikle 10 mg/L’nin altında olurken, hastanın seviyesi 1.700 mg/L olarak ölçüldü.
50 YILLIK HASTALIK GERİ DÖNDÜ
Bromizm, 20. yüzyılın başlarında yaygın görülen ve o dönemde psikiyatrik başvuruların yüzde 8’ine kadarını oluşturan bir durumdu. Ancak 1970’ler ve 80’lerde bromür içeren ilaçların kullanımının bırakılmasıyla neredeyse ortadan kalkmıştı.
Üç haftalık tedavi sürecinin ardından hasta tamamen iyileşerek taburcu edildi. Ancak uzmanlara göre asıl sorun, yapay zeka teknolojisinin halen kritik konularda insan uzmanlığının yerini alamayacak olması.
‘YANLIŞ BİLGİLERİN YAYILMASINA NEDEN OLABİLİR’
Araştırmanın yazarları, “ChatGPT ve diğer yapay zeka sistemleri bilimsel hatalar üretebilir, sonuçları eleştirel şekilde tartışamaz ve yanlış bilgilerin yayılmasına neden olabilir” uyarısında bulundu. Uzmanlar, “Bir tıp uzmanının, sodyum klorür yerine sodyum bromür önermesi pek olası değildir.” dedi.
Bu ilginç vaka, Annals of Internal Medicine: Clinical Cases dergisinde yayımlandı.
