Yapay zeka (AI) ile çalışan arama motorları ve sohbet botları, ilaçlar hakkında yanlış veya anlaşılması zor bilgiler sunabiliyor ve bu durum, hastalar için ciddi riskler oluşturabilir.
Yapay zeka teknolojisinin hızla yükselmesi, sağlık sektöründe büyük bir heyecan yarattı. Hem hastalar hem de sağlık profesyonelleri için bu araçların sağlık bilgisine erişimde önemli bir yardımcı olacağı düşünülüyordu. Yapay zeka tabanlı tarama araçlarının bazı alanlarda olumlu sonuçlar vermesine rağmen, yapılan deneyler, ChatGPT gibi sohbet botlarının genellikle hatalı tıbbi tavsiyeler verdiğini ve yanlış bilgi kaynakları üretebileceğini gösteriyor.
Yine de Kaiser Family Foundation’ın yaptığı bir ankete göre, her altı yetişkinden biri, ayda en az bir kez sağlık bilgisi veya tavsiyesi almak için sohbet botlarını kullanıyor.
Ancak BMJ Quality & Safety dergisinde yayınlanan yeni bir araştırma, bu yaklaşımın risklerini gözler önüne serdi. Araştırma, AI sohbet botlarının verdiği ilaç bilgilerinin önemli bir kısmının yanlış veya potansiyel olarak zararlı olduğunu ortaya koydu.
Araştırmanın Bulguları
Çalışmada, 2020’de Amerika Birleşik Devletleri’nde en sık reçete edilen 50 ilaçla ilgili sorular, AI özellikli Bing copilot sohbet botuna soruldu ve toplamda 500 yanıt toplandı. Sorular şunları kapsıyordu:
- İlacın ne için kullanıldığı
- Nasıl çalıştığı
- Kullanım talimatları
- Yaygın yan etkiler
- Kontrendikasyonlar
Yanıtların okunabilirliği, Flesch Okunabilirlik Puanı ile değerlendirildi. Bu puan, bir metnin anlaşılması için gereken eğitim seviyesini belirler. 37’nin üzerindeki bir puan, yanıtların lise düzeyinde bir eğitim gerektirdiğini gösterir.
Yanıtların bütünlük ve doğruluğu ise drugs.com adlı güncel ilaç bilgi platformundaki verilerle karşılaştırıldı. Ortalama yanıt tamlığı %77 olarak belirlendi. En düşük skor, ilaç kullanımı sırasında dikkate alınması gereken hususlarla ilgili soruda %23’tü.
Uzman Değerlendirmesi
İlaç güvenliği konusunda uzman olan yedi kişi, chatbot yanıtlarının bilimsel konsensüsle ne kadar örtüştüğünü inceledi. Yanıtların %26’sı referans verilerle uyumsuzdu ve %3’ü tamamen tutarsızdı. 20 yanıtın ayrıntılı analizinde ise sadece %54’ünün bilimsel konsensüsle uyumlu olduğu bulundu; %39’u ise bilimsel görüşe tamamen ters düşüyordu.
Riskler ve Uyarılar
Araştırmacılar, AI tabanlı sohbet botlarının genel olarak eksiksiz ve doğru yanıtlar verdiğini belirtse de, hastaların bu tür araçları kullanırken dikkatli olması gerektiğini vurguladı.
“Chatbot yanıtları genellikle zor anlaşılıyor ve önemli bilgileri atlayabiliyor, bu da hasta güvenliği ve ilaç kullanımı açısından tehdit oluşturabilir,” dediler.
Sonuç olarak, yapay zeka tabanlı sohbet botlarının ilaç bilgileri konusunda hatasız bilgi üretemediği anlaşılıyor. Bu nedenle, hastaların ilaç kullanımı konusunda mutlaka bir sağlık uzmanına danışmaları gerekiyor.
