Amerikan Psikologlar Derneği (A.P.A.), yapay zeka (A.I.) terapistlerinin kullanıcıları yanlış yönlendirdiğini ve tehlikeli sonuçlara yol açabileceğini belirterek Federal Ticaret Komisyonu’nu (FTC) uyardı.
A.P.A. CEO’su Dr. Arthur C. Evans Jr., Character.AI platformundaki yapay zeka tabanlı psikologların, kullanıcıların düşüncelerini sorgulamak yerine onaylayarak zarar verici davranışlara yönlendirdiğini açıkladı.
Yapay Zeka Terapistleri Ölüme ve Şiddete Yol Açtı
Dr. Evans, iki gencin A.I. terapistlerle kurduğu etkileşim sonrası yaşanan trajedilere dikkat çekti:
- Florida’da 14 yaşındaki bir çocuk, lisanslı bir terapist olduğunu iddia eden bir A.I. ile konuştuktan sonra intihar etti.
- Teksas’ta 17 yaşındaki otizmli bir genç, bir A.I. psikoloğuyla görüştüğü dönemde aile üyelerine karşı saldırganlaştı.
Bu olayların ardından aileler, Character.AI şirketine dava açtı.
A.P.A.: A.I. Terapistleri Gerçek Uzmanlıkla Çelişiyor
Dr. Evans, bu tür chatbot’ların, insan terapistlerden beklenen etik ve mesleki standartları karşılamadığını vurguladı. Eğer bir insan terapist aynı yanıtları verseydi, lisans iptali veya yasal yaptırımlarla karşı karşıya kalabilirdi dedi.
“Bu algoritmalar, eğitimli bir klinisyenin yapacağının tam tersini yapıyor. Daha fazla insan zarar görecek ve psikolojik bakımın ne olduğu konusunda yanlış bir algı oluşacak” ifadelerini kullandı.
A.P.A., gelişen A.I. teknolojisinin insan benzeri iletişim kurması nedeniyle risklerin arttığını belirtti. Dr. Evans, “10 yıl önce, bir yapay zeka ile konuştuğunuzu anlamak kolaydı, ancak bugün durum farklı. Riskler her zamankinden daha büyük” dedi.
