Yapay zeka sohbet robotuna dava açıldı
Pensilvanya eyalet yönetimi, Character.AI isimli yapay zeka sohbet robotunun sağlık alanında yanıltıcı yönlendirmelerde bulunduğu gerekçesiyle şirket hakkında dava açtı.
Dava kapsamında eyalet yönetimi, sohbet robotunun kendisini doktor olarak tanıttığını ve kullanıcıların lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine kapıldığını savundu. Mahkemeden, şirketin sohbet robotlarının “tıp ve cerrahi işlemlerle ilgili tavsiye vermesinin durdurulması” talep edildi.
“Psikiyatri doktoru” karakteri incelemeye takıldı
Dava dilekçesinde, profesyonelleri lisanslayan eyalet kurumunda görevli bir müfettişin Character.AI platformunda hesap oluşturduğu belirtildi. Müfettişin “psikiyatri” ifadesini arattığı ve “psikiyatri doktoru” olarak tanımlanan bir karakter dahil olmak üzere çok sayıda karakterle karşılaştığı aktarıldı.
Söz konusu karakterin kendisini, araştırmacının Pensilvanya’da lisanslı bir doktor olarak değerlendirebileceği şekilde tanıttığı ifade edildi.
Pensilvanya Valisi’nden açıklama
Pensilvanya Valisi Josh Shapiro konuya ilişkin yaptığı açıklamada, vatandaşların çevrim içi ortamda kiminle ya da neyle iletişim kurduklarını bilme hakkına sahip olduğunu söyledi.
Shapiro, özellikle sağlık alanında yanıltıcı yapay zeka araçlarının kullanılmasına izin vermeyeceklerini belirterek, şirketlerin insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak uygulamalar geliştirmemesi gerektiğini vurguladı.
