Pennsylvania'dan Yapay Zeka Şirketine Doktorluk Davası

ABD'nin Pennsylvania eyaleti, yapay zeka şirketi Character. AI'a, platformdaki botların doktor gibi davranarak yanıltıcı bilgiler vermesi sebebiyle dava açtı. Vali Josh Shapiro yönetimi, bu davanın bir eyalet yönetiminin bir yapay zeka şirketine karşı açtığı "türünün ilk örneği olan bir yaptırım eylemi" olduğunu belirtti.

Vali Shapiro, "Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor," dedi.

Yapay Zeka Doktor Gibi Mi Davranıyor? İşte İddialar

Dava dosyasında yer alan bilgilere göre, Pennsylvania Eyalet Departmanı'ndan bir müfettiş, platformda "psikiyatri" araması yaptı ve kendisini "psikiyatri doktoru" olarak tanımlayan karakterlerle karşılaştı. "Emilie" adlı bir botun, müfettişe hem Pennsylvania hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söylediği öne sürüldü.

İddiaya göre bot, sahte bir lisans numarası vermekle kalmadı, aynı zamanda ilaç yazıp yazamayacağı sorusuna, "Teknik olarak evet, bir doktor olarak bu yetkim dahilinde," şeklinde yanıt verdi. Eyalet yönetimi, bu durumun geçerli bir lisans olmadan tıp pratiği yapmayı veya bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası'nı ihlal ettiğini savunuyor.

Şirketin Savunması Ne?

Character. AI, devam eden dava süreci hakkında yorum yapmaktan kaçınırken, Reuters'a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ile rol yapma amaçlı, kurgusal karakterler olduğunu belirtti. Şirket, bu ayrımın netleşmesi için güçlü adımlar attıklarını savundu.

Bu dava, Character. AI'ın karşılaştığı ilk yasal engel değil. Şirket daha önce de şu suçlamalarla gündeme gelmişti:

• Kentucky Tüketici Davası: Şirketin çocukları hedef aldığı ve onları kendine zarar vermeye yönlendirdiği iddia edildi.
• Florida İntihar Vakası: 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan dava Ocak ayında uzlaşmayla sonuçlanmıştı.

Pennsylvania eyaleti, mahkemeden platformun sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep etti.

İstanbul'da yaşayanlar için bu dava, yapay zeka teknolojilerinin kullanımında etik sınırların ve yasal düzenlemelerin ne kadar önemli olduğunu bir kez daha gözler önüne seriyor. Özellikle sağlık gibi hassas konularda yapay zekanın rolü tartışılırken, bu tür davalar emsal teşkil edebilir.

Yapay Zeka ve Sağlık: Dikkat Edilmesi Gerekenler

Uzmanlar, yapay zeka uygulamalarının sağlık alanında kullanımının potansiyel faydalarına dikkat çekerken, yanlış bilgilendirme ve kötüye kullanım risklerine karşı da uyarıyor. Özellikle lisanssız ve denetimsiz platformlarda sunulan sağlık bilgilerine karşı dikkatli olunması gerektiği vurgulanıyor.