Senatör Mark R. Warner’dan Google’a Mektup
ABD’li Senatör Mark R. Warner, tıbbi metin ve eğitim modeliyle geliştirilen, PaLM dil modeline dayanan yeni yapay zeka aracı Med-PaLM 2‘nin hastanelerde kullanımıyla ilgili endişelerini dile getirmek üzere Google’ın ana kuruluşu Alphabet Üst Yöneticisi Sundar Pichai‘ye bir mektup gönderdi.
Hasta Verilerinin Gizliliği Üzerine Endişeler
Yapay zekanın hasta bakımı ve sağlıkla ilgili sorunların iyileştirilmesi konusunda ciddi bir potansiyele sahip olduğunu vurgulayan Warner, aynı zamanda doğruluğu test edilmemiş teknolojilerin erken aşamalarda kullanılmasının, tıp uzmanları ve sağlık kurumlarına olan güveni zedeleyebileceği konusunda uyarıda bulundu. Bu durumun, mevcut ırksal eşitsizliklerin artmasına ve teşhis ile bakım süreçlerinde hata riskinin yükselmesine neden olabileceğinden endişe duyduğunu belirtti.
Rekabet ve Gizlilik İlişkisi
Warner, teknoloji şirketlerinin kendi aralarındaki rekabeti önceliklendirmesinin yanı sıra, hasta verilerinin gizliliğiyle ilgili gerekliliklerin de göz önünde bulundurulması gerektiğine dikkat çekti. Tıbbi amaçlarla yapay zeka kullanımının, karmaşık yeni sorular ve riskler ortaya çıkarabileceğini ifade eden Warner, Google‘ın Med-PaLM 2‘nin yanıtlarının, doktorların verdiği yanıtlardan hatalı veya alakasız bilgiler içerdiğini gösteren kendi araştırmasına atıfta bulundu.
Google’a Yöneltilen Sorular
Bu bağlamda, Warner Google’a, hassas sağlık verilerinin nasıl toplandığı ve saklandığı konularında dahil olmak üzere bir dizi önemli soru yöneltti:
- Med-PaLM 2’nin veri güvenliği protokolleri nelerdir?
- Hastaların gizliliğini korumak için hangi önlemler alınmaktadır?
- Bu yapay zeka aracının eğitiminde hangi veriler kullanıldı?
- Yanlış bilgi verme olasılığına karşı nasıl bir tedbir geliştirilmiştir?
- Hastalar, verilerinin nasıl kullanıldığı hakkında bilgilendiriliyor mu?
