Avrupa Komisyonu Yapay Zeka Kullanımını Sınırlamaya Çalışıyor
Avrupa Komisyonu, yüz tanımanın veya insan davranışını manipüle eden algoritmaların kullanılmasını yapay zeka ile ilgili önerilen AB düzenlemeleri kapsamında sınırlamayı planlıyor. Reuters tarafından görülen bir komisyon belgesine göre önerilen kurallar, insanların sağlığını, güvenliğini, temel haklarını ve özgürlüğünü etkileyebilecek yüksek riskli olduğu düşünülen uygulamalarda AI kullanımına yönelik önlemleri ve önceden yetkilendirmeyi de içeriyor. Belgede, “Gerçek kişilerin ayrım gözetmeksizin gözetlenmesi amacıyla yapay zekanın kullanılması, ayrım yapılmaksızın tüm kişilere genelleştirilmiş bir şekilde uygulanarak yasaklanmalıdır." ifadesi yer alıyor. Belgede ayrıca, uzaktan biyometrik tanımlama sistemlerinde, işe alımda, eğitim kurumlarına erişimde, kredi itibarının değerlendirilmesinde ve iltica ve vize başvurularında kullanılan AI uygulamalarının yüksek riskli olduğu ve sistemlerde kullanılan verilerin önyargısız olması gerektiği belirtiliyor.
Yasaklanmış hizmetler geliştiren veya bunlar hakkında doğru bilgi sağlamayan şirketler, GDPR ihlalleri için para cezalarına benzer şekilde, küresel gelirlerinin % 4’üne varan para cezalarıyla da karşılaşabilecekler.
AI’nın yüksek riskli örnekleri arasında şu unsurlar bulunuyor;
- Acil durum hizmetlerinin gönderilmesinde öncelik teşkil eden sistemler
- İnsanların eğitim kurumlarına erişimini belirleyen veya atayan sistemler
- İşe alım algoritmaları
- Kredi değerliliğini saptayan algoritmalar
- Bireysel risk değerlendirmeleri yapanlar
- Suç tahmin algoritmaları
Avrupa Komisyonu’nun teknoloji şefi Margrethe Vestager kuralları 21 Nisan’da sunacak. Ayrıntıların ve belirlenen kuralların önümüzdeki hafta resmi olarak açıklanmadan önce tekrar değişebilme ihtimalinin olduğu belirtiliyor ve kanun haline gelmesinin birkaç yılı bulacağı söyleniyor.
Kaynaklar:
https://www.bbc.com/news/technology-56745730
https://finance.yahoo.com/news/eu-wants-ban-ai-surveillance-145317619.html