AB’den ‘yapay zeka’ ile ilgili ilk düzenleme: 4 risk grubuna ayrıldı

Avrupa Birliği (AB) Komitesi, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki birinci yasal düzenleme teklifini açıkladı. Buna nazaran, yapay zeka sistemleri “kabul edilemez risk”, “yüksek risk”, “sınırlı risk” ve “minimum risk” olmak üzere 4 ana kümeye ayrıldı.

KABUL EDİLEMEZ RİSK: İnsanların güvenliği, geçim kaynakları ve haklarına ait açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk kümesinde yer aldı ve bunların kullanımı yasaklandı.

İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından toplumsal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri “kabul edilemez” risk kümesine dahil edildi.

YÜKSEK RİSK: Bu kümede ise ulaştırma üzere kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV kıymetlendirme, kredi derecelendirmesi, kanıt güvenliği, göç, iltica ve hudut idaresi, seyahat evraklarının doğrulanması, yargı ile demokratik süreçler sıralandı.

Bu kümedeki yapay zeka sistemlerinin piyasaya sunulmadan evvel uyması gereken sıkı yükümlülükler getirildi. Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve kâfi ölçüde insan nezaretine tabi tutulacak.

Bütün biyometrik kimlik saptama sistemleri katı şartlar içeren yüksek risk kümesine dahil edildi. Emniyet yetkilileri halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, önemli bir hatası kavuşturmak yahut bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemlerine başvurulabilecek. Yapay zeka sistemlerinin bu cins kullanımları hudutlu olacak ve isimli yahut bir öteki bağımsız kuruluşun izine tabi tutulacak.

HUDUTLU RİSK: Sonlu risk kümesinde yer alan yapay zeka sistemleri kimi şeffaflık yükümlülüğüne tabi olacak. Kullanıcıların bu kümede yer alan “sohbet robotları” ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve şuurlu karar almaları sağlanacak.

EN AZ RİSK: Yapay zeka takviyeli görüntü oyunları yahut istenmeyen e-posta filtreleri üzere uygulamalar en az risk kümesinde yer aldı. Vatandaşların hakları yahut güvenliği için asgarî yahut hiç risk içermeyen bu kümedeki yapay zeka sistemlerine müdahale edilmedi.

AVRUPA YAPAY ZEKA KONSEYİ OLUŞTURULACAK

Kelam konusu yapay zeka alanında kontrol sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi gayesiyle Avrupa Yapay Zeka Şurası oluşturulacak.

Kelam konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor.

Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sonlandırılmış olacak. (AA)