Kemal Kumkumoğlu
Selin Çetin Kumkumoğlu
Avrupa Birliği (“AB”) dijital stratejisi kapsamında, yapay zekâ (“YZ”) sistemlerinin hukuki düzenlemesine yönelik çalışmaları neticesinde Nisan 2021’de AB Komisyonu taslak YZ Düzenlemesini kamuoyuna duyurmuştur[1].
Bu çerçevede AB içinde YZ sistemlerinin piyasaya arz edilmesi, hizmete sunulması ve kullanılması için uyumlaştırılmış kuralları belirlemeyi ve buna istinaden (1) bazı YZ uygulamalarının yasaklanmasını, (2) yüksek riskli kabul edilen YZ sistemlerine dair özel gereklilikleri ve bu tarz sistemlerin sağlayıcıları, ithalatçıları, distribütörleri gibi Düzenlemede anılan tarafların yükümlülüklerini ve (3) görüntü, ses ya da video gibi içerikleri üretmek veya bunlarda değişiklikler yapmak için kullanılan sınırlı risk içeren YZ sistemleri için uyumlulaştırılmış şeffaflık kurallarını ve (4) YZ sistemlerinin piyasa izlemesi ve gözetimini düzenlemektedir.
Madde 3’te belirtildiği üzere Düzenleme,
AB içinde veya üçüncü bir ülkede yerleşik olup olmadıklarına bakılmaksızın, AB içinde YZ sistemlerini piyasaya arz eden veya hizmete sunan sağlayıcılara;
AB içindeki YZ sistemleri kullanıcılarına;
Sistem tarafından üretilen çıktının AB içinde kullanıldığı hallerde, üçüncü bir ülkede bulunan YZ sistemlerinin sağlayıcıları ve kullanıcılarına uygulanmaktadır.
Buna göre, bir YZ sistemi üçüncü taraf bir ülkede geliştirilse dahi, AB içinde piyasaya arz ediliyorsa veya YZ sistemi tarafından üretilen çıktılar AB içinde kullanıyorsa bu YZ sistemlerinin Düzenlemede öngörülen gerekliliklere uygun olması gerekmektedir. Örneğin, Türkiye’de geliştirilip hizmete sunulmuş bir yüksek riskli YZ sisteminin çıktıları AB vatandaşları tarafından da kullanılabiliyorsa bu YZ sistemi Düzenlemedeki gereklilikleri karşılamalıdır.
Düzenleme, risk temelli bir yaklaşım ortaya koymakta ve bir YZ sisteminin yükümlülüklerinin risk seviyesiyle orantılı olduğu risk kategorilerini öngörmektedir. Buna göre, YZ sistemleri şu risk sınıflarına ayrılmaktadır: yasaklı YZ sistemleri, yüksek riskli YZ sistemleri, sınırlı riskli YZ sistemleri.
Yasaklı YZ Sistemleri
Madde 5, yasaklı YZ sistemlerini sıralamaktadır. Buna göre, bu tür YZ sistemlerinin uygulanmasına izin verilmeyecektir.
İnsanların veya belirli hassas grupların bilişsel davranışsal manipülasyonu: örneğin çocuklarda tehlikeli davranışları teşvik eden sesle etkinleştirilen oyuncaklar
Sosyal puanlama: insanları davranışlarına, sosyo-ekonomik durumlarına veya kişisel özelliklerine göre sınıflandırmak
Yüz tanıma gibi gerçek zamanlı ve uzaktan biyometrik tanımlama sistemleri[2]
Yüksek Riskli YZ Sistemleri
Madde 6 uyarınca, AB ürün güvenliği mevzuatı kapsamına giren ürünlerde kullanılan YZ sistemleri (örneğin oyuncaklar, arabalar, tıbbi cihazlar gibi) ile Düzenlenme’nin EK-3’ünde listelenen YZ sistemleri yüksek riskli kabul edilmektedir. Buna göre, yüksek riskli kabul edilen YZ sistemleri aşağıdaki gibidir:
Gerçek kişilerin biyometrik olarak tanımlanması ve sınıflandırılması,
Kritik altyapının yönetimi ve işletilmesi,
Eğitim ve mesleki eğitim,
İstihdam, çalışan yönetimi ve serbest mesleklere erişim,
Temel özel hizmetlere ve kamu hizmet ve yardımlarına erişim ve bunlardan yararlanma,
Kolluk kuvvetleri,
Göç, iltica ve sınır kontrol yönetimi,
Hukukun yorumlanması ve uygulanması konusunda destek.
Sınırlı Riskli YZ Sistemleri
Görüntü, ses veya video içeriği üreten veya bunlarda değişiklikler yapan YZ sistemleri bakımından bazı şeffaflık yükümlülükleri öngörülmektedir. Örneğin, bireylerin bir YZ sistemi ile etkileşim halinde olduğunun bildirilmesi gibi.
Yüksek Riskli Yz Sistemlerinin Sağlayıcılarının, Kullanıcılarının, İthalatçılarının Ve Distribütörlerinin Yükümlülükleri
Düzenlemede yüksek riskli YZ sistemlerinin sağlayıcısı, kullanıcısı, ithalatçısı ve distribütörleri için çeşitli yükümlülükler öngörülmektedir. Önemle vurgulamak gerekir ki, Düzenleme sadece AB pazarında yerleşik tarafların piyasaya sunduğu YZ sistemlerine değil, aynı zamanda üçüncü taraf ülkelerde geliştirilmekle birlikte AB pazarına arz edilen YZ sistemlerine, YZ gömülü ürünlere ve çıktıları AB ülkelerinde kullanılması halinde, üçüncü taraf ülkelerde bulunan YZ sistemlerine de uygulanacaktır. Dolayısıyla örneğin AB pazarına bu tür YZ sistemlerini sunan Türkiye’deki sağlayıcılar veya AB içinde olup Türkiye’den bu tür sistemleri ithal edenler bakımından da yükümlülükler doğacaktır. Bu yükümlülükler teknik ve hukuki değerlendirmeleri, dolayısıyla farklı iş ekiplerinin ortak çalışmasını gerektiren yükümlülüklerdir. Haziran 2023’te Avrupa Birliği Parlamentosunun taslak Düzenlemeye ilişkin değişiklik teklifi kamuoyuna duyurulmuştur[3]. Gelinen aşamada Avrupa Birliği Konseyi ile görüşmeler devam etmekte olup yıl sonuna veyahut yeni yıl başına kadar anlaşmaya varılması öngörülmektedir. Türkiye’de yerleşik olup AB pazarına YZ sistemleri ve/veya YZ gömülü ürünler sunan veya sunmaya hazırlanan şirketlerin bu Düzenlemeye uyumluluk göstermesi gerekecektir. Bu kapsamda, Düzenlemeye yönelik gelişmelerden sizleri haberdar etmeye devam edeceğiz.
[1] AB Komisyonu taslak YZ Düzenlemesine ilişkin önerisi için bkz. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF
[2] Bazı istisnai hallerde izin verilmesi öngörülmüştür, örneğin, post uzaktan biyometrik kimlik tespit sistemlerine, ancak mahkeme onayından sonra bazı suçların kovuşturulması için izin verilmesi.
[3] Avrupa Parlamentosu taslak YZ Düzenlemesine ilişkin birleştirilmiş değişiklik önerileri için bkz. https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/CJ40/DV/2023/05-11/ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf