Erkan Saka
Avrupa’nın Yapay Zeka ile İlgili Önerilen Yasalarının Küresel Sonuçları Olabilir
AB, yüz tanımayı ve algoritmaların kullanımını düzenleyen yasa taslaklarını yayınladı. Geçerse, politika ABD ve Çin’deki şirketleri etkileyecek.
AVRUPA BİRLİĞİ, ABD ve Çin merkezli teknoloji devleri de dahil olmak üzere, sınırları içinde bazı yapay zeka kullanımlarını kısıtlayacak veya yasaklayacak kurallar önerdi.
Kurallar, yüz tanıma, otonom sürüş ve çevrimiçi reklamcılığı, otomatik işe alma ve kredi puanlamasını yönlendiren algoritmaları kapsayan, yapay zekayı düzenlemeye yönelik bugüne kadarki en önemli uluslararası çabadır. Önerilen kurallar, gelecek vaat eden ancak tartışmalı bir teknoloji etrafında küresel normların ve düzenlemelerin şekillendirilmesine yardımcı olabilir.
Avrupalı dijital haklar kar amacı gütmeyen Access Now’ın Avrupa politika analisti Daniel Leufer, “Dünya çapında, yapay zekanın belirli uygulamalarının demokrasi, hukukun üstünlüğü, temel haklar üzerine kurulu bir toplumda izin verilemeyeceğine dair çok önemli bir mesaj var” diyor. Leufer, önerilen kuralların belirsiz olduğunu, ancak teknolojinin potansiyel olarak zararlı kullanımlarını kontrol etmeye yönelik önemli bir adımı temsil ettiğini söylüyor.
Tartışma muhtemelen yurtdışında yakından izlenecek. Kurallar, AB’de ürün veya hizmet satan herhangi bir şirket için geçerli olacaktır.
Diğer savunucular, vatandaşları yapay zekanın birçok kötüye kullanımından korumak için AB önerilerinde çok fazla boşluk olduğunu söylüyor. Brüksel merkezli European Digital Rights (EDRi) politika ve kampanyalar sorumlusu Ella Jakubowska, “Bir tür yasakların olduğu gerçeği olumlu,” diyor. Ancak bazı hükümlerin şirketlere ve hükümet yetkililerine yapay zekayı şüpheli şekillerde kullanmaya devam etmesine izin vereceğini söylüyor.
Önerilen düzenlemeler, örneğin, yüz tanıma için yapay zekanın kolluk kuvvetleri tarafından kullanılması da dahil olmak üzere, yapay zekanın “yüksek riskli” uygulamalarının yasaklanmasını önermektedir – ancak bu teknolojinin yalnızca kamusal alanlarda insanları gerçek zamanlı olarak tespit etmek için kullanılması durumunda. Bu hüküm aynı zamanda polisin en az üç yıl hapis cezasına çarptırılabilecek bir suçu soruşturması durumunda olası istisnaları da önermektedir.
Bu yüzden Jakubowska, teknolojinin okullarda, işyerlerinde veya alışveriş merkezlerinde ve bir dizi polis soruşturmasında geriye dönük olarak kullanılabileceğini belirtiyor. “Temel dijital haklar söz konusu olduğunda yeterince uzağa gitmeyen pek çok şey var” diyor. “Daha cesur bir duruş sergilemelerini istedik.”
Yapay zekadaki son gelişmeler nedeniyle çok daha etkili hale gelen yüz tanıma, oldukça tartışmalı. Clearview AI gibi ticari araçlar aracılığıyla Çin’de ve ABD’deki birçok kolluk kuvveti tarafından yaygın olarak kullanılmaktadır; bazı ABD şehirleri, halkın tepkisine yanıt olarak polisin teknolojiyi kullanmasını yasakladı.
Önerilen AB kuralları, “genel amaçlar için kamu yetkilileri tarafından yapılan yapay zeka tabanlı sosyal puanlamayı” ve “belirli savunmasız grupları” hedefleyen yapay zeka sistemlerini de yasaklayabilir. Bu, potansiyel olarak kredi puanlama, işe alma veya bazı gözetim reklamcılığı biçimleri için yapay zekanın kullanımını kısıtlayabilir; örnek olarak, kumar bağımlılığı olan kişilerin önüne bahis siteleri için reklamlar yerleştiren bir algoritma verilebilir.
Önerilen kurallar, şirketlerin, insanların duygularını tespit etmek için yapay zeka kullanmaya çalışırken kullanıcıları bilgilendirmesini veya insanları cinsiyet, yaş, ırk veya cinsel yönelim ya da siyasi yönelim gibi biyometrik özelliklere göre sınıflandırmasını gerektiriyor – yine teknik olarak şüpheli uygulamalar.
Dijital haklar analisti Leufer, kuralların belirli yatırım alanlarını caydırabileceğini ve yapay zeka endüstrisinin AB’de ve başka yerlerde izlediği yolu şekillendirebileceğini söylüyor. Leufer, “Yapay zeka yarışının devam ettiğine dair bir anlatım var ve bu saçmalık,” diyor. “Kitlesel gözetimi mümkün kılan yapay zeka biçimleri için Çin ile rekabet etmemeliyiz.”
Ocak ayında oluşturulan yönetmelik taslağı geçen hafta sızdırılmıştı. Son sürüm, örneğin insanların “davranmasına, fikir oluşturmasına veya aleyhine başka türlü alamayacakları bir karar almasına” neden olabilecek yüksek riskli yapay zeka sistemlerini yasaklayacak bir bölümün kaldırılması gibi dikkate değer değişiklikler içerir.
Teklifin AB Parlamentosu ve AB Konseyi’nden geçmesi gerekiyor ve yasa ile imzalanmadan önce büyük olasılıkla önemli değişiklikler görmesi bekleniyor. Kuralların, AB Temel Haklar Şartı ve önerilen bir AB Dijital Yönetişim Yasası dahil olmak üzere diğer AB düzenlemeleriyle uyumlu olması gerekir. Üye devletler nihai kuralları kendi kanunlarını çıkararak uygulayacaklardır. Teklif, yaptırımı denetlemek için bir AB Yapay Zeka Kurulu ve ulusal denetim makamlarının oluşturulmasını öneriyor, ancak bunların nasıl çalışacağına dair ayrıntılar sunmuyor.
Yapay zeka, son yıllarda genellikle çok hızlı hareket etti. Büyük miktarda veriden öğrenen algoritmalardaki önemli atılımlar, makinelerin diğer şeylerin yanı sıra yüzleri nasıl tanıyacağını, arabaları nasıl kullanacağını ve reklamları hedeflemeyi öğrenmesini mümkün kıldı. Ancak yapay zeka algoritmalarının çalışma şeklini anlamak veya tahmin etmek zor olabilir ve yapay zeka sistemlerine beslenen veriler önyargıları ve ayrımcılığı devam ettirebilir.
ABD’deki Google, Amazon ve Facebook ve Çin’deki Alibaba, Tencent ve Bytedance gibi büyük teknoloji şirketleri yapay zeka kullanarak servet kazandılar, ancak bazen bu teknolojiyi kolluk kuvvetlerine yüz tanıma sistemleri sunmak veya önyargılı işe alma algoritmaları kullanarak.
ABD’li teknoloji şirketlerine danışmanlık yapan ABD hukuk firması Debevoise’nin ortağı Avi Gesser, Genel Veri Koruma Yönetmeliği (GDPR) gibi önceki AB düzenlemelerinin başka yerlerdeki düzenlemeleri etkilemesi nedeniyle kuralların ABD’deki işletmeler için büyük olasılıkla büyük etkileri olacağını söylüyor.
Gesser, “Genel olarak yapay zeka ile, düzenleyiciler harekete geçmek konusunda isteksizler, çünkü bunun son derece teknik olduğunu düşünüyorlar, iki, çünkü yeniliği boğmaktan endişe ediyorlar,” diyor Gesser. Ancak, AB önerisinin “diğer düzenleyicileri, belirli davranışları fiilen frenleyecek bir şekilde bu alana atlamak konusunda daha rahat hale getirdiğini” söylüyor.
Gesser, düzenlemelerin yasalaşmasının yıllar alacağını, ancak nihayetinde her türlü ABD işini etkileyebileceğini söylüyor. Gesser, “Tüm reklamlar davranışı manipüle etmek için tasarlanmıştır” diyor. “Zor olan, neyin kabul edilebilir neyin kabul edilemez olduğunu belirlemektir.”
