Yapay Zeka Otoriterleşmeyi Tasarımdan Başlayarak Nasıl Besliyor?

Teknolojinin kendisini doğrudan “tarafsız” ya da “doğal olarak otoriter” olarak tanımlamak yanıltıcı olabilir. Ancak günümüzde yapay zeka sistemlerinin, otoriter yönetimlerin ve güvenlik bürokrasilerinin elinde toplumsal kontrolü sıkılaştıran en etkili araçlardan birine dönüştüğü açık. Üstelik bu durum yalnızca diktatörlüklerle sınırlı değil; demokratik rejime sahip ülkelerde de otoriter pratikler yapay zeka tasarımları üzerinden adım adım kurumsallaşıyor.

Jeba Sania, Marta Ziosi ve Fazl Barez tarafından kaleme alınan ve Tech Policy Press üzerindeki değerlendirmede ayrıntıları paylaşılan yeni araştırma, yapay zekanın “tasarım gereği” (by design) otoriterleşmeye nasıl zemin hazırladığını mercek altına alıyor. “From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design” başlıklı çalışma, yapay zekanın baskı araçlarının menzilini genişlettiğini, maliyetini düşürdüğünü ve en önemlisi hesap verilebilirliği kararttığını ortaya koyuyor.

Tasarımdan Uygulamaya: Otoriterleşmenin Altı Temel Boyutu

Araştırmacılar, yapay zeka sistemlerini sadece soyut kapasiteleri üzerinden değil, fikir aşamasından yaygınlaştırma ve denetim süreçlerine kadar uzanan 10 farklı ürün yaşam döngüsü aşamasında inceliyor. Bu süreçte yapay zekanın otoriter yönetimselliği besleyen altı temel özelliği öne çıkıyor:

• Zorlayıcı Kapasite (Coercive Capacity): Devletin veya güvenlik organlarının güç kullanma yetkisinin dijital sistemlerle tırmandırılması.
• Hesap Verebilirliğin Aşınması (Accountability Erosion): Otomatik karar alma süreçlerinin arkasına saklanılarak bağımsız denetim mekanizmalarının işlevsizleştirilmesi.
• Sembolik Koruma ve Güvenceler (Symbolic Safeguards): Kağıt üzerinde var görünen ancak pratikte hiçbir yaptırımı olmayan etik ilkeler ve denetim kurulları.
• Bilgi Kontrolü ve Gözetim (Information Control): Kitle gözetimi, veri toplama ve bilgi kanallarının monopolleşmesi.
• Önleyici Baskı (Anticipatory Repression): Algoritmik tahminler üzerinden insanları henüz bir eylem gerçekleştirmeden fişleme veya gözaltına alma.
• Sınır ve Kapsam Kontrolü (Boundary Control): Belirli azınlık veya muhalif grupların algoritmik ayrımcılıkla temel haklardan mahrum bırakılması.

Altı Ülke ve Altı Somut Yapay Zeka Uygulaması

Çalışmayı değerli kılan en Önemli unsurlardan biri, inceleme alanını hem demokratik hem de otoriter rejimlerde kullanılan altı farklı yapay zeka sistemine yaymış olması:

1. FlockSafety ALPR (ABD): ABD genelinde özel bir şirket tarafından geliştirilen ve mahalle seviyesine kadar inen otomatik plaka tanıma kamera ağı. Gizlilik ve kamu denetimi sınırlarını belirsizleştiriyor.
2. Live Facial Recognition / LFR (İngiltere): İngiltere’de yerel polis teşkilatlarının kullandığı canlı yüz tanıma devriye araçları. Kamu alanındaki anonimliği ortadan kaldırıyor.
3. SlimmeCheck (Hollanda): Amsterdam belediyesinin sosyal yardım dolandırıcılığını tespit etmek için geliştirdiği sistem. Yoksul ve azınlık grupları hedef alan algoritmik ayrımcılık örneklerinden biri.
4. Lavender (İsrail): İsrail savunma kuvvetlerinin (Birim 8200) hedef belirleme amacıyla kullandığı yapay zeka sistemi. İnsan onayının sembolikleştiği, kararların otomasyona devredildiği bir yapı sunuyor.
5. IJOP – Entegre Ortak Operasyon Platformu (Çin): Sincan bölgesinde kullanılan, tüm biyometrik ve davranışsal verileri tek merkezde toplayan kitlesel gözetim ve tahminleme sistemi.
6. Sfera (Rusya): Moskova metrosundaki yüz tanıma tabanlı ödeme sistemi. Sistem, hükümet karşıtı protestolara katılan kişileri tespit edip önleyici gözaltılar yapmak amacıyla polis tarafından aktif olarak kullanılıyor.

Krizler, Özel Sektör Gizliliği ve “İnsan Onayı” İllüzyonu

Araştırmacıların ulaştığı bulgular, yapay zekanın otokratik eğilimleri nasıl pekiştirdiğine dair ortak kalıpları gösteriyor. İlk olarak, incelenen sistemlerin önemli bir kısmı bir “güvenlik krizi” söylemi ardından hızlıca devreye sokulmuş. Ayrıca sistemlerin kamusal alanda dağıtımı genellikle kamu-özel sektör ortaklıkları (PPP) üzerinden yürütülüyor. Bu durum, “şirket sırrı” gerekçesiyle şeffaflığı ve denetimi tamamen engelliyor.

Bir diğer kritik tehlike ise otomasyona aşırı bağımlılık. Yapay zeka sistemlerinde “insan onay mekanizması” (human-in-the-loop) var gibi gösterilse de, karar vericiler zamanla algoritmanın sunduğu çıktılara müdahale etmeden onay veren kurumsal figürlere dönüşüyor. Nitekim Journal of Democracy bünyesindeki analizlerde de vurgulandığı üzere, otokratlar yapay zekayı bir “gümüş kurşun” gibi görse de, algoritmik eşik değerlerinin yanlış ayarlanması toplumda kitlesel tepkilere ya da sistemik kör noktalara yol açabiliyor.

Benzer şekilde, Woodrow Hartzog ve Jessica Silbey’in “How AI Destroys Institutions” başlıklı çalışmalarında altını çizdiği gibi; yapay zeka sistemleri yalnızca otoriter liderlerin elinde bir silah değil, tasarımları gereği demokratik kurumların eleştirel düşünme, şeffaflık ve insan ilişkilerine dayalı meşruiyet zeminini oyan yapılardır.

Ne Yapmalı?

Akademik literatürde Yapay Zeka ve Demokrasi ilişkisine dair yapılan araştırmalar, yapay zekanın kaçınılmaz olarak otoriterliğe hizmet etmek zorunda olmadığını; ancak mevcut tasarım ve politik ekonomi dinamiklerinin onu otokrasiye doğru ittiğini gösteriyor. Konuyla ilgili demokratikleşme ve iletişim teknolojileri analizlerinde de ifade edildiği gibi, veri gücünün tek elde toplanması sivil toplumun denetim kapasitesini zayıflatıyor.

Yapay zekanın otoriter bir gözetim aracına dönüşmesini engellemek için denetimin yalnızca uygulama aşamasında değil, algoritmaların henüz kodlandığı ve tasarlandığı yaşam döngüsünün ilk aşamalarında başlaması gerekiyor. Açıklanabilir Yapay Zeka (XAI) standartlarının getirilmesi, kamu-özel sektör gizlilik kılıflarının kaldırılması ve kurumların karar alma yetkilerini tamamen otomasyona devretmesini engelleyen yasal çerçevelerin acilen hayata geçirilmesi kritik önem taşıyor.