Erkan Saka
Yapay zeka destekli gözetim sistemleri her geçen gün sokaklarımızı, meydanlarımızı ve ulaşım ağlarımızı daha fazla kaplıyor. SosyalKafa izleyicileri ve okurları bilir; dijital kültür, veri politikaları ve yeni medyanın toplumsal etkileri üzerine sıkça kafa yoruyoruz. Son zamanlarda Berlin’den gelen bir haber, algoritmik gözetim ile dijital direnişin kesişiminde harika bir örneği karşımıza çıkardı. 404 Media’da Jason Koebler’ın bizzat deneyimlediği bir “dijital kamuflaj” gömleği, yapay zekanın bizi nasıl gördüğünü (ya da göremediğini) çok net bir şekilde ortaya koyuyor.
Simon Weckert ve Dijital Kamuflaj Gömleği
Berlinli sanatçı Simon Weckert (kendisini daha önce Google Haritalar’ı 99 telefonla kandırarak sahte trafik sıkışıklığı yarattığı projesinden hatırlayabilirsiniz) yapay zeka kameralarına karşı yeni bir tasarıma imza attı. Gözümüze rengarenk, psikedelik ve çiçeksi görünen bir gömlek tasarladı. Bizim için sadece oldukça dikkat çekici ve estetik bir moda nesnesi. Ancak nesne tanıma (object detection) yeteneğine sahip bir yapay zeka kamerası için durum tamamen farklı.
Kamera normalde kadraja giren herkesi yeşil bir kutu içine alıp “KİŞİ” (PERSON) olarak etiketlerken, bu gömleği giyen veya önüne tutan birini “insan” olarak algılamıyor ve o yeşil kutu ortadan kayboluyor. Bu projenin çıkış noktası, Berlin polisinin yoğun bir metro istasyonu olan Kottbusser Tor’da nesne ve davranış tanıyan yapay zeka kameraları kullanmaya başlaması. Kameralar; insanların yatmasını, kavga etmesini veya olağandışı davranışlarını algoritmik olarak tespit ederek polise haber veriyor. Weckert, bu durumun özellikle evsizlerin ya da marjinalize edilmiş grupların sürekli potansiyel şüpheli olarak fişlenmesine yol açabileceğine dikkat çekiyor.
Düşmansal Saldırı (Adversarial Attack) Nasıl Çalışıyor?
Yapay zeka dünyayı bizim gibi görmüyor. İnsanlar renk, bağlam ve bir bütünlük görürken; algoritmalar istatistiksel desenler, kenarlar, dokular ve piksellerin matematiksel kombinasyonlarını arıyor. Fast Company’deki bir başka incelemede de detaylandırıldığı üzere, gömleğin üzerindeki karmaşık desenler (“AdvTexture” adı verilen sürekli düşmansal dokular), YOLO gibi açık kaynaklı nesne tanıma sistemlerinin “insan” şablonunu bozacak şekilde özel olarak tasarlanmış. Yani bilgisayara fiziksel bir müdahaleyle öyle bir görsel veri sunuyorsunuz ki, makine o veriyi sınıflandıramıyor ve sistem “körleşiyor”.
Anti-Gözetim Modası (Adversarial Fashion) Büyüyor mu?
Weckert’in tasarımı izole bir vaka değil. Giderek büyüyen ve akademik literatürde de karşılık bulan bir “Adversarial Fashion” (Düşmansal Moda) akımından bahsedebiliriz. Başka yaratıcı örneklere bakacak olursak:
- Cap_able: İtalyan girişimi Cap_able, yüz tanıma sistemlerini kandırmak için makine öğrenimiyle üretilmiş karmaşık triko desenleri tasarlıyor. Tasarımları, gözetim kameralarının kişiyi insan yerine bir hayvan veya cansız bir nesne zannetmesini sağlıyor.
- Adversarial Apparel: Siberpunk estetiği kullanarak kameralara karşı “dijital öz savunma” sağlayan Adversarial Apparel, DAmageNet ve APRICOT gibi yapay zeka veri setlerindeki güvenlik açıklarını kullanan gündelik kıyafetler üretiyor.
- Çift Modlu Termal Kamuflajlar: Gözetim sadece görünür ışıkta bitmiyor; güvenlik güçleri kızılötesi (termal) taramaları da yoğun kullanıyor. Yakın zamanda arXiv’de yayınlanan güncel bir araştırma, vücut ısısıyla tetiklendiğinde hem optik hem de termal yapay zeka kameralarını kandıran, gizli düşmansal desenleri ortaya çıkaran özel tişört prototipleri geliştirildiğini ortaya koyuyor.
Makinenin Kusurları ve Dijital Haklar
Bir dijital antropolog olarak baktığımda asıl meselenin salt teknolojik hileler veya havalı tişörtler olmadığını görüyorum. Bu tür projeler, devasa bütçelerle kurulan ve teknoloji şirketleri ya da devletler tarafından “hata yapmaz” gibi sunulan teknolojik gözetim altyapılarının aslında ne kadar kırılgan olduğunu kanıtlıyor. Kamusal alanı, herhangi bir rıza almadan algoritmaların denetimine bırakıyoruz. Bunun sonucunda, hukuk sistemimizin temel taşlarından olan “masumiyet karinesi” otonom bir tarama ile sessizce ihlal ediliyor.
Bir parça özel kumaşla makineyi işlemez hale getirmek, distopik bir çağda mahremiyetimizi korumak ve “makinelere okunamama hakkımızı” geri almak için sivil itaatsizliğin ve tasarımın şahane bir kesişimi. SosyalKafa’da veri politikalarını ve algoritmik sistemlerin günlük hayatımıza etkilerini konuşmaya devam edeceğiz.
