Erkan Saka
Yapay zeka modellerinin sadece metin veya görsel üretmekle kalmayıp otonom kod yazabildiği, finansal işlemler gerçekleştirebildiği ve kritik altyapı sistemlerine müdahale edebildiği bir döneme girdik. Ancak yapay zekanın kapasitesi arttıkça, sistemlerin insan kontrolünden çıkma (go rogue) ve felaket boyutunda zararlara yol açma riski de teknoloji dünyasının en büyük endişelerinden biri haline geldi. İşte bu endişelere yanıt olarak ABD Kongresi’nde çift partili (bipartisan) tarihi bir yasa tasarısı sunuldu: AI Kill Switch Act (Yapay Zeka İnfaz Düğmesi Yasası).
SosyalKafa olarak teknoloji ve toplum kesişimindeki bu kritik gelişmeyi, yasa tasarısının detaylarını ve dijital geleceğimize etkilerini mercek altına aldık.
AI Kill Switch Act Nedir?
Demokrat Temsilci Ted Lieu ve Cumhuriyetçi Temsilci Nathaniel Moran tarafından ABD Temsilciler Meclisi’ne sunulan yasa tasarısı, gelişmiş yapay zeka modelleri geliştiren şirketlerin, sistem kontrolden çıktığında müdahale edebilecek teknik araçları zorunlu kılmayı hedefliyor. Al Jazeera’nın aktardığı detaylı analize göre, bu yasa ABD hükümetine; insan yaşamını, kritik altyapıyı veya ulusal ekonomiyi tehdit eden yapay zeka sistemlerini yavaşlatma, askıya alma veya tamamen kapatma yetkisi veriyor.
Yasa Hangi Şirketleri ve Modelleri Kapsıyor?
Anadolu Ajansı’nın derlediği bilgilere göre, bu yasa her yapay zeka uygulamasını veya küçük ölçekli girişimcileri kapsamıyor. Yasanın hedefinde yalnızca sektörün en güçlü “öncü” (frontier) modelleri ve dev teknoloji şirketleri yer alıyor:
- Maliyet Eşiği: Eğitimi mevcut bulut bilişim fiyatlarıyla 100 milyon doların üzerinde maliyete sahip olan yapay zeka sistemleri kapsama giriyor.
- Gelir Eşiği: Teknolojiden yıllık en az 500 milyon dolar brüt gelir elde eden ve sistemi API veya barındırma hizmetiyle dış kullanıcılara açan şirketler zorunluluğa tabi tutuluyor.
- İstisnalar: Kişisel, akademik ve ticari olmayan yapay zeka çalışmaları bu yasal zorunluluğun dışında bırakılıyor.
“İnfaz Düğmesi” Gerçekte Nasıl Çalışacak?
Yasa tasarısında bahsedilen “kill switch” (kapatma / infaz düğmesi), sanılanın aksine devlet merkezindeki tek bir kırmızı buton anlamına gelmiyor. Şirketlerin kendi sistemlerine entegre etmek zorunda olduğu kademeli bir güvenlik mimarisini temsil ediyor. TechRadar’ın güvenlik raporunda vurgulandığı üzere, geliştiricilerin şu teknik kabiliyetleri sistem bünyesinde hazır bulundurması şart koşuluyor:
- Modelin yeni istekleri işlemesini anlık olarak durdurabilme,
- Şüpheli hesapları engelleme ve kullanıcı erişimini kısıtlama,
- Sisteme tahsis edilen işlem gücünü (compute) kademeli olarak düşürme,
- Tehlikeli veya kontrolden çıkmış belirli yetenekleri tekil olarak devre dışı bırakma,
- Son çare olarak modeli tamamen kapatma veya önceki bir yedek sürüme geri döndürme.
Hükümet Ne Zaman ve Nasıl Müdahale Edebilecek?
ABD İç Güvenlik Bakanlığı (DHS) ve Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), ancak yasada tanımlanmış bir “kapsam içi acil durum” (covered incident) gerçekleştiğinde müdahale emri çıkarabilecek. Bu müdahale şartları arasında şunlar yer alıyor:
- Yapay zeka modelinin kapatma komutlarına sabotaj uygulaması veya insan talimatlarını reddetmesi,
- Sistemin izleme mekanizmalarından kendi eylemlerini veya yeteneklerini gizlemesi,
- Geliştiricinin tanımlamadığı otonom amaçlar peşinde koşması,
- İstenmeyen model davranışlarının en az 10 ölüme veya 100 milyon dolarlık ekonomik zarara yol açması,
- Modelin kendi ağırlıklarına (model weights) izinsiz erişim sağlaması veya güvenlik kısıtlamalarını kendi kendine değiştirmesi.
Kaliforniya SB 1047’den Federal Yasaya: AI Güvenliğinde Yeni Dönem
Bu federal teklif, daha önce Kaliforniya eyaletinde gündeme gelen ve teknoloji devleri ile geliştiriciler arasında büyük tartışmalara yol açan SB 1047 Yasa Tasarısı sürecini akıllara getiriyor. Lawfare tarafından yapılan hukuki analizlerde de belirtildiği gibi, yapay zeka güvenliğinde ulusal standartların eksikliği eyalet düzeyindeki düzenlemeleri tetiklemişti. Ancak federal düzeydeki AI Kill Switch Act, konuyu doğrudan ulusal güvenlik ve siber savunma boyutuna taşıyor.
İnovasyon ve Güvenlik Dengesi
Yapay zekanın sınırlarının hızla genişlediği bu dönemde, inovasyon ile güvenlik arasındaki dengeyi kurmak dijital dünyanın en zorlu sınavı. Açık kaynak kodlu yapay zeka geliştiricileri bu tür düzenlemelerin inovasyonu yavaşlatacağından endişe ederken; güvenlik uzmanları ise denetimsiz otonom sistemlerin felaketlere yol açabileceği uyarısında bulunuyor.
SosyalKafa olarak takip ettiğimiz bu gelişmeler, yapay zekanın sadece teknik bir konu olmadığını, artık doğrudan jeopolitik ve toplumsal bir güvenlik meselesi haline geldiğini gösteriyor. İnsanlığın geliştirdiği en güçlü araçların dizginlerini yine insanın elinde tutabilmesi için bu tür yasal ve teknik çərçiveler önümüzdeki dönemde dijital gündemimizin merkezinde yer almaya devam edecek.
