Yapay Zeka Halüsinasyonu Az Daha ABD ve Çin Arasında Savaş Çıkarıyordu

Üretken yapay zekanın (Generative AI) potansiyel risklerini konuşurken genellikle telif hakları, derin sahtekarlıklar (deepfake) veya dezenformasyon kampanyalarından bahsediyoruz. Ancak CNN tarafından yayımlanan ve gündeme bomba gibi düşen son rapor, algoritmik yönetişimin ve askeri yapay zekanın ne kadar ölümcül hatalara yol açabileceğini gözler önüne serdi. Ortadoğu sularında seyreden bir Çin gemisine yönelik yapay zeka destekli bir istihbarat raporu, “tamamen yanlış” çıkmasına rağmen az daha iki süper güç arasında bir savaşı başlatıyordu.

“Tamamen Yanlış” Bir İstihbarat Raporu

Olayın merkezinde, ABD Özel Harekat Komutanlığı’na bağlı bir analistin kullandığı bir sohbet botu (chatbot) var. Gizmodo’nun ve konuyu yakından takip eden diğer kaynakların aktardığı detaylara göre, bu yapay zeka aracı açık kaynaklı istihbarat (OSINT) verileriyle devlete ait gizli sinyal istihbaratını (SIGINT) birleştirerek bir rapor üretti. Rapor, Ortadoğu’da bulunan söz konusu Çin gemisinin İran’daki bir nükleer silah programına kritik parçalar taşıdığını iddia ediyordu.

İşin en ürkütücü tarafı, ABD ordusunun bu yapay zeka halüsinasyonuna (hallucination) dayanarak gemiye havadan destekli bir baskın düzenlemek üzere uçakları ve askerleri hazır hale getirmesiydi. Son anda bir yetkilinin raporun yapay zeka tarafından oluşturulduğunu fark etmesi ve kargonun niteliğini teyit edememesi felaketi önledi. Olayı aktaran kaynaklardan biri, bu durumun “az daha bir savaş başlatacağını” net bir şekilde ifade ediyor.

Yapay Zeka Hızlandırma Stratejisi ve Doğrulama Eksikliği

Bu vahim olay, ABD Savunma Bakanı Pete Hegseth’in kısa süre önce duyurduğu “Yapay Zeka Hızlandırma Stratejisi” ile doğrudan bağlantılı. Askeri alanda yapay zekanın daha fazla kullanılması ve bürokratik engellerin kaldırılması amaçlanıyor. Ancak India Today’in derlediği habere göre, ordu içinde yapay zeka çıktılarının doğrulanmasını sağlayan ortak ve tutarlı bir standart henüz yok.

Savunma sistemlerinde kullanılan yapay zeka araçlarının birçoğunun, piyasadaki ticari yapay zeka modellerinin “makyajlanmış” versiyonları olduğu belirtiliyor. Ayrıca rapor, teknolojiye daha aşina olan genç analistlerin, bu sistemlerin çıktılarına yeterince sorgulamadan güvenme eğiliminde olduğunu gösteriyor. Express US’te yer alan uzman görüşleri de orduların yapay zekayı anlama ve etik sınırlarını çizme konusunda henüz çok yolun başında olduğunu kanıtlıyor.

Algoritmik Yönetişimin Karanlık Yüzü

SosyalKafa’da sıklıkla vurguladığımız gibi, algoritmaların ve yapay zeka sistemlerinin karar alma mekanizmalarına kontrolsüz entegrasyonu devasa sorunlar getiriyor. The Decoder’da yer alan bir istihbarat yetkilisinin şu çarpıcı alıntısı mevcut tehlikeyi tek cümlede özetliyor: “Yapay zeka, kötü bir fikre daha hızlı ulaşmanızı sağlar.”

Bu noktada karar alma süreçlerinde “insanın döngüde kalması” (human-in-the-loop) prensibinin ne kadar hayati olduğunu bir kez daha anlıyoruz. Eğer o son insan onayı devrede olmasaydı, makine öğrenimi modellerinin sivil kayıplara ya da küresel çapta bir diplomatik krize sebep olması an meselesiydi.