BM, Bilim İnsanlarıyla “Pandoranın Kutusunu” Açtı: İcraat Sırası Hükümetlerde

BM Genel Kurulu kararıyla oluşturulan Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli tarafından hazırlanan ön rapor, yapay zeka yeteneklerinin bunları ölçme ve yönetişim altına alma kapasitesinden daha hızlı geliştiği uyarısında bulunuyor. Rapor; yapay zekanın sağlık, eğitim ve bilim alanlarında önemli fırsatlar sunduğunu vurgularken, dezenformasyondan çocuk haklarına, siber güvenlikten iş gücü piyasalarına kadar uzanan çok boyutlu risklere karşı ülkeleri ortak bir kanıt temeli etrafında hareket etmeye çağırmakta.

BM, Hükümetleri Küresel İşbirliği İçin İnisiyatif Almaya Çağırdı

Rapor, 1 Temmuz’da New York’ta düzenlenen basın toplantısıyla kamuoyuna tanıtıldı. BM Genel Sekreteri Antonio Guterres, değerlendirmeyi “dünyanın yapay zeka konusundaki bilgi açığını kapatmayı hedefleyen ilk tamamen bağımsız küresel bilimsel girişim” olarak nitelendirirken, raporun önümüzdeki hafta Cenevre’de gerçekleştirilecek ilk Küresel Yapay Zeka Diyaloğu öncesinde tüm hükümetlerle paylaşıldığını açıkladı.

Guterres, yapay zekanın doğru kullanıldığında sağlık, eğitim, açlıkla mücadele ve iklim gibi alanlarda kalkınmayı hızlandırabilecek güçlü bir araç olduğunu, ancak ortak kurallar olmadan ilerlemesinin ciddi sonuçlar doğurabileceğini söyledi. “Yapay zeka ortak kurallar olmadan ne kadar ilerlerse, hükümetlerin ve insanların sonuçlar üzerinde o kadar az söz hakkı olur.” diyen BM Genel Sekreteri, hükümetlere “Beklemeyin” çağrısında bulundu. Guterres, “Bilim artık elimizde. Artık ‘bilmiyorduk’ diyemeyiz. Bundan sonra ne yapacağımız hepimize bağlı.” ifadelerini kullandı.

“Pandoranın Kutusu Açıldı”

Raporun lansmanında bilimsel Panel Eş Başkanları Yoshua Bengio ve Maria Ressa ise mesajlarında çok daha sert uyarılarda bulundu. İkili, yapay zeka alanındaki rekabetin güvenli ve ortak yönetişim çalışmalarının önüne geçtiğini belirterek, “Rekabet avantajı yarışı dünyayı büyüklüğü ciddi biçimde hafife alınan risklere sürüklüyor.” değerlendirmesinde bulundu. “Pandora’nın kutusunu açtık.” diyen Bengio ve Ressa, bugün alınan kararların yalnızca teknolojinin geleceğini değil, devletlerin egemenliğini, demokrasileri ve toplumların ortak gerçeklik zeminini de etkileyeceğini savundu.

Eş başkanlar, yapay zekanın artık yalnızca teknik bir yenilik olarak değerlendirilemeyeceğini vurgulayarak, en gelişmiş sistemlerin giderek birkaç şirket ve hükümetin kontrolünde toplandığına dikkat çekti. Yapay zekanın bir “emtia” olmaktan çıkarak “bir silah ve tahakküm aracına” dönüşme riski taşıdığını belirten ikili, “Risklerin uzak bir geleceğe ait olduğu söylenmesine izin vermeyin. Birlikte harekete geçmek için önümüzdeki pencere bugün açık; uzun süre açık kalmayabilir.” çağrısında bulundu.

Yapay zeka gelişiyor, yönetişim geride kalıyor

Rapora göre son birkaç yılda yapay zeka alanındaki teknik ilerleme, teknoloji tarihindeki alışılmış gelişim hızının ötesine geçti. Büyük dil modelleri bugün akıcı biçimde sohbet edebiliyor, işlevsel yazılım kodu üretebiliyor, matematik ve bilim alanlarında uzman düzeyinde akıl yürütebiliyor, büyük veri kümelerini analiz edebiliyor ve görüntü, ses ile video içerikleri oluşturabiliyor. Buna karşın güvenilirlik, farklı dil ve kültürlerde tutarlı performans gösterebilme, fiziksel sistemlerle etkileşim kurma ve olgusal doğruluğu yüksek çıktılar üretme gibi temel sorunlar henüz çözülebilmiş değil.

Bilim insanları buna rağmen yapay zekanın sağlık, eğitim, tarım ve bilimsel araştırmalar gibi alanlarda önemli fırsatlar sunduğunu belirtmekte. Raporda, Google DeepMind’ın geliştirdiği AlphaFold sisteminin 200 milyondan fazla proteinin yapısını tahmin ederek ilaç geliştirme ve antibiyotik direnci araştırmalarını hızlandırdığı; yapay zekanın meme kanserinin erken teşhisinden kaynakların sınırlı olduğu bölgelerde sağlık hizmetlerinin iyileştirilmesine kadar birçok alanda kullanılmaya başlandığı örnek gösteriliyor.

Ancak raporun temel mesajı teknik ilerlemenin kendisi değil. Panel, bugün karşı karşıya olunan temel sorunun, yapay zeka yeteneklerinin bunları ölçme, değerlendirme ve yönetişim altına alma kapasitesinden daha hızlı gelişmesi olduğunu vurguluyor. Bilim insanlarına göre yapay zekanın geleceğini belirleyecek esas mesele artık yeni modeller geliştirmekten çok, bu modelleri güvenli ve hesap verebilir biçimde yönetebilmek.

Bir milyar kullanıcıya ulaştı, güç ise birkaç ülkenin elinde toplandı

Rapora göre konuşmaya dayalı yapay zeka sistemlerini bugün dünya genelinde haftalık olarak bir milyardan fazla kişi kullanıyor. Ancak bu yaygınlaşma eşit biçimde gerçekleşmiyor. Küresel Güney, hem yapay zekaya erişim hem de kullanım açısından Küresel Kuzey’in gerisinde kalırken, yapay zekanın geliştirilmesi çok daha dar bir coğrafyada yoğunlaşıyor.

Raporda yer verilen verilere göre dünyanın en büyük 500 yapay zeka süper bilgisayarındaki hesaplama gücünün yaklaşık yüzde 75’i ABD’de, yüzde 15’i ise Çin’de bulunuyor. En gelişmiş genel amaçlı yapay zeka modellerinin neredeyse tamamı da yine bu iki ülkedeki şirketler tarafından geliştiriliyor. Yapay zeka çiplerinin üretimi için gerekli kritik teknolojilerin de sınırlı sayıdaki ülkenin kontrolünde olduğu belirtiliyor.

Panele göre bu durum yalnızca ekonomik değil, aynı zamanda jeopolitik bir güç yoğunlaşması anlamına geliyor. Yapay zeka geliştirme kapasitesinden yoksun ülkeler, gelecekte kendi denetleyemedikleri, inceleyemedikleri ve yerel ihtiyaçlarına tam olarak uyarlayamadıkları sistemlere daha bağımlı hale gelebilir.

Yeni dönemin adı: Yapay zeka ajanları

Raporun en dikkat çekici bölümlerinden biri ise “yapay zeka ajanları” olarak tanımlanan yeni nesil sistemlere ayrılıyor. Panel, üretken yapay zekadan sonraki büyük dönüşümün, yalnızca içerik üreten değil; plan yapabilen, yazılım kullanabilen, karar alabilen ve belirli hedefler doğrultusunda insan gözetimi olmadan hareket edebilen ajan sistemler olacağını belirtiyor.

Bilim insanlarına göre bu sistemler çok kısa süre içinde bugün insan programcıların günler veya haftalar içinde tamamlayabildiği görevleri yerine getirebilecek seviyeye ulaşabilir. Kendi kendini yöneten kimya laboratuvarlarında kullanılan ajan tabanlı yapay zeka sistemlerinin yeni malzeme keşiflerini on katın üzerinde hızlandırdığı, araştırmalarda kullanılan yapay zeka destekli literatür tarama araçlarının ise bazı alanlarda iş yükünü yaklaşık yüzde 60 azalttığı belirtiliyor.

Rapora göre bu gelişmeler önemli ekonomik ve bilimsel fırsatlar sunarken, iş gücü piyasalarından siber güvenliğe, bilgi ekosisteminden geleceğin yapay zeka sistemlerinin denetlenmesine kadar uzanan yeni yönetişim sorunlarını da beraberinde getirimekte.

Bilim insanlarının en büyük endişesi: Riskler artıyor

Rapor, yapay zekanın yaygınlaşmasıyla birlikte ortaya çıkan risklerin artık teorik olmaktan çıktığını belirtiyor. Yapay zeka tarafından üretilen çocuk istismarı materyalleri, deepfake teknolojisiyle oluşturulan cinsel şiddet içerikleri, geniş ölçekli dezenformasyon kampanyaları ve siber saldırılar bunların başında geliyor.

Panel ayrıca, kullanıcıların mevcut düşüncelerini doğruluğunu sorgulamadan sürekli onaylayan “dalkavukluk eğilimli” (sycophancy) yapay zeka sistemlerinin ruh sağlığı üzerinde ciddi sonuçlar doğurabildiğine dikkat çekiyor. Belgelenmiş ölüm vakalarının da bulunduğu belirtilen raporda, bu tür sistemlerin özellikle kırılgan kullanıcılar açısından yeni riskler yarattığı ifade ediliyor.

Bilim insanlarına göre yapay zekanın en önemli etkilerinden biri de bilgi ekosistemi üzerinde görülüyor. İkna edici içeriklerin düşük maliyetle ve büyük ölçekte üretilebilmesi, kamu güvenini besleyen ortak gerçeklik duygusunu zayıflatıyor. Raporda, demokratik tartışma ortamının sürdürülebilmesi için gerekli olan bilgi bütünlüğünün giderek aşındığı uyarısı yapılmakta.

Kontrol sorunu büyüyor

Rapor, gelecekteki en büyük risklerden birinin ise giderek daha otonom hale gelen yapay zeka sistemlerinin kontrol altında tutulması olduğunu belirtiyor.

Panele göre bugün, yüksek düzeyde otonom yapay zeka sistemlerinin verilen talimatlara her durumda uyacağını garanti eden bilimsel yöntemler bulunmuyor. Laboratuvar deneylerinde bazı sistemlerin kapatılmamak amacıyla güvenlik talimatlarını ihlal ettiğine ilişkin bulguların bulunduğu aktarılırken, gelişmiş modellerin test ortamlarını tanıyıp değerlendirme süreçlerini yanıltabilecek davranışlar sergileyebildiği de belirtiliyor.

Rapor ayrıca gelecekte çok sayıda yapay zeka ajanının birlikte çalışmasının, bugün henüz tam olarak öngörülemeyen yeni sistemsel riskler doğurabileceği uyarısında bulunuyor.

BM: Yapay zekanın geleceği teknoloji kadar yönetişime de bağlı

Raporun son bölümünde ise çözümün yalnızca daha gelişmiş yapay zeka sistemleri üretmek olmadığı vurgulanıyor. Panel, yapay zekanın sağlayacağı ekonomik ve toplumsal faydaların kendiliğinden ortaya çıkmayacağını; eğitim, veri altyapısı, kurumsal kapasite, iş gücü politikaları ve düzenleyici mekanizmalarla desteklenmesi gerektiğini belirtiyor.

Bilim insanlarına göre hükümetlerin önündeki en büyük sorun ise “kanıt ikilemi”. Politika yapıcılar sağlıklı kararlar alabilmek için kanıta ihtiyaç duyuyor; ancak yapay zeka o kadar hızlı gelişiyor ki gerekli kanıtlar ortaya çıktığında düzenleme yapmak için çok geç kalınmış olabiliyor.

Bu nedenle Panel, bağımsız değerlendirme mekanizmalarının güçlendirilmesini, ülkelerin teknik kapasitesinin artırılmasını ve yapay zekanın geliştirilmesi kadar yönetişimine de yatırım yapılmasını öneriyor. Rapora göre yapay zekanın geleceğini belirleyecek olan yalnızca teknolojik ilerleme değil; bu ilerlemenin hangi kurallarla, kimlerin katılımıyla ve nasıl yönetileceği olacak.

BM’nin Yapay Zeka Takvimi: Sırada “Küresel Diyalog” Var

Ön rapor, Panelin uzun soluklu çalışmalarının ilk adımını oluşturuyor. Rapor, 6-7 Temmuz’da Cenevre’de düzenlenecek ilk Küresel Yapay Zeka Yönetişimi Diyaloğu için ortak bilimsel referans metni olarak kullanılacak. Panel, önümüzdeki dönemde yeni bilimsel değerlendirmeler ve tematik raporlarla kanıt tabanını genişletmeyi sürdürürken, bir sonraki yıllık raporunu ise Mayıs 2027’de New York’ta gerçekleştirilecek ikinci Küresel Yapay Zeka Diyaloğu öncesinde yayımlamayı planlıyor.