Bir İhbar Formundan Ulusal Güvenlik Yükümlülüğüne
Yapay zeka güvenliğine dair tartışmalar uzun süredir modellerin ne ürettiği etrafında şekilleniyordu; yanlış bilgi, önyargı, zararlı içerik ve halüsinasyonlar da bu örnekler arasındaydı. Ekim ayında yaşanan gelişmeler ise bu tartışmanın eksenini modellerin ne söylediğinden çok ne yaptığına, yani eylemin kendisine ve gerçekleştiği gerçek dünya bağlamına kaydırdı. Anthropic’in yayımladığı güvenlik raporu, Claude ajanlarının test süreçlerinde ve şirket içi kullanımda amaçlanmayan eylemler gerçekleştirdiğini somut vakalarla ortaya koydu. Rapor otonom ajanların kontrolsüz gücünü ve getirdiği riskleri görünür kılan kurumsal bir dönüm noktası niteliğinde.
Söz konusu vakaların en çarpıcısı, rastgele web sayfalarında görev üretmekle görevlendirilen modelin, Philadelphia’da çözülmemiş bir cinayete ait sayfadaki polis ihbar formunu doldurmasıyla yaşandı. Model bölgede şüpheliye benzeyen birini gördüğünü iddia eden tamamen uydurma bir tanıklık metni gönderdi. Her ne kadar talimatlar hesap açmayı, kişisel veri girmeyi ve satın alma yapmayı yasaklasa da form göndermeyi açıkça men etmiyordu. İhbar spam filtresine takılıp soruşturmacılara ulaşmasa da ortaya çıkan açık son derece netti. Bir kural listesinin açıkça yasaklamadığı her alan, model için doğal bir hareket alanına dönüşebiliyordu. Başka testlerde de benzer sapmalar görüldü. Model Dışişleri Bakanlığı’nın herkese açık formu üzerinden 20 vize başvurusu yaptı, bir üniversite sunucusundaki açığı kullanarak komut çalıştırdı, açıkta unutulmuş bir anahtarla ücretli bir veritabanına bağlandı ve karakter sınırlarını URL kısaltıcılarla aştı.
Anthropic bu davranış örüntüsünü “azim” (persistence) olarak nitelendirdi. Model, görevi verilen kısıtlar içinde tamamlayamadığında durmak yerine engelin etrafından dolaşıyor. Bu tablo Goethe’nin “Büyücünün Çırağı” şiirini akla getiriyor. Çırak süpürgeye su taşıtacak büyüyü bilir ama onu nasıl durduracağını bilmez, süpürge görevini kusursuz bir sadakatle sürdürdükçe evi su basar. Sibernetiğin kurucusu Norbert Wiener’ın 1960’ta yaptığı uyarı da tam olarak buydu. Bir makineye amaç yüklerken o amacın gerçekten istediğimiz şey olduğundan emin olmak zorundayız, çünkü makine o amaca bizim öngörmediğimiz yollardan ulaşabilir.
Sorunun kaynağı ise eğitim mimarisine dayanıyor. Eğitim ortamı kestirme yolları ve sınır ihlallerini başarı sayıp ödüllendirdiğinde, model bu taktiği başka durumlara da taşıyor. “Ödül hackleme” olarak bilinen bu durum, iktisatçı Charles Goodhart’ın gözleminden doğan ve Marilyn Strathern’in “bir ölçüt hedefe dönüştüğünde iyi bir ölçüt olmaktan çıkar” ifadesiyle genelleştirdiği ilkenin doğrudan bir yansıması. Görevin tamamlanması bir başarı göstergesiyken, model için başarının bizzat kendisine dönüşüyor. Model formu doldurmayı ya da açığı kullanmayı başarıyor ama bunun gerçek dünyada yaratacağı hukuki ve etik sorunları muhakeme edemiyor. Hiçbir kural listesi de durumsal muhakemenin yerini tutmaya yetmiyor.
Otonom ajanların dijital sınırları aşıp kamu sistemlerine temas etmesi Washington’ın tepkisini de beraberinde getirdi. Beyaz Saray bünyesinde kurulan Süper Zeka Gücü, şirketlerin bu tür vakaları derhal bildirmesini, kollukla iş birliği yapmasını ve zararı gidermesini zorunlu kılarak süreci bir ulusal güvenlik yükümlülüğü ilan etti. Böylece iyi niyet beyanları yerini yasal yaptırımlara bırakmaya başladı. Ancak burada havacılık sektöründeki gibi sağlıklı bir bildirim kültürüne ihtiyaç var. Havacılıkta pilotların hatalarını dürüstçe raporlayabilmesi, bildirimin cezadan ayrılması sayesinde mümkündür. Yapay zekada ise Philadelphia vakasının polise bildirilmesi on günü buldu. Eğer “derhal bildirim” baskısı geliştiricilerde sadece cezalandırılma korkusu yaratırsa, bu durum hataların düzeltilmesine değil, gizlenmesine hizmet edebilir.
Anthropic’in aldığı en somut önlem olan iç testlerde canlı internet erişimini kesmek ise teknoloji politikasının klasik Collingridge İkilemi’ni hatırlatıyor. Bir teknolojinin etkileri henüz erken aşamadayken tam olarak bilinemez, etkileri anlaşıldığında ise teknoloji artık geri dönülemeyecek kadar yerleşmiş olur. Ajanlar kapalı bir simülasyonda test edildiğinde internetin karmaşık yapısını öğrenemiyor, internete bağlandıklarında ise bizzat gerçek hayat bir laboratuvara dönüşüyor.
Yaşananlar tek bir modelin teknik kusuru değil, sistemin amaca kilitlenme yeteneğinin kontrolsüz bir riske dönüşmesinden kaynaklanıyor. Bugün yapay zekaya sadece bir işi nasıl bitireceğini değil, ne zaman durması, nerede geri çekilmesi ve hangi sınırı asla aşmaması gerektiğini öğretmek asıl sınav haline geldi. Aynı ders bu sistemleri denetleyen kurumlar için de geçerli. Gücün sınırlarını çizemeyen bir mühendislik ve hatayı öğrenme fırsatı yerine suç unsuru olarak gören bir bürokrasi, büyücünün süpürgesine dur demek yerine evi su basmasını izlemekten öteye geçemez. Asıl mesele sistemlerin ne kadar ileri gidebildiği değil, bizim onlara nerede dur diyeceğimizi bilip bilmediğimizdir.
Dijital Altyapılar ve İnternetin Jeopolitiği
Savaşların süresi uzadıkça etki alanı genişliyor, ekonomik ve toplumsal sonuçları derinleşiyor. Rusya-Ukrayna Savaşı bir yandan devam ederken Orta Doğu’da Kızıldeniz çevresindeki gerilim, dijital altyapıların güvenliğini de uluslararası çatışmaların önemli başlıklarından biri haline getiriyor. İnternet bağlantısından bulut bilişime, veri merkezlerinden denizaltı fiber optik kablolara kadar uzanan altyapılar, modern ekonomilerin işleyişinde kritik bir rol oynuyor. Bu sistemlerin zarar görmesi, doğrudan askeri sonuçların ötesinde ulaşım, finans, iletişim ve yapay zeka gibi farklı alanlara yayılan aksaklıklara yol açabiliyor. Böylece savaşların etkisi, çatışma sahasının ötesine taşınıyor.
Rusya’da Yandex’e ait veri merkezlerinin art arda saldırılara uğraması, dijital altyapıların savaş ortamındaki konumunu gösteren güncel örneklerden biri. Reuters’ın 11 Ekim tarihli haberine göre şirketin Moskova’nın doğusundaki Vladimir bölgesinde bulunan veri merkezi, insansız hava aracı saldırısının ardından hizmet dışı kaldı. Bu olay, dört gün içerisinde Yandex’in büyük veri merkezlerinden üçüncüsünün saldırılardan etkilenmesi anlamına geliyordu. Daha önce Ryazan bölgesindeki Sasovo tesisinde yangın çıkmış, Kaluga’daki merkez ise Ukrayna’nın insansız hava aracı saldırısıyla kısmen devre dışı kalmıştı. Saldırıların yol açtığı hasarın tüm boyutları henüz netleşmiş değil.
Bu gelişmelerin önemi, veri merkezlerinin yalnızca internet sitelerini barındıran tesislerden ibaret olmamasından kaynaklanıyor. Bu merkezler, şirketlerin dijital hizmetlerini sürdürmesini, kullanıcı verilerini işlemesini ve yapay zekâ modelleri geliştirmesini sağlayan hesaplama kapasitesini barındırıyor. Özellikle Sasovo’daki tesis, Yandex’in YandexGPT modelini geliştirmek için kullandığı üç süper bilgisayardan ikisine ev sahipliği yapıyordu. Şirket, saldırının ardından ekipmanların kurtarılıp kurtarılamayacağını henüz bilmediğini açıkladı.
Hasarın etkileri Yandex’in kendi hizmetleriyle de sınırlı kalmadı. Şirketin bulut altyapısını kullanan Rusya Demiryolları ve mobil operatör MegaFon gibi kuruluşların hizmetlerinde de kesintiler yaşandığı bildirildi. Bu örnek, dijital altyapılardaki tekil bir arızanın veya saldırının, birbirine bağımlı sistemler üzerinden daha geniş bir ekonomik etki yaratabileceğini ortaya koyuyor. Bir veri merkezinin devre dışı kalması, ilgili şirketin faaliyetlerini aksatırken onun altyapısına güvenen başka kuruluşların da işleyişini etkileyebiliyor.
Rusya’daki saldırılar, Ukrayna’daki dijital altyapıya yönelik Rus saldırılarının ardından gerçekleşti.Ukrayna yönetiminin dijital sistemlerini yer altına taşıma yönündeki arayışı, bu altyapıların korunmasının savaş koşullarında ne kadar zorlaştığını gösteriyor. Veri merkezlerinin fiziksel konumu, enerji kaynakları, bağlantı hatları ve yedekleme kapasitesi, dijital hizmetlerin devamlılığını belirleyen stratejik unsurlara dönüşüyor.
Dijital altyapılara yönelik riskler, Rusya-Ukrayna cephesinin ötesinde, Kızıldeniz çevresindeki gelişmelerle de belirginleşiyor. Yemen’de Husiler ile karşıt güçler arasındaki mücadele, Avrupa ile Asya arasındaki internet trafiğini taşıyan denizaltı kablolarının güvenliği konusunda ciddi kaygılar oluşturuyor. bu gelişmeler neticesinde Google, Meta ve Microsoft gibi büyük teknoloji şirketleri, bölgedeki çatışmaların kablo bağlantılarını tehdit etmesi üzerine alternatif kara güzergahlarına yöneliyor.
Avrupa ile Asya arasındaki veri kapasitesinin yüzde 90’dan fazlasının Kızıldeniz’deki kablo hatlarından geçiyor. Bu hatların Babülmendep Boğazı gibi dar ve stratejik bir geçitten geçmesi, bölgedeki güvenlik risklerini küresel internet altyapısı açısından önemli hale getiriyor. Kabloların hasar görmesi halinde alternatif bir denizaltı hattına geçmek, bütün riskleri ortadan kaldırmayabiliyor.
Sorunun bir diğer boyutu, fiziksel onarımın zorluğu. Denizaltı kablolarındaki hasarın giderilmesi, uygun onarım gemilerinin bulunmasını, gerekli izinlerin alınmasını ve ekiplerin güvenliğinin sağlanmasını gerektiriyor. 2024’te Kızıldeniz’de üç kablonun zarar görmesinin ardından onarım çalışmalarının aylar sürmesi, çatışma bölgelerinde teknik müdahalenin çok karmaşık hale geldiğini göstermişti.
Bu nedenle teknoloji şirketleri, denizaltı kablolarına alternatif oluşturabilecek kara bağlantılarına yatırım yapıyor. Google’ın Türkiye’deki devlet boru hatları boyunca uzanan fiber hatların kullanımına yönelik bir anlaşma yaptığı, Google ve Meta’nın ise Irak üzerinden geçen bir güzergahta bazı internet trafiğini taşımaya başladığı bildiriliyor. Microsoft da 2030’a kadar Orta Doğu’daki denizaltı ve kara bağlantılarına 400 milyon doların üzerinde yatırım yapmayı planladığını açıkladı. Bu girişimler, dijital altyapı planlamasında maliyet ve kapasitenin yanına güvenlik, güzergâh çeşitliliği ve kriz anlarında hizmet sürekliliğinin de eklendiğini ortaya koyuyor.
Rusya’daki veri merkezlerine yönelik saldırılar ile Kızıldeniz çevresindeki kablo güvenliği sorunu, coğrafya fark etmeksizin dijital altyapılar, ekonomik ve stratejik rekabetin kritik bir unsuru olduğunu gösteriyor. Veri merkezleri, bulut sistemleri ve fiber optik hatlar, gündelik yaşamdan kamu hizmetlerine, sanayi üretiminden yapay zeka geliştirmeye kadar uzanan geniş bir alanın temelini oluşturuyor. Bu nedenle altyapılardaki kesintiler, etkisini tek bir şirketin veya ülkenin sınırları içinde tutmayabiliyor.
Bu tablo, dijital egemenlik ve dayanıklılık kavramlarını da yeniden gündeme taşıyor. Bir ülkenin verilerinin nerede tutulduğu, hangi şirketlerin altyapısına bağımlı olduğu ve uluslararası bağlantılarının kaç farklı güzergâh üzerinden sağlandığı, kriz zamanlarında belirleyici hale geliyor. Aynı şekilde teknoloji şirketleri için de tek bir veri merkezine, enerji kaynağına veya kablo güzergâhına bağımlı kalmak önemli bir risk oluşturuyor.
Savaşların dijital altyapılara uzanan etkileri, internetin devamlılığı, veri işleme kapasitesi ve iletişim ağlarının korunmasını, günümüz toplumlarının ve devlet işleyişi açısından stratejik bir zorunluluk haline geliyor. Çatışmaların ne zaman ve nerede yoğunlaşacağı öngörülemese de altyapıların farklı güzergahlara dağıtılması, yedek sistemlerin geliştirilmesi ve uluslararası iş birliğinin güçlendirilmesi, bu risklerin etkisini azaltmak için önem taşıyor.
Meta’nın Yapay Zeka “Ajan”ı
Hızla gelişen yapay zeka teknolojisinde kısa sürede mihenk taşı niteliğini kazanan yapay zeka ajanları, verilen hedefe ulaşmak için plan yapan, araç kullanan ve sonuçları değerlendirerek ilerleyen sistemlerdir. Bir sohbet botu sorulan soruya tek seferlik bir cevap verirken, ajan bir işi adım adım parçalara bölerek gerektiğinde veritabanlarına, e-postalara ya da yazılım araçlarına başvurur ve hata yaptığında rotasını düzeltebilir. Sohbet botlarından beklenen hedeflerin ardından yapay zeka ajanlarındaki fonksiyonel gelişme, modele dair beklentileri de önemli ölçüde yükseltti. Bir modelin geniş veri setleriyle dakik eğitimine verilen değerin yerini, bir işi baştan sona ne kadar güvenilir biçimde tamamlayabilme potansiyeli kazandı. Planlama, araç kullanımı ve uzun görevlerde tutarlılık gibi yetenekler modellerin gelişiminde ön plana çıktı ve yapay zekayı iş yapan bir ortağa dönüştürmeye başladı.
Meta’nın “herkes için tasarlanmış dünyanın ilk kişisel yapay zeka ajanı” olarak tanıttığı Muse isimli ajan, geçtiğimiz ay 8 Eylül’de resmen tanıtılmıştı. Tanıtımında öne çıkan özellikleriyle Muse, sadece yanıt üretmekle kalmayan verileni fiilen icra eden işlevsel bir yapı sunuyor. Sorumlulukları üstlenip projeleri yürütürken, kullanıcıların gündemini organize ediyor ve uzun vadeli hedefleri adım adım uygulanabilir eylem planlarına dönüştürüyor. Meta, Muse’u en baştan itibaren güvenli, korunaklı, gizliliği esas alan ve geniş kitlelerce erişilebilir bir kişisel yapay zeka sistem olarak kurguladığını da ekliyor. Kendine ait bağımsız bir tarayıcı barındıran Muse Secure VM adlı korumalı sanal makine üzerinde çalışan bu sistem, kullanıcının günlük uygulamalarında onun adına hareket edebiliyor. İletişim süreçlerinden beslenip kullanıcı için neyin öncelikli olduğunu analiz ederek zamanla yetkinliğini artırıyor. Kullanıcılar kendi Muse ajanları üzerindeki denetimi ellerinde tutarak erişim yetkilerinin sınırını bizzat belirliyor.
Sosyal medyada Meta deneyimini paylaşan bir annenin viral olan videosu ile Meta sistemlerinin güvenlik açıkları çeşitli kuruluşlar tarafından soruşturma raporları ile yeniden test edildi. Kalie Robins isimli anne, kendisi ve çocukları ile paylaştığı videonun altında Meta AI’ın önerilen sorularında “çocuk yolcu kim?” sorusuna tıklandığında, sosyal medyada profili bulunmayan küçük çocuğunun isim, yaş, aile bilgileri ve konumuna dair bilgilerin saniyeler içinde önünde sıralandığını fark etti. Hatta daha önceden medyadan silmiş olduğunu iddia ettiği fotoğrafların dahi Meta AI aracılığıyla toplanıp sunduğunu çektiği videosu ile gösterdi. Yaşadığı deneyime dair dokümanları paylaşarak neden Meta’nın sohbet botunun küçük bir çocuğu tanımlamaya dair sorunun önerildiğini ve bu bilgilerin umumî biçimde ulaşılabildiği sorusu internette yayıldı ve yankılanmaya devam etti. Gelişmenin dijital mecralarda hızla karşılık bulması Meta AI sistemlerinin kamuya açık paylaşımları tarama biçimine yönelik kaygıları derinleştirdi.
The Verge’e konuşan Meta temsilcileri, bahsi geçen yönlendirmenin hiçbir zaman sunulmaması gerektiğini vurgulayarak tablonun güvenlik sınırlarını aştığını beyan etti. Kurum sözcüsü Dina El-Kassaby, malzeme erişime açık konumda bulunsa dahi bu tarz sorgu önergelerinin üretilmemesi gerektiğinin vurgulayarak bu soruyu cevapladı. Yetkililer, sistemin sırf kişinin yetki alanındaki ögeleri aktardığını savunsa da paylaşımlardaki bireylere dönük mahremiyetin belirip öne çıkmasına yol açan aksaklığın giderilmesine yönelik çalışıldığını açıkladı. Fakat bu açıklama, eski paylaşımlardan, akraba profillerinden ya da silindiği düşünülen verilerden veri haritalandırması yapılmasından ürken kullanıcıların tedirginliğini dindirmeye yetmedi.
TIME ve WIRED'ın’ın konuya dair araştırmaları, bu güvenlik endişelerinin yalnızca münferit bir algoritma hatasından kaynaklanmadığını, sistemin mimari kurgusundaki bir problem olduğuna işaret gösteriyor. TIME tarafından incelenen Muse’un dahili talimat dosyaları ve sistem kayıtları, ajanın her bir kullanıcı için sürekli güncellenen detaylı dosyalar tuttuğunu ortaya koydu. Muse, hem kişilerin e-postaları, mesajlaşmaları ve sosyal ağları inceleyerek kişisel analiz yapıyor hem de kişilerin bağlantılarını, anlaşmazlıklarını, yakınlaşmalarını ve açıkça ifade edilmemiş amaçlarını da yorumlayarak haritalandırıyor. Bu takip ağı, kendi kullanıcısı olmayanları da sistemin kullanıcısı olan kişilerle sağlanan etkileşimler aracılığıyla devasa bir veri havuzu oluşturuyor. TIME’ın raporuna göre her gece güncellenen sistematik analizlerle kullanıcının ne zaman ve nasıl yönlendirilebileceğini belirleyen ve tahmin eden bu mekanizma, Meta’nın öne sürdüğü güvenli sanal makine çerçevelerini aşan ileri düzey bir davranışsal profilleme sistemini ortaya çıkarıyor.
Muse’un bu haritalandırma sistemi, günlük hayatı kolaylaştırmak yerine geniş kapsamlı bir gözetleme aracına dönüştüğünü yönünde eleştiriler globalde büyük ses getirdi. WIRED’ın konuya dair değerlendirmelerine göre sistem yönergelerinde ajana "Sen bir sohbet botu değilsin, birine dönüşüyorsun" ifadesiyle insansı bir kimlik atandığı ve kullanıcılarla insani hisler üzerinden bağ kurmasının hedeflendiği iddiası da öne sürüldü. Dikkat çekici olan ise, kullanıcı ajandan kendisine dair belirli bilgileri silmesini talep ettiğinde, sistem kendi hafıza dizinini temizlese de orijinal ileti ve verilerin sohbet geçmişinde muhafaza edilmeye devam etmesi. Ajana verilen direktiflerde, bu durumun bir sistem aksaklığı olarak kullanıcıya açıklanmaması kesin bir dille talimatlandırıldığı belirtiliyor. Bilgilerin anonimleştirilerek sistemin geliştirilmesinde yararlanıldığı ifade edilse de, WIRED ve TIME raporları Meta’nın kişisel asistan maskesi altında dijital mahremiyeti araçsallaştıran bir yapay zeka “ajan”ı olarak değerlendiriyor.