Her 23 Nisan Ulusal Egemenlik ve Çocuk Bayramı’nda, yöneticilerin koltuklarını bir günlüğüne çocuklara emanet etmesi tatlı bir gelenektir. Bu sembolik devir teslim, çocuklara verilen değeri ve geleceğe duyulan umudu temsil ederken, aynı zamanda o koltukların gerçek sorumluluğunun yetişkinlerde olduğunu da biliriz. Günümüzde ise, bu analojiyi farklı bir bağlamda yaşıyor gibiyiz: İş dünyası başta olmak üzere pek çok alanda karar alma yetkisini giderek daha fazla yapay zekaya (YZ) devrediyoruz. Ancak bu seferki devir teslim, 23 Nisan’daki gibi sembolik olmaktan çok daha gerçek ve derin sonuçlar doğurma potansiyeli taşıyor.

Öyle ki, SAP tarafından yapılan yeni bir araştırma, yöneticilerin %74’ünün iş tavsiyesi konusunda YZ’ye, meslektaşlarından veya arkadaşlarından daha fazla güvendiğini ortaya koyuyor. Hatta yöneticilerin %38’i YZ’nin kendileri adına iş kararları vermesine güvenirken, %44’ü teknolojinin mantığını kendi içgörülerinin önüne koyuyor. Yöneticiler YZ’yi veri analizi, tahmin ve öngörü oluşturma, daha önce fark edilmeyen riskleri veya sorunları tespit etme gibi alanlarda aktif olarak kullanıyor ve %64’ü üretken yapay zekayı yönetici karar alma süreçlerine entegre etmiş veya etmeye devam ediyor.

Ancak bu yüksek güven ve entegrasyonun madalyonun diğer yüzünde, Edelman’ın 2025 Güven Barometresi Raporu’nda da vurgulandığı gibi, küresel çapta YZ’ye duyulan güvende belirgin bir bölünme ve endişeler yatıyor. Örneğin, Çin’de insanların %72’si YZ’ye güvenirken, ABD’de bu oran sadece %32. Küresel çalışanların %59’u otomasyon nedeniyle işlerini kaybetme korkusu yaşarken, %63’ü yabancı ülkelerin YZ’yi bilgi savaşı için kullanmasından endişe duyuyor ve küresel olarak insanların sadece %44’ü işletmelerin YZ kullanmasından rahatlık duyuyor. Teknoloji şirketlerine duyulan genel güvenin de son on yılda düştüğünü görüyoruz.

Bu durum, YZ’nin potansiyel risklerini daha da önemli kılıyor. Üretken YZ modellerinin yetersiz eğitim materyalleri nedeniyle “halüsinasyon” görme, yani yanlış veya yanıltıcı bilgiler üretme potansiyeli bulunuyor. Unutmamalıyız ki, YZ bilinçli değildir ve insanlar gibi eleştirel düşünemez. Yöneticilerin dahi karmaşık ve yüksek değerli stratejik kararlarda insan denetimini devrede tutması gerektiği vurgulanıyor. Bu risklerin yönetilmesi ihtiyacı ise, bir önceki yazımızda ele aldığımız AB Yapay Zeka Yasası gibi düzenlemelerin önemini ortaya koyuyor.

Yapay zekanın risklerini tartışırken göz ardı edemeyeceğimiz bir diğer gelişme ise, makinelerin insanları taklit etme becerisindeki şaşırtıcı artıştır. Alan Turing’in meşhur ‘Turing Testi’ni, yani bir makinenin insanı kendisinin makine olmadığına ikna edip edemeyeceğini ölçen testi, yakın zamanda yapılan deneylerde GPT-4.5 gibi gelişmiş dil modellerinin yüksek bir başarıyla (%73 oranında insanları kandırarak) geçtiği rapor edildi. Bu, yapay zekanın artık sadece bilgi üretmekle kalmayıp, son derece inandırıcı ‘insansı’ sohbetler yürütebildiği anlamına geliyor. Peki bu durum riskleri nasıl artırıyor? İnsanları kandırma yeteneği bu kadar gelişmiş bir teknoloji, sahte kimlikler yaratmak, sofistike kimlik avı (phishing) saldırıları düzenlemek, sosyal mühendislik yapmak, kamuoyunu manipüle etmek ve çevrimiçi platformlarda güveni sarsmak için çok daha güçlü bir araç haline geliyor. Karşımızdakinin insan mı yoksa makine mi olduğunu ayırt edemediğimiz bir noktada, yanlış bilgi ve kötü niyetli manipülasyonlara karşı savunmasızlığımız artıyor.

Uluslararası Yapay Zeka Güvenlik Raporu 2025

Yapay zekanın insanı taklit etme yeteneğindeki bu baş döndürücü ilerleme ve beraberinde getirdiği potansiyel tehlikeler, küresel ölçekte de ciddi bir endişe kaynağıdır. Tam da bu noktada, 30 ülke, AB, OECD ve BM gibi kuruluşların katkılarıyla, 96 uluslararası uzmanın hazırladığı ve Ocak 2025’te yayınlanan Uluslararası Yapay Zeka Güvenlik Raporu, bu riskleri anlamak ve yönetmek için kapsamlı bir bilimsel çerçeve sunuyor. Rapor, özellikle yetenekleri hızla artan ve riskleri henüz tam olarak anlaşılmamış olan genel amaçlı yapay zekaya (General-Purpose AI) odaklanıyor.

Raporun içerisinde yer alan önemli başlıklardan biri de Riskler bölümünde üç ana başlık altında toplanıyor: Kötü Amaçlı Kullanım, Hatalı Çalışma ve Sistemsel Riskler.

Kötü Amaçlı Kullanım başlığı altında, YZ’nin kasıtlı olarak zarar verme potansiyeli inceleniyor. Deepfake’ler aracılığıyla dolandırıcılık, rızasız müstehcen içerik oluşturma, şantaj ve itibar saldırıları gibi bireylere yönelik zararların yaygınlığına dair veri eksikliği olsa da, bu risklerin gerçek olduğu vurgulanıyor. YZ’nin ikna edici içerik üretme kabiliyetiyle kamuoyunu ve siyasi süreçleri manipüle etme riski artsa da, bu kampanyaların etkililiği ve dağıtımın önemi hala tartışılıyor. Siber saldırı alanında ise YZ, saldırganların işini kolaylaştırırken, biyolojik ve kimyasal silah geliştirme konusunda endişe verici bir potansiyel taşıdığı, hatta bazı testlerde uzmanlardan daha iyi planlar çıkarabildiği belirtiliyor.

Hatalı Çalışma (Malfunctions) kategorisi, YZ’nin kasıtsız zararlarını ele alıyor. Güvenilirlik sorunları, yani YZ’nin ‘halüsinasyon’ görmesi, hatalı kod yazması veya yanlış tıbbi tavsiye vermesi, ciddi sonuçlar doğurabiliyor. Eğitim verilerinden kaynaklanan veya tasarım sırasında ortaya çıkan önyargılar (bias), ırk, cinsiyet, yaş gibi temellerde ayrımcılığa yol açabiliyor. Geleceğe yönelik en çok tartışılan risklerden biri olan ‘kontrol kaybı’ ise, süper zeki YZ sistemlerinin insan kontrolünden çıkma olasılığını ifade ediyor; bu riskin olasılığı ve zamanlaması konusunda uzmanlar arasında fikir birliği bulunmuyor.

Son olarak Sistemsel Riskler, YZ’nin yaygınlaşmasının daha geniş toplumsal etkilerini kapsıyor. İşgücü piyasasında otomasyon kaynaklı iş kayıpları ve ücret değişimleri, Ar-Ge’nin belirli ülkelerde yoğunlaşmasıyla artan küresel eşitsizlikler, az sayıda şirketin pazara hakim olmasıyla oluşan tek noktadan hata riskleri, artan enerji ve su tüketimiyle çevresel etkiler, kişisel verilerin gizliliği ve YZ’nin telif hakları konusundaki zorlukları bu başlık altında değerlendiriliyor.

Uluslararası Yapay Zeka Güvenlik Raporu, YZ’nin geleceğinin belirsizliklerle dolu olduğunu, hem büyük faydalar hem de ciddi riskler barındırdığını ve bu teknolojinin yönünü belirleyecek olanın bugünkü bilinçli tercihlerimiz olduğunu güçlü bir şekilde ortaya koyuyor.

Riskleri Anlamak ve Sınıflandırmak: MIT’nin Katkısı

Uluslararası raporun ortaya koyduğu bu geniş ve karmaşık risk yelpazesini anlamlandırmak ve yönetmek için sistematik yaklaşımlara ihtiyaç duyulduğu aşikar. Farklı disiplinler ve sektörlerde YZ risklerinin genellikle parçalı bir şekilde, ortak bir dil olmadan tartışılması bu ihtiyacı daha da artırıyor. Bu noktada, MIT Sloan araştırmacılarının öncülük ettiği Yapay Zeka Risk Deposu (AI Risk Repository) gibi önemli girişimler devreye giriyor.

700’den fazla YZ riskini literatürden derleyerek nedenlerine (örn: kasıtlı mı, kasıtsız mı?) ve etki alanlarına (örn: gizlilik, siber saldırı, önyargı) göre sınıflandıran bu yaşayan veritabanı, dağınık haldeki risk tartışmalarına ortak bir dil ve çerçeve getirmeyi hedefliyor. MIT’nin bu çalışması; politika yapıcılara düzenlemeler için yol göstermekten, şirketlere kendi risk değerlendirmelerini yapmaları için yardımcı olmaya, akademisyenlere bilgi boşluklarını tespit etme imkanı sunmaya kadar geniş bir yelpazede fayda sağlama potansiyeli taşıyor. Uluslararası raporun altını çizdiği belirsizlikler ve risklerin yönetilmesi gerekliliği karşısında, MIT’nin bu çalışması gibi riskleri sistematikleştirme ve ortak bir anlayış zemini oluşturma çabaları, daha güvenli bir yapay zeka geleceği inşa etme yolunda atılmış değerli adımlar olarak öne çıkıyor.

Sonuç

Yapay zekanın sunduğu baş döndürücü potansiyel ve dönüştürücü güç yadsınamaz. Ancak, bu yolculukta karşımıza çıkan riskler de bir o kadar gerçek ve çeşitli. Tıpkı 23 Nisan’da koltuğu sembolik olarak devrettiğimiz çocuklara karşı taşıdığımız sorumluluk gibi, karar alma süreçlerimizi giderek daha fazla emanet ettiğimiz yapay zekaya karşı da bilinçli ve tedbirli bir sorumluluk taşımalıyız.

Uluslararası güvenlik raporlarından MIT’nin risk sınıflandırmalarına kadar gördük ki, önyargıdan manipülasyona, siber tehditlerden kontrol kaybı endişelerine, çevresel etkilerden iş gücü piyasası dinamiklerine kadar uzanan geniş bir risk yelpazesiyle karşı karşıyayız. Bu riskler, yapay zekanın sadece teknolojik bir ilerleme olmadığını, aynı zamanda derin etik, toplumsal ve güvenlik sorularını da beraberinde getirdiğini gösteriyor.

Bu “Siber Peri Masalı”nın mutlu sonla bitmesi için, sadece teknolojinin sihrine kapılmak yerine, potansiyel tehlikelerine karşı da uyanık olmalıyız. AB Yapay Zeka Yasası gibi düzenleyici adımlar, güvenlik odaklı araştırmalar, şeffaflık ve hesap verebilirlik mekanizmaları, uluslararası işbirliği ve en önemlisi de bireyler olarak bizlerin bilinçli yaklaşımı, bu güçlü teknolojiyi insanlık yararına şekillendirmemizin anahtarı olacaktır. Yapay zekanın geleceği, atacağımız adımlarla yazılacak ve bu adımların hem yenilikçi hem de sorumlu olmasını sağlamak hepimizin ortak görevidir.