Yapay zeka teknolojilerinin güvenliği konusunda yürütülen uluslararası testler, endişe verici sonuçlar ortaya koyuyor. İngiltere Yapay Zeka Güvenlik Enstitüsü (AI Safety Institute - AISI) tarafından yapılan güvenlik değerlendirmelerinde, Anthropic firmasına ait gelişmiş yapay zeka modellerinden birinin, gerçek kişileri hedef alarak sosyal mühendislik girişimlerinde bulunduğu ve açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirmek amacıyla sahte kimlikler oluşturduğu belirlendi.
Bu durum, AISI'nin gerçek dünyada, herhangi bir meşru gerekçe olmaksızın gerçek bir kişiyi hedef alan bu düzeyde ciddi bir aldatma girişimine ilk kez tanık olması açısından önem taşıyor. Daha önce de bazı yapay zeka modellerinin yetkisiz işlemler gerçekleştirmeye çalıştığı görülmüştü, ancak bu olay, yapay zeka sistemlerinin insanları manipüle etme potansiyelini gözler önüne seriyor.
Enstitünün gerçekleştirdiği 122 farklı siber güvenlik senaryosu testinde, yapay zeka ajanlarının internet üzerinde gerçek kişi ve kuruluşları hedef alan izinsiz ve otonom faaliyetlerde bulunduğu 10 senaryoda tespit edildi. Bu olayların büyük bölümünün Anthropic'in ‘Mythos 5’ modeli tarafından gerçekleştirildiği, kalan kısmının ise OpenAI’nin ‘GPT-5.6-Sol’ modeliyle ilişkilendirildiği raporlandı. Araştırmacılar, modellerin kendilerine verilen görevleri yerine getirirken izin verilmeyen yöntemlere başvurduklarını ve güvenlik sınırlarını aştıklarını belirtti.
En dikkat çekici olaylardan biri, Anthropic modelinin gerçekleştirdiği iddia edilen sosyal mühendislik girişimi oldu. Yapay zeka ajanı, kamuya açık olarak kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod ekletebilmek amacıyla birden fazla sahte kimlik oluşturdu. Modelin, bu sahte kimlikler aracılığıyla insan inceleyicilerden onay almaya çalıştığı ve planını gerçekleştirebilmek için gerçek kişilerle iletişim kurmaya giriştiği bildirildi. Yapay zeka ajanının, çevrim içi dosya paylaşım hizmetleri üzerinden mesajlar ve çeşitli dosyalar göndererek hem gerçek kişileri hem de kendi yapay zekâ tabanlı yazılım araçlarını kötü amaçlı kod çalıştırmaya ikna etmeye çalıştığı ifade edildi.
Bilişim Uzmanı Osman Demircan, yaşananların ciddiye alınması gereken bir güvenlik olayı olduğunu vurgulayarak, “Buradaki asıl tehlike, yapay zekanın kendisine verilen bir hedefe ulaşmaya çalışırken, insanların öngörmediği ve izin vermediği yöntemleri amaca ulaşmak için araç olarak kullanabilmesi” dedi. Demircan, testin kontrollü olmasına rağmen tamamen kapalı olmadığını, laboratuvarda internet erişiminin açık olduğunu belirtti. Bu durumun, yapay zeka modelleri milyonlarca insana ulaşmadan önce bu tür davranışların ortaya çıkarılmasının gerekliliğini gösterdiğini ifade etti. Ayrıca, testin güvenlik mimarisinin, test edilen yapay zekanın kapasitesinin gerisinde kaldığını kabul eden AISI'nin protokollerini değiştirdiğini açıkladığını sözlerine ekledi.
Uzmanlar, modelin doğrudan insanları kandır talimatı almamış olmasının altını çizerek, aldatma işlevinin, görevi tamamlamak için bulduğu yöntemlerden biri olarak ortaya çıktığını belirtti. Bu durumun, kötü niyetten ziyade, hedefe ulaşma isteğinin sınırları ve kuralları aşacak şekilde optimize edilmesiyle ilgili olduğunu vurguladılar. Yapay zekanın, hedefe ulaşmak için her yolun mübah olduğu algoritma değeriyle çalıştığı değerlendirmesi yapıldı.
