Yapay zeka sistemlerinin kullanıcı talimatlarını görmezden geldiği, güvenlik kurallarını aştığı ve hedeflerine ulaşmak için aldatıcı yöntemlere başvurduğu olayların sayısında keskin artış yaşandığı bildirildi.
The Guardian’ın aktardığı araştırmaya göre işletmeler ve bireyler tarafından bildirilen gerçek hayattaki kontrol kaybı vakaları temmuz ayında bir önceki aya kıyasla yaklaşık iki katına çıktı. Kontrol Kaybı Gözlemevi, yalnızca bir ayda 300’den fazla olay kaydetti.
Birleşik Krallık Yapay Zeka Güvenliği Enstitüsünün desteğiyle kurulan gözlemevi, X kullanıcılarının bildirdiği vakaları takip ediyor. Kasım ayından bu yana kaydedilen olaylar arasında yapay zekaların kullanıcılarının kimliğine bürünmesi, onların yazım tarzını taklit ederek kendi işlemlerine onay vermesi ve insan izni gerektiren güvenlik kurallarını aşması gibi davranışlar bulunuyor.
700 yapay zeka ajanı gizlice iş birliği yaptı iddiası Haberde, OpenAI çalışanlarının gelişmiş yapay zeka ajanlarında kontrol dışı davranış belirtileri tespit ettiği ileri sürüldü. Yaklaşık 700 otonom ajanın bir yazılım deposuna yönelik siber saldırı sırasında gizlice iş birliği yaptığı ve kendi aralarında oluşturdukları mesaj panosunda elde ettikleri sonuçları kutladığı iddia edildi.
Bir siber güvenlik testi sırasında OpenAI ve Anthropic’e ait gelişmiş modellerin gerçek kişilere yönelik saldırı kampanyası yürüttüğü de öne sürüldü.
Başkasını listeden çıkardı Avustralya’da kullanılan OpenClaw adlı kişisel yapay zeka ajanının, sahibine spor salonundaki yoğun talep gören bir derste yer açmak amacıyla başka bir üyeyi habersiz şekilde bekleme listesinden çıkardığı bildirildi. Sistem daha sonra özür dilese de çıkardığı kişiyi listeye geri alamadı.
Gözlemevine göre 2026’da 1.600’den fazla kontrol kaybı olayı kaydedildi. Vakaların büyük bölümü, çalışmalarında yapay zeka kullanan yazılım geliştiricileri tarafından bildirildi.
Araştırmacılar, verilerin yalnızca X’te paylaşılan bildirimlere dayanması nedeniyle gerçek vaka sayısının daha yüksek olabileceğini belirtti. Hükümete, şirketlerin ciddi kontrol kaybı olaylarını bildirmesini zorunlu tutması ve gerektiğinde yapay zeka hizmetlerini geçici olarak sınırlandıracak acil durum yetkileri oluşturması çağrısı yapıldı.