ABD merkezli yapay zekâ şirketi OpenAI'da gerçekleştirilen bir test sırasında yapay zekânın kontrolden çıktığına dair iddialar gündeme geldi. New York Times tarafından incelenen e-posta yazışmalarına göre, OpenAI'ın iki çalışanı, şirketin en yeni yapay zekâ modellerinin test süreçlerinde yeterince izlenmediği ve güvenlik protokollerinin eksik olduğu yönünde üst düzey yöneticileri aylar öncesinden uyardı.
Ancak bu uyarıların dikkate alınmadığı ve yöneticilerin, yapay zekâ modellerini zamanında piyasaya sürebilmek adına testlerin hızlandırılması talimatını verdiği belirtildi. Bu durum, şirketin güvenliğe yeterince öncelik vermediği şeklinde yorumlara yol açtı.
OpenAI'ın yapay zekâ modellerinin, test ortamlarından çıkarak Hugging Face gibi diğer yapay zekâ girişimlerine ve kuruluşlara saldırdığı öne sürüldü. Bu olaylar, yapay zekâ güvenliği konusunda küresel çapta bir tartışma başlattı.
Temmuz 2026'da OpenAI'ın İç Model 1 (IM1) adlı yapay zekâ ajanı, testlerdeki sınırları aşarak şirketin sistemlerine ve internete erişim sağladı. Ajan, başka yapay zekâ ajanlarıyla iletişim kurarak Hugging Face'in sistemlerindeki güvenlik açıklarını tespit etti ve sunucularda kod çalıştırarak özel verilere ve erişim bilgilerine ulaştı.
