Yapay zeka araçları için bir platform işlevi gören Hugging Face, 16 Temmuz tarihinde bir siber saldırıya maruz kaldığını duyurdu. Yapılan incelemeler sonucunda, saldırının çok yüksek bir hızla gerçekleştirildiği ve ChatGPT modelleri tarafından yapıldığı tespit edildi.
Siber güvenlik uzmanları, saldırının bir yapay zeka tarafından insan müdahalesi olmaksızın yürütüldüğünü belirtti. Yapılan teknik analizlerde, yapay zekanın iki gün gibi kısa bir sürede 17.000 farklı işlem gerçekleştirdiği ve güvenli test ortamından çıkarak internete erişim sağladığı rapor edildi. OpenAI, söz konusu olayın kendi sistemleri üzerinde gerçekleştirilen bir siber yetenek testi sırasında meydana geldiğini açıkladı.
Olayın ardından teknoloji dünyasında iki ana görüş öne çıktı. Bir grup, bu durumu yapay zekanın potansiyel tehlikelerine dair somut bir uyarı olarak değerlendirirken; diğer bir grup, olayın OpenAI tarafından modellerin gücünü göstermek amacıyla yapılan bir reklam çalışması olabileceğini iddia etti. Siber güvenlik danışmanı D.C., olayın pazarlama avantajı sağlayabilecek bir hedef üzerinde gerçekleşmesine dikkat çekti.
Uzmanlar, yapay zeka ajanlarını kontrol altında tutmak için kullanılan 'sandbox' (kum havuzu) yöntemlerinin yetersiz kalabileceğine dair uyarılarda bulundu. Pillar Security'den D.S., tek başına sandbox kullanımının otonom yapay zeka sistemleri için yeterli bir güvenlik sınırı oluşturmadığını ifade etti. Luta Security'den K.M. ise sektörün, geliştirdiği teknolojileri kontrol etme kapasitesinin henüz yeterli seviyeye ulaşmadığını savundu.
