Yapay zeka teknolojilerindeki hızlı gelişim, bu alanda çalışan uzmanları endişelendirmeye başladı. ChatGPT'nin rakiplerinden Claude'un geliştiricisi Anthropic, yapay zekanın gelecekteki potansiyeli hakkında dikkat çekici bir analiz yayımladı.
Anthropic'in kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan ve 'Yapay zeka kendini inşa ettiğinde' başlığını taşıyan yazı, teknoloji dünyasında önemli bir gündem oluşturdu. Yazıda, yapay zeka geliştirme süreçlerinin geçmişte büyük ölçüde insanlar tarafından yürütüldüğü, ancak günümüzde bu görevlerin giderek yapay zeka sistemlerine devredildiği belirtildi. Bu durumun, araştırma ve geliştirme hızını önemli ölçüde artırdığı ifade edildi.
Mevcut eğilimin devam etmesi halinde, yapay zekanın insan müdahalesi olmaksızın kendi daha gelişmiş versiyonlarını tasarlayıp üretebileceği bir noktaya ulaşabileceği uyarısı yapıldı. Bilimsel literatürde 'özyinelemeli kendini geliştirme' olarak adlandırılan bu sürecin, beklenenden daha erken gerçekleşebileceği vurgulandı. Raporda, 'Henüz tam olarak o noktada değiliz ve özyinelemeli kendini geliştirme kesinlikle kaçınılmaz bir son değil. Ancak bu durum, çoğu kurum ve devletin hazırlandığından çok daha erken bir tarihte gerçekleşebilir' ifadeleri kullanıldı.
Anthropic uzmanları, kendi kendini inşa edebilen yapay zeka sistemlerinin bilim, tıp ve sağlık gibi alanlarda insanlığa büyük faydalar sağlayabileceğini kabul etse de, sürecin insan kontrolünün kaybı riskini doğurabileceğine dikkat çekti. Yazıda, 'Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz hayati bir önem kazanır' denildi.
Anthropic, bu kontrolsüz teknolojik ilerlemeye karşı radikal bir çözüm önerisi sundu. İleri düzey yapay zeka geliştirme süreçlerinin dünya genelinde yavaşlatılması veya geçici olarak durdurulması seçeneğinin ciddi şekilde değerlendirilmesi gerektiğini belirtti. Bu durdurma kararının etkili olabilmesi için küresel bir uzlaşıya ihtiyaç duyulduğu, birden fazla ülkedeki güçlü laboratuvarların aynı katı koşullar altında eş zamanlı hareket etmesi gerektiği kaydedildi.
