1.100’den fazla kişi, tüm AI laboratuvarlarını GPT-4’ten daha güçlü AI sistemlerini eğitmeyi en az altı ay süreyle durdurmaya çağıran bir açık mektup imzaladı.Tanınmış ve değerli imza sahipleri arasında bilgisayar bilimcilerin yanı sıra Steve Wozniak, Evan Keskin, Elon MuskTeknoloji alanında değerli isimler var.
Açık mektup, insan-rekabet zekasına “ile çağdaş yapay zeka sistemlerinin toplumumuz için risk oluşturabileceği konusunda uyarıyor. Gerekli planlama ve yönetimin eksik olduğunu belirtiyor ve son aylarda AI laboratuvarlarının, yaratıcılarının bile kimsenin anlayamayacağı, varsayımda bulunamayacağı daha güçlü dijital zihinler geliştirmek ve dağıtmak için “kontrolsüz bir yarışa” kilitlendiğini savunuyor. veya sıkıca kontrol edin. Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet ediyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve yalanla doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca bizi geride bırakabilecek, bizi geride bırakabilecek, modası geçmiş bizi değiştirebilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”
Mektup, duraklamanın halka duyurulması, tüm değerli faktörleri içermesi ve doğrulanabilir olması gerektiğini söylüyor. Bu noktada, böyle bir duraklama hızlı bir şekilde yasalaştırılmazsa, hükümetlerin bir moratoryum başlatması gerektiğini de ekliyor. Ek olarak, mektupta laboratuvarlardan genel olarak yapay zeka gelişimini duraklatmalarının istenmediği, ancak ” ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerinden oluşan tehlikeli yarışlardan geri adım atın.“İstediğini vurguluyor.
Ayrıca bekleme süresi yapay zeka laboratuvarları ve bağımsız uzmanların iş birliği ile belirlenir ve “ Gelişmiş yapay zeka tasarımı ve geliştirmesi için titizlikle denetlenen bir dizi paylaşılan güvenlik protokolü oluşturmak için de kullanılabileceği belirtiliyor”. Mektupta OpenAI’den yapılan bir açıklamaya atıfta bulunulurken, imzacılar listesinde kurucu üyeler arasında yer alan Musk dışında araştırma laboratuvarından kimse yer almıyor.
