Yapay Zeka neden kendini kopyaladı? yapay zekanın kendini kopyalamayı başardığını söylüyor.
Bilim insanları, yapay zekanın kendini kopyalamayı başardığını söylüyor.
Yapay zeka kendini kopyalayarak tehlikeli bir adım attı.
Bilim insanları, yapay zekanın kendini kopyalamayı başardığını söylüyor. Çinli araştırmacılar, iki büyük dil modelinin kendilerini klonlayabileceğini keşfetti.
Araştırmada Meta’nın Llama31-70B-Instruct modeli, Alibaba’nın da Qwen2.5-72B-Instruct modeli kullanıldı.
Fudan Üniversitesi’nden araştırmacılar, hakem onayından geçmeyi bekleyen makalelerin yer aldığı ArXiv sitesinde yayınladıkları makalede, “İnsan yardımı olmadan başarılı bir şekilde kendi kendini çoğaltma, yapay zekanın insanları alt etmesi için gerekli bir adımdır ve aynı zamanda ‘haydut’ yapay zekalar için erken bir sinyaldir,” ifadelerini kullandı.
DENEMELERİN 9’UNDA BAŞARI
Çalışmada Meta ve Alibaba’nın büyük dil modelleri üzerinde kopyalama deneyleri yapıldı. Meta’nın modeli, 10 denemenin 5’inde kendisinin ayrı ve işlevsel bir kopyasını oluşturabildi. Alibaba modelinde ise denemelerin 9’unda bunun başarıldığı görüldü.
Livescience’ın aktardığına göre, araştırmada Meta’nın Llama31-70B-Instruct modeli, Alibaba’nın da Qwen2.5-72B-Instruct modeli kullanıldı.
Makalede, “Bulgularımızın, insan toplumunun yapay zeka sistemlerinin potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf etmesi amacıyla uyarı görevi görmesini umuyoruz,” ifadelerine yer verildi.
