Paris’teki ENS Üniversitesi'nde sunulan "Uluslararası Yapay Zeka Güvenliği Raporu", yapay zekanın artık sahte içerik üretiminden biyolojik ve siber saldırılara kadar birçok alanda kullanılabileceğini gösteriyor. Raporu hazırlayan bilgisayar bilimleri uzmanı Yoshua Bengio, “Şu an dezenformasyon ve sahte içerik sorunu açıkça hissediliyor. Ancak yapay zekanın biyolojik ve siber saldırılar için kullanılabileceğine dair kanıtlar da giderek artıyor” dedi.
Bengio, gelecekte yapay zekanın insan kontrolünden çıkabileceğini belirterek, "Yapay zeka sistemleri bir noktada sonra insan kontrolünden çıkmaya başlayabilir. Çünkü bunun kendi varlıklarını sürdürmek için gerekli olduğunu düşünebilir " ifadelerini kullandı.
Çin’in geçtiğimiz ay piyasaya sürdüğü ileri düzey ve düşük maliyetli DeepSeek yapay zeka modeli, teknoloji yarışını daha da kızıştırdı. Bengio, "Bu tür rekabet ortamı sağlıklı değil. Aksine, güvenlik sorunlarını artırıyor" dedi.
Uluslararası düzenleme çağrısı
Uzmanlar, hükümetlerin yapay zeka gelişimini denetlemesi gerektiğini vurguluyor. Bengio, “Devletler harekete geçmezse, bu süreci nasıl kontrol altına alacağımızı bilemiyorum” diyerek küresel çapta daha sıkı düzenlemeler talep etti.
"Önümüzdeki 10 yıl içinde insanlığın yok olma ihtimalinden korkuyorum"
Bengio, OpenAI’nin ChatGPT’yi piyasaya sürmesinin ardından yapay zeka güvenliğine daha fazla önem verilmesi gerektiğini vurgulayarak, “Beni en çok korkutan şey, önümüzdeki 10 yıl içinde insanlığın yok olma ihtimali. Bu korkunç bir durum, insanların bunu neden fark edemediğini anlamıyorum” açıklamasından bulundu.
ABD, yapay zeka yarışında önde olsa da, Joe Biden yönetimi döneminde uygulanan bazı denetim mekanizmaları kaldırıldı. Donald Trump yönetimi ise güvenlik konusunda yeni düzenlemeler getirmeye çalışıyor.
Rapora, 30 ülkeden yaklaşık 100 uzman, Avrupa Birliği ve Birleşmiş Milletler temsilcileri katkı sağladı.
