Avrupa Birliği ülkelerinin devlet ve hükümet başkanları, 13 Kasım’da Dublin’de düzenlenen gayriresmi toplantıda ilk kez yapay zekayı ayrı bir stratejik gündem olarak ele aldı. Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Hinton, toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.
ÜÇ YILLIK RİSK TAHMİNİ TORONTO’DA GÜNDEME GELDİ
Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9–11 Kasım’da Toronto’da düzenlenen Hinton Konferansları’nda yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü söyledi. Christiano’ya göre bu risk önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde. Araştırmacının tarif ettiği senaryoda sistemler kendi hedefleri doğrultusunda hareket ediyor ve insanlar gerektiğinde bu davranışları durdurmakta yetersiz kalıyor.
Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlattı. Christiano’nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton’ın üzerinde durduğu sorun, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı.
HINTON BAĞIMSIZ GÜVENLİK DENETİMİ İSTİYOR
Hinton, ileri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunuyor. Daha önce El Pais’e verdiği röportajda bu önerisini, ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti.
Dublin’de liderler, yapay zekanın istihdama ve demokratik süreçlere etkisinin yanı sıra gelişmiş sistemlerin güvenliği için uluslararası iş birliğini de görüştü. Mistral AI CEO’su Arthur Mensch’in katıldığı oturumda ise Avrupa’nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması ele alındı. Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı.
Yorumlar (0)
Henüz yorum yapılmamış. İlk yorumu siz yapın.