Anthropic CEO'su Amodei'den, yapay zeka şirketlerine 'yavaşlama' çağrısı: 'Kötüye kullanılması riski taşıyor'
Yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Amodei, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla şirketlere, 'yapay zeka modellerinin geliştirilme hızını düşürme' çağrısında bulundu.
Yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, internet sitesinden yayımladığı makalesinde, yapay zekanın, kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı.
Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz" ifadesini kullandı.
'Üç aşamalı plan' önerisi
Amodei, endişelerinin nedenlerinden birinin, OpenAI şirketi tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirmesi olduğunu aktardı.
Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğini de sağlamayı amaçlayan üç aşamalı bir plan önerdi.
Planın ilk aşamasının, Anthropic'in kendi başına uygulamayı taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemleri içerdiğini kaydeden Amodei, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon gerektiğinin altını çizdi.
Yorumlar
Yorum yapmak için giriş yapın.
Henüz onaylanmış yorum yok. İlk yorumu siz yazın.