BMGK'de yapay zeka alarmı: 'İnsanlığın önünde iki büyük risk var'
Dünyanın önde gelen yapay zeka şirketlerinin yöneticileri BM Güvenlik Konseyi'nde dikkat çeken uyarılarda bulundu. Sam Altman insan kontrolünün kaybedilmesi riskine işaret ederken, Dario Amodei iki büyük tehlikeyi açıkladı: Yapay zekanın kötüye kullanılması ve sistemler üzerindeki kontrolün kaybedilmesi.
Dünyanın önde gelen yapay zeka şirketlerinin yöneticileri, teknolojinin hızla artan kapasitesinin uluslararası güvenlik açısından yaratabileceği riskleri Birleşmiş Milletler Güvenlik Konseyi'nin (BMGK) gündemine taşıdı.
New York'ta 23 Eylül'de gerçekleştirilen "Yapay Zeka ve Uluslararası Güvenlik" başlıklı toplantıda OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve Hugging Face CEO'su Clément Delangue, yapay zekanın insan kontrolünden çıkması, biyolojik silah geliştirmede kullanılması ve siber saldırılardaki rolü gibi risklere dikkat çekti. Toplantı, BMGK'nin eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlendi.
Konuşmaların ortak noktası ise giderek daha güçlü ve otonom hale gelen sistemlerin yönetiminin yalnızca teknoloji şirketlerine bırakılamayacağı ve uluslararası standartlara ihtiyaç duyulduğu görüşü oldu.
Sam Altman: Bir yol ayrımındayız
OpenAI CEO'su Sam Altman, yapay zeka modellerindeki hızlı ilerlemenin teknolojinin sağlayabileceği faydaları daha somut hale getirdiğini ancak aynı zamanda riskleri de daha acil hale getirdiğini söyledi.
Altman, dünyanın yapay zekanın geleceği konusunda bir tercih noktasına geldiğini belirterek teknolojinin yeni bir yaratıcılık ve keşif döneminin önünü açabileceği gibi büyük toplumsal dönüşümlere ve düzensizliğe de yol açabileceğini ifade etti.
OpenAI CEO'sunun üzerinde durduğu en önemli konulardan biri ise gelecekte ortaya çıkabilecek kontrol kaybı riski oldu.
'İnsan müdahalesini devre dışı bırakabilir'
Altman'a göre yapay zeka sistemlerinin giderek daha yetenekli ve otonom hale gelmesi, yalnızca ekonomiyi değil dünyadaki güç dengelerini de değiştirebilir.
Yapay zeka geliştirme sürecinin kendisinin giderek otomatikleşmesi halinde teknolojik ilerlemenin hızı da ciddi ölçüde artabilir. Altman, özellikle sistemlerin kendi gelişim süreçlerinde daha fazla rol üstlenmeye başlamasının son derece dikkatli yönetilmesi gerektiğini vurguladı.
Altman ayrıca şirketlerin potansiyel faydalar uğruna kontrol edilemeyecek riskler almaması gerektiğini savunarak, insan kontrolünde tutulabileceğinden emin olunmayan modeller konusunda ihtiyat çağrısında bulundu.
Altman: Kararları yalnızca laboratuvarlar vermemeli
OpenAI CEO'sunun BMGK'deki konuşmasının en dikkat çekici bölümlerinden biri ise yapay zekayı kimin yöneteceği sorusuna ilişkin oldu.
Altman, yapay zekanın demokratik bir teknoloji olması isteniyorsa en önemli kararların yalnızca San Francisco'daki teknoloji laboratuvarlarında alınmaması gerektiğini söyledi. Kritik kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini savundu.
Altman, küresel ölçekte ortak hareket edilmesi gerektiğini belirterek dünyanın yapay zekanın geleceği açısından "bir yol ayrımında" bulunduğunu söyledi.
Amodei iki büyük yapay zeka riskini açıkladı
Anthropic CEO'su Dario Amodei ise toplantıya çevrim içi katılarak yapay zekanın oluşturduğu tehditleri iki temel kategoriye ayırdı.
Bunlardan ilki, güçlü yapay zeka sistemlerinin insanlar tarafından kötü amaçlarla kullanılması.
Amodei bu noktada özellikle biyolojik tehditlere dikkat çekerek gelişmiş modellerin kötü niyetli kişiler tarafından biyolojik silah geliştirmek amacıyla kullanılabileceği senaryosunu gündeme getirdi.
İkinci ve daha temel risk ise kontrol kaybı.
Amodei, yapay zeka modellerinin yeteneklerinin, onları geliştiren insanların kontrol kapasitesinden daha hızlı ilerlemesi ihtimalinin küresel ölçekte ele alınması gerektiğini söyledi.
'Yapay zeka bütün insanlık için risk oluşturabilir'
Anthropic CEO'su, bu risklerin herhangi bir şirketi veya ülkeyi aşan nitelikte olduğunu vurguladı.
Amodei, yapay zekanın kötü yönetilmesi halinde teknolojinin "insanlığın bütünü için risk" oluşturabileceğine inandığını belirtti.
Bu nedenle yapay zeka güvenliğinin tek bir şirketin kendi önlemleriyle çözülebilecek bir sorun olmadığını savunan Amodei, sektör genelinde ve devletler arasında işbirliği çağrısında bulundu.
Reuters'ın aktardığına göre Amodei, yapay zekanın oluşturduğu riskleri günümüzde dünyanın karşı karşıya bulunduğu en önemli küresel güvenlik sorunlarından biri olarak nitelendirdi.
Biyolojik silahlar için ortak yasak önerisi
Amodei, ülkeler arasında tüm yapay zeka alanını kapsayacak geniş kapsamlı bir anlaşmanın başlangıçta zor olabileceğini belirterek daha dar konularda uzlaşma sağlanmasını önerdi.
Bunların başında yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanması geliyor.
Anthropic CEO'su ayrıca devletlerin en gelişmiş yapay zeka modellerinin hangi kapasitelere sahip olduğunu anlayabilmesi için uluslararası değerlendirme ve doğrulama mekanizmaları kurulması gerektiğini savundu.
Bu sistemlerin ülkelerin verdikleri taahhütlere uyup uymadığının doğrulanmasını da mümkün hale getirmesi gerektiğini belirten Amodei, gelişmiş modellerin risklerini ölçmek için ortak test ve güvenlik standartları oluşturulmasını istedi.
Siber saldırılar da BMGK'nin gündemindeydi
Toplantının bir diğer dikkat çekici başlığı yapay zeka destekli siber saldırılar oldu.
Hugging Face CEO'su Clément Delangue, şirketinin yaşadığı yapay zeka ajanı kaynaklı siber güvenlik olayından çıkarılan dersleri BMGK üyelerine anlattı.
Delangue, yapay zekanın siber güvenlik alanında saldırganların kapasitesini artırabileceğini ancak aynı teknolojinin savunma amacıyla da kullanılabileceğini belirtti.
Hugging Face CEO'su bu nedenle küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartları oluşturulması gerektiğini savundu.
'Yapay zekayla saldırıya uğradık, yapay zekayla savunduk'
Delangue'ın aktardığı deneyim, toplantıdaki yapay zeka tartışmasının farklı bir boyutunu ortaya koydu.
Hugging Face'in saldırı sırasında yapay zeka sistemlerinden savunma amacıyla da yararlandığını belirten Delangue, aynı teknolojinin bugün başka siber tehditlere karşı şirketin savunmasını güçlendirmek amacıyla kullanıldığını anlattı.
Delangue ayrıca yapay zeka kapasitesinin ve kontrolünün az sayıda şirket veya ülkenin elinde yoğunlaşmasının ayrı bir güvenlik problemi yaratabileceğini savundu. Bu nedenle güçlü yapay zeka araçlarına erişimin daha geniş bir tabana yayılması gerektiğini söyledi.
Yapay zekada küresel kurallar tartışması büyüyor
BMGK toplantısı, yapay zeka güvenliği ve küresel düzenleme tartışmalarının teknoloji şirketlerinin iç politikalarından çıkarak giderek uluslararası güvenlik meselesine dönüştüğünü gösterdi.
Konsey toplantısının gündem notunda da en gelişmiş yapay zeka modellerinde uyumsuzluk ve kontrol kaybı ihtimalinin oluşturabileceği sistemik risklere dikkat çekildi.
Altman, Amodei ve Delangue'ın farklı çözüm önerileri sunmasına rağmen konuşmalarındaki ortak nokta, yapay zekanın geleceğinin yalnızca birkaç şirketin kendi güvenlik politikalarıyla yönetilemeyeceği görüşü oldu.
Böylece BMGK'deki tartışmanın merkezine giderek daha kritik hale gelen bir soru yerleşti: Yapay zeka insan kapasitesini aşacak kadar güçlenmeden önce, onu yönetecek küresel kurallar oluşturulabilecek mi?
Yorumlar
Yorum yapmak için giriş yapın.
Henüz onaylanmış yorum yok. İlk yorumu siz yazın.