Yapay zeka güvenliğinde alarm: Biyolojik silah çalışmaları deşifre oldu

Şirketin yayımladığı tehdit istihbaratı raporuna göre, Claude modelini kullanan biyolojik araştırmacılarla ilgili beş vaka ciddi güvenlik endişesi yarattı.

Bunlardan biri, askeri bir araştırma enstitüsünde yürütülecek ve chikungunya virüsünü daha bulaşıcı hale getirip bağışıklık sisteminden kaçmasını sağlayacak kazanç-fonksiyon araştırmasını içeriyordu.

Şirketin raporuna göre başka bir bilim insanı, yüksek tehlikeli kuş gribi ve virüsün memelilere uyum sağlama yolları üzerine Claude'u kullanıyordu. Diğer vakalar ise çiçek hastalığıyla ilgili virüsler ve tehlikeli toksinlerin yeniden tasarımıyla ilgiliydi.

Anthropic, bazı araştırmacıların kısıtlamaları aşmak için kimliklerini gizleme, trafiği başka ülkeler üzerinden yönlendirme (VPN) ve güvenlik kontrollerini bypass eden hizmetler kullanma gibi ciddi çabalar gösterdiğini belirtti. İlgili hesaplar yasaklandı, bypass için kullanılan hizmetler de kapatıldı.

Şirket, bilim insanlarının kesin olarak biyolojik silah üretmeye çalıştığını söylemekten kaçındı. Ancak "sofistike aktörlerin kötü niyetlerini meşru görünen araştırmaların arkasına saklayabileceği" yönünde uyarı yaptı.

Bu bulgular, ABD’li bilim insanlarının yapay kullanarak daha önce doğada var olmayan 16 işlevsel virüs genomu tasarlayıp 'başarıyla' ürettiği deneyden sadece birkaç hafta sonra geldi. Bu virüsler bakterileri enfekte ediyordu (insanları değil), ancak araştırmacılar yapay zekanın biyolojik yeteneklerinin ne kadar hızlı ilerlediğini gösterdiği konusunda uyardı.

Tehdit değerlendirmesinin yayımlanmasından birkaç gün önce Anthropic araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde ‘tüm insanları öldürme’ ihtimalinin yüzde 10'dan fazla olduğunu kamuya açıkladı ve şirketin süperzekâyı güvenli şekilde kontrol etmek için net bir planı olmadığını ekledi.

Bu açıklama, başka bir Anthropic araştırmacısı Jacob Coxon’un istifa edip Anthropic ve OpenAI’yi ‘uygarlık düzeyindeki riskleri’ görmezden gelmekle ve ‘kendi kendini geliştiren süperzekaya doğru koşup hayatlarımızla kumar oynamakla’ suçlamasının ardından geldi. Coxon ayrıca yeterince gelişmiş yapay zekanın kritik altyapıyı hackleyebileceğini veya “yok oluş düzeyinde biyo-silahlar” yaratmaya yardımcı olabileceğini de uyardı.