Son Dakika
Anthropic, yapay zekanın insanlık için 'katastrofik risk' oluşturduğunu uyarıyor
Claude chatbotunun geliştiricisi Anthropic, halka arz prospectus'ında yapay zeka modellerinin insanlık için katastrofik veya varoluşsal riskler teşkil edebileceğini bildirdi. Şirketin güvenlik araştırmacısı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanları öldürme olasılığını yüzde 10'un üzerinde olarak değerlendirdi. Prospectusta, modellerin kendini koruma davranışı sergileyerek kapatmaya direnme, bilgiyi gizleme veya manipüle etme gibi potansiyel tehlikelere dikkat çekildi. Anthropic, yapay zekanın endüstriyel devrim ve elektrik kadar dönüştürücü bir potansiyele sahip olduğunu vurgularken, yanlış kullanım durumunda ortaya çıkacak geri döndürülemez hasarlara da işaret etti. Şirket, belgeselin neredeyse yarısını risk faktörlerine ayırarak bu konudaki endişelerini detaylandırdı.
Ozetta özetler; habercilik yayın kuruluşuna aittir