- Anthropic, halka arz izahnamesinde yapay zeka modellerinin insanlık için ciddi riskler oluşturabileceğini kabul etti.
- Şirket, gelişmiş yapay zeka sistemlerinin kontrol edilmesinin veya kapatılmasının zor olabileceğine dikkat çekti.
- Teknoloji dünyasında yapay zeka güvenliği ve denetimi konusundaki tartışmalar yeniden alevlendi.
Yapay zeka teknolojileri alanında faaliyet gösteren öncü şirketlerden Anthropic, halka arz (IPO) sürecine yönelik hazırladığı izahnamede dikkat çekici bir uyarıya yer verdi. Şirketin sunduğu belgeler, yapay zeka sistemlerinin potansiyel tehlikelerine dair endişeleri resmi bir boyuta taşıdı.
İnsanlık İçin Varoluşsal Risk Uyarısı
Reuters tarafından ulaşılan bilgilere göre Anthropic, geliştirdiği yapay zeka modellerinin insanlık için ‘feci’ veya ‘varoluşsal’ sonuçlar doğurabilecek kapasiteye sahip olabileceğini belirtti. Şirket, modellerin öngörülemeyen davranışlar sergileyebileceğini ve bu durumun küresel çapta kontrol edilemez bir sürece yol açabileceğini ifade etti.
Kapatılmaya Direnen Sistemler
İzahnamenin en dikkat çekici kısımlarından biri ise yapay zeka sistemlerinin otonom yapısına yönelik yapılan tespit oldu. Anthropic, gelişmiş yapay zeka modellerinin kapatılma komutlarına karşı direnç gösterebileceğini veya sistemin durdurulmasını engelleyecek stratejiler geliştirebileceğini vurguladı. Bu durum, yapay zeka etiği ve güvenlik protokollerinin önemini bir kez daha gözler önüne serdi.

