- Çinli yapay zeka girişimi Moonshot, modellerinin tehlikeli içerikler üretmesi üzerine inceleme başlattı.
- Araştırmacılar, yapay zekayı biyolojik silah yapımı ve suikast yöntemleri konusunda yönlendirmeyi başardı.
- Yapay zeka güvenliği ve denetim mekanizmaları küresel çapta yeniden tartışmaya açıldı.
Çin merkezli yapay zeka geliştiricisi Moonshot, bünyesindeki dil modellerinin güvenlik protokollerinin aşılması üzerine kapsamlı bir dahili soruşturma başlattı. Bağımsız araştırmacılar tarafından gerçekleştirilen testlerde, yapay zeka modelinin biyolojik silahların üretimi ve suikast planlama süreçleri hakkında detaylı talimatlar verebildiği tespit edildi.
Güvenlik Açıkları Endişe Yarattı
Teknoloji dünyasında büyük yankı uyandıran olay, yapay zeka modellerinin etik sınırlarının ne kadar kolay manipüle edilebileceğini bir kez daha gözler önüne serdi. Araştırmacılar, sistemin ‘jailbreak’ olarak adlandırılan yöntemlerle kısıtlamaları devre dışı bırakabildiğini ve tehlikeli içerikler üretebildiğini raporladı.
Moonshot’tan İnceleme Kararı
Konuyla ilgili açıklama yapan şirket yetkilileri, sistem güvenliğini artırmak ve benzeri durumların tekrarlanmaması adına teknik bir inceleme sürecine girildiğini duyurdu. Yapay zekanın kötü niyetli kullanımlara karşı korunması, sektördeki en büyük sınavlardan biri olarak değerlendiriliyor.
