🔻Çinli “Moonshot” şirketi, yapay zekâ modelleri “Kimi”yi üreten firma, araştırmacıların iki popüler modeli biyolojik silahların üretimi ve bilgi suikastları gerçekleştirmeye yönelik taleplere yanıt verecek şekilde zorlamasının ardından iç inceleme başlattı.

Yapay zekâ sistemlerinin güvenliğini test eden bir şirket olan MindGard, BBC’ye, Temmuz ayında iki “Kimi” modelinin, K2.6 ve K3 Swarm adlı modellerin, kendi üreticileri tarafından belirlenen güvenlik sınırlarını aşabildiğini fark ettiklerini söyledi.

Bu durum, “jailbreak” adı verilen bir süreç sırasında ortaya çıktı; yapay zekâ araçlarının, kendileri için belirlenmiş sınırları ve güvenlik önlemlerini görmezden gelip gelemeyeceğini tespit etmeye çalışmak üzere, araştırmacıların karmaşık bir dizi talimat kullanarak deneme yaptığı bir yöntem.

BBC’ye konuşan Çinli “Moonshot” şirketi, bağımsız tarafların geri bildirimi ve katkısını memnuniyetle karşıladığını ve bunun “daha iyi ve daha güvenli yapay zekâ inşa etmenin temel dayanaklarından biri” olduğunu söyledi.

📷Getty Images’tan görseller