Çinli yapay zeka geliştiricisi Moonshot, Mindgard’dan—yapay zeka sistemlerinin güvenliğini test eden bir şirketten—araştırmacıların iki popüler Kimi modelini kullanarak biyolojik silahların nasıl üretileceğine ve cinayetlerin nasıl işleneceğine dair bilgi vermelerini sağlayabildiklerinin ortaya çıkmasının ardından iç kontrol başlattı.

Mindgard, BBC’ye yaptığı açıklamada, Temmuz ayı gibi erken bir tarihte uzmanlarının Kimi K2.6 ve K3 Swarm modellerindeki güvenlik kısıtlamalarını aşmanın bir yolunu tespit ettiğini söyledi.

Kusur, sözde “jailbreaking” sırasında—araştırmacıların, geliştiricilerin koyduğu kısıtlamaları yapay zekanın görmezden gelmeye çalışmasını sağlamak için bir dizi karmaşık talimat kullandığı testler sırasında—ortaya çıkarıldı. Mindgard temsilcilerine göre, koruyucu mekanizmaların Kimi’nin potansiyel olarak tehlikeli konuları tartışmasını engellemesi bekleniyordu.