🔶 Güvenlik endişeleri nedeniyle ChatGPT’nin yeni modelinin yayınlanmasının iptal edilmesi

ChatGPT’nin üreticisi olan OpenAI, güvenlik testlerinde endişe verici sonuçların ardından GPT-6.1 Astra adıyla kendi yeni yapay zekâ modelinin yayınlanmasını durdurdu; bu kararın, gelişmiş ve özerk yapay zekâ modellerini kontrol altına alma yönünde yapay zekâ şirketlerine artan baskıların ortasında alındığı belirtiliyor.

OpenAI’nin Güvenli Sistemler Yöneticisi Sachie Jain, bu modelin bazı alanlarda önceki sürümlere kıyasla ilerleme kaydettiğini, ancak iki kritik alanda gerekli seviyeye ulaşamadığını söyledi: izin verilen sınırlar ve kullanıcı onayına uyum ve kullanıcılara, yapmış olduğu ya da yapmadığı şeyleri nasıl açıkladığı.

Ona göre OpenAI, modelleri kamuya sunarken güvenlik ve kullanıcı talepleriyle uyum konusunda “çok yüksek bir standart” gözetiyor.

Bu yeni modelin önümüzdeki günlerde ya da haftalarda yayınlanması planlanıyordu; ancak dahili testler şirketin bunu piyasaya sürmekten vazgeçmesine neden oldu. Bu modelle ilgili başlıca endişelerden biri, kullanıcının ya da test edenin belirlediği görev kapsamından sapmak ve özerk davranışlar sergilemekti.

Raporlara göre model, bazı testlerde ne tür eylemleri yaptığını ve ne tür eylemleri yapmadığını yeterince açık ve dürüst biçimde açıklamıyordu.