Reuters’a göre OpenAI, yapay zekâ sistemleri bugünkü modellerden çok daha yetenekli hale gelirse ortaya çıkabilecek riskleri incelemek üzere özel bir ekip oluşturuyor. Bu adım, şirketin en yeni araçlarını daha fazla iş ortamına taşımaya devam ettiği bir dönemde geliyor.

Yeni girişim, yapay zekâ sektöründe gelecekteki sistemlerin, kilit görevlerde insan seviyesinde performansa ulaşmaları ya da onu aşmaları halinde öngörülemez biçimde davranabileceğine dair artan kaygıyı yansıtıyor. Araştırmacıları özellikle bu senaryolara odaklanmakla görevlendiren OpenAI, ticari talep artarken güvenlik planlamasının hâlâ öncelik olduğunu gösteriyor.

Aynı zamanda şirket, en yeni modellerinin kurumsal kullanımını yaygınlaştırmak için çalışıyor. Bu iş hamlesi, yapay zekâ sektöründeki tanıdık bir gerilimi ortaya koyuyor: şirketler bir yandan daha güçlü ürünleri hızla piyasaya sürmeye çalışırken, diğer yandan bunlarla birlikte gelen riskleri yönetebildiklerini kanıtlamaya uğraşıyor.

OpenAI, ekibin yapısı ve takvimiyle ilgili tüm ayrıntıları açıklamadı. Yine de özel bir güvenlik grubunun kurulması, şirketin yapay zekâ sistemleri daha yetenekli hale geldikçe kontrol, güvenilirlik ve denetim konularına ilişkin uzun vadeli sorulara hazırlandığını gösteriyor.