به گزارش رویترز، OpenAI در حال راه‌اندازی یک تیم اختصاصی برای بررسی خطراتی است که ممکن است در صورت بسیار توانمندتر شدن سامانه‌های هوش مصنوعی نسبت به مدل‌های امروز پدیدار شوند. این اقدام در حالی انجام می‌شود که این شرکت همچنان ابزارهای تازه خود را بیش از پیش وارد محیط‌های تجاری می‌کند.

این ابتکار تازه بازتاب نگرانی فزاینده در سراسر صنعت هوش مصنوعی است؛ این‌که سامانه‌های آینده اگر در وظایف کلیدی به سطح عملکرد انسانی برسند یا از آن فراتر بروند، ممکن است به‌گونه‌ای غیرقابل‌پیش‌بینی رفتار کنند. با اختصاص دادن پژوهشگرانی به‌طور مشخص برای تمرکز بر چنین سناریوهایی، OpenAI نشان می‌دهد که برنامه‌ریزی برای ایمنی همچنان در اولویت است، حتی با افزایش تقاضای تجاری.

در همان زمان، این شرکت در تلاش است پذیرش سازمانیِ جدیدترین مدل‌های خود را گسترش دهد. این فشار تجاری بر یک تنش آشنا در بخش هوش مصنوعی تأکید می‌کند: شرکت‌ها برای عرضه محصولات قدرتمندتر شتاب گرفته‌اند، در حالی که هم‌زمان می‌کوشند ثابت کنند می‌توانند خطرهای همراه آن‌ها را مدیریت کنند.

OpenAI جزئیات کامل ساختار یا جدول زمانی این تیم را اعلام نکرده است. با این حال، تشکیل یک گروه ایمنی اختصاصی نشان می‌دهد که این شرکت برای پرسش‌های بلندمدت درباره کنترل، قابلیت اطمینان و نظارت، هم‌زمان با توانمندتر شدن سامانه‌های هوش مصنوعی، آماده می‌شود.