🔶 لغو انتشار مدل تازه چت‌جی‌پی‌تی به دلیل نگرانی ایمن
شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، انتشار مدل تازه هوش مصنوعی خود با نام GPT-۶.۱ Astra را پس از نتایج نگران‌کننده در آزمایش‌های ایمنی متوقف کرد؛ تصمیمی که در میانه افزایش فشارها بر شرکت‌های هوش مصنوعی برای کنترل مدل‌های پیشرفته و خودمختار اعلام شده است.
ساچی جین، مدیر سیستم‌های ایمنی اوپن‌ای‌آی، گفت این مدل در برخی زمینه‌ها نسبت به نسخه‌های قبلی پیشرفت داشته، اما در دو حوزه کلیدی به سطح لازم نرسیده است: پایبندی به محدوده مجاز و اجازه کاربر، و نحوه توضیح دادن به کاربر درباره کاری که انجام داده یا نداده است.
به گفته او، اوپن‌ای‌آی برای انتشار عمومی مدل‌ها "استاندارد بسیار بالایی" در زمینه ایمنی و همسویی با خواست کاربر در نظر می‌گیرد.
این مدل جدید قرار بود در روزها یا هفته‌های آینده منتشر شود، اما آزمایش‌های داخلی باعث شد شرکت از عرضه آن صرف‌نظر کند. یکی از نگرانی‌های اصلی درباره این مدل، رفتارهای خودمختار و خروج از محدوده ماموریتی بود که کاربر یا آزمایش‌کننده برای آن تعیین کرده بود.
در گزارش‌ها آمده است که مدل در برخی آزمون‌ها به اندازه کافی روشن و صادقانه توضیح نمی‌داد چه اقدام‌هایی انجام داده و چه اقدام‌هایی انجام نداده است.
نظرها
نظرهای برتر