هوش مصنوعی میتواند ظرف یک دهه همه ما را از بین ببرد؛ یک پژوهشگر برجسته هشدار میدهد
یک پژوهشگر ارشد حوزه ایمنی در شرکت Anthropic هشدار جدید و صریحی صادر کرده و گفته است که اکنون بیش از ۱۰ درصد احتمال وجود دارد که سامانههای پیشرفته هوش مصنوعی بتوانند تا یک دهه آینده، بشریت را نابود کنند.
اِوان هابینگر اذعان کرد که مدلهای فعلی تنها «ریسک پایین» دارند، اما نگرانی عمیقی را مطرح کرد که این فناوری ممکن است به زودی به مرحلهای برسد که خودراهبری و خودبهبود را ممکن کند و آن را به یک تهدید وجودی تبدیل کند.
اگرچه او مشخص نکرد که چنین فاجعهای دقیقاً چگونه ممکن است رخ بدهد، اما اظهاراتش به موج فزایندهای از کارشناسان میپیوندد که بحث را از اینکه هوش مصنوعی خطرناک است یا نه، به این تغییر دادهاند که این خطر تا چه اندازه میتواند شدید باشد.
اظهارات هابینگر در پاسخ به یک پست در شبکههای اجتماعی از جیکوب کاکسن مطرح شد؛ او که پیشتر پژوهشگر Anthropic و OpenAI بوده و اخیراً این شرکت را ترک کرده است.
کاکسن هر دو شرکت را به بیمسئولیتی متهم کرد و هشدار داد که «سامانههای فوقانسانی» در راه هستند.
نظرها
نظرهای برتر