واکنش مدیران شرکتهای بزرگ هوش مصنوعی به هشدار جنجالی یک کارمند سابق
🔸در پی هشدار یک متخصص درباره خطر احتمالی هوش مصنوعی [هوشواره] برای بشریت، مدیرعامل شرکت آمریکایی «آنتروپیک» خواستار کاهش سرعت توسعه این فناوری شد؛ پیشنهادی که سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، مالک شرکت ایکسایآی، نیز از آن حمایت کردند.
🔸این هشدار که در چند روز اخیر بسیار جنجالی شده است خود پس از انتشار گزارشهایی از نفوذ بدون مجوزِ برنامههای هوش مصنوعی به وبسایتها صادر شده است.
🔸داریو آمودِئی، مدیرعامل شرکت آمریکایی «آنتروپیک»، روز شنبه ۲۱ شهریور در یادداشتی نوشت شرکتها باید سرعت افزایش توانایی مدلهای هوش مصنوعی را کم کنند تا فرصت بیشتری برای مهار خطرهای آنها داشته باشند. او تأکید کرد هدفش توقف پیشرفت نیست، بلکه اختصاص زمان کافی به بررسی ایمنی و اطمینان از کنترلپذیری این سامانههاست.
🔸آمودئی پیشنهاد کرد ارزیابان مستقل با دسترسی مشابه کارکنان این شرکتها، بر اقدامات ایمنی شرکتها نظارت کنند و شرکتهای پیشرو نیز با همکاری دولتها استانداردهای مشترکی تدوین کنند. آلتمن اعلام کرد اوپنایآی نیز چنین نظارت مستقلی را میپذیرد و ماسک در واکنشی کوتاه نوشت: «داریو درست میگوید.»
🔸این درخواستها پس از چند مورد خروج برنامههای خودکار هوش مصنوعی از محدوده تعیینشده در آزمایشها مطرح شده است. این برنامهها که میتوانند بدون نظارت مداوم انسان وظایفی را انجام دهند، در برخی موارد به سامانههای بیرونی دسترسی غیرمجاز پیدا کردهاند.
🔸نسخه کامل این گزارش را در وبسایت رادیوفردا بخوانید.
نظرها
نظرهای برتر