خلاصه
کلاهبرداری با شبیهسازی صدا با هوش مصنوعی از یک کلیپ صوتی کوتاه برداشته‌شده از محتوای آنلاین برای کپی صدای یکی از بستگان استفاده میکند و سپس با یک اورژانس ساختگی و درخواست فوری پول تماس می‌گیرد. FTC توصیه میکند با شمارهای که می‌شناسید دوباره تماس بگیرید و FBI یک واژه رمز خانوادگی را توصیه میکند [1][2].
نکته‌های کلیدی
- IC3 در ۲۰۲۵ تعداد ۲۲٬۳۶۴ شکایت با اطلاعات مرتبط با هوش مصنوعی دریافت کرد و زیان‌های تعدیل‌شده از ۸۹۳ میلیون دلار فراتر رفت [3].
- قربانیان در ۲۰۲۵ بیش از ۵ میلیون دلار زیان ناشی از کلاهبرداریهای پدربزرگ‌ومادربزرگ یا «استیصال» را اعلام کردند؛ نوعی که در آن صدای شبیه‌سازی‌شده از یکی از عزیزان تقلید میکند [3].
- FTC در ۲۰۲۵ زیان ۳٫۵ میلیارد دلاری ناشی از کلاهبرداری جعل هویت را گزارش کرد، یعنی نزدیک به سه برابر سطح ۲۰۲۰ [4].
- شاکیان ۶۰ ساله و بالاتر در ۲۰۲۵ زیان ۷.۷۴۸ میلیارد دلاری را به IC3 گزارش کردند که ۵۹٪ بیش از ۲۰۲۴ بود [3].
- Consumer Reports در ۲۰۲۵ دریافت که از شش محصول شبیهسازی صدایی که بررسی کرده فقط دو محصول برای مقابله با سوءاستفاده گام برداشته‌اند و بقیه به تأیید با علامت زدن یک کادر بسنده می‌کنند [5].
- FTC توصیه میکند با شمارهای که مطمئنید متعلق به آن شخص است دوباره تماس بگیرید و FBI توصیه میکند تماس را قطع کنید، مستقیماً با مخاطب واقعی تماس بگیرید و یک واژه رمز خانوادگی تعیین کنید [1][2].
در این صفحه ۱۴ بخش
- کلاهبرداری با شبیهسازی صدا با هوش مصنوعی چیست؟
- تماس اورژانس خانوادگی جعلی چگونه کار میکند؟
- کلاهبرداران برای شبیهسازی یک صدا به چه مقدار صدا نیاز دارند؟
- کلاهبرداریهای صوتی هوش مصنوعی چقدر رایج‌اند و چه مقدار پول از دست می‌رود؟
- آیا میتوان صدای شبیه‌سازی‌شده را از صدای واقعی تشخیص داد؟
- چگونه از خود و خانواده‌تان در برابر شبیهسازی صدا محافظت کنید؟
- اگر پول فرستاده‌اید چه باید بکنید؟
- آیا تماسهای کلاهبرداری با صدای هوش مصنوعی غیرقانونی است؟
- آیا کلاهبرداران از صدای هوش مصنوعی علیه کسب‌وکارها و مقام‌های رسمی هم استفاده می‌کنند؟
- چه چیزی هنوز نامطمئن است و گام بعدی چه خواهد بود؟
- اشتباه‌های رایج
- پرسش‌های پرتکرار
- واژه‌نامه
- منابع
کلاهبرداری با شبیهسازی صدا با هوش مصنوعی چیست؟
کلاهبرداری با شبیهسازی صدا با هوش مصنوعی کلاهبرداری‌ای است که در آن مجرم با نرم‌افزار صدای یکی از آشنایان شما را تقلید میکند و سپس با یک وضعیت اضطراری ساختگی با شما تماس می‌گیرد. رایج‌ترین شکل آن تماس اورژانس خانوادگی است: یکی از «بستگان» گرفتار شده و فوراً پول لازم دارد.
کمیسیون تجارت فدرال آمریکا (FTC) در ۲۰ مارس ۲۰۲۳ هشدار داد که کلاهبردار میتواند با یک کلیپ صوتی کوتاه که از محتوای منتشرشده در اینترنت برداشته شده و یک برنامه شبیهسازی صدا، صدای یکی از بستگان را کپی کند [1]. هشدار I-120324-PSA از FBI، به تاریخ ۳ دسامبر ۲۰۲۴، میگوید مجرمان کلیپ‌های صوتی کوتاهی از صدای یکی از عزیزان می‌سازند تا در نقش یکی از بستگان گرفتار در بحران ظاهر شوند و پول فوری یا باج بخواهند [2]. مرکز شکایات جرایم اینترنتی FBI (IC3) در گزارش سالانه ۲۰۲۵ خود، کلاهبرداریهای پدربزرگ‌ومادربزرگ یا «استیصال» را نوعی معرفی میکند که در آن شبیهسازی صدا از یکی از عزیزانِ درمانده تقلید میکند [3].
خدمات پژوهشی پارلمان اروپا (EPRS) در اکتبر ۲۰۲۵ ارزیابی کرد که شبیهسازی صدا با هوش مصنوعی متقاعدکننده‌ترین شیوه استفاده از هوش مصنوعی مولد برای ساخت دیپ‌فیک در کلاهبرداری است و تشخیص آن از همه دشوارتر است [6].
اصطلاحات کلیدی به چه معناست؟
- شبیهسازی صدا با هوش مصنوعی (AI voice cloning) نرم‌افزاری است که از روی نمونه صوتی، گفتاری مشابه صدای یک فرد مشخص تولید میکند.
- دیپ‌فیک (Deepfake) صدا، تصویر یا ویدئویی است که هوش مصنوعی آن را ساخته یا دستکاری کرده تا شبیه یک انسان واقعی به نظر برسد یا شنیده شود.
- ویشینگ (Vishing) یا فیشینگ صوتی، کلاهبرداری از راه تماس تلفنی یا پیام صوتی است.
- کلاهبرداری اورژانس خانوادگی که کلاهبرداری پدربزرگ‌ومادربزرگ یا «استیصال» هم نامیده میشود، کلاهبرداری‌ای است که در آن تماس‌گیرنده خود را یکی از بستگانِ گرفتار معرفی میکند و پول فوری می‌خواهد.
تماس اورژانس خانوادگی جعلی چگونه کار میکند؟
الگویی که FTC و FBI توصیف کرده‌اند چهار گام دارد.
- جمع‌آوری صدا. مجرم یک کلیپ کوتاه از صدای فرد را از محتوای منتشرشده در اینترنت برمی‌دارد [1].
- شبیهسازی صدا. یک برنامه شبیهسازی صدا آن کلیپ را به صدایی تبدیل میکند که میتواند جمله‌های تازه بگوید [1].
- تماس با یک بحران. مجرم خود را یکی از بستگانِ گرفتار معرفی میکند و پول فوری یا باج می‌خواهد [2].
- دریافت پول. FTC میگوید درخواست پرداخت با حواله بانکی، ارز دیجیتال یا کارت هدیه از نشانه‌های کلاهبرداری است [1].
فشار روانی همان هدف است. شنونده‌ای که ترسیده باشد کمتر می‌ایستد و بررسی میکند.
چرا شناسه تماس‌گیرنده چیزی را ثابت نمی‌کند؟
EPRS میگوید کلاهبرداران از VoIP، یعنی تماس مبتنی بر اینترنت، استفاده می‌کنند تا تماس‌ها از شماره‌های معتبر به نظر برسند [6]. بنابراین شماره آشنا یا رسمی روی صفحه نشانه‌ای از هویت تماس‌گیرنده نیست.
چرا برخی کلاهبرداران گفت‌وگو را به یک برنامه پیام‌رسان می‌برند؟
در به‌روزرسانی دسامبر ۲۰۲۵ FBI درباره جعل هویت مقام‌های ارشد آمریکا آمده است که عاملان در بیشتر موارد با پیامک به قربانیان نزدیک میشوند و می‌خواهند گفت‌وگو به پیام‌رسان‌های رمزگذاری‌شده مانند Signal، Telegram یا WhatsApp منتقل شود [7]. این مورد به مقام‌های رسمی مربوط است نه اورژانس‌های خانوادگی، اما این شگرد به بحث ما مربوط است. EPRS یادآور میشود که پایش در سرویس‌های رمزگذاری‌شده مانند WhatsApp پیچیده‌تر است، چون هیچ پایشی در آن‌ها مجاز نیست و این موضوع آنچه شبکه‌ها می‌توانند تشخیص دهند را محدود میکند [6].
آیا فقط پدربزرگ‌ها و مادربزرگ‌ها چنین تماسهایی دریافت می‌کنند؟
خیر. IC3 میگوید این کلاهبرداری در حال تکامل است تا از دیگر اعضای خانواده یا دوستان نزدیک در اورژانس‌های گوناگون تقلید کند [3]. FBI همچنین میگوید مجرمان از صدای تولیدشده با هوش مصنوعی برای دسترسی به حساب‌های بانکی استفاده کرده‌اند [2]، پس خطر به تماسهای اورژانسی محدود نیست.
کلاهبرداران برای شبیهسازی یک صدا به چه مقدار صدا نیاز دارند؟
FTC میگوید فقط یک کلیپ صوتی کوتاه لازم است [1]. Starling Bank با استناد به کارزار سپتامبر ۲۰۲۴ خود گفت شبیهسازی میتواند با کمتر از سه ثانیه صدا انجام شود [8][9]. این ادعای کارزار یک بانک است و هیچ‌یک از منابع بهکاررفته در اینجا آن را مستقل آزمایش نکردهاند. آن را هشداری درباره اندک بودن نیاز بدانید، نه آستانه‌ای اندازه‌گیری‌شده.
آیا صدای عمومی کافی برای کپی کردن وجود دارد؟
EPRS به یافته‌ای استناد میکند که ۵۳٪ از مردم صدای خود را در اینترنت به اشتراک می‌گذارند [6]. ویدئوها، پیام‌های صوتی و پست‌های عمومی شبکه‌های اجتماعی همگی منبع بالقوه‌اند. به همین دلیل FBI توصیه میکند محتوای آنلاین مربوط به تصویر یا صدای خود را محدود کنید و حساب‌های شبکه اجتماعی را خصوصی کنید [2].
آیا ابزارهای شبیهسازی محدود شده‌اند؟
نه بهطور یکنواخت. Consumer Reports در مارس ۲۰۲۵ محصولات شبیهسازی صدای شش شرکت را بررسی کرد: Descript، ElevenLabs، Lovo، PlayHT، Resemble AI و Speechify. این بررسی نشان داد فقط Descript و Resemble AI برای مقابله با سوءاستفاده گام برداشته‌اند و بقیه فقط می‌خواستند کاربر کادری را علامت بزند که تأیید میکند حق شبیهسازی آن صدا را دارد [5]. این مطالعه نشان میدهد مانع در برخی ابزارهای تجاری چقدر کوتاه میتواند باشد. نشان نمی‌دهد کلاهبرداران از همین محصولات خاص استفاده کرده‌اند.
کلاهبرداریهای صوتی هوش مصنوعی چقدر رایج‌اند و چه مقدار پول از دست می‌رود؟
هیچ‌کس شمار دقیقی از کلاهبرداریهای فقط شبیهسازی صدا ندارد. بهترین آمار رسمی دسته‌های گسترده‌تری را پوشش میدهد، پس آن‌ها را به‌عنوان زمینه بخوانید، نه شمارش تماسهای صدای شبیه‌سازی‌شده.
دادههای ۲۰۲۵ FBI چه نشان میدهد؟
IC3 در ۲۰۲۵ تعداد ۱٬۰۰۸٬۵۹۷ شکایت دریافت کرد و زیان‌های گزارش‌شده ۲۰.۸۷۷ میلیارد دلار بود، یعنی ۲۶٪ افزایش زیان نسبت به ۲۰۲۴ [3]. از این میان بیش از ۲۲٬۰۰۰ شکایت (۲۲٬۳۶۴ مورد) اطلاعات مرتبط با هوش مصنوعی داشت و زیان‌های تعدیل‌شده آن‌ها از ۸۹۳ میلیون دلار فراتر رفت [3]. در کلاهبرداریهای پدربزرگ‌ومادربزرگ یا «استیصال» بهطور مشخص، قربانیان زیانی بیش از ۵ میلیون دلار اعلام کردند [3].
مجموع مربوط به هوش مصنوعی را انواع دیگر کلاهبرداری تحت‌الشعاع قرار می‌دهند. IC3 بیش از ۶۳۲ میلیون دلار شکایت سرمایه‌گذاری با ارتباط با هوش مصنوعی گزارش کرد (در برابر بیش از ۸ میلیارد دلار کل زیان‌های سرمایه‌گذاری)، بیش از ۳۰ میلیون دلار در نفوذ به ایمیل کسب‌وکار با دخالت هوش مصنوعی، بیش از ۱۹ میلیون دلار در کلاهبرداریهای اعتمادسازی و عاشقانه با ارتباط محتمل با هوش مصنوعی و نزدیک به ۱۳ میلیون دلار در کلاهبرداریهای استخدامی با دخالت هوش مصنوعی [3]. IC3 می‌افزاید بسیاری از قربانیان شاید نفهمند هوش مصنوعی تا چه اندازه دخیل بوده است [3].
دادههای FTC چه نشان میدهد؟
FTC در ۱۵ ژوئن ۲۰۲۶ گزارش داد که مردم در ۲۰۲۵ از دست دادن ۳٫۵ میلیارد دلار را در کلاهبرداریهای جعل هویت گزارش کرده‌اند، نزدیک به سه برابر سطح ۲۰۲۰ [4]. از هر سه گزارش کلاهبرداری نزدیک به یک مورد درباره جعل هویت بود که پرگزارش‌ترین دسته کلاهبرداری است [4]. کل زیان‌های گزارش‌شده کلاهبرداری حدود ۱۶ میلیارد دلار بود، بالاترین رقم ثبت‌شده و حدود ۲۵٪ بیشتر از ۲۰۲۴ [4]. کتاب داده ۲۰۲۴ شبکه Consumer Sentinel در FTC برای ۲۰۲۴ تعداد ۸۴۵٬۸۰۶ گزارش کلاهبرداری جعل هویت را ثبت کرد [10]. کلاهبرداریهای جعل هویت بسیاری از کلاهبرداری‌ها را شامل میشود که اصلاً هوش مصنوعی در آن‌ها نقشی ندارد.
سالمندان چقدر آسیب می‌بینند؟
شاکیان ۶۰ ساله و بالاتر در ۲۰۲۵ تعداد ۲۰۱٬۲۶۶ شکایت به IC3 ارائه کردند که ۳۷٪ بیش از ۲۰۲۴ بود. آن‌ها زیان ۷.۷۴۸ میلیارد دلاری را گزارش کردند، با افزایش ۵۹٪، با میانگین زیان ۳۸٬۵۰۰ دلار، و ۱۲٬۴۴۴ نفر از آن‌ها بیش از ۱۰۰٬۰۰۰ دلار از دست دادند [3]. FTC در بیانیه مطبوعاتی اوت ۲۰۲۵ که دادههای یک گزارش ویژه را خلاصه می‌کرد، اعلام کرد که مجموع زیان‌های گزارش‌شده بزرگسالان ۶۰ ساله و بالاتری که بیش از ۱۰۰٬۰۰۰ دلار در کلاهبرداریهای جعل هویت از دست داده‌اند هشت برابر شد: از ۵۵ میلیون دلار در ۲۰۲۰ به ۴۴۵ میلیون دلار در ۲۰۲۴ [11].
چرا نظرسنجیها و شکایت‌ها با هم نمی‌خوانند؟
نظرسنجی Starling Bank از بیش از ۳٬۰۰۰ بزرگسال بریتانیایی، که با Mortar Research در اوت ۲۰۲۴ انجام شد، نشان داد ۲۸٪ گمان میکردند در ۱۲ ماه گذشته هدف کلاهبرداری شبیهسازی صدا با هوش مصنوعی بوده‌اند و تنها ۳۰٪ گفتند با اطمینان می‌دانند به چه چیزی باید دقت کنند [8]. CNN نظرسنجی را چنین گزارش کرد که بیش از یک‌چهارم پاسخ‌دهندگان هدف قرار گرفتهاند [9]. این نظرسنجی بر پایه خوداظهاری است و یک شرکت تجاری آن را اجرا کرده است. رقم IC3 بر شکایت‌ها استوار است که به گزارش دادن قربانیان و تشخیص دخالت هوش مصنوعی بستگی دارد. این دو چیزهای متفاوتی را میسنجند و شکاف میان آن‌ها احتمالاً بازتاب گزارش‌نشدن، نامشخص بودن نقش هوش مصنوعی و شیوه طرح پرسش‌هاست. هیچ‌یک از منابع بهکاررفته در اینجا نرخ واقعی را نمی‌سنجد.
آیا میتوان صدای شبیه‌سازی‌شده را از صدای واقعی تشخیص داد؟
اغلب نه. توصیه‌های رسمی یکدست نیست و همین خود چیزی به شما میگوید.
- FBI توصیه میکند به لحن و انتخاب واژهها دقیق گوش دهید [2].
- همین نهاد در مه ۲۰۲۵ هشدار داد که شبیهسازی صدا با هوش مصنوعی میتواند تقریباً با صدای یک آشنا یکسان به نظر برسد [12].
- EPRS میگوید تشخیص با یادگیری ماشین و تحلیل جنایی برای تماسهای صوتی محدودیتهای فراوان دارد [6].
- در نظرسنجی Starling Bank فقط ۳۰٪ از پاسخ‌دهندگان گفتند در صورت هدف قرار گرفتن با اطمینان می‌دانند به چه چیزی دقت کنند [8].
نتیجه عملی این است که به راستیآزمایی تکیه کنید، نه به گوش خود. گوش دادن میتواند پشتوانه‌ای ضعیف باشد، اما صدای متقاعدکننده چیزی را ثابت نمی‌کند.
کدام نشانه‌ها هنوز ارزش توجه دارند؟
نشانه‌ها در موقعیت‌اند، نه در صدا. به درخواست فوری پول یا باج [2]، اصرار به پرداخت با حواله بانکی، ارز دیجیتال یا کارت هدیه [1] و درخواست رفتن به یک پیام‌رسان رمزگذاری‌شده (که در کارزار مقام‌های ارشد دیده شد) [7] توجه کنید. هر یک از این‌ها باید واکنش یکسانی برانگیزد: بایستید و از راه مسیری دیگر راستیآزمایی کنید.
چگونه از خود و خانواده‌تان در برابر شبیهسازی صدا محافظت کنید؟
توصیه‌های مستند FTC و FBI به راستیآزمایی از راه مسیری برمی‌گردد که تماس‌گیرنده کنترلی بر آن ندارد.
- قطع کنید و با شمارهای که میدانید تماس بگیرید. FTC میگوید به صدا اعتماد نکنید و با شمارهای که مطمئنید متعلق به آن شخص است با او تماس بگیرید [1]. در تماسهایی که ادعا میشود از بانک یا سازمانی است، FBI توصیه میکند تماس را قطع کنید، مخاطب واقعی را جستوجو کنید و مستقیماً با آن شماره تماس بگیرید [2].
- از مسیر دوم استفاده کنید. اگر به آن شخص دسترسی نداشتید، FTC توصیه میکند از راه یکی دیگر از اعضای خانواده یا دوستانش با او تماس بگیرید [1].
- یک عبارت امن توافق کنید. FBI یک واژه یا عبارت رمز مشترک با خانواده را برای تأیید هویت توصیه میکند [2]. Starling Bank کارزار Safe Phrases را در ۱۸ سپتامبر ۲۰۲۴ و در حمایت از کارزار Stop! Think Fraud دولت بریتانیا راه انداخت [8].
- صدا و ویدئوی عمومی را محدود کنید. FBI توصیه میکند محتوای آنلاین مربوط به تصویر یا صدای خود را محدود کنید و حساب‌های شبکه اجتماعی را خصوصی کنید [2].
- روش‌های پرداخت غیرمعمول را نپذیرید. FTC درخواست حواله بانکی، ارز دیجیتال و کارت هدیه را از نشانه‌های کلاهبرداری میداند [1]؛ توصیه ما این است که با درخواست تلفنی از این راه‌ها پول نپردازید.
- همین قاعده را برای هر درخواست غیرمنتظره به کار ببرید. چون FBI میگوید مجرمان از صدای تولیدشده با هوش مصنوعی برای دسترسی به حساب‌های بانکی استفاده کرده‌اند [2]، صدا به‌تنهایی مدرک ضعیفی برای هویت است.
در عمل چه شکلی دارد؟
این سناریویی نمونه‌وار است، نه یک پرونده واقعی. تلفن شما با شمارهای ناآشنا زنگ می‌خورد. صدایی شبیه دخترتان میگوید گرفتار شده و همین حالا پول لازم دارد، آن هم با کارت هدیه. عبارت امن خانوادگی را می‌پرسید. تماس‌گیرنده طفره می‌رود یا فشار را بیشتر میکند. قطع می‌کنید، با شمارهای که در گوشی‌تان ذخیره است با دخترتان تماس می‌گیرید و اگر پاسخ نداد، سراغ همسرش، یکی از خواهر و برادرها یا یکی از دوستانش می‌روید [1]. چیزی نمی‌فرستید. پس از آن تلاش کلاهبرداری را گزارش می‌دهید (در ادامه ببینید).
آیا عبارت‌های امن کارایی دارند؟ نقاط قوت و محدودیت‌ها
نقطه قوت این است که عبارت امن به گوش شما وابسته نیست و هزینه‌ای ندارد. محدودیت‌ها عملی‌اند. فقط وقتی کار میکند که خانواده از پیش بر سر آن توافق کرده باشد، همه زیر فشار آن را به یاد بیاورند و کلاهبردار نتواند آن را در اینترنت پیدا کند. منابع اینجا اثربخشی عبارت‌های امن را نسنجیده‌اند و این توصیه به آن بستگی دارد که آن‌قدر آرام بمانید که از آن استفاده کنید. به همین دلیل قاعده تماس مجدد در اولویت است.
اگر پول فرستاده‌اید چه باید بکنید؟
سریع اقدام کنید، اما خود را سرزنش نکنید. این تماس‌ها برای مغلوب کردن آدم‌های محتاط طراحی شده‌اند.
- بلافاصله با بانک یا ارائه‌دهنده پرداخت خود تماس بگیرید. بگویید کلاهبرداری بوده و بپرسید چه کاری ممکن است. بازگشت پول تضمین‌شده نیست.
- گزارش دهید. در آمریکا، FTC گزارش کلاهبرداری را از راه سرویس ReportFraud می‌پذیرد [1] و IC3 مرکز FBI است که شکایت‌های جرایم اینترنتی را دریافت میکند [3]. در کشورهای دیگر به پلیس ملی یا نهاد گزارش کلاهبرداری کشور خود مراجعه کنید.
- خانواده را مطلع کنید. به کسی که هویتش جعل شده و به بستگان خود بگویید، چون IC3 میگوید این کلاهبرداری در حال تکامل است تا از دیگر اعضای خانواده و دوستان تقلید کند [3].
- مرور کنید چه صدایی از شما عمومی است. FBI توصیه میکند محتوای آنلاین مربوط به صدای خود را محدود کنید و حساب‌ها را خصوصی کنید [2].
این اطلاعات عمومی است، نه مشاوره حقوقی یا مالی. برای کمک درباره زیان‌ها با یک مشاور صلاحیت‌دار یا مرجع محلی مربوط تماس بگیرید.
آیا تماسهای کلاهبرداری با صدای هوش مصنوعی غیرقانونی است؟
کلاهبرداری جرم است، اما تصویر حقوقی مربوط به صدای هوش مصنوعی بهطور مشخص هنوز در حال شکل‌گیری است.
کمیسیون ارتباطات فدرال در ۲۰۲۴ چه حکمی داد؟
در ۸ فوریه ۲۰۲۴ کمیسیون ارتباطات فدرال آمریکا (FCC) بهاتفاق آرا یک حکم تفسیری تصویب کرد که بر پایه آن تماسهایی که با صدای تولیدشده با هوش مصنوعی انجام میشوند بر اساس قانون حمایت از مصرفکنندگان تلفنی (TCPA) «مصنوعی» هستند و حکم فوراً لازم‌الاجرا شد [13]. این حکم ابزارهای بیشتری در اختیار دادستان‌های کل ایالت‌ها برای مقابله با تماسهای خودکار با صدای هوش مصنوعی می‌گذارد [13]. دفتر حقوقی Cooley این حکم را توضیح قواعد موجود TCPA میداند، نه قواعد تازه [14]. تیترها نوشتند که تماسهای خودکار هوش مصنوعی را غیرقانونی «کرد»؛ برداشت این دفتر حقوقی آن است که حکم تأیید کرد این تماس‌ها از پیش غیرقانونی بوده‌اند.
این حکم حول یک قانون آمریکایی درباره تماسهای دارای صدای مصنوعی چارچوب‌بندی شده است. مجرمی را که مستقیماً با قربانی تماس می‌گیرد متوقف نمی‌کند و بیرون از آمریکا اثری ندارد.
اتحادیه اروپا چه الزامی دارد؟
EPRS یادآور میشود که ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) ارائه‌دهندگان هوش مصنوعی را ملزم میکند به کاربران اطلاع دهند که با محتوای تولیدشده با هوش مصنوعی، مانند دیپ‌فیک، روبه‌رو هستند و قابل تشخیص بودن آن را تضمین کنند [6]. EPRS فناوری، قانون‌گذاری و افزایش سواد و آگاهی درباره هوش مصنوعی را راه‌های کاهش خطر برمی‌شمارد [6]. تکلیف برچسب‌گذاری به رعایت آن از سوی تولیدکننده بستگی دارد، که بعید است کلاهبرداران انجام دهند. برای مردم عادی، عادت‌های راستیآزمایی شخصی همچنان دفاع اصلی است. این راهنما قواعد کشورهای دیگر درباره شبیهسازی صدا در خارج از حوزه کلاهبرداری را پوشش نمی‌دهد.
آیا کلاهبرداران از صدای هوش مصنوعی علیه کسب‌وکارها و مقام‌های رسمی هم استفاده می‌کنند؟
بله، بر اساس هشدارهای FBI. در ۱۵ مه ۲۰۲۵ FBI اعلام کرد که از آوریل ۲۰۲۵ عاملان مخرب با پیامک (اسمیشینگ) و پیام‌های صوتی تولیدشده با هوش مصنوعی (ویشینگ) هویت مقام‌های ارشد آمریکا را جعل کرده‌اند [12]. به‌روزرسانی ۱۹ دسامبر ۲۰۲۵ آن میگوید این فعالیت به ۲۰۲۳ بازمی‌گردد و اهداف شامل اعضای خانواده و آشنایان شخصی مقام‌ها هم میشود [7].
گزارش ۲۰۲۵ IC3 همچنین دخالت هوش مصنوعی را در نفوذ به ایمیل کسب‌وکار با بیش از ۳۰ میلیون دلار زیان، در کلاهبرداری سرمایه‌گذاری با بیش از ۶۳۲ میلیون دلار شکایت دارای ارتباط با هوش مصنوعی، در کلاهبرداریهای اعتمادسازی و عاشقانه با بیش از ۱۹ میلیون دلار و در کلاهبرداریهای استخدامی با نزدیک به ۱۳ میلیون دلار ثبت میکند [3]. صدای شبیه‌سازی‌شده یکی از چند ابزار است.
دفاع همان دفاع خانواده‌هاست: فقط بر پایه یک پیام یا تماس اقدام نکنید. از راه مسیری دوم که از پیش به آن اعتماد دارید راستیآزمایی کنید، مانند یک شماره شناخته‌شده یا مرحله تأیید جداگانه.
چه چیزی هنوز نامطمئن است و گام بعدی چه خواهد بود؟
هنوز چه چیزی را نمی‌دانیم؟
- شیوع واقعی. نتایج نظرسنجی مانند ۲۸٪ در Starling و دادههای شکایت مانند ۵ میلیون دلار زیان کلاهبرداریهای استیصال در IC3 قابل مقایسه نیستند و هیچ‌کدام تصویر کامل را نمی‌سنجد [8][3].
- چه مقدار صدای کم کافی است. رقم سه ثانیه از کارزار یک بانک آمده است؛ FTC فقط میگوید یک کلیپ کوتاه [8][1].
- تشخیص. EPRS میگوید ابزارهای تشخیص محدودیتهای بسیار دارند، به‌ویژه برای تماسهای صوتی [6]. این منابع هیچ شواهد مستقلی ندارند که نشان دهد تشخیص در سطح مصرف‌کننده روی تماسهای تلفنی بهطور قابلاعتماد کار میکند.
گام بعدی احتمالاً چیست؟
IC3 میگوید کلاهبرداری اورژانس خانوادگی در حال تکامل است تا از دیگر اعضای خانواده یا دوستان نزدیک در اورژانس‌های گوناگون تقلید کند [3]. کلاهبرداری گزارش‌شده در مجموع رو به افزایش است: زیان‌های IC3 در ۲۰۲۵ به اندازه ۲۶٪ بالا رفت و مجموع FTC حدود ۲۵٪ بیشتر بود [3][4]. این مجموع‌ها شبیهسازی صدا را جدا نمی‌کنند، پس جهت کلاهبرداری را نشان می‌دهند، نه اندازه این یک کلاهبرداری را. قوانینی مانند حکم FCC و ماده ۵۰ اتحادیه اروپا برقرارند، اما اثر آن‌ها بر کلاهبرداران خارج از این قلمروها اثبات‌نشده است.
خوانندگان در ایران چه؟
منابع پشت این راهنما عمدتاً از آمریکا، بریتانیا و اتحادیه اروپا هستند. هیچ‌کدام به شرایط ایران نمی‌پردازند، پس این مقاله درباره قوانین ایران، فیلترینگ یا محدودیتهای پرداخت ادعایی ندارد. گام‌های اصلی، یعنی یک شماره شناخته‌شده، یک تماس دوم و یک عبارت توافق‌شده، فقط به شما و خانواده‌تان بستگی دارند، نه به هیچ شبکه خاصی.
| شاخص | رقم گزارش‌شده | سال | گزارش‌دهنده |
|---|---|---|---|
| همه شکایت‌ها به IC3 | ۱٬۰۰۸٬۵۹۷ شکایت؛ ۲۰.۸۷۷ میلیارد دلار زیان [3] | ۲۰۲۵ | FBI IC3 |
| شکایت‌های دارای اطلاعات مرتبط با هوش مصنوعی | ۲۲٬۳۶۴ شکایت؛ زیان تعدیل‌شده بیش از ۸۹۳ میلیون دلار [3] | ۲۰۲۵ | FBI IC3 |
| کلاهبرداریهای پدربزرگ‌ومادربزرگ یا «استیصال» (نوع شبیهسازی صدا) | بیش از ۵ میلیون دلار زیان اعلام‌شده [3] | ۲۰۲۵ | FBI IC3 |
| شاکیان ۶۰ ساله و بالاتر | ۲۰۱٬۲۶۶ شکایت؛ ۷.۷۴۸ میلیارد دلار زیان [3] | ۲۰۲۵ | FBI IC3 |
| کلاهبرداریهای جعل هویت | ۳٫۵ میلیارد دلار زیان گزارش‌شده، نزدیک به سه برابر سطح ۲۰۲۰ [4] | ۲۰۲۵ | FTC |
| همه کلاهبرداری‌ها | حدود ۱۶ میلیارد دلار زیان گزارش‌شده، بالاترین رقم ثبت‌شده [4] | ۲۰۲۵ | FTC |
| گزارش‌های کلاهبرداری جعل هویت | ۸۴۵٬۸۰۶ گزارش [10] | ۲۰۲۴ | FTC |
| بزرگسالان ۶۰+ که بیش از ۱۰۰٬۰۰۰ دلار در جعل هویت از دست داده‌اند | مجموع زیان‌ها از ۵۵ میلیون دلار به ۴۴۵ میلیون دلار رسید، یعنی هشت برابر [11] | ۲۰۲۰ تا ۲۰۲۴ | FTC |
| تاریخ | نهاد صادرکننده | توصیه یا هشدار اصلی |
|---|---|---|
| ۲۰۲۳-۰۳-۲۰ | کمیسیون تجارت فدرال آمریکا (FTC) | به صدا اعتماد نکنید؛ با شمارهای که مطمئنید متعلق به آن شخص است تماس بگیرید؛ اگر در دسترس نبود، از راه یکی دیگر از اعضای خانواده یا دوستان تماس بگیرید؛ درخواست حواله بانکی، ارز دیجیتال و کارت هدیه نشانه کلاهبرداری است [1] |
| ۲۰۲۴-۰۹-۱۸ | Starling Bank | با خانواده یک عبارت امن برای تأیید هویت توافق کنید، در حمایت از کارزار Stop! Think Fraud دولت بریتانیا [8] |
| ۲۰۲۴-۱۲-۰۳ | FBI (هشدار IC3) | یک واژه یا عبارت رمز بسازید؛ به لحن و انتخاب واژهها گوش دهید؛ محتوای آنلاین صدا و تصویر را محدود کنید و حساب‌ها را خصوصی کنید؛ برای تماسهای بانک یا سازمان، قطع کنید، مخاطب واقعی را جستوجو کنید و مستقیماً با آن تماس بگیرید [2] |
| ۲۰۲۵-۰۵-۱۵ | FBI (هشدار IC3) | پیام‌های صوتی هوش مصنوعی و پیامک‌ها هویت مقام‌های ارشد آمریکا را جعل کردند؛ شبیهسازی صدا میتواند تقریباً با صدای یک آشنا یکسان باشد [12] |
اشتباه‌های رایج
اعتماد به تماس فقط چون صدا دقیقاً شبیه صدای بستگان است
راه درست: صدا را اثبات‌نشده بدانید. FBI میگوید شبیهسازی صدا با هوش مصنوعی میتواند تقریباً با صدای یک آشنا یکسان به نظر برسد؛ پس پیش از هر اقدامی هویت را از راه یک مسیر جداگانه بررسی کنید [12].
ادامه دادن مکالمه بهجای قطع کردن و تماس مجدد
راه درست: قطع کنید و با شمارهای که از پیش میدانید متعلق به آن شخص است تماس بگیرید [1]. در تماسهایی که ادعا میشود از بانک یا سازمانی است، FBI توصیه میکند تماس را قطع کنید، مخاطب واقعی را جستوجو کنید و مستقیماً با آن شماره تماس بگیرید [2].
ابتدا پول فرستادن و بعد بررسی کردن
راه درست: FTC درخواست پرداخت از راه حواله بانکی، ارز دیجیتال یا کارت هدیه را نشانه کلاهبرداری میداند [1]. توصیه ما: پیش از هر پرداخت درنگ کنید، ابتدا هویت تماس‌گیرنده را بررسی کنید و با درخواست تلفنی از این راه‌ها پول نپردازید.
تعیین عبارت امن اما استفاده نکردن از آن یا فراموش کردنش زیر فشار
راه درست: عبارت را از پیش توافق کنید، مطمئن شوید همه اعضای خانواده آن را می‌دانند و هر بار که درخواست فوری می‌رسد آن را بپرسید. FBI یک واژه یا عبارت رمز را توصیه میکند و Starling Bank هم کارزاری با عنوان Safe Phrases بر پایه همین ایده اجرا کرد [2][8].
این تصور که فقط پدربزرگ‌ها و مادربزرگ‌ها هدف‌اند
راه درست: هشدار را با کل خانواده در میان بگذارید. IC3 میگوید این کلاهبرداری در حال تکامل است تا از دیگر اعضای خانواده یا دوستان نزدیک در اورژانس‌های گوناگون تقلید کند و فقط به نوه‌ها محدود نیست [3].
باور به اینکه شناسه تماس‌گیرنده هویت او را ثابت میکند
راه درست: شناسه تماس‌گیرنده را مدرک ندانید. EPRS میگوید کلاهبرداران از VoIP استفاده می‌کنند تا تماس‌ها از شماره‌های معتبر به نظر برسند [6].
پرسش‌های پرتکرار
تماسهای کلاهبرداری با صدای هوش مصنوعی چگونه کار می‌کنند؟
کلاهبردار یک کلیپ صوتی کوتاه را از محتوای منتشرشده در اینترنت برمی‌دارد، با برنامه شبیهسازی صدا صدای یکی از بستگان را کپی میکند و سپس با یک بحران ساختگی تماس می‌گیرد. تماس‌گیرنده پول فوری یا باج می‌خواهد، اغلب با حواله بانکی، ارز دیجیتال یا کارت هدیه که FTC آن‌ها را نشانه کلاهبرداری میداند [1][2].
برای شبیهسازی یک صدا به چه مقدار صدا نیاز است؟
FTC میگوید فقط یک کلیپ صوتی کوتاه از محتوای منتشرشده در اینترنت لازم است [1]. Starling Bank در سپتامبر ۲۰۲۴ اعلام کرد که شبیهسازی صدا میتواند با کمتر از سه ثانیه صدا انجام شود [8][9]. این عدد از کارزار یک بانک آمده و منابع بهکاررفته در اینجا آن را مستقل راستیآزمایی نکردهاند.
آیا میتوان فهمید یک تماس تلفنی شبیهسازی صدا با هوش مصنوعی است؟
بهطور قابلاعتماد نه. FBI توصیه میکند به لحن و انتخاب واژهها دقیق گوش دهید [2]، اما هشدار هم میدهد که شبیهسازی صدا با هوش مصنوعی میتواند تقریباً با صدای یک آشنا یکسان باشد [12]. خدمات پژوهشی پارلمان اروپا میگوید تشخیص با یادگیری ماشین و تحلیل جنایی برای تماسهای صوتی محدودیتهای فراوان دارد [6]. بهجای آن از راه یک مسیر جداگانه راستیآزمایی کنید.
واژه امن خانوادگی چیست و آیا در برابر شبیهسازی صدا کارایی دارد؟
عبارت امن خانوادگی واژه یا عبارتی است که بستگان از پیش برای تأیید هویت توافق می‌کنند. FBI یک واژه یا عبارت رمز را توصیه میکند و Starling Bank در ۲۰۲۴ کارزار Safe Phrases را راه انداخت [2][8]. منابع اینجا اثربخشی آن را اندازه نگرفته‌اند. فقط وقتی کمک میکند که از پیش توافق شده باشد و زیر فشار به یاد بیاید.
آیا استفاده از صدای هوش مصنوعی در تماسهای کلاهبرداری غیرقانونی است؟
طبق حکم تفسیریای که FCC در ۸ فوریه ۲۰۲۴ بهاتفاق آرا تصویب کرد، تماسهایی که با صدای تولیدشده با هوش مصنوعی انجام میشوند بر پایه قانون حمایت از مصرفکنندگان تلفنی آمریکا (TCPA) «مصنوعی» به شمار میآیند [13]. دفتر حقوقی Cooley آن را توضیح قواعد موجود میداند، نه قواعد تازه [14]. این حکم به تماسهای خودکار مربوط است و فقط در آمریکا اعمال میشود.
اگر یکی از بستگان تماس بگیرد و پول فوری بخواهد چه باید کرد؟
پول نپردازید و اطلاعاتی ندهید. تماس را قطع کنید و با شمارهای که میدانید متعلق به آن شخص است تماس بگیرید. اگر به او دسترسی نداشتید، از راه یکی دیگر از اعضای خانواده یا دوستانش با او ارتباط بگیرید [1]. در تماسهایی که ادعا میشود از بانک یا سازمانی است، FBI توصیه میکند تماس را قطع کنید، مخاطب واقعی را جستوجو کنید و مستقیماً با آن شماره تماس بگیرید [2].
کلاهبرداری با شبیهسازی صدا چقدر رایج است؟
نرخ واقعی را کسی نمیداند. IC3 در ۲۰۲۵ تعداد ۲۲٬۳۶۴ شکایت با اطلاعات مرتبط با هوش مصنوعی دریافت کرد و قربانیان بیش از ۵ میلیون دلار زیان ناشی از کلاهبرداریهای «استیصال» را اعلام کردند [3]. یک نظرسنجی بریتانیایی برای Starling Bank نشان داد ۲۸٪ از بزرگسالان گمان میکردند در یک سال گذشته هدف قرار گرفتهاند [8]. دادههای شکایت و نظرسنجیها چیزهای متفاوتی را میسنجند.
واژه‌نامه
- شبیهسازی صدا با هوش مصنوعی (AI voice cloning)
- شبیهسازی صدا با هوش مصنوعی نرم‌افزاری است که از روی نمونه صوتی، گفتاری مشابه صدای یک فرد مشخص تولید میکند.
- دیپ‌فیک (Deepfake)
- دیپ‌فیک (deepfake) صدا، تصویر یا ویدئویی است که هوش مصنوعی آن را ساخته یا دستکاری کرده تا شبیه یک انسان واقعی به نظر برسد یا شنیده شود.
- ویشینگ (Vishing)
- ویشینگ (vishing) یا فیشینگ صوتی، کلاهبرداری از راه تماس تلفنی یا پیام صوتی است.
- اسمیشینگ (Smishing)
- اسمیشینگ (smishing) کلاهبرداری از راه پیامک است.
- کلاهبرداری اورژانس خانوادگی
- کلاهبرداری اورژانس خانوادگی، که کلاهبرداری پدربزرگ‌ومادربزرگ یا «استیصال» هم نامیده میشود، کلاهبرداری‌ای است که در آن تماس‌گیرنده خود را یکی از بستگانِ گرفتار معرفی میکند و پول فوری می‌خواهد.
- عبارت امن (Safe phrase)
- عبارت امن واژه یا عبارتی است که اعضای خانواده از پیش توافق می‌کنند تا بتوانند هویت یکدیگر را تأیید کنند.
- VoIP
- VoIP فناوری‌ای است که تماسهای تلفنی را از راه اینترنت منتقل میکند و به گفته EPRS کلاهبرداران از آن استفاده می‌کنند تا تماس‌ها از شماره‌های معتبر به نظر برسند.
- تماس خودکار (Robocall)
- تماس خودکار (robocall) تماسی تلفنی و خودکار است که پیامی با صدای ضبط‌شده یا مصنوعی پخش میکند.
- قانون حمایت از مصرفکنندگان تلفنی (TCPA)
- قانون حمایت از مصرفکنندگان تلفنی (TCPA) قانونی در آمریکا است که تماسهای دارای صدای مصنوعی یا ضبط‌شده را محدود میکند.
- نفوذ به ایمیل کسب‌وکار (BEC)
- نفوذ به ایمیل کسب‌وکار (BEC) کلاهبرداری‌ای است که در آن مجرمان خود را طرفی مورد اعتماد معرفی می‌کنند تا شرکتی را به فرستادن پول یا داده بفریبند.
منابع
- Scammers use AI to enhance their family emergency schemes US Federal Trade Commission (Consumer Advice) · 2023-03-20
- Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (Alert I-120324-PSA) FBI Internet Crime Complaint Center (IC3) · 2024-12-03
- 2025 IC3 Annual Report (Internet Crime Report 2025) FBI Internet Crime Complaint Center (IC3)
- FTC Data Show People Reported Losing $3.5 Billion to Imposter Scams in 2025 US Federal Trade Commission · 2026-06-15
- Consumer Reports finds popular voice cloning tools lack safeguards TechCrunch (reporting a Consumer Reports study) · 2025-03-10
- Scam calls in times of Generative AI (At a Glance, PE 777.940) European Parliamentary Research Service (EPRS)
- Senior U.S. Officials Continue to be Impersonated in Malicious Messaging Campaign (Alert I-121925-PSA) FBI Internet Crime Complaint Center (IC3) · 2025-12-19
- AI voice cloning scams could catch millions out - with over a quarter of UK adults targeted in the past year (Safe Phrases campaign) Starling Bank · 2024-09-18
- This bank says 'millions' of people could be targeted by AI voice-cloning scams CNN · 2024-09-18
- Consumer Sentinel Network 2024 Data Book US Federal Trade Commission
- FTC Data Show a More Than Four-Fold Increase in Reports of Impersonation Scammers Stealing Tens and Even Hundreds of Thousands from Older Adults US Federal Trade Commission
- Senior US Officials Impersonated in Malicious Messaging Campaign (Alert I-051525-PSA) FBI Internet Crime Complaint Center (IC3) · 2025-05-15
- FCC Makes AI-Generated Voices in Robocalls Illegal Telecompetitor (reproducing the FCC announcement of 2024-02-08) · 2024-02-12
- FCC: AI-Generated Robocalls Illegal Under the TCPA Cooley LLP · 2024-02-15
