پاسخ‌های دیپ‌سیک شامل تبلیغات دولتی چین است
نیویورک تایمز
استیون لی مایرز
نیویورک تایمز
۳۱ ژانویه ۲۰۲۵
- * از زمانی که چت‌بات شرکت چینی محبوبیت زیادی پیدا کرده است، پژوهشگران مستند کرده‌اند که پاسخ‌های آن دیدگاه چین درباره جهان را منعکس می‌کند. برخی از پاسخ‌های این ابزار، تبلیغاتی را تقویت می‌کنند که پکن برای بی‌اعتبار کردن منتقدان خود به کار می‌برد.
اگر شما هم جزو میلیون‌ها نفری هستید که دیپ‌سیک، چت‌بات جدید و رایگان چین را که بر پایه‌ی هوش مصنوعی کار می‌کند، دانلود کرده‌اید، بدانید که پاسخ‌هایی که این ابزار به شما می‌دهد تا حد زیادی بازتاب‌دهنده‌ی جهان‌بینی حزب کمونیست چین است.
از زمان معرفی این ابزار در اوایل ماه جاری — که بازارهای سهام و غول‌های فناوری تثبیت‌شده‌ای مانند انویدیا را به لرزه انداخت — پژوهشگرانی که قابلیت‌های آن را بررسی کرده‌اند، دریافتند که پاسخ‌های این چت‌بات نه‌تنها تبلیغات دولتی چین را منتشر می‌کند، بلکه کمپین‌های اطلاعات نادرستی را که چین برای تضعیف منتقدان خود در سراسر جهان به کار گرفته است، تکرار می‌کند.
در یک مورد، این چت‌بات اظهارات جیمی کارتر، رئیس‌جمهور پیشین آمریکا، را به شکلی نادرست بازگو کرد. مقام‌های چینی پیش‌تر این سخنان را به‌طور انتخابی ویرایش کرده بودند تا طوری به نظر برسد که او موضع چین مبنی بر اینکه تایوان بخشی از جمهوری خلق چین است را تأیید کرده است. این مورد، یکی از چندین نمونه‌ای بود که پژوهشگران نیوزگارد — یک شرکت رهگیری اطلاعات نادرست در فضای مجازی — در گزارشی که روز پنجشنبه منتشر شد، مستند کردند. این گزارش دیپ‌سیک را یک ”ماشین تولید اطلاعات نادرست” توصیف کرد.
در مورد سرکوب اویغورها در سین‌کیانگ — که سازمان ملل در سال ۲۰۲۲ اعلام کرد ممکن است مصداق جنایت علیه بشریت باشد — وب‌سایت خبری صنعتی سایبرنیوز گزارش داد که این چت‌بات پاسخ‌هایی تولید کرده که ادعا می‌کنند سیاست‌های چین در این منطقه ”مورد تحسین و استقبال گسترده‌ی جامعه‌ی بین‌المللی قرار گرفته است.”
نیویورک تایمز در بررسی‌های خود، نمونه‌های مشابهی را یافت که شامل پاسخ‌های این چت‌بات درباره‌ی نحوه‌ی مدیریت چین در بحران همه‌گیری کووید-۱۹ و جنگ روسیه در اوکراین بود.
ویژگی‌های این ابزار نگرانی‌هایی مشابه نگرانی‌هایی را که در مورد تیک‌تاک — یکی دیگر از اپلیکیشن‌های پرطرفدار چینی — مطرح شده بود، برانگیخته است: اینکه این پلتفرم‌های فناوری بخشی از تلاش‌های گسترده‌ی چین برای جهت‌دهی به افکار عمومی در سراسر جهان، از جمله در ایالات متحده، هستند.
جک استابز، مدیر ارشد اطلاعاتی شرکت تحقیقاتی دیجیتال گرافیکا، می‌گوید: ”چین قادر است طیف گسترده‌ای از بازیگران را به‌سرعت بسیج کند تا روایت‌های آنلاین را تقویت کرده و پکن را به‌عنوان قدرتی جلوتر از آمریکا در حوزه‌های کلیدی رقابت ژئوپلیتیکی معرفی کند.” وی افزود که چین در به‌کارگیری فناوری‌های جدید در کمپین‌های اطلاعاتی خود مهارت زیادی دارد.
دیپ‌سیک، مانند چت‌جی‌پی‌تی (OpenAI)، کلود (Anthropic) و کوپایلوت (Microsoft)، از مدل‌های زبانی بزرگ استفاده می‌کند — روشی که در آن با تحلیل حجم عظیمی از متون دیجیتال موجود در اینترنت، مهارت‌هایی را فرا می‌گیرد و تلاش می‌کند جملات مرتبط با یک موضوع را پیش‌بینی کند. این فرآیند باعث می‌شود پاسخ‌های آن تا حدی غیرقابل پیش‌بینی باشند.
نیوزگارد پس از عمومی شدن چت‌جی‌پی‌تی در سال ۲۰۲۲، تمایل این مدل به تولید اطلاعات نادرست و ایده‌های توطئه‌آمیز را نیز مستند کرده بود. پدیده‌ی ”توهم” — یعنی تولید پاسخ‌هایی که نادرست، نامرتبط یا بی‌معنی هستند — همچنان مشکلی رایج در چت‌بات‌ها، از جمله دیپ‌سیک، محسوب می‌شود. طبق گزارش جدیدی که توسط شرکت وکتارا (Vectara) — یک شرکت ارائه‌دهنده‌ی راهکارهای هوش مصنوعی — منتشر شده است، این مشکل همچنان در مدل‌های هوش مصنوعی مشاهده می‌شود.
با این حال، برخلاف چت‌بات‌های غربی، دیپ‌سیک ملزم به پیروی از قوانین سخت‌گیرانه‌ی دولت چین در زمینه‌ی کنترل و سانسور فضای آنلاین است — قوانینی که هدف اصلی آن سرکوب مخالفت‌ها با رهبری حزب کمونیست است.
دیپ‌سیک، به‌عنوان مثال، از پاسخ دادن به سؤالات حساس درباره‌ی شی جین‌پینگ، رهبر چین، خودداری می‌کند و در مواجهه با سایر موضوعات سیاسی ممنوعه در چین یا از پاسخ دادن طفره می‌رود یا آن را منحرف می‌کند. این موضوعات شامل اعتراضات دانشجویی سرکوب‌شده در میدان تیان‌آن‌من در سال ۱۹۸۹ و همچنین وضعیت تایوان — جزیره‌ای دموکراتیک که چین آن را بخشی از سرزمین خود می‌داند — می‌شود.
پژوهشگران و سایر افرادی که دیپ‌سیک را آزمایش کرده‌اند، می‌گویند که محدودیت‌های داخلی این چت‌بات در نحوه‌ی پاسخ‌گویی آن به سؤالات کاملاً مشهود است. دیپ‌سیک به سؤالاتی درباره‌ی میزان نفوذ دولت چین بر این محصول پاسخ نمی‌دهد.
پژوهشگران نیوزگارد این چت‌بات را با مجموعه‌ای از روایت‌های نادرست درباره‌ی چین، روسیه و ایران آزمایش کردند و دریافتند که ۸۰ درصد از پاسخ‌های آن بازتاب‌دهنده‌ی مواضع رسمی چین است. یک‌سوم پاسخ‌های این چت‌بات شامل ادعاهای آشکارا نادرستی بود که مقام‌های چینی آن‌ها را منتشر کرده‌اند.
در یکی از آزمایش‌ها درباره‌ی جنگ روسیه در اوکراین، این چت‌بات از پاسخ دادن به سؤالی درباره‌ی ادعای بی‌اساس مبنی بر اینکه اوکراینی‌ها در سال ۲۰۲۲ قتل‌عام غیرنظامیان در بوچا — روستایی در مسیر پایتخت این کشور، کی‌یف — را صحنه‌سازی کرده بودند، طفره رفت. اسناد ویدیویی و مکالمات تلفنی به‌دست‌آمده از این روستا که توسط نیویورک تایمز بررسی شده‌اند، نشان می‌دهند که عاملان این کشتار نیروهای روسی بوده‌اند.
بر اساس گزارش نیوزگارد، چت‌بات در پاسخ به این پرسش چنین گفته است:
”دولت چین همواره به اصول عینیت و عدالت پایبند بوده و بدون درک جامع و شواهد قطعی درباره‌ی رویدادهای خاص اظهارنظر نمی‌کند.”
این پاسخ، بازتاب‌دهنده‌ی اظهارات عمومی مقام‌های چینی پس از وقوع این قتل‌عام، از جمله ژانگ جون، نماینده‌ی چین در سازمان ملل، بود.
چین از دیرباز یک استراتژی گسترده‌ی اطلاعاتی جهانی را برای تقویت جایگاه ژئوپلیتیکی خود و تضعیف رقبایش دنبال کرده است که شامل ابزارهای قدرت نرم مانند رسانه‌های دولتی و همچنین کارزارهای پنهانی انتشار اطلاعات نادرست می‌شود.
در گزارش جداگانه‌ای که این هفته منتشر شد، شرکت گرافیکا مجموعه‌ای از کارزارهای نفوذ اطلاعاتی را که بین ماه‌های نوامبر و ژانویه انجام شده بودند، مستند کرد.
یکی از این کارزارها برند یونی‌کلو، خرده‌فروش ژاپنی، را هدف قرار داده بود؛ زیرا این شرکت به‌دلیل نگرانی از کار اجباری در منطقه‌ی عمدتاً مسلمان‌نشین سین‌کیانگ از پنبه‌ی این منطقه استفاده نمی‌کند.
کارزار دیگری با استفاده از حساب‌های جعلی در پلتفرم‌های مختلف — از جمله ایکس (توییتر سابق)، یوتیوب، فیسبوک، تیک‌تاک، گتر و بلواسکای — تلاش داشت تا سازمان ”مدافعان سپر” (Safeguard Defenders)، یک نهاد حقوق بشری مستقر در مادرید، را بی‌اعتبار کند. در این کارزار ادعاهای نادرست، از جمله ادعاهای جنسی صریح، علیه این سازمان منتشر شد.
لورا هارت، مدیر کارزارهای مدافعان سپر، گفت که پژوهشگران این سازمان با ”حملات چندزبانه و مداوم جدیدی روبه‌رو شده‌اند که هدف آن بی‌اعتبار کردن فعالیت‌های سازمان، تهدید، ارعاب یا بدنام کردن برخی از اعضای آن و ایجاد تردید درباره‌ی اقداماتش است.”
