سلاح تازه «برادر بزرگ»؛ چگونه پکن با هوش مصنوعی داستان‌های علمی‌تخیلی ویرانشهری را به واقعیت تبدیل می‌کند؟

به گزارش اکوایران، پژوهشی تازه نشان می‌دهد که یک شرکت چینی درحالی‌که محدودیت‌های صادراتی آمریکا برقرار بود، برای توسعه فناوری نظارتی پیش‌بینی‌کننده خود با چه دشواری‌هایی روبه‌رو شده است.

«برادر بزرگ» مجهز به هوش مصنوعی

نشریه نیویورک‌تایمز در گزارشی می‌نویسد: چین از هوش مصنوعی برای پیش‌بینی افرادی که ممکن است به یک تهدید سیاسی تبدیل شوند استفاده می‌کند. یک شرکت چینی در حال تلاش برای توسعه فناوری مبتنی بر هوش مصنوعی است که به دولت‌های اقتدارگرا این امکان را می‌دهد که نه‌تنها مخالفان را تحت نظر بگیرند، بلکه به‌طور بالقوه پیش‌بینی کنند چه کسانی ممکن است در آینده به مخالفان حکومت تبدیل شوند.

این پروژه که به نظر می‌رسد هنوز در مرحله پژوهش قرار دارد، گویی مستقیماً از دل داستان‌های علمی‌تخیلی ویرانشهری بیرون آمده است و تصویری از جهانی ارائه می‌دهد که در آن یک دولت اقتدارگرا می‌تواند پیش از آنکه شهروندانش حتی دست به ابراز مخالفت عمومی بزنند، علیه آن‌ها اقدام کند.

شرکت چینی Geedge Networks نسخه‌ای تجاری از «دیوار آتش بزرگ چین» (Great Firewall) را عرضه می‌کند؛ سامانه نظارت و سانسوری که چین برای کنترل فعالیت‌های آنلاین از آن استفاده می‌کند. این ابزارها به دولت‌ها اجازه می‌دهند ترافیک اینترنت را زیر نظر بگیرند و تلاش افراد برای دور زدن سانسور اینترنتی را شناسایی کنند.

اما بر اساس اسناد محرمانه افشاشده این شرکت، Geedge در حال کار بر روی محصولات تازه‌ای است که از هوش مصنوعی برای تحلیل داده‌های مکانی و نحوه استفاده افراد از اینترنت بهره می‌برند تا پیش‌بینی کنند چه کسانی ممکن است در آینده اقدام یا اظهارنظری انتقادی علیه حکومت انجام دهند؛ موضوعی که پژوهشگران دانشگاه وندربیلت به آن اشاره کرده‌اند. چنین فناوری‌ای، اگر به مرحله بلوغ برسد، ابزار بسیار قدرتمندی در اختیار دولت‌های اقتدارگرا قرار خواهد داد تا علیه دشمنان بالقوه خود به کار گیرند.

سرکوب پیش از وقوع اعتراض

اینکه یک حکومت اقتدارگرا از هوش مصنوعی برای سرکوب مخالفت‌ها استفاده کند، به‌خودی‌خود نگران‌کننده است؛ اما استفاده از هوش مصنوعی برای پیش‌بینی مخالفت‌ها پیش از آنکه فردی دست به اقدامی بزند، از نگاه برخی فعالان این صنعت به یک سناریوی کابوس‌وار تبدیل شده است.

در جریان سفر اخیر دونالد ترامپ به پکن، مقامات آمریکایی گفتند که چین به نسخه پیشرفته‌تری از تراشه‌های انویدیا دسترسی خواهد داشت/عکس از آسوشیتدپرس

 

برت جی. گلدستین مدیر آزمایشگاه «مسائل پیچیده» در مؤسسه امنیت ملی دانشگاه وندربیلت، در این رابطه می‌گوید: «این همان اتفاقی است که وقتی نظارت گسترده با هوش مصنوعی ترکیب می‌شود، رخ می‌دهد. بدون سازوکارهای نظارتی و موازنه قدرت، کاری که چین با شهروندان خودش انجام می‌دهد، پیش‌نمایشی از چیزی است که هرجا این ابزارها بدون کنترل باقی بمانند، ممکن خواهد شد.»

پژوهشگران وندربیلت دریافتند که Geedge با همکاری بازوی پژوهشی مورد حمایت دولت خود، یعنی آزمایشگاه ام‌ای‌اس‌اِی، در حال توسعه فناوری‌ای بوده که پروفایل‌هایی از شهروندان چینی ایجاد می‌کند و سپس با استفاده از هوش مصنوعی مشخص می‌سازد چه افرادی ممکن است یک خطر سیاسی بالقوه محسوب شوند.

نقش محدودیت‌های آمریکا بر چین

اما به نظر می‌رسد پیشرفت این شرکت تحت تأثیر محدودیت‌های صادراتی دوران دولت بایدن بر تراشه‌های رایانه‌ای طراحی‌شده در آمریکا که موتور محرک هوش مصنوعی هستند، قرار گرفته است. این موضوع نشان می‌دهد که محدودیت‌های آمریکا احتمالاً توسعه نسل بعدی فناوری‌های نظارتی در چین را کند کرده‌اند.

نمای افق شهر پکن. یک شرکت چینی در حال کار روی محصولاتی است که از هوش مصنوعی برای بررسی داده‌های مکانی و استفاده از اینترنت استفاده می‌کند تا پیش‌بینی کند چه کسانی ممکن است کاری بکنند یا چیزی بگویند که منتقد دولت باشد/عکس از نیویورک‌تایمز

اسناد Geedge نشان می‌دهد که در سال ۲۰۲۴ زمانی که کنترل‌های سختگیرانه صادراتی آمریکا علیه چین برقرار بود، این شرکت و آزمایشگاه وابسته به آن برای تأمین توان محاسباتی لازم جهت توسعه فناوری‌های نظارتی با مشکل روبه‌رو بودند.

برت وی. بنسون، استاد علوم سیاسی دانشگاه وندربیلت، گفت که اسناد به محدودیت‌های مربوط به GPU اشاره دارند. GPUها یا واحدهای پردازش گرافیکی، همان تراشه‌هایی هستند که مدل‌های هوش مصنوعی را به حرکت درمی‌آورند. او گفت که در نتیجه این محدودیت‌ها، شرکت ناچار شد از مدل‌های هوش مصنوعی و تراشه‌های قدیمی‌تر و کم‌توان‌تر استفاده کند.

به گفته مقام‌های آمریکایی، Geedge اکنون برای محصولات فعلی خود به تعداد کافی پردازنده گرافیکی دسترسی داردy اما برای اجرای جاه‌طلبانه‌ترین نسخه فناوری پیش‌بینی‌کننده خود، احتمالاً به تراشه‌هایی بسیار پیشرفته‌تر از آنچه چین قادر به تهیه آن است، نیاز خواهد داشت.

مقام‌های پیشین دولت بایدن گفتند اطلاعات موجود نشان می‌داد که سیاست‌های محدودکننده دسترسی چین به تراشه‌های پیشرفته طراحی‌شده در آمریکا، در حفظ برتری آمریکا در حوزه هوش مصنوعی و همچنین کند کردن توسعه فناوری‌های چینی مؤثر بوده است.

بااین‌حال، اینکه آیا کنترل‌های صادراتی آمریکا می‌توانند توسعه کاربردهای سرکوبگرانه‌تر هوش مصنوعی در چین را متوقف یا کند کنند، همچنان پرسشی بی‌پاسخ است. دولت ترامپ بخشی از محدودیت‌های دوران بایدن را کاهش داده، اما محدودیت‌ها بر پیشرفته‌ترین پردازنده‌های شرکت انویدیا (Nvidia)، شرکتی آمریکایی که قدرتمندترین تراشه‌های هوش مصنوعی جهان را طراحی می‌کند، همچنان حفظ شده است.

بااین‌حال، مقام‌های آمریکایی در جریان سفر اخیر ترامپ به پکن اعلام کردند که چین به نسخه‌ای پیشرفته‌تر از تراشه‌های انویدیا دسترسی خواهد یافت؛ اما چین در تلاش است شرکت‌های هوش مصنوعی خود را از وابستگی به تراشه‌های طراحی‌شده در آمریکا رها کند تا محدودیت‌های صادراتی دیگر نتوانند مانعی بر سر راه جاه‌طلبی‌های فناورانه آن باشند.

پرونده‌سازی برای منتقدان آینده

اطلاعات تازه از مجموعه عظیمی از داده‌ها استخراج شده‌اند که شامل حدود ۱۰۰ هزار سند از شرکت Geedge است؛ اسنادی که نخستین بار در سپتامبر سال گذشته منتشر شدند. نشریه وایرد و چند رسانه دیگر با بررسی این اسناد توضیح داده‌اند که Geedge چگونه نرم‌افزارهای امنیت شبکه خود را به کشورهایی از جمله اتیوپی، قزاقستان، میانمار و پاکستان صادر کرده و به آن‌ها امکان نظارت گسترده بر شبکه‌های تلفن همراه را داده است.

جنسن هوانگ، مدیرعامل شرکت انویدیا، شرکت آمریکایی که قدرتمندترین تراشه‌های هوش مصنوعی جهان را طراحی می‌کند/عکس از نیویورک‌تایمز

اما پژوهشگران وندربیلت به جای تمرکز بر فناوری‌هایی که Geedge در حال فروش آن‌ها بود، بر نسل بعدی فناوری‌هایی که این شرکت قصد توسعه آن‌ها را داشت و همچنین محدودیت‌هایی که می‌توانست مانع اجرای این برنامه‌ها شود تمرکز کردند. بر اساس اسناد شرکت، در ماه‌های نخست سال ۲۰۲۴ پژوهشگران Geedge در حال کار بر روی توسعه پروفایل‌های رفتاری افراد بر پایه داده‌های مخابراتی، شبکه‌های اجتماعی و اطلاعات مکانی بودند.

شناسایی اطلاعات مضر!

مدل‌های هوش مصنوعی برای دسته‌بندی افراد و همچنین «شناسایی اطلاعات مضر» به کار گرفته می‌شدند؛ عبارتی که حزب کمونیست چین اغلب برای اشاره به مخالفت سیاسی یا محتوایی که دولت خواهان سرکوب آن است به کار می‌برد. در یکی از جلسات مورخ ۵ فوریه ۲۰۲۴، پژوهشگران درباره ساخت پروفایل‌هایی برای افراد به منظور «شناسایی نیات آن‌ها» و «دستیابی به کشف اطلاعات مضر» بحث کرده‌اند.

بر اساس این اسناد، پژوهشگران Geedge در حال توسعه ابزارهایی بودند که با بهره‌گیری از هوش مصنوعی بتوانند پیش‌بینی کنند چه کسانی ممکن است در آینده به منتقدان دولت چین تبدیل شوند؛ آن هم بر پایه الگوهای داده‌ای که فناوری‌های نظارتی شرکت جمع‌آوری می‌کنند.

به گفته بنسون: «تیم پژوهشی Geedge صرفاً در حال مستندسازی الگوهای رفتاری نبود. آن‌ها تلاش می‌کردند پیش‌بینی کنند شهروندان در آینده چه خواهند کرد و با چه کسانی ارتباط خواهند داشت.» او افزود: «این انبوه داده‌های مربوط به فعالیت‌های روزمره، مواد خام لازم برای ساخت پروفایل‌هایی هستند که تعیین می‌کنند شما چه کسی هستید و احتمالاً در آینده چه خواهید کرد.»

شرکت Geedge به درخواست رسانه‌ها برای اظهار نظر درباره این موضوع پاسخی نداد.

مراقب باشید که چه کتاب‌هایی می‌خوانید و چه فیلم‌هایی می‌بینید

به گفته پژوهشگران دانشگاه وندربیلت، اسناد نشان می‌دهند که تیم این شرکت در تلاش بوده است تحرکات فیزیکی افراد را با سایر فعالیت‌های آنلاین آن‌ها، از جمله فیلم‌هایی که تماشا می‌کنند و کتاب‌هایی که می‌خوانند، پیوند دهد. از برخی جهات، پژوهش Geedge شباهت‌هایی با فعالیت‌های شرکت چینی دیگری به نام  GoLaxy دارد که با دولت چین ارتباط نزدیکی دارد.

شرکت GoLaxy برای توسعه نرم‌افزار مبتنی بر هوش مصنوعی تلاش کرده است که پروپاگاندا (تبلیغات هدفمند) چینی را منتشر کند/عکس از VCG، از طریق گتی ایمجز

سال گذشته، دانشگاه وندربیلت و روزنامه نیویورک تایمز گزارش دادند که GoLaxy در حال توسعه نرم‌افزارهایی مبتنی بر هوش مصنوعی است که بتوانند تبلیغات هدفمند را به کاربران ارائه کنند؛ تبلیغاتی که روایت‌های مورد حمایت دولت چین را تقویت و دیدگاه‌های مخالف پکن را تضعیف می‌کنند.

از جنبه‌ای دیگر، فعالیت‌های Geedge یادآور فیلم علمی‌تخیلی گزارش اقلیت محصول سال ۲۰۰۲ است. در این فیلم، دولت می‌تواند پیش‌بینی کند که چه افرادی ممکن است در آینده مرتکب جرم شوند و یک واحد ویژه پلیس افراد را پیش از وقوع جرم بازداشت می‌کند. در داستان فیلم، پیشگویانی که آینده را پیش‌بینی می‌کنند ظاهراً خطاناپذیر هستند، اما در نهایت شخصیت اصلی فیلم با بازی تام کروز را به اشتباه به ارتکاب قتل متهم می‌کنند.

چین سال‌هاست که به دنبال توسعه فناوری‌های نظارتی مبتنی بر پیش‌بینی است؛ اما همان‌گونه که اسناد Geedge نشان می‌دهند، مدل‌های هوش مصنوعی روند توسعه این ابزارها را به شکل چشمگیری تسریع کرده‌اند. همچنین تجربه Geedge نشان می‌دهد که فناوری «پلیس‌گری پیش‌بینی‌کننده» ممکن است به‌زودی به یکی از کالاهای صادراتی چین تبدیل شود.

تکمیل یک دولت نظارتی

اگرچه اسناد افشاشده ماه‌های اخیر را پوشش نمی‌دهند، اما به گفته مقام‌های آمریکایی که به شرط ناشناس ماندن درباره ارزیابی‌های حساس صحبت کرده‌اند، هیچ مدرکی وجود ندارد که نشان دهد Geedge فناوری پیش‌بینی‌کننده خود را نهایی یا عملیاتی کرده باشد.

بااین‌حال، این مقام‌ها اذعان کردند که شرکت‌های چینی در مسیر توسعه چنین فناوری‌هایی برای دقیق‌تر کردن سازوکار دولت نظارتی چین حرکت می‌کنند. افزون بر این، به گفته کارشناسان و مقام‌های دولتی، اداره‌های امنیت عمومی چین به سرعت در حال به‌کارگیری دیپ‌سیک، پیشرفته‌ترین مدل هوش مصنوعی چین، برای توسعه دیگر فناوری‌های پلیس‌گری پیش‌بینی‌کننده هستند.

مقام‌های آمریکایی گفتند Geedge و دیگر شرکت‌های نظارتی چین احتمالاً برای ابزارهای نسل فعلی خود از توان محاسباتی کافی برخوردارند؛ اما ابزارهای پیش‌بینی‌کننده، به‌ویژه اگر شرکت در آینده تماس‌های تلفنی شنودشده یا تصاویر دوربین‌های نظارتی را نیز به سامانه‌های خود اضافه کند، ممکن است با محدودیت‌های جدی در قدرت پردازش مواجه شوند.

به گفته مقام‌های آمریکایی، اگر این شرکت بخواهد از چنین جریان عظیمی از داده‌های نظارتی برای پیش‌بینی تهدیدهای امنیتی استفاده کند، بسیار سریع‌تر به سقف توان محاسباتی موجود در چین خواهد رسید.

جیمی گودریج، پژوهشگر ارشد مؤسسه منازعه و همکاری جهانی دانشگاه کالیفرنیا، گفت: «نهادهای امنیتی چین با انبوهی از داده‌ها مواجه‌اند. آن‌ها در هر لحظه با حجم بسیار زیادی از اطلاعات روبه‌رو هستند.» او افزود: «ارزش واقعی هوش مصنوعی در این است که می‌تواند داده‌ها را اولویت‌بندی کند و تهدیدها را از میان آن‌ها بیرون بکشد؛ اما توانایی چین برای گسترش این قابلیت مستقیماً به دسترسی آن به قدرت محاسباتی وابسته است.» گودریچ در پایان تأکید کرد: «دقیقاً به همین دلیل است که کنترل‌های صادراتی تا این اندازه اهمیت دارند.»