نقشه جدید اسرائیل برای متحدان تهران؛ ربات‌های قاتل به میدان می‌آیند؟

به گزارش اکوایران، با تشدید تنش‌ها در سرزمین‌های اشغالی و همچنین با ایران، نیروهای نظامی اسرائیل استفاده از هوش مصنوعی را برای انتخاب اهداف حملات هوایی و سازماندهی لجستیکی جنگ آغاز کرده‌اند.

کارخانه آتش

به نوشته بلومبرگ، اگرچه ارتش در مورد عملیات‌های به خصوص اظهار نظر نمی‌کند، مقامات اسرائیلی می‌گویند که اکنون از یک سیستم توصیه مبتنی بر هوش مصنوعی استفاده می‌کنند که می‌تواند حجم عظیمی از داده‌ها را برای انتخاب اهداف جهت حملات هوایی پردازش کند. سپس حملات را می‌توان به سرعت با ابزار هوش مصنوعی دیگری به نام «کارخانه آتش» برنامه‌ریزی کرد، که از داده‌های مربوط به اهداف تایید شده برای محاسبه حجم مهمات، اولویت‌بندی و تعیین هزاران هدف برای هواپیماها و پهپادها استفاده می‌کند و یک برنامه زمانی ارائه می‌دهد.

به گفته یک مقام ارتش اسرائیل، در حالی که هر دو سیستم توسط اپراتورهای انسانی -که اهداف را بررسی و تأیید می‌کنند- نظارت می‌شوند، این فناوری هنوز مشمول هیچ مقررات بین‌المللی یا دولتی نیست. موافقان آن استدلال می‌کنند که الگوریتم‌های پیشرفته ممکن است از توانایی‌های انسانی پیشی بگیرند و به ارتش کمک کنند تلفات را به حداقل برسانند، در حالی که منتقدان در مورد عواقب مرگبار تکیه فزاینده بر سیستم‌های خودمختار هشدار می‌دهند.

چه کسی مقصر خواهد بود؟

تل میمران، مدرس حقوق بین الملل در دانشگاه عبری بیت‌المقدس و مشاور حقوقی سابق ارتش، گفت: «اگر در محاسبات هوش مصنوعی اشتباهی وجود داشته باشد و یا اگر عملکرد هوش مصنوعی قابل توجیه نباشد، چه کسی را می‌توانیم مقصر این اشتباه بدانیم؟ شما می‌توانید کل یک خانواده را به خاطر یک اشتباه از بین ببرید.»

جزئیات استفاده عملیاتی ارتش از هوش مصنوعی تا حد زیادی محرمانه باقی مانده است، با این حال اظهارات مقامات نظامی نشان می‌دهد که ارتش اسرائیل در طول شعله ور شدن دوره‌ای درگیری در نوار غزه، جایی که اسرائیل اغلب در پاسخ به حملات راکتی حملات هوایی انجام می‌دهد، تجربه میدانی جنگ با این سیستم‌های بحث برانگیز را به دست آورده است. در سال 2021، ارتش اسرائیل با اشاره به استفاده از هوش مصنوعی برای شناسایی سکوهای پرتاب موشک و استقرار گروه‌های پهپادی، درگیری 11 روزه در غزه را اولین «جنگ هوش مصنوعی» در جهان توصیف کرد. اسرائیل همچنین حملاتی را در سوریه و لبنان انجام می‌دهد و آنچه را که می‌گوید محموله‌های تسلیحاتی برای گروه‌های مورد حمایت ایران است، هدف قرار می‌دهد.

سناریویی برای ایران؟

در ماه‌های اخیر، اسرائیل مرتباً به ایران در مورد غنی‌سازی اورانیوم هشدار داده است و متعهد شده است که تحت هیچ شرایطی به تهران اجازه دستیابی به سلاح هسته‌ای را نخواهد داد. اگر این دو وارد یک رویارویی نظامی شوند، ارتش اسرائیل پیش‌بینی می‌کند که نیروهای نزدیک به ایران در غزه، سوریه و لبنان تلافی کنند و زمینه را برای اولین درگیری چندجانبه جدی علیه اسرائیل، از زمان حمله غافلگیرانه 50 سال پیش مصر و سوریه فراهم کنند.

توپخانه‌های اسرائیل در بلندی‌های جولان در طول جنگ یوم کیپور در اکتبر 1973

به گفته مقامات ارتش اسرائیل، ابزارهای مبتنی بر هوش مصنوعی مانند «کارخانه آتش» برای چنین سناریویی طراحی شده‌اند. سرهنگ اوری، سرپرست واحد تحول دیجیتال ارتش گفت: «آنچه قبلا ساعت‌ها طول می‌کشید، اکنون چند دقیقه طول می‌کشد، با چند دقیقه زمان بیشتر برای بازبینی انسانی. با همین تعداد نفر، ما کارهای بسیار بیشتری انجام می‌دهیم». این مقامات تاکید کردند که این سیستم برای جنگ همه جانبه طراحی شده است.

هوش مصنوعی گسترده

ارتش اسرائیل مدت‌هاست که از هوش مصنوعی استفاده می‌کرده است، اما در سال‌های اخیر این سیستم‌ها را در واحدهای مختلف گسترش داده است، در حالی که در تلاش است خود را به یک رهبر جهانی در زمینه تسلیحات خودمختار تبدیل کند. برخی از این سامانه‌ها توسط پیمانکاران دفاعی اسرائیل ساخته شده است. برخی دیگر، مانند دوربین‌های کنترل مرزی «استار ترک»، که با هزاران ساعت فیلم، برای شناسایی افراد و اشیاء آموزش دیده‌ است، توسط ارتش ساخته شده‌اند. در مجموع، آنها یک معماری دیجیتال گسترده را تشکیل می‌دهند که وظیفه آن‌ها تفسیر مقادیر عظیمی از فیلم‌های پهپادها و دوربین‌های مدار بسته، تصاویر ماهواره‌ای، سیگنال‌های الکترونیکی، ارتباطات آنلاین و سایر داده‌ها برای استفاده نظامی است.

ماهیت مخفیانه نحوه توسعه چنین ابزارهایی نگرانی‌های جدی را ایجاد کرده است، از جمله اینکه فاصله بین سیستم‌های نیمه خودکار و ماشین‌های کشتار کاملاً خود مختار می‌تواند یک شبه از بین برود. در چنین سناریویی، ماشین‌ها می‌توانند هم اهداف را موقعیت‌یابی کنند و هم به آن حمله کنند، به طوری که انسان‌ها به طور کامل از تصمیم‌گیری حذف شوند.

ربات‌های قاتل را متوقف کنید!

کاترین کانولی، محقق تصمیم‌گیری خودمختار در موسسه «ربات‌های قاتل را متوقف کنید»، یک ائتلاف از سازمان‌های غیردولتی که شامل دیده‌بان حقوق بشر و عفو بین‌الملل است، می‌گوید: «این فقط یک تغییر نرم‌افزاری است که می‌تواند آن‌ها را نه نیمه، بلکه کاملاً خودمختار کند». اسرائیل می گوید هیچ برنامه ای برای حذف نظارت انسانی در سال‌های آینده ندارد.

نرم افزار «کارخانه آتش»

به گفته برخی کارشناسان، مزیت اصلی ادغام هوش مصنوعی در سیستم‌های نظامی، پتانسیل کاهش تلفات غیرنظامیان است. سیمونا سور، محقق موسسه بین‌المللی مطالعات استراتژیک مستقر در لندن گفت: «من فکر می‌کنم استفاده صحیح از این فناوری‌ها دارای مزایایی در کارایی و اثربخشی است. و در صورت عملکرد خوب پارامترهای فناوری، می‌توان دقت بسیار بسیار بالایی داشت. این می‌تواند به شما در بسیاری از کارهایی که باید به صورت فوری در میان مه جنگ انجام دهید کمک کند، کارهایی که انجام آن‌ها در شرایط عادی هم بسیار دشوار است.» او افزود: «همزمان چیزهای زیادی وجود دارد که ممکن است اشتباه پیش برود.»

دغدغه‌های اخلاقی برای ابرقدرت هوش مصنوعی

در حالی که رهبران اسرائیل قصد خود را برای تبدیل شدن به یک «ابرقدرت هوش مصنوعی» بیان کرده اند، در بیان جزئیات مبهم بوده اند. وزارت دفاع از اظهار نظر در مورد میزان سرمایه گذاری خود در هوش مصنوعی خودداری کرد و ارتش در مورد قراردادهای دفاعی خود صحبت نمی‌کند، اگرچه تایید کرد که «کارخانه آتش» توسط شرکت رافائل، پیمانکار دفاعی اسرائیلی ساخته شده است. تصویر مبهم‌تر این است که برخلاف دوران مسابقه تسلیحات هسته‌ای، زمانی که افشای جزئیات قابلیت‌های تسلیحات یکی از جنبه‌های کلیدی بازدارندگی بود، سیستم‌های خودمختار و مبتنی بر هوش مصنوعی، به‌طور مخفیانه توسط دولت‌ها، ارتش‌ها و شرکت‌های دفاع خصوصی توسعه می‌یابند.

لیران آنتیبی، محقق ارشد موسسه مطالعات امنیت مستقر در اسرائیل گفت: «می‌توانیم فرض کنیم که آمریکایی‌ها و حتی چینی‌ها و شاید چندین کشور دیگر نیز در این زمینه‌ها سیستم‌های پیشرفته‌ای دارند». اما برخلاف اسرائیل، «آن‌ها، تا آنجا که من می‌دانم، هرگز استفاده عملیاتی و موفقی از آن‌ها نشان نداده‌اند».

در حال حاضر، هیچ محدودیتی در این زمینه وجود ندارد. علیرغم یک دهه مذاکرات تحت حمایت سازمان ملل، هیچ چارچوب بین المللی وجود ندارد که مشخص کند چه کسی مسئولیت تلفات غیرنظامی، حوادث یا تشدید ناخواسته درگیری در صورت قضاوت نادرست کامپیوتر را بر عهده دارد.

خانم کانولی گفت: «مسئله آزمایش و داده‌هایی که این سیستم‌ها بر اساس آن‌ها آموزش دیده‌اند نیز وجود دارد. چگونه می‌توانید بدانید که یک سیستم دقیق و بدون اشتباه است، مگر این که از قبل روی افراد آموزش دیده و آزمایش شده باشد؟»

چنین نگرانی‌هایی دلیلی است که میمران، مدرس حقوق در دانشگاه عبری، معتقد است که ارتش اسرائیل باید از هوش مصنوعی منحصراً برای اهداف دفاعی استفاده کند. میمران در طول دوران تصدی خود در ارتش، اهداف را به صورت دستی بررسی می‌کرد تا مطمئن شود که حملات با قوانین بین المللی مطابقت دارد. این به او آموخت که، صرف نظر از نوع فناوری، «مرحله‌ای وجود دارد که باید در آن بر اساس ارزش‌ها تصمیم‌گیری کرد.» او گفت: «و برای این دلیل، ما نمی‌توانیم به هوش مصنوعی تکیه کنیم.»