به گزارش اکوایران از فارس؛ شرکت اَکسون در ساخت شوکرهای الکتریکی تیزر پیشرو است. این شرکت سامانههای ویدئویی برای نیروهای انتظامی نیز تولید میکند. در ۶ ژوئن ۲۰۲۲ در یک درگیری آشکار با اخلاق قرار گرفت.
نه نفر از دوازده عضو هیات مشورتی اخلاق هوش مصنوعی شرکت استعفای خود را اعلام کردند. این استعفای علنی واکنشی نادر و قاطع بود.
اعضای هیات نوشتند: «تعهد اَکسون به مسئولیتپذیری اخلاقی به شدت تضعیف شده و ما اعتماد خود را به این شرکت از دست دادهایم.» این اعتراض به تصمیم فوری شرکت برای توسعه پهپادهای مجهز به شوکر بود.
استعفای اعضا؛ دلیل، توسعه پهپاد شوکر بود
تصمیم فوری برای توسعه پهپادهای شوکر در اماکن عمومی و مدارس اعلام شد. اگرچه شرکت همان روز اعلام کرد کار روی این پروژه را «موقتاً» متوقف میکند. پرسش بزرگ باقی ماند: این توقف، عقبنشینی اخلاقی بود یا یک مانور موقتی تجاری؟
روزهایی پس از تیراندازی مرگبار در اووالدی این طرح ناگهانی اعلام شد. اَکسون اعلام کرد مشغول بررسی و توسعه پهپادهایی است. این پهپادها صدای شلیک را شناسایی میکردند.
هدف این بود که فرد مهاجم را شناسایی کرده و با شوکر غیرکشنده خنثی کنند. این اعلام ناگهانی اعضای هیات اخلاق را شگفتزده کرد.
اعضای هیات پیشتر نیز نظرات مخالف خود را به شرکت اعلام کرده بودند. هیات اخلاق حتی یک رأی هشت به چهار داشت.
هیات مشورتی: با احتیاط عمل شود
رأی هیات توصیه میکرد که شرکت با احتیاط کامل عمل کند. همچنین باید از اجرای یک پایلوت محدود نیز خودداری شود. این مخالفت نشاندهنده حساسیت بالای طرح بود.
دلیل اصلی استعفای اعضا، تصمیم شرکت برای پیشگام کردن پهپادهای مجهز به تیزر در فضاهای حساس نظیر مدارس و موقعیتهای تیراندازی احتمالی بود. این اقدام، هشدارهای آنان را در خصوص گسترش بیرویهی نظارت و خطر شنود دائمی در این اماکن، تشدید کرد.
اعضا تأکید کردند که این فناوری به احتمال زیاد جوامع رنگینپوست و جمعیتهایی را در معرض آسیب قرار میدهد. این جوامع پیشتر بیش از حد تحت نظارت قرار داشتهاند. متن کامل بیانیه و فهرست امضاها در نهاد پالیسینگ پراجکت در دسترس است. پالیسینگ پراجکت پلتفرمی برای انتشار علنی اعتراض و بیانیهی اعضایی که در واکنش به توسعه پهپادهای شوکر استعفا دادند، است.
شرکت پروژه را متوقف کرد؛ هدف بازنگری بود
شرکت اَکسون بیدرنگ واکنش نشان داد و در بیانیهای توضیح داد که «در پرتو بازخوردها»، توسعه پروژه را متوقف خواهد کرد. ریک اسمیت مدیرعامل گفت هدف شرکت یافتن «مسیر درست» است. او ابراز تأسف کرد که برخی اعضا پیش از آنکه شرکت بتواند پاسخهای فنی دهد، کنارهگیری کردند.
شرکت اعلام کرد که میخواهد بازنگری کند. همچنین با ذینفعان به گفتوگو بنشیند تا به یک توافق عمومی دست یابد. این اقدام یک واکنش سریع برای مهار بحران رسانهای بود.
اما گزارشهای مستقل نشان دادند که بسیاری از اعضای هیات اخلاق عصبانی بودند. شرکت بدون اطلاعرسانی و مشورت عمومی اقدام به اعلام عمومی طرح کرده بود. این اقدام قبل از انتشار گزارش رسمی هیات انجام شده بود.
عبارت «توقف پروژه» به عنوان یک واکنش عمومی منتشر شد. اما تحلیلگران هشدار دادند که «توقف» لزوماً به معنای نفی جهتگیری تجاری بلندمدت و سودمحور شرکت نیست.
مسیر تجاری شرکت به توسعه پهپاد ادامه داد
گزارشهای پیگیری تناقضی بزرگ را آشکار کرد. این گزارشها شامل بررسی تحلیلی نشریه واید و گزارشهای تحقیقی رویترز بود. با وجود توقف اعلامشده اَکسون در ماهها و سالهای بعد سرمایهگذاری کرد.
شرکت در مسیر توسعه فناوریهای پهپادی و رباتیک سرمایهگذاری و خریدهایی انجام داد. این خریدها نشاندهنده تعهد تجاری شرکت به گسترش حضور در این بازار بود. واید مستقیماً از خرید شرکتهای پهپادی نام برد.
این خریدها شامل نمونههایی مانند اسکای هیرو بود. این موضوع پرسش را مطرح کرد که آیا «توقف» صرفاً یک واکنش عمومی گذرا نبود. هدف اصلی آرام کردن انتقادها بود.
تحلیلگران و اعضای سابق هیات میگویند مشکل ریشهایتر از یک ایده فناورانه ساده است. وقتی شرکتهای بزرگ فناوری «اخلاق» را در قالب هیئتهای مشورتی غیرالزامآور قرار میدهند ساختارهای تصمیمگیری در راستای سود و رشد سهم بازار باقی میماند.
نظام حقوقی باید پشتیبان اخلاق باشد
در این شرایط اخلاق مشورتی عملاً بیاثر و در نهایت بیمعنی میشود. رایان کالو یکی از اعضای جداشده گفته است که «نظام حقوقی باید بهعنوان پشتیبان قطعی عمل کند.» او معتقد است اخلاق داوطلبانه شرکتها بهتنهایی کافی نیست.
اعضای هیئت و گزارشهای تحلیلی چند خطر مشخص و عملیاتی را برشمردند. اول خطر خطاهای تشخیص صدا و بینایی ماشین بود. این خطاها میتوانست منجر به شلیک شوکر به افراد بیگناه شود.
دوم خطر گسترش نظارت همیشگی در فضاهای عمومی و آموزشی مطرح شد. این نظارت تبعات روانی و تبعیضی جدی به همراه داشت.
سوم خطر «جداییگزینی» تصمیم برای استفاده از زور وجود داشت. این اتفاق به واسطه دوری فیزیکی اپراتور از صحنه رخ میداد.
خطرات فنی؛ افزایش استفاده از زور و تبعیض
مطالعات نظامی نشان دادهاند که این استفاده از راه دور میتواند آستانه استفاده از زور را کاهش دهد. چهارم ریسک استفاده نامناسب یا تجاریسازی خارج از کنترل محصول مطرح بود. این نگرانیها در گزارش رسمی هیات و تحلیلهای پس از آن برجسته شدند.
اَکسون از منظر خود آماری ارائه داد که ترکیب تیزرهای بردبلند و پهپاد میتوانست شلیکهای مرگبار را جابهجا کند. این جابهجایی با ظرفیت «کمتر قاتلانه» انجام میشد.
ولی این شرکت بهندرت دادهها و روششناسی کامل تحلیلهای خود را منتشر کرد. انتشار در اختیار منتقدان مستقل قرار نگرفت. این عدم شفافیت اعتبار ادعاهای شرکت را زیر سؤال برد.
سه عامل کلیدی در تصمیم اعضای هیات برای استعفا به طور مکرر تکرار میشود. اول شرکت مشورت هیات را نادیده گرفت و بایپس کرد.
سه دلیل کلیدی استعفای اعضای هیات
شرکت بدون اطلاعرسانی عمومی و پیش از انتشار گزارش هیات تصمیم به اعلام عمومی طرح گرفت. این اقدام به معنای شکستن قواعد عملیات و نادیده گرفتن نقش مشورتی هیات بود.
دوم اعضای هیات نگران گسترش نظارت دائم بودند. آنها طرح جدید را فراتر از یک «پایلوت محدود» میدانستند. این طرح میتوانست به استقرار دائمی دوربینها و سیستمهای شنود در مدارس و محلات بینجامد.
سوم خطر استفاده تبعیضآمیز و پیامدهای اجتماعی وجود داشت. اعضا تأکید کردند فناوریهای نظارتی و مقابله با جرم «نابرابری نظارتی» را تشدید میکنند.
همچنین احتمال سوءاستفاده دولتها یا نهادهای محلی را افزایش میدهند. نتیجه عملی این سه عامل برای اعضای سابق این بود که ادامه همکاری معنیدار دیگر ممکن نبود.
هیات اخلاق بدون قدرت الزامآور شکست میخورد
هیات با مدیریتی طرف بود که «خط مشی بازی» را تغییر میداد. آنها انتخاب کردند بهصورت علنی و متقن فاصله بگیرند. همچنین جامعه را نسبت به آنچه در حال رخ دادن است آگاه کنند.
ماجرای اَکسون یک چارچوب نمونهای برای سؤال بزرگتر است. چه تضمینی وجود دارد که هیاتهای اخلاق صرفاً نمایشی نباشند؟
اول هیاتهای مشورتی بدون قدرت الزامآور توان مقاومت در برابر فشارهای تجاری را ندارند. همانطور که تحلیلها نشان دادند تصمیمات تجاری و اهداف درآمدزایی میتواند مشورتها را به آسانی بیاثر کند.
دوم شفافیت و دسترسی به دادهها شرط لازم اعتبار ادعاهای ایمنی است. شرکت باید روششناسیهای خود را منتشر کند. این اقدام برای برطرف کردن ابهامات علمی لازم بود.
قانون و نظارت باید خطوط قرمز را تعیین کند
سوم قانونگذاری مستقل نیاز است. وقتی اخلاق داوطلبانه کافی نیست قانون و نظارت عمومی باید خطوط قرمز را تعیین کند. اعضای سابق هیات اخلاق دقیقاً بر همین نقطه تأکید کردند.
خواندن پیامدهای این ماجرا بین دو چشمانداز متضاد ممکن است. از منظر یک عده استعفای علنی و فشار عمومی نشان داد که جامعه و نخبگان اخلاقی هنوز ظرفیت واکنش دارند.
شرکت به سرعت متوقف شد. از منظر دیگر خریدهای تجاری بعدی و تلاش برای نرمالسازی پهپادها نشان میدهد «توقف» بیشتر یک واکنش موقتی مدیریتشده بود.
واید این تداوم تجاری را برجسته کرد. این پرسش مطرح شد که آیا واقعاً همتای اخلاقیای وجود دارد که جلوی بازارگرایی قوی را بگیرد.
تضاد شتاب نوآوری و نیازهای جامعه
در نهایت داستان اَکسون آینهای از تعارض بنیادین است. این تعارض میان دو نیروی بزرگ معاصر رخ میدهد.
این نیروها عبارتند از: «شتاب نوآوری در بازار فناوریهای امنیتی» و «نیاز جامعه به مرزهای اخلاقی و قانونی.»
اگر هیاتهای اخلاق قرار است فراتر از یک پوسته نمایشی باشند نیاز به ساختارهای الزامآور، شفافیت دادهای و حضور نهادهای قانونگذار مستقل بیش از همیشه احساس میشود.
