به گزارش اکوایران- OpenAI می گوید مظنون یکی از مرگبارترین تیراندازی های جمعی تاریخ کانادا را در ژوئن سال گذشته به دلیل نقض سیاست های استفاده از ChatGPT شناسایی کرده و حساب کاربری او را مسدود کرده است، اما در آن مقطع موضوع را به پلیس گزارش نداده است.
به گفته این شرکت، مظنون این پرونده Jesse Van Rootselaar بوده و سامانه های پایش و تشخیص سوءاستفاده در OpenAI حدود هشت ماه پیش حساب مرتبط با او را به دلیل نشانه هایی از استفاده نادرست شناسایی کرده اند؛ نشانه هایی که از جمله می توانست با تلاش برای پیش بردن فعالیت های خشونت آمیز ارتباط داشته باشد.
پلیس کانادا اعلام کرده این فرد ۱۸ ساله اوایل همین ماه در شهر دورافتاده Tumbler Ridge در غرب کانادا هشت نفر را کشته و حدود ۲۵ نفر را زخمی کرده و سپس جان خود را گرفته است.
OpenAI تاکید می کند حسابی را که به Van Rootselaar مرتبط بوده با ابزارهای ویژه تشخیص سوءاستفاده که برای شناسایی تلاش های مرتبط با خشونت طراحی شده اند شناسایی کرده و پس از آن آن حساب را مسدود کرده است.
روزنامه The Wall Street Journal نخستین بار گزارش داد که OpenAI این حساب را شناسایی کرده است. این روزنامه به نقل از منابع آگاه و بدون نام نوشت مظنون طی چند روز سناریوهایی درباره خشونت مسلحانه را در ChatGPT مطرح کرده بود و همین موضوع در داخل شرکت بحثی را میان حدود یک دوجین از کارکنان برانگیخت، به طوری که برخی از آنها خواستار اطلاع دادن موضوع به پلیس شدند.
OpenAI می گوید در همان زمان ارجاع پرونده به نیروهای انتظامی را بررسی کرده، اما به این نتیجه رسیده که شواهد کافی از برنامه ریزی جدی یا تهدید قریب الوقوع وجود ندارد و بنابراین موضوع به حد نصاب لازم برای گزارش رسمی به پلیس نمی رسد. با این حال، پس از وقوع تیراندازی، شرکت با مقام های کانادایی تماس گرفته است.
سخنگوی OpenAI اعلام کرده است که این شرکت با همه افرادی که از فاجعه Tumbler Ridge آسیب دیده اند همدردی می کند. او گفته است که به صورت پیشگیرانه با پلیس سواره سلطنتی کانادا تماس گرفته، اطلاعات مربوط به این فرد و نحوه استفاده او از ChatGPT را در اختیارشان گذاشته و همچنان از روند تحقیقات پشتیبانی خواهد کرد.
OpenAI همچنین تاکید کرده است که ChatGPT را به گونه ای آموزش می دهد که کاربران را از آسیب رساندن فوری و واقعی در دنیای خارج باز دارد.
