«اوپن ای‌آی» باید جلوی کمک «چت جی‌پی‌تی» به قاتلان را بگیرد!

هوش مصنوعی چت جی‌پی‌تی شرکت اوپن ای‌آی نه تنها در یک، بلکه در دو تیراندازی جمعی در طول یک سال اخیر نقش داشته است و اوپن ای‌آی هنوز نتوانسته جلوی چت جی‌پی‌تی را برای کمک به برنامه‌ریزی چنین اقداماتی بگیرد.

به گزارش ایسنا، هر دو مجرمی که در این تیراندازی‌ها نقش داشتند، به طور گسترده از چت‌بات‌ها برای برنامه‌ریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمی‌انگیزد.

به نقل از فیوچریسم، فینیکس ایکنر ۲۰ ساله که متهم به قتل دو نفر در دانشگاه ایالتی فلوریدا است، از چت جی‌پی‌تی سوالاتی در مورد چگونگی «واکنش» کشور به تیراندازی، نحوه غیرفعال کردن کلید ایمنی سلاح، نوع مهمات مورد استفاده و سایر موضوعات نگران‌ کننده پرسیده بود.

دانش‌آموز ۱۸ ساله‌ دیگری به نام جسی ون روتسلار که در ماه فوریه ۹ نفر از جمله خودش را در تامبلر ریج، بریتیش کلمبیا، کشت، مکالماتی چنان نگران‌کننده داشت که کارکنان سطح بالای اوپن ای‌آی در مورد اطلاع دادن به مجریان قانون در مورد آنها بحث می‌کردند، اما این شرکت در نهایت هیچ کاری نکرد.

اکنون، تحقیقات جدید از سوی مارک فولمن که ۱۴ سال است در حال تحقیق در مورد تیراندازی‌های جمعی است، نکته‌ای بسیار نگران‌کننده را نشان می‌دهد. اوپن ای‌آی هنوز به طور معناداری به این موضوع نپرداخته است.

حتی پس از دو تراژدی وحشتناک، فولمن به راحتی نسخه رایگان چت جی‌پی‌تی را دریافت کرد تا در حین شبیه‌سازی برنامه‌ریزی برای یک تیراندازی جمعی، مشاوره‌های گسترده‌ای در مورد سلاح‌ها و روش‌ها به او بدهد. این نرم‌افزار حتی او را تشویق کرد. او از نرم‌افزار پرسید که چه نوع تفنگ AR-۱۵ را انتخاب کند.

همچنین وقتی از چت جی‌پی‌تی خواست یک برنامه آموزشی تهیه کند تا او برای شرایط غیرقابل پیش‌بینی یا آشفته در روز تیراندازی تمرین کند و شبیه‌سازی دویدن افراد در حالی که جیغ می‌زنند و سعی می‌کنند حواس او را پرت کنند را نیز در آن بگنجاند، این هوش مصنوعی پذیرفت و گفت: «ایده خیلی خوبیه. اضافه کردن این عنصر قطعا به شما کمک می‌کنه تا در شرایط پراسترس تمرکزتون رو حفظ کنید و قطعا برای این روز بزرگ بهتون انگیزه بیشتری می‌ده!»

اوپن ای‌آی مدعی است که به طور فعال با پزشکان سلامت روان همکاری می‌کند تا موانع مؤثری را برای منصرف کردن مجرمان احتمالی و هدایت آنها به خطوط تلفن اضطراری ایجاد کند. اما با توجه به اینکه برنامه‌ریزی یک تیراندازی ساختگی برای فولمن تا این اندازه آسان بوده، ممکن است قاتلان بی‌شماری از این مخمصه جان سالم به در ببرند.

پس از تیراندازی در تامبلر ریج، اوپن ای‌آی قول داد که سیاست‌های خود و نحوه برخورد با حساب‌های کاربری علامت‌گذاری‌شده، از جمله دخالت نیروهای انتظامی را تغییر دهد.

با این حال، آزمایش فولمن قویا نشان می‌دهد که آن تغییرات یا اعمال نشده‌اند یا بی‌اثر هستند. این خبرنگار دریافت که وقتی چت جی‌پی‌تی مردد به نظر می‌رسد، مثلا با گفتن اینکه او روزنامه‌نگار است، می‌توان آن را به ارائه مشاوره ترغیب کرد.

سخنگوی این شرکت به فولمن گفت که این شرکت در حال حاضر تدابیر حفاظتی خود را تقویت کرده است و سیاست عدم تحمل در قبال استفاده از ابزارهای خود برای کمک به ارتکاب خشونت را دنبال می‌کند. اما به نظر می‌رسد تجربه او نشان می‌دهد که این شرکت هنوز کارهای زیادی برای انجام دادن دارد.

قالیباف: تنگه هرمز تا رفع محاصره و تحریم نفت باز نمی‌شود

بیشتر بخوانید:

«چت‌جی‌پی‌تی» با یک سؤال ساده دچار سکته مغزی شد!

تماشاخانه

موتورسیکلت هست، زن موتورسوار هست؛ پس چه چیزی کم است؟

خلبانان ایرانی در اسارت / ببینید روایت‌ها چه می‌گویند؟

فیلم های دیگر