کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
نحوه راه رفتن شما می‌تواند سرنخ‌هایی از سلامت کبد و کیفیت خوابتان آشکار کند چرا نشستن طولانی مدت در هواپیما و خودرو خطرناک است؟ / چند روش برای کاهش ریسک پوتین، ترامپ و شی؛ سه قدرت بزرگ در شنژن به دنبال چه هستند؟ 12 نوع گوزن در جهان (+اینفوگرافیک) جزیره‌ای که به محاصرۀ «اسپرم ماهی» درآمده است (+عکس) مکمل پرطرفداری که ممکن است به معده آسیب برساند علل افزایش غیرعادی مصرف بنزین؛ زنگ هشدار برای بررسی خودرو تاریخچه اکسیژن زمین بازنویسی می‌شود نتایج یک مطالعه ۱۹ ساله؛ چرت زدن طولانی و مکرر ریسک مرگ را افزایش می‌دهد بیش از یک میلیارد سال از تاریخ زمین گم شده است! با این تعداد قدم در روز از خطر آلزایمر در امان خواهید ماند آزمایش نظریه اینشتین در بستر دریا؛ تلسکوپ نیمه‌کاره فرانسه فیزیک‌دانان را شگفت‌زده کرد بهترین کشورهای جهان برای راه‌اندازی کسب‌وکار در سال ۲۰۲۶ (+ اینفوگرافیک) رأی "ممتنع" آمریکا و اسرائیل به قطعنامه ضدایرانی سازمان ملل/ ماجرا چیست؟ اختلال گسترده در سامانه‌های آمریکا؛ روبیو احتمال حمله سازمان‌یافته را رد کرد