فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
شهادت 200 امدادگر و توقف فعالیت 4 بیمارستان در لبنان گفت‌وگوی تلفنی امیر قطر با ترامپ درباره کاهش تنش در منطقه تحریم ۸ کشتی و ۱۶ شرکت مرتبط با ایران توسط آمریکا دولت آمریکا به دنبال چاپ اسکناس ۲۵۰ دلاری با تصویر ترامپ مدیرکل مدیریت بحران گیلان: حادثه آتش سوزی در بندر کاسپین در دست بررسی است فارس: شلیک موشک‌های ایرانی از جنوب کشور/ ارتش: منشا صدای انفجارها از سمت دریا و مربوط به تبادل آتش است سخنگوی سازمان ملل خطاب به ایران و آمریکا: به آتش بس احترام بگذارید مشاور نتانیاهو به افشای اطلاعات محرمانه متهم شد وزیر خزانه داری آمریکا: توافق با ایران به ترامپ بستگی دارد هنر معماری ؛ بازسازی لوکس ترین سرویس بهداشتی عمومی لندن! (+تصاویر) ترور مامور فراجا در سیستان‌ و بلوچستان توسط افراد مسلح ۷ کانی شگفت انگیز که ذهن شما را درباره طبیعت به چالش می کشند (+تصاویر) مهار آتش در اسکله بندرکاسپین انزلی افزایش کشف ابزار استارلینک در ویلاهای شمیرانات تسنیم: متن تفاهم‌نامه احتمالی میان ایران و آمریکا تا این لحظه قطعی نشده