فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
مرسدس-AMG CLE 646 ؛ غول جدید فقط برای 30 نفر (+عکس و فیلم) خسارت طوفان و سیل در مازندران به ۵.۵ همت رسید برنامه نشست وزیران خارجه ایران، عراق و 6 کشور جنوب خلیج فارس برنامه‌ریزی برای برگزاری نشست منطقه‌ای با حضور کشورهای ساحلی خلیج فارس موافقت اتحادیه اروپا برای تخصیص ۶.۱ میلیارد یورو به اوکراین دیدار پزشکیان با نخست وزیر هند اسرائیل: عملیات علیه حزب‌الله ادامه خواهد داشت شمشیر آختهٔ ساترا؛ بازوی صداوسیما، بر گردن نمایش خانگی/ از «شفرونی» تا «سووشون»؛ چرا توقیف‌ دست از سر پلتفرم‌ برنمی‌دارد؟ عراقچی: بحران ناشی از هزینه تأمین مالی بدهی‌های آمریکا تنها آغاز ماجراست پزشکیان به بریکس: بیایید شرکت بیمه 10 میلیارد دلاری تأسیس کنیم تایید شهادت فرمانده تیپ خان یونس یمن ؛ حوثی ها به تنگه باب المندب رسیدند / تصرف چند بندر و جزیره در دریای سرخ پرواز گسترده جنگنده های آمریکایی در غرب عراق کنایه فوق سنگین علی کریمی به رضا پهلوی: مرا با کسی که از مادرش «پول توجیبی» می‌گیرد، مقایسه نکنید علم الهدی: اگر دشمن ۲۰۰ هزار سال با ما بجنگد، باید از خودمان دفاع کنیم