فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
دستگیری سارقان طلافروشی‌های بیرجند آمریکا: احتمالا درگیری گسترده نظامی با ایران از سر گرفته نخواهد شد  انهدام ۶ کیلومتر خط لوله انتقال سوخت قاچاق در هرمزگان اعمال تحریم‌های جدید علیه ایران و حزب‌الله مدیرعامل داروسازی بهوزان: صنعت دارو بدون سرمایه‌گذاری به سرنوشت صنعت برق دچار می‌شود محیط زیست: برخی آلودگی‌های ناشی از آتش‌سوزی عرصه‌های طبیعی می‌تواند تا ۳۰ سال پایدار باشد ادعای وزیر خزانه داری آمریکا: سخت‌ترین تحریم‌های تاریخ علیه ایران اعمال خواهد شد رئیس سازمان عقیدتی‌سیاسی ارتش: حتی برای حفظ نظام جمهوری اسلامی ایران، اگر لازم باشد، باید از آبروی خود نیز عبور کنیم قالیباف: ملت ایران و عراق نپذیرفتند سرنوشت‌شان را دولت‌های غربی بنویسند وزارت خارجه: تحریم‌های جدید آمریکا مصداق تروریسم اقتصادی و جنایت علیه بشریت است تل‌آویو آرایش نظامی خود را تغییر داد؛ آپاچی‌ها به مرزهای سوریه منتقل شدند یارانه نقدی مردادماه دهک‌های چهارم تا نهم واریز شد رونق اعطای تسهیلات غیرحضوری و سیر صعودی تراکنش‌ها در سپینوی بانک صادرات ایران این کنکور معضلی شده ؛ نگاهی سینمایی و متفاوت با پایانی خوش (فیلم) صعود بسکتبال ایران به یک چهارم نهایی کاپ آسیا