فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
قهرمانی زودهنگام ایران در کشتی فرنگی جهان با ۳ طلا و ۲ برنز ترکیب تراکتور مقابل العین اعلام شد؛ غیبت چهار بازیکن کلیدی قالیباف: درآمد حاصل از صرفه‌جویی گاز مستقیماً به خود مردم پرداخت می‌شود افزایش ۵۵ درصدی قیمت نان‌های صنعتی؛ نرخ جدید ابلاغ شد محمدهادی ساروی با شکست حریف سوئدی، برنز کشتی فرنگی جهان را به دست آورد عجیب است ولی واقعیت دارد: یک استاد دانشگاه فکر می کند "جنگ ، سفره مردم آمریکا را به اندازه ایرانی ها کوچک تر کرده است"! پزشکیان تهران را به مقصد مسکو ترک کرد گفت‌وگوی تلفنی وزیران امور خارجه ایران و ترکمنستان فضای امنیتی سنگین در آستانه انتخابات رژیم صهیونیستی هشدار درباره قطعی گاز در زمستان؛ گلستان برای سناریوهای بحرانی آماده می‌شود پیام تبریک پزشکیان در پی قهرمانی تیم ملی کشتی فرنگی ایران در رقابت‌های جهانی زمان واریز معوقات اردیبهشت بازنشستگان مشخص شد؛ توضیحات تأمین اجتماعی چه کسی جیمز باند می‌شود؟ ایران با وجود سرمایه عظیم تاریخی و فرهنگی، چرا در برند ملی ضعیف عمل می‌کند؟ دانیال سهرابی قهرمان جهان شد؛ سومین طلای کشتی فرنگی ایران