فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
مقایسه درآمد بزرگ‌ترین شرکت‌های آمریکایی در سال ۲۰۲۶ (+ اینفوگرافیک) آشنایی با مکانیسم، مزایا و معایب گیربکس «CVT» عکس دسته‌جمعی «بلژیکی‌ها» در ایران دوران قاجار ترکان خاتون؛ ملکه نگون‌بخت ایران میان‌وعده‌های خوب برای تقویت سلامت روده را بشناسید رازهای بزرگ کیهان؛ ۱۱ معمای بی‌پاسخ که علم را به چالش می‌کشند شکار ذرات نامرئی؛ نتایج اولیه بزرگ‌ترین آشکارساز نوترینو جهان منتشر شد کشورهایی که بودجه نظامی آن‌ها در سال ۲۰۲۵ بیشترین افزایش را داشته است (+ اینفوگرافیک) «عروسی ارمنی‌ها در یکی از جزایر دریاچه ارومیه»؛ 140 سال قبل (عکس) وقتی راننده روی شکم دراز می‌کشد! / ایده‌ای عجیب مشابه موتورسیکلت حملات جدید آمریکا به جنوب ایران : قشم، سیریک، بندر کنگ و بندرلنگه هرمزگان کشف مرز ناشناخته در زمین؛ سیاره ما تقارن شگفت‌انگیزی در نحوه بازتاب نور دارد فریبا: نمایش ایران مقابل مصر شجاعانه و تماشایی بود جزئیات مراسم وداع و تشییع رهبر شهید انقلاب اعلام شد جزئیات مراسم وداع و تشییع پیکر رهبر شهید در تهران