کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
ادعای ترامپ: در برابر ایران پیروزی کامل می خواهم نه یک پیروزی ۹۳ درصدی! جانشین رئیس ستاد کل نیروهای مسلح: در شهر موشکی رونمایی‌شده، رازها و فناوری‌های نهفته‌ای قرار دارد مسکو: پیشنهاد ما برای انتقال اورانیوم ایران به روسیه همچنان روی میز است ایران عضو کمیته برنامه‌ریزی و هماهنگی سازمان ملل شد شنیده شدن صدای دو انفجار در عدن چه کسانی در مراسم ختم علی اصغر فانی حضور داشتند؟ (عکس) حمله یمن به فرودگاه ریاض و تأسیسات نفتی ینبع حمله اوکراین به یکی از مهم‌ترین مراکز صادرات نفت روسیه هشدار بارش شدید، رعد و برق و تگرگ برای ۷ استان/ تهران بارانی می‌شود یحیی سریع: جنگنده‌های سعودی طی ۲۴ ساعت گذشته، ۹۳ حمله هوایی در یمن انجام دادند روسیه تاریخ دیدار پوتین با ویتکاف و کوشنر را اعلام کرد علیرضا بیرانوند راهی تایلند می‌شود؛ حضور در مراسم مرد سال فوتبال آسیا قطعی شد درآمد استقلال، سپاهان و تراکتور از آسیا چقدر بود؟ جزئیات تازه AFC دعوت سخنگوی سپاه از مردم برای شرکت در پویش ملّی کتابخوانی «مرد ابدی» سفیر روسیه در آمریکا درگذشت