فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
انور قرقاش: ممکن است دهه‌ها طول بکشد تا اعتماد میان امارات و ایران دوباره شکل بگیرد دیدنی های امروز؛ از پیروزی راست های افراطی در انتخابات آلمان تا سیلزدگان نپال درگیری با بیل و چماق در سعادت آباد تهران ریزش معدن در خراسان قربانی گرفت/ 1 کشته و 2 مصدوم افشاگری سوزان ساراندون بازیگر از بایکوت شدن در سینمای آمریکا وزارت اطلاعات: انهدام ۳ هسته عملیاتی تروریستی در جنوب شرق کشور دانشگاه تهران درباره خوابگاه‌ها اطلاعیه داد هشدار قالیباف به آمریکا درباره تبعات حمله به دارایی‌های ایران نادر قاضی‌پور، نماینده سابق مجلس: تراکتور در چین، روسیه و آلمان طرفدار متعصب دارد/ در شرایط جنگی نمی گذاریم به تراکتور ضربه بزنند بالن نظارتی سرنگون‌شده ارتش ایالات متحده در شمال عراق چه کاربری‌ها و شاخصه‌هایی داشت؟ آغاز ثبت سفارش واردات خودروی کارکرده تمدید مهلت اظهارنامه مالیاتی مشاغل تا پایان آبان 1405 عکس آتلیه‌ای «جوان برهنه تهرانی» در دوران قاجار(+عکس) نمایش مستند «سیاوش در آتش» ساخته کیوان مهرگان در آمریکا قم، شهر میل‌های باستانی