فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
تصویر محله «فرمانیه» تهران حدود ۹۰ سال قبل تمدید مهلت معرفی مشمولان غیرغایب پذیرفته شده در دانشگاه‌ها و مراکز آموزش عالی ۲ کشته در پی برخورد و آتش‌سوزی پژو در جاده اهواز_شوش هگست کوبا را به حمله نظامی تهدید کرد سخنگوی قرارگاه خاتم: هیچ کشتی بدون مجوز و نظارت ایران امکان تردد امن از تنگه هرمز را ندارد هیات امنیتی عراق وارد ریاض شد انفجار در بندر روتردام/ یک کشته و چند زخمی روز جهانی چپ دست ها؛ چرا حدود 10 درصد انسان ها دنیا را با دست چپ تجربه می کنند؟ ورود گردشگران به دریاچه گهر لرستان ممنوع شد هواپیمای سلطنتی امارات در دو پرواز به تهران، چه با خود آورد عبور از تنگه هرمز به پایین ترین سطح در 3 ماه گذشته رسید شاهکار مسابقه‌ای پس از جنگ؛ ورایتیس RS با قلب ب‌ ام‌ و ۳۲۸ (+عکس) شاهکار معماری مدرن برلین؛ داستان شهرک مسکونی نعل اسبی که برای زندگی بهتر ساخته شد (+عکس) ویتامین هایی که پوست سالم به آن ها نیاز دارد پاکستان: مهلت ۶۰ روزه تفاهم اسلام‌آباد برای مذاکره ایسران و آمریکا قابل تمدید است