فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
اژه‌ای: ناهماهنگی‌ باعث تاخیر در ترخیص کالا‌های اساسی نشود تیم میکس تنیس ایران در نخستین حضور آسیایی خود شکست خورد بانک صادرات تا ۸۰ درصد ارز واردات کالا را تامین مالی می‌کند همایون شجریان به صحنه بازمی‌گردد؟ جزئیات یک بحران ۷۲ ساعته؛ چگونه نقشه قطع سوخت تهران خنثی شد؟ خبر جدید درباره یارانه جاماندگان؛ ۱۷۷ هزار نفر مشمول پرداخت شدند تلما و ۴ توله یوز در سمنان دیده شدند؛ خبر امیدوارکننده برای یوز آسیایی تردد خودرو در ۷ منطقه آزاد جدید درگیر یک گره قانونی شد سرنگونی پهپاد عربستان توسط ارتش یمن در استان حجه ثبت بیش از ۴.۶ میلیون تخلف توقف خودرو در تهران طی ۶ ماه / ۱.۷ میلیون توقف در محل ممنوع تصویب ماده پایانی طرح تنگه هرمز در کمیسیون امنیت ملی مجلس رحیم‌صفوی: صنعت نفت بخشی از قدرت و امنیت ملی ایران است پزشکیان قانون پشتیبانی و رفع موانع تولید کشاورزی را ابلاغ کرد پرداخت ۲۶ همت وام ازدواج بانک ملی به بیش از ۷۸ هزار متقاضی فاطمه معتمدآریا بازیگر هم به ایران بازگشت (+عکس)