فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
بن‌بست قصاص در قتل‌های خانوادگی؛ قانون در برابر جنایت پدر و پسر چه می‌کند؟ ساختار مدیریتی بانک ایران‌ زمین با انتصاب مدیران و رؤسای جدید تقویت شد پزشکیان: همکاری همه‌جانبه با تاجیکستان از اولویت‌های ایران است واژگونی یک دستگاه موتور چهارچرخ در ساحل محمودآباد / 1کشته بورس در نیمه معاملات شتاب گرفت/ شاخص در یک قدمی ۷ میلیون واحدی «کاخ شمس‌العماره، وقتی در حال ساخت بود»؛ سال 1245(عکس) نکته جالبی که به تازگی درباره ماست مطرح می‌شود بحران اقتصادی امروز و فردای ایران را خراب می‌کند / پوپولیسم راست افراطی در می زند حسین طائب: مذاکره، ذاتاً نه خوب است و نه بد؛ آنچه به مذاکره معنا می‌دهد، نتیجه آن است/ دشمن امروز به آتش‌بس پناه آورده است بازگشت ۱۰ صیاد مفقودشدهٔ بندرلنگه‌ای نیمی از دریاچه‌های جهان در این کشور قرار دارد کشف کارگاه‌های زیرزمینی ریپَک مکمل‌های ورزشی تقلبی در گاندی و وزرا زباله در خانه پرندگان مهاجر عکس روز ناسا از «سحابی پلیکان» سفر هیات ستاد کل به قطر برای پیگیری 3 خلبان ایرانی / سفر جدید هیات قطری به تهران