تاریخ:
نیمروی ویژه صبحانه با طعمی که روزتان را میسازد 
درس پنجاه و چهار
«چت جی پی تی» چاپلوس شده است
شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپنایآی» و نظرات کاربران «چتجیپیتی» نشان میدهند که این چتبات بیش از اندازه کاربر خود را تایید میکند و رفتار چاپلوسانهای را از خود نشان میدهد.
به گزارش ایسنا، شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چتجیپیتی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از بهروزرسانی مدل GPT-4o، کاربران رسانههای اجتماعی متوجه شدند که چتجیپیتی پاسخگویی را به شیوهای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید میکند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرینشاتهایی را از توصیههای چتجیپیتی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیمها و ایدههای مشکلساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپنایآی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که بهروزرسانی GPT-۴o به حالت قبل بازگشته و اوپنایآی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپنایآی، این بهروزرسانی که قرار بود یک حس شهودیتر و مؤثرتر را برای شخصیت پیشفرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاهمدت قرار گرفته و نحوه تکامل تعاملات کاربران با چتجیپیتی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپنایآی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخهایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه میتوانند ناراحتکننده و نگرانکننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپنایآی میگوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعملهای سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعملهای اولیهای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت میکنند. همچنین، این شرکت در حال ایجاد حفاظهای ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابیهای خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه میدهد.
همچنین، اوپنایآی گفت در حال آزمایش روشهایی است که به کاربران کمک میکنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چتجیپیتی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چتجیپیتی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راههای جدیدی برای گنجاندن بازخوردهای گستردهتر و دموکراتیک در رفتارهای پیشفرض چتجیپیتی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزشهای فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران میخواهند چتجیپیتی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چتجیپیتی داشته باشند و در صورت عدم موافقت با رفتار پیشفرض، تا حدی که ایمن و امکانپذیر است، تنظیماتی را انجام دهند.
لینک کوتاه: کپی لینک
سلامی دوباره بر "اصلاح" / زیدآبادی استقبال ناتو از توافق ایران و آمریکا سگ معروف کارتون «والاس و گرومیت» بالاخره سکوت خود را شکست و کتاب نوشت! ادعای ترامپ: ۱۰ سنت هم در ایران سرمایه گذاری نمیکنیم قالیباف: امروز باید سنگر را از بچههای پای لانچر تحویل گرفته و برای مردم رفاه بیاوریم اعطای لوح و تندیس «گواهی تعهد به تعالی» به بیمه ملت هواشناسی: افزایش دمای هوای کشور تا ۵ درجه راز برجستگی های فلفل دلمه ای؛ افسانه آشپزی است یا واقعیت علمی؟ / خیلی راحت نر و ماده را تشخیص بدهید / کدامشان بهتر است؟ (+اینفوگرافیک) الزام سکوهای دارای مجوز ساترا به کنترل والدین و ردهبندی سنی نخستوزیر کانادا: توافق ایران و آمریکا قاعده بازی را تغییر داده سید حسن خمینی: با هر متر و معیاری حساب کنید، ایران پیروز شده است/ آن ۳۹ روز جنگ، جهاد اصغر بود و بعد از آن جهاد اکبر است ۲۰ سال زندان برای خواننده متجاوز آمریکایی کانال ۱۳ اسرائیل: آمریکا جزئیات توافق را از اسرائیل مخفی نگه داشته شان پن فیلمی درباره حمله به کنگره آمریکا میسازد مسئول اسرائیلی: اگر نتیجه را میدانستیم وارد جنگ نمیشدیم