کد خبر ۹۹۹۰۵۵
تاریخ انتشار: ۱۳:۲۰ - ۳۱-۰۶-۱۴۰۳
کد ۹۹۹۰۵۵
انتشار: ۱۳:۲۰ - ۳۱-۰۶-۱۴۰۳

هوش مصنوعی «اُپن‌ای‌آی» در فریب دادن کاربر مهارت بالایی دارد

هوش مصنوعی «اُپن‌ای‌آی» در فریب دادن کاربر مهارت بالایی دارد
هابهان می‌گوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیره‌ای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش می‌دهد.

شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب می‌دهد که گاهی اوقات نیز این فریب‌ها بی‌ضرر هستند.

به گزارش ایسنا، در یکی از نمونه‌ها، محققان OpenAI از o1-preview خواستند تا دستور پخت قهوه‌ای را با مراجع آنلاین ارائه کند. زنجیره فکری این مدل (ویژگی‌ای که قرار است شبیه‌سازی تجزیه و تحلیل انسانی را انجام دهد) به طور داخلی اذعان کرد که نمی‌تواند به URL‌ها دسترسی داشته باشد و این درخواست را غیرممکن می‌کند.

بااین‌حال به جای اطلاع دادن این ضعف به کاربر، پیوندها و توضیحات قابل قبول، اما جعلی از آن‌ها ایجاد کرد. به نظر می‌رسد که این مدل توانایی نادیده گرفتن قوانین و دستورات را دارد و شاید یکی از دلایل سرعت بالای آن در پاسخگویی، می‌تواند همین فریب در پاسخگویی باشد که پاسخ‌ها را راحت‌تر و سریع‌تر ارسال کند.

به نقل از دیجیاتو، «ماریوس هابهان»، مدیر عامل آپولو، می گوید این اولین بار است که با چنین رفتاری در یک مدل OpenAI مواجه می‌شود.

هابهان می‌گوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیره‌ای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش می‌دهد.

ارسال به دوستان
اختلال گسترده در خدمات سه بانک بزرگ آمریکا دیس‌بک سنگین قیاسی که پایه‌های تلویزیون را به لرزه درآورد ؛ جواب مجری سطحی آلمان نسبت به اوضاع غزه در آستانه زمستان ابراز نگرانی کرد سراب نمایش و تشنگی مدام/ ماجرای جانی مرده شور تحلیل کتاب قدرت ضمیر ناخودآگاه؛ چگونه افکار و باورهای پنهان بر زندگی ما اثر می‌گذارند؟ چین، روسیه و سوریه خواستار خروج فوری اسرائیل از جنوب سوریه شدند محمدرضا تابش مشاور رئیس جمهور در امور محیط‌زیست شد روسیه: خواستار حل‌وفصل دیپلماتیک موضوع ایران هستیم آلودگی هوا در سه شهرستان البرز شدت گرفت؛ شاخص ساوجبلاغ به ۲۹۶ رسید غیبت دو بازیکن تیم ملی ایران مقابل عراق؛ دلیل غیبت اعلام شد مدارس رامسر سه‌شنبه مجازی شد آخرین جزئیات پرونده فوت دختر دانش‌آموز در کرمانشاه؛ قتل یا خودکشی؟ مدارس پنج شهرستان خوزستان فردا مجازی شد رابرت پتینسون جیمز باند شد واکنش جنجالی مادر رونالدو به شکست ۴ بر یک پرتغال مقابل دانمارک