کد خبر ۱۰۳۰۰۰۹
تاریخ انتشار: ۱۰:۳۵ - ۲۶-۱۰-۱۴۰۳
کد ۱۰۳۰۰۰۹
انتشار: ۱۰:۳۵ - ۲۶-۱۰-۱۴۰۳

هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا

هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا
هوش مصنوعی OpenAI رفتاری عجیب از خود نشان داده که ذهن کاربران را درگیر کرده است زیرا گاهی به زبان چینی و حتی فارسی فکر می‌کند.

پس‌از انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیده‌ی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهی‌اوقات به زبان‌های دیگری مانند چینی، فارسی یا زبان‌های دیگر فکر می‌کند. مدل مذکور در فرآیند پاسخ‌دهی، مراحل استدلالی خود را به زبان دیگری انجام می‌دهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه می‌دهد.

به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT به‌دلیل استفاده از داده‌های چینی در فرآیند آموزش مدل است. شرکت‌هایی مانند OpenAI برای برچسب‌گذاری داده‌های پیشرفته‌ی علمی و ریاضی از خدمات شرکت‌های چینی استفاده می‌کنند. این برچسب‌ها نقش کلیدی در یادگیری مدل‌ها دارند و می‌توانند به جانب‌داری یا تأثیر زبانی منجر شوند.

در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به داده‌های چینی ندارد. آن‌ها می‌گویند مدل‌ها احتمالاً زبان‌هایی را انتخاب می‌کنند که برای انجام وظیفه‌ای خاص، کارآمدتر باشند یا حتی به‌طور تصادفی به این زبان‌ها جابه‌جا می‌شوند. از آنجاکه مدل‌ها کلمات را به‌صورت توکن پردازش می‌کنند، تفاوتی میان زبان‌ها برای آن‌ها وجود ندارد.

نظریه‌های دیگر نشان می‌دهند که پاسخ‌های چینی ChatGPT می‌تواند نتیجه‌ی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. به‌عنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی به‌دلیل کوتاهی و کارآمدی آن در برخی موارد می‌تواند کارآمدتر باشد.

درنهایت، به‌دلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدل‌ها، دلیل قطعی این رفتار مشخص نیست. به‌همین‌دلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوه‌ی ساخت و آموزش سیستم‌های هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیده‌هایی را بهتر درک کرد.

برچسب ها: هوش مصنوعی ، OpenAI
ارسال به دوستان
چرا وفادارها هم گاهی خیانت می‌کنند؟ نگاهی تازه به ریشه‌های خیانت چهارمین کیتونکست کرمان موتور در علم و صنعت ایران؛ فراخوان کرمان موتور برای حل چالش‌های صنعت خودرو با هوش مصنوعی هواپیمای انقلابی X-70 فرکتال ناسا؛‌ پرنده عجیبی که ساختارش را در آسمان تغییر می‌دهد سارا پارسایی، نوازنده و بازیگر در کنسرت‌نمایش «سیاوش» با گریم متفاوت (+عکس) خسارت ۶۰ میلیارد دلاری تنگه هرمز به صادرات نفت عراق از پایتخت تا استان‌ها؛ وقتی باران به آزمونی برای ناکارآمدی زیرساخت‌ها تبدیل می‌شود آیا واقعاً اطلاعات ما درباره فضا بیشتر از اعماق اقیانوس‌ها است؟ ناصرالدین شاه در حال تماشای «تخت فیل‌سواری» در حیاط قصر(عکس) خانه و کتابخانه مجتبی مینوی را دریابید! بزرگ‌ترین صرافی ارز دیجیتال دنیا از فرانسه خارج می‌شود تنش ایران - آمریکا / دیدار ترامپ و نخست وزیر قطر ؛ امروز / روبیو: خواسته‌های ایران مضحک و غیرواقع‌بینانه است؛ چشم‌انداز توافق نزدیک نیست / ترامپ: اگر مذاکرات پیشرفت کند حمله نمی کنیم / عراقچی: «پیشنهاد دو روزه» ما روی میز است پای پرانتزی، زانوی ضربدری، کف پای صاف در کودکان؛ چه زمانی باید به پزشک متخصص مراجعه کرد؟ حادثه در ایستگاه دروازه دولت؛ توقف قطار برای جلوگیری از سقوط یک فرد بازگشت گوشی‌های کوچک؛ Enough Phone با قابلیت تعویض باتری و ابعاد جمع‌وجور شب های بخارا؛ 9 پله تا 1000/ 4 وزیر حوزه فرهنگ برای شب هزارم کمی ذوق به خرج دهند!