تاریخ:
مشاهده ماده یوز تلما با ۴ توله در یوزکنام 
درس نود و شش
هوش مصنوعی استدلالی OpenAI گاهیاوقات «چینی و فارسی فکر میکند» و هیچکس نمیداند چرا
هوش مصنوعی OpenAI رفتاری عجیب از خود نشان داده که ذهن کاربران را درگیر کرده است زیرا گاهی به زبان چینی و حتی فارسی فکر میکند.
پساز انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیدهی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهیاوقات به زبانهای دیگری مانند چینی، فارسی یا زبانهای دیگر فکر میکند. مدل مذکور در فرآیند پاسخدهی، مراحل استدلالی خود را به زبان دیگری انجام میدهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه میدهد.
به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT بهدلیل استفاده از دادههای چینی در فرآیند آموزش مدل است. شرکتهایی مانند OpenAI برای برچسبگذاری دادههای پیشرفتهی علمی و ریاضی از خدمات شرکتهای چینی استفاده میکنند. این برچسبها نقش کلیدی در یادگیری مدلها دارند و میتوانند به جانبداری یا تأثیر زبانی منجر شوند.
در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به دادههای چینی ندارد. آنها میگویند مدلها احتمالاً زبانهایی را انتخاب میکنند که برای انجام وظیفهای خاص، کارآمدتر باشند یا حتی بهطور تصادفی به این زبانها جابهجا میشوند. از آنجاکه مدلها کلمات را بهصورت توکن پردازش میکنند، تفاوتی میان زبانها برای آنها وجود ندارد.
نظریههای دیگر نشان میدهند که پاسخهای چینی ChatGPT میتواند نتیجهی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. بهعنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی بهدلیل کوتاهی و کارآمدی آن در برخی موارد میتواند کارآمدتر باشد.
درنهایت، بهدلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدلها، دلیل قطعی این رفتار مشخص نیست. بههمیندلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوهی ساخت و آموزش سیستمهای هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیدههایی را بهتر درک کرد.
لینک کوتاه: کپی لینک
اتهامزنی درباره ارتباط ایران با حادثه مشکوک در پایگاه فرفورد انگلیس حداقل بدهی زندانیان جرایم غیرعمد به ۴۰۰ تا ۵۰۰ میلیون تومان رسید یحیی سریع: عربستان در ۲۴ ساعت گذشته ۲۶ بار یمن را هدف قرار داد عارف: برق و گاز صنایع نباید قطع شود / ۲۵۰ میلیون مترمکعب گاز از شبکه خارج شده است / پرمصرفها ممکن است با قیمت تمامشده روبهرو شوند قالیباف: یا بازار نفت احمق است یا آمریکا دروغ میگوید؛ همه میدانند اولی درست نیست شهر فرودگاهی امام خمینی؛ انجام پرواز به بیش از ۳۰ مقصد بینالمللی ادعای مایک والتز: ایران نمیتواند برنامه تسلیحات هستهای داشته باشد دنیل گرا به پرسپولیس بازگشت؛ مدافع مجارستانی آماده تمرین شد گویش قمی ثبت ملی شد پزشکیان در هیئت دولت: ایران با فشار و حمله تسلیم نخواهد شد هشدار نارنجی هواشناسی در گلستان و سمنان؛ خطر سیلاب و اختلال تردد قتل برادر بر سر اختلاف ملکی در استان فارس/ قاتل در کرمان دستگیر شد تیراندازی در دیترویت آمریکا؛ ۳ مرد کشته و ۴ نفر زخمی شدند قطعی گاز در بخشهایی از اهواز؛ محدودیت ۱۱ ساعته برای مشترکان تعلیق ساخت مرقد سیدحسن نصرالله