کد خبر ۹۸۹۱۹۵
تاریخ انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳
کد ۹۸۹۱۹۵
انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید
شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چت‌بات‌های هوش مصنوعی خود نگران است.

شرکت‌های توسعه‌دهنده‌ی چت‌بات‌های هوش مصنوعی همواره سعی دارند عملکرد مدل‌های خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیش‌ازحد انسان‌ بودن» مدل‌های هوش مصنوعی و تأثیر آن‌ها روی هنجارهای اجتماعی است.

به گزارش زومیت، OpenAI در گزارش جامع فعالیت‌های خود، به صراحت اعلام کرد که ترجیح می‌دهد کاربران نسبت‌ به GPT-4o احساسات عاطفی پیدا نکنند.

با توجه‌ به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف می‌زنند. این تلاش‌ها شامل ویژگی صوتی جدید برای تقلید گفتار انسان به‌همراه سرعت بالاتر پاسخگویی می‌شود و می‌توانید با چت‌بات، گفت‌وگویی صوتی شبیه به مکالمه‌ با یک انسان واقعی داشته باشید.

اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار می‌کنند. این شرکت می‌گوید: «در مراحل اولیه‌ی تست، ازجمله آزمایش‌های داخلی و شبیه‌سازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده می‌کنند که برقراری ارتباط با مدل را نشان می‌دهد. درحالی‌که موارد ذکرشده بی‌ضرر به‌نظر می‌رسند، اما بررسی اثرات بلندمدت آن‌ها نیاز به بررسی بیشتر دارد.»

OpenAI به دو دلیل موضوع انسان‌‌پنداری چت‌بات‌ها را خبر بدی می‌داند. اول اینکه، وقتی هوش مصنوعی شبیه انسان به‌نظر برسد، ما بیشتر مستعد باورکردن حرف‌های آن به‌عنوان واقعیت هستیم. این یعنی مردم درمقایسه‌با زمانی که هوش مصنوعی شبیه ربات رفتار می‌کند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار می‌گیرند.

مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال می‌دهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالی‌که امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.

GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرف‌زدن کند، صحبت‌های چت‌بات قطع می‌شود تا به حرف‌های کاربر گوش دهد و شاید این سبک حرف‌زدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.

درحال‌حاضر، OpenAI نحوه‌ی برقراری ارتباط احساسی افراد با چت‌بات‌های خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستم‌هایش را اصلاح می‌کند. نگرانی‌های این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدل‌های هوش مصنوعی ارائه می‌دهد.

برچسب ها: چت بات ، کاربران
ارسال به دوستان
سعید اسماعیلی با گران‌ترین قرارداد تاریخ کشتی فرنگی به سپاهان پیوست رقبای عربستانی بیرانوند از انگیزه خود برای فتح جایزه مرد سال آسیا گفتند بیرانوند: امیدوارم جایزه مرد سال آسیا پس از ۲۲ سال به ایران برسد رئیس سازمان بسیج: افزایش قیمت انرژی، تاب‌آوری مردم آمریکا را تحت تأثیر قرار می‌دهد ثبت‌نام پذیرفته‌شدگان دانشگاه فرهنگیان از ۳۰ آبان آغاز می‌شود برگزاری مراسم بزرگداشت آیت الله وحید خراسانی؛ پنجشنبه در حرم رضوی علیرضا بیرانوند در جمع سه نامزد نهایی بهترین بازیکن آسیا در ۲۰۲۶ (+عکس) هشدار دانشگاه علوم پزشکی بیرجند؛ شیوع آنفلوآنزا از سطح هشدار گذشت نایب رئیس مجلس: مسئولان حس وطن‌پرستی را در مردم تقویت کنند غیبت غیرمنتظره سهراب بختیاری‌زاده در تمرین استقلال پیش از سفر آسیایی آنتونیو آدان، دروازه‌بان سابق استقلال و رئال مادرید بازنشسته شد چرای غیرمجاز ۱۸۰ رأس دام در طالقان ۸ میلیارد ریال جریمه داشت پاریس حضور نیروهای فرانسوی در اوکراین را تایید کرد «قسطی جمعه» دیجی‌پی برای عبور از محدودیت‌های خرید نقدی قیمت شیر خام افزایش یافت؛ نرخ جدید هر کیلو ۶۸ هزار تومان شد