فیلم بیشتر »»
کد خبر ۱۰۶۲۹۴۷
تاریخ انتشار: ۱۰:۳۶ - ۰۴-۰۳-۱۴۰۴
کد ۱۰۶۲۹۴۷
انتشار: ۱۰:۳۶ - ۰۴-۰۳-۱۴۰۴

هم‌بنیان‌گذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخ‌های بهتری بگیرید

هم‌بنیان‌گذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخ‌های بهتری بگیرید
مدل‌های هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیده‌اند «تهدید» به این معنی است که کار باید جدی‌تر گرفته شود.

راه‌های مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، هم‌بنیان‌گذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او می‌گوید کاربران می‌توانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.

به گزارش دیجیاتو، سرگی برین در مصاحبه‌ای با All-In Podcast گفت: «نه‌فقط مدل‌های [هوش مصنوعی] ما، بلکه تمام مدل‌ها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیه‌ای عمومی مطرح نشده است. درکل به‌ نظر می‌رسد مدل‌های هوش مصنوعی طی فرایند آموزش فهمیده‌اند «تهدید» به این معنی است که کار باید جدی‌تر گرفته شود؛ به همین دلیل وقتی تهدید می‌شوند، خروجی بهتری ارائه می‌دهند.

افزایش عملکرد هوش مصنوعی با تهدید

در این پادکست یکی از مهمانان برنامه به‌شوخی گفت اگر به هوش مصنوعی گستاخی کنید، کارهای شما را بهتر انجام می‌دهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدل‌های هوش مصنوعی، عملکرد آنها بهتر می‌شود.

البته مشخص نیست واقعاً چت‌بات‌ها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک به‌تازگی مدل‌های هوش مصنوعی Claude 4 خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، می‌تواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای «غیراخلاقی» بشود.

قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ به‌این ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد. درکل کارشناسان توصیه می‌کنند کاربران با پرامپت‌نویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راه‌های مختلفی برای دورزدن محدودیت‌های هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدل‌های هوش مصنوعی پیشرفته را نمی‌توان به‌راحتی از بین برد.

برچسب ها: گوگل ، هوش مصنوعی ، تهدید
ارسال به دوستان
captcha
تصویری از «میرزا مهدی، فرمانده لشکر لاریجان» در دوران ناصرالدین شاه پژوهش جدید: فشار خون بالا می‌تواند آرتروز را تشدید کند معماری بقا در اقیانوس: چرا همه‌ی خانه‌های برمودا سقف سفید و پلکانی دارند؟(+عکس) ۱۰ کشوری که جمعیت فوق‌ثروتمندها طی ۵ سال آینده بیشترین افزایش را خواهد داشت (+اینفوگرافیک) ادعای وزیر دفاع انگلیس: ایران تهدیدی برای ما و متحدانمان است بیانیه وزرات امور خارجه درباره خروج نیروهای آمریکایی از عراق پزشکیان: دولت برای مدیریت شرایط ویژه آرایش جدید گرفته است راز نوبل ادبیات ؛ چرا مدعیان هر سال غافلگیر می‌شوند؟ خبر خوش برای کارگران شهرداری کرمان؛ کلید خانه‌دار شدن با «خانه امید» نماینده ایران در اسکار ؛ انتخابی که از روز اول باخته است افت ۲ متری تراز آب خزر توصیه پلیس فتا پس از کلیک روی لینک آلوده ناوتیلوس؛ نخستین زیردریایی هسته ای جهان که جنگ زیر آب را متحول کرد (+عکس) اگر به سلامت روده اهمیت می دهید، این 5 مکمل را بشناسید این خانه در دولت آباد اصفهان / برنده جایزه معمار 1404 گروه مسکونی تک واحدی (+تصاویر)