تاریخ:
آموزش ۳ مدل اوتمیل یخچالی؛ صبحانهای ساده و خوشمزه 
درس نود و پنج
همبنیانگذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخهای بهتری بگیرید
مدلهای هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود.
راههای مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، همبنیانگذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او میگوید کاربران میتوانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.
به گزارش دیجیاتو، سرگی برین در مصاحبهای با All-In Podcast گفت: «نهفقط مدلهای [هوش مصنوعی] ما، بلکه تمام مدلها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیهای عمومی مطرح نشده است. درکل به نظر میرسد مدلهای هوش مصنوعی طی فرایند آموزش فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود؛ به همین دلیل وقتی تهدید میشوند، خروجی بهتری ارائه میدهند.
افزایش عملکرد هوش مصنوعی با تهدید
در این پادکست یکی از مهمانان برنامه بهشوخی گفت اگر به هوش مصنوعی گستاخی کنید، کارهای شما را بهتر انجام میدهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدلهای هوش مصنوعی، عملکرد آنها بهتر میشود.
البته مشخص نیست واقعاً چتباتها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک بهتازگی مدلهای هوش مصنوعی Claude 4 خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، میتواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای «غیراخلاقی» بشود.
قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ بهاین ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد. درکل کارشناسان توصیه میکنند کاربران با پرامپتنویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راههای مختلفی برای دورزدن محدودیتهای هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدلهای هوش مصنوعی پیشرفته را نمیتوان بهراحتی از بین برد.
لینک کوتاه: کپی لینک
رئیسجمهور موقت ونزوئلا: برای گذار به سمت «دموکراسی کامل»، انتخابات برگزار خواهیم کرد ناشناختهترین مکان زمین / چرا هنوز عمق دقیق گودال ماریانا را نمیدانیم؟ روزنامه اعتماد: مخالفان مذاکره، مهمترین راه مقابله با آمریکا را می بندند محسنی اژهای: پزشکیان با صلابت از حقوق حقه ایران دفاع و دشمن را رسوا کرد روزنامه همشهری: پزشکیان انصافا گل کاشت مرسدس جی-کلاس برای آینده (تصویری) پیام فرمانده کل ارتش خطاب به پزشکیان پزشکیان در دیدار نخستوزیر بنگلادش: خواهان همکاری سازنده با جامعه جهانی هستیم اما فشار و زور را نمیپذیریم رکوردشکنی تجارت چین در آستانه دیدار ترامپ و شی سازمان همکاری و توسعه اقتصادی:تورم جهانی ادامه خواهد داشت مرگ دو خواهر خردسال بر اثر مارگزیدگی در سیستان و بلوچستان کیهان: ترامپ محل سگ هم به «اینترنشنال» نگذاشت! کره شمالی موشکهای هدایتشونده جدیدی آزمایش کرد سازمان برنامه و بودجه: مبلغ کالابرگ ۴۴ میلیون نفر در مهر ماه افزایش مییابد ارتش یمن: حملات عربستان به ۹۸۸ مورد رسید