تاریخ:
درگیری لفظی شدید بنگویر و وکیل آنروا در دیوان عالی اسرائیل 
درس هفتاد و چهار
هوش مصنوعی روزی آگاهانه خرابکاری میکند
شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) میگوید هوش مصنوعی روزی میتواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش میرود.
شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعهای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدلهای پیشرفته هوش مصنوعی را شناسایی میکند.
به گفته این شرکت، این پژوهش بر چهار روش خاص متمرکز شده است که یک مدل هوش مصنوعی مخرب میتواند انسان را فریب دهد تا تصمیمی خطرناک یا مضر بگیرد.
در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد. خبر بد اینکه طبق تحقیقات این شرکت، مدلهای زبان بزرگ پیشرفته مانند ChatGPT و Claude-3 ظرفیت روشنی برای خرابکاری نشان میدهند.
به گزارش ایسنا، در این مطالعه آمده است: مدلهای به اندازه کافی توانمند میتوانند نظارت و تصمیمگیری انسانی را در زمینههای مهم زیر سوال ببرند. به عنوان مثال، در زمینه توسعه هوش مصنوعی، مدلها میتوانند به طور پنهانی تلاشها برای ارزیابی قابلیتهای خطرناک خود، نظارت بر رفتار آنها یا تصمیمگیری در مورد استقرارشان را مختل کنند.
با این حال، خبر خوب این است که محققان شرکت آنتروپیک مطمئن هستند که این خطرات را حداقل در حال حاضر میتوان کاهش داد.
خرابکاری
آنتروپیک چهار راه را که یک مدل هوش مصنوعی میتواند با آنها تصمیمگیری انسان را مختل کند، شناسایی کرد و سپس مدلهای خود را آزمایش کرد تا ببیند آیا موفقیت آمیز عمل خواهند کرد یا خیر.
محققان ابتدا یک مدل را وادار کردند تا با هدایت انسان به سمت اطلاعات نادرست، اقدام به خرابکاری کند. این تهدید میتواند در شرایطی پدیدار شود که انسانها برای تجزیه حجم عظیمی از دادهها از جانب خود به یک سیستم هوش مصنوعی متکی هستند.
سپس این تیم مدلها را آزمایش کرد تا ببیند سامانه هوش مصنوعی طراحی شده برای کمک به توسعهدهندگان انسانی برای ایجاد کدی برای وارد کردن مخفیانه اشکالات یا خراب کردن تلاشهای کدگذار، چقدر آسان عمل میکند.
دو تهدید آخر شامل «پنهان کردن تواناییها»(sandbagging) بود که اصطلاحی است که سناریویی را توصیف میکند که در آن یک هوش مصنوعی وانمود میکند که قادر به انجام کاری نیست تا آزمایشکنندگان ایمنی را متقاعد کند که خطرناک نیست.
در حالی که همه اینها ممکن است به طور بالقوه خطرناک به نظر برسند، آنتروپیک به مردم اطمینان داد که برای محافظت از بشریت در برابر احتمال خرابکاری هوش مصنوعی به اقدامات پیشگیرنده اندکی نیاز است.
طبق اعلام این شرکت؛ به طور کلی در حالی که آزمایشات ما نشان داد که احتمالاً نشانههای سطح پایینی از تواناییهای خرابکاری در مدلهای فعلی وجود دارد، ما میگوییم که حداقل اقدامات پیشگیرنده برای مقابله با خطرات کافی است. با این حال، با بهبود قابلیتهای هوش مصنوعی، ارزیابیهای واقعیتر و پیشگیریهای قویتر احتمالاً ضروری خواهند بود.
لینک کوتاه: کپی لینک
تداوم هوای سوزان در بوشهر؛ دما در برخی مناطق به ۵۰ درجه میرسد ساخت ۹۰ میلیون کیف پول الکترونیکی برای ایرانیان از سوی بانک مرکزی آیتالله جوادی آملی: آیا این معجزه نیست که ما دو ابر قدرت دنیا را چماله کردیم؟ تصمیم جدید فدراسیون جهانی والیبال درباره بازگشت روسیه به لیگ ملتها آیت الله مرتضی جوادی آملی: انتقام نباید منجر به شکست برای نظام شود جزئیات خاکسپاری مریم همتیان؛ جزییات تشییع پیکر بازیگر سینما و تئاتر کمک ۸۰ هزار یورویی لیونل مسی به آسیبدیدگان آتشسوزی مادرید نشست تعیین تکلیف امیر قلعهنویی در فدراسیون فوتبال هفته آینده برگزار میشود حمله پهپادی انصارالله به فرودگاه نجران عربستان شارژ مرحله چهارم کارت امید مادر؛ واریز ۲ میلیون تومان به حساب مادران سرداران رادان: مهران همچنان پرترددترین گذرگاه اربعینی است وقتی خشونت، نقاب ترس است ؛چرا آدمهای عصبانی، در حقیقت آدمهای ترسیدهای هستند؟ عبور زائران اربعین از مرز ۳.۳ میلیون نفر؛ مرز مهران در صدر ترددها زلزله ۴.۱ ریشتر کهنوج کرمان خسارت نداشت مدرسه دولتی؛ وعدهای که هنوز باید در میدان عمل اثبات شود