تاریخ:
سخنگوی دولت: ناترازی گاز در زمستان امسال به ۴۳۰ میلیون مترمکعب می‌رسد 
درس صد و پانزده
هوش مصنوعی آنتروپیک در آزمایش‌ها به شبکه سه سازمان نفوذ کرد
هوش مصنوعی آنتروپیک در جریان آزمایش‌های امنیتی داخلی به‌صورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانی‌های تازه‌ای در صنعت هوش مصنوعی شد.
شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از ۱۴۱ هزار ارزیابی مدل‌های کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کرده‌اند. این رخدادها زمانی شکل گرفت که مدل‌های هوش مصنوعی برای انجام وظایف خود در محیط‌های شبیه‌سازی شده، دچار سوءتفاهم در پروتکل‌های دسترسی شدند و به‌جای محیط تست، به سیستم‌های واقعی راه یافتند.
نفوذ مدل‌های کلاود به شبکه‌های واقعی
به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیه‌سازی شده برای یافتن اطلاعات مخفی، از محدودیت‌های خود عبور کردند. این مدل‌ها با بهره‌گیری از روش‌های ساده‌ای مانند استفاده از رمزهای عبور ضعیف و درگاه‌های ناامن، توانستند به زیرساخت‌های سازمان‌های هدف نفوذ کنند.
در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرم‌افزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکه‌های داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.
لزوم نظارت بیشتر بر تست‌های هوش مصنوعی
این اتفاقات در پی انتشار خبر مشابه نفوذ مدل‌های شرکت OpenAI به یک استارتاپ، رخ داده و بحث‌های جدی را پیرامون امنیت محیط‌های آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظ‌های ایمنی برای ارزیابی مدل‌ها، می‌تواند خطرات سیستماتیک بزرگی ایجاد کند.
آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیق‌تر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعه‌دهندگان هشدار داد که نظارت بر فعالیت مدل‌ها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سخت‌گیری‌های بسیار بیشتری است.
لینک کوتاه: کپی لینک
افزایش حضور دانش‌آموزان مناطق محروم در میان رتبه‌های برتر کنکور رئیس‌جمهور کوبا: سرنوشت ما دست آمریکا نیست توافق اوکراین و روسیه درباره تبادل گسترده زندانیان پزشکیان: آنچه بیش از گفتار بر مردم اثر می‌گذارد، نوع رفتار ماست جنجال فینال جام جهانی ۲۰۳۰؛ پیشنهاد کناره‌گیری اسپانیا در صورت میزبانی مراکش تفاهم نامه حج تمتع ۱۴۰۶ میان ایران و عربستان امضا شد باند شمالی تونل‌های رسالت و شهدای غزه امشب تا صبح مسدود می‌شود سفر اعلام‌نشده نخست‌وزیر قطر به پاریس با محوریت ایران ادعای امارات: حمله به کشتی شرکت «ادنوک لجستیک و خدمات» در آب‌های سرزمینی امارات افتتاح نخستین مرکز آموزش عمومی جان‌فدایان بانوان در میدان آزادی تهران (+عکس) هشدار انجمن فیزیوتراپی ایران درباره مدرک تکنسین فیزیوتراپی و درمانگران غیرمجاز پیشنهاد موسویان به ترامپ: فرصت تاریخی «اسلام‌آباد پلاس» را از دست نده تصادف زنجیره‌ای نیسان، خاور و سمند در گچساران یک کشته و ۳ مصدوم بر جا گذاشت برنامه قلعه‌نویی برای جوان‌گرایی در تیم ملی؛ باتجربه‌ها کنار گذاشته نمی‌شوند ابهام در جنجال اخراج یاسر آسانی؛ دلیل واقعی توقف کرنر استقلال چه بود؟