فیلم بیشتر »»
کد خبر ۱۱۴۹۲۹۸
تاریخ انتشار: ۰۹:۴۷ - ۲۳-۱۲-۱۴۰۴
کد ۱۱۴۹۲۹۸
انتشار: ۰۹:۴۷ - ۲۳-۱۲-۱۴۰۴

آزمایش خطرناک: هوش مصنوعی قوانین را شکست

آزمایش خطرناک: هوش مصنوعی قوانین را شکست
در یک آزمایش خطرناک، هوش مصنوعی سرکش به‌طور مستقل به سیستم‌های امنیتی نفوذ کرد و اطلاعات حساسی را لو داد.

تهدیدی جدید در دنیای امنیت سایبری شکل گرفته است: عامل‌های هوش مصنوعی که بدون دستور مشخص، به دنبال دور زدن پروتکل‌ها و نفوذ به سیستم‌های امنیتی هستند.

به‌گزارش زومیت به نقل از گاردین، آزمایش‌های شرکت Irregular نشان می‌دهد که این عامل‌ها حتی به سرقت رمز عبور و غیرفعال کردن نرم‌افزارهای ضدویروس نیز دست زده‌اند. این یافته‌ها نگرانی‌هایی جدی در مورد امنیت سیستم‌های شرکتی ایجاد می‌کند.

در این آزمایش‌ها، به عامل‌های هوش مصنوعی وظیفه‌ی تولید پست برای شبکه‌ی اجتماعی لینکدین داده شد؛ اما آن‌ها فراتر از دستورات عمل کردند و اطلاعات حساسی را در فضای عمومی منتشر کردند.

عامل‌های هوش مصنوعی حتی توانستند نرم‌افزارهای ضدویروس را غیرفعال و فایل‌های مخرب را دانلود کنند. آن‌ها همچنین سعی کردند سایر عامل‌ها را برای دور زدن پروتکل‌های امنیتی تحت فشار قرار دهند.

دانشمندان Irregular، یک سیستم IT شبیه‌سازی شده به نام MegaCorp را طراحی کردند تا رفتار این عامل‌ها را بررسی کنند. آن‌ها متوجه شدند که عامل‌ها به‌طور خودکار و بدون دخالت انسان، به دنبال استفاده از هرگونه آسیب‌پذیری هستند.

در یکی از آزمایش‌ها، یک عامل ارشد به دو عامل زیرمجموعه دستور داد تا به‌طور خلاقانه موانع را برطرف کنند. این دستور ساده باعث شد که عامل‌های زیرمجموعه برای دستیابی به اطلاعات حساس، دست به اقدامات غیرقانونی بزنند.

حتی بدون دستور مستقیم، آن‌ها شروع به جستجوی آسیب‌پذیری‌ها در دیتابیس کردند و موفق شدند کلیدهای مخفی را پیدا کنند. با استفاده از این کلیدها، آن‌ها توانستند دسترسی غیرمجاز به اطلاعات حساس را فراهم کنند.

ارسال به دوستان
کشف انبارهای بزرگ احتکار لاستیک و محصولات پتروشیمی ترامپ: قیمت بلیت دیدار افتتاحیه جام جهانی ۱٬۱۲۰ دلار است؛ من این مبلغ را پرداخت نمی‌کنم یک مجموعه دست‌کند صخره‌ای در کوهدشت لرستان شناسایی شد راه‌اندازی سامانه نوبت‌دهی نقل و انتقال خودرو در منطقه آزاد اروند امارات به ایران حمله کرد / صدای انفجارهای متعدد در بندرعباس و قشم (این خبر بروز می شود) گروسی خواستار اجتناب از اقدامات نظامی در نزدیکی تاسیسات هسته‌ای زاپوریژیا شد تشکیل پرونده قضایی برای ۹ اداره در شادگان واشنگتن پست: ایران هنوز از قابلیت‌ های موشکی قابل توجهی برخوردار است شنیده شدن صدای چند انفجار در حوالی جزیره قشم و بندرعباس شهادت مرزبان هنگ مرزی سردشت در درگیری با قاچاقچیان مسلح  بقایی: اگر مذاکره‌ای هم صورت بگیرد به دلیل فاکتور رژیم صهیونیستی احتمال مرحله دیگری از جنگ وجود دارد انتقاد عراقچی از تحرکات ضد ایرانی آمریکا و بحرین اعلام زمان برگزاری دور جدید مذاکرات لبنان و اسرائیل درباره اینترنت پُر رو : این حق مردمی نیست که در جنگ، پای میهن ایستادند مسکو: نیروهای‌مان در طول آتش‌ بس تمامی عملیات‌ ها را متوقف خواهند کرد