هشدار «آنتروپیک» درباره خودبه‌سازی هوش مصنوعی

در حالی که توجه زیادی به گزارش مالی به‌روزرسانی‌شده‌ روز دوشنبه شرکت «آنتروپیک»(Anthropic) در طرح اصلاح‌شده‌ «S-1A» آن معطوف شده است مبنی بر این که درآمدها و هزینه‌ها رو به افزایش هستند، این آزمایشگاه هوش مصنوعی خبر غافلگیرکننده‌ دیگری را منتشر کرد.

به گزارش ایسنا به گزارش تک‌کرانچ، به نظر می‌رسد این سند هشدار می‌دهد آنتروپیک در آستانه‌ ایجاد مدلی است که قادر به «خودبه‌سازی بازگشتی»(RSI) است. خودبه‌سازی بازگشتی، نقطه‌ای است که در آن هوش مصنوعی در خودآموزی چنان مهارتی می‌یابد که موجب شتابی چشمگیر در توانمندی‌هایش می‌شود.

از دیدگاه کسانی که نسبت به هوش مصنوعی بدبین هستند و آن را یک تهدید وجودی می‌دانند، خودبه‌سازی بازگشتی بیانگر فاجعه‌ای بازگشت‌ناپذیر است. در این وضعیت، هوش مصنوعی چنان قدرت می‌گیرد که از کنترل انسان خارج می‌شود و ممکن است در مسیر دستیابی به اهدافش، نسبت به آسیب‌هایی که به بار می‌آورد کاملاً بی‌تفاوت باشد.

برای علاقه‌مندان به هوش مصنوعی، خودبه‌سازی بازگشتی یا نسخه‌ای از هوش مصنوعی که به طور قابل اعتمادی از خود برای بهبود استفاده می‌کند، تحقق نوید این فناوری را نشان می‌دهد مبنی بر این که به ابزاری برای بهره‌وری غیرقابل تصور، کشف علمی و موارد دیگر تبدیل ‌شود.

به نظر می‌رسد شرکت آنتروپیک معتقد است خودبه‌سازی بازگشتی هم یک نوید و هم یک خطر است. این شرکت در طرح S-1 گفت که از هوش مصنوعی در تحقیق و توسعه خود استفاده می‌کند، اما هشدار داد: استفاده از هوش مصنوعی برای کمک به ساخت هوش مصنوعی توانمندتر می‌تواند یک خطر ایمنی قابل توجه را نیز ایجاد کند؛ به ویژه اگر سرعت پیشرفت را به شدت افزایش دهد. این یکی از حوزه‌های تحت پوشش سیاست مقیاس‌پذیری مسئولانه ما است که برنامه‌های ما را برای نظارت و کاهش خطرات در زمان نزدیک شدن به آنچه خودبهبودی بازگشتی نامیده می‌شود، تعیین می‌کند.

هنگامی که اصطلاح خودبهبودی بازگشتی در اوایل سال جاری رواج یافت، بسیاری بر این باور بودند که این صرفاً یک واژه پرطمطراق است یا در خوش‌بینانه‌ترین حالت، هدفی است که دستیابی، تعریف یا اثبات آن بسیار دشوار است.

آنتروپیک روز دوشنبه موارد جدیدی را به بخش «عوامل خطر» خود افزود و موارد زیر را اعلام کرد:

۱. آنتروپیک پیش‌تر از هوش مصنوعی برای توسعه مدل‌های جدیدی استفاده کرده است که جهش‌های توانمندی آنها در آن زمان شناسایی نشده بود.

۲. آنتروپیک ممکن است به ‌زودی به تعریف داخلی خود از خودبهبودی بازگشتی (هوش مصنوعی با قابلیت‌های بسیار بالا) دست یابد.

جمله‌های زیر در طرح S-1 با حروف پررنگ مشخص شده‌اند.

علاوه بر این، استفاده روزافزون ما از سیستم‌های هوش مصنوعی برای شتاب بخشیدن به فعالیت‌های تحقیق و توسعه‌ ممکن است باعث شود که توانمندی‌های مدل‌های ما سریع‌تر از توانایی ما در توسعه، اعتبارسنجی و پیاده‌سازی تدابیر ایمنی، هم‌راستاسازی و موارد امنیتی پیشرفت کنند. در نتیجه، ما در گذشته شتاب‌گیری قابل‌توجهی را در روند توسعه خود تشخیص نداده‌ایم و ممکن است در آینده نیز چنین شتاب‌گیری‌ را تا زمانی که رخ ندهد، شناسایی نکنیم.

برای مثال، برآوردهای داخلی و انتظارات ما در خصوص مدل‌های آینده - و نه مدل‌های کنونی‌ - نشان می‌دهند که ممکن است به ‌زودی به مصداق تعریف «پیشرفت به‌ شدت شتاب‌یافته ناشی از هوش مصنوعی» در «سیاست مقیاس‌دهی مسئولانه» خود دست یابیم. ما هیچ‌کدام از مدل‌های کنونی خود را در سطحی فراتر از این آستانه طبقه‌بندی نکرده‌ایم و همچنان به ارزیابی داده‌های زیربنایی ادامه می‌دهیم.

آنتروپیک اعلام کرد که هیچ‌کدام از مدل‌های آن هنوز از این آستانه خودبه‌سازی بازگشتی عبور نکرده‌اند و قول داد که انسان‌ها را در فرآیند تحقیق و توسعه برای آینده‌ای قابل پیش‌بینی نگه دارد. این شرکت در ادامه نوشت: ما پیش‌بینی نمی‌کنیم که بتوانیم با خیال راحت از هوش مصنوعی «کلود»(Claude) برای طراحی و ساخت نسل‌های متوالی مدل‌های مرزی به طور کاملاً خودکار و بدون نظارت یا درک معنادار انسانی استفاده کنیم؛ البته اگر و زمانی که این امر از نظر فنی امکان‌پذیر شود. بر این اساس، ما در حال بررسی به‌روزرسانی‌هایی در سیاست مقیاس‌بندی مسئولانه خود هستیم تا انسان‌ها را در کنترل توسعه مدل‌های مرزی در آنتروپیک نگه داریم.

پارس جنوبی با برد ۴ گله صدرنشینی لیگ دسته اول را تثبیت کرد

تماشاخانه

سارا برومند و دخترانی که هرگز به خانه نرسیدند

باران آمد ، هشدار هم دادند ولی دوباره ایران غافلگیر شد / ببینید باران شنبه چه کرد

فیلم های دیگر