هشدار بی‌سابقه درباره هوش مصنوعی؛ آیا به نقطه نابودی نزدیک می‌شویم؟

رهبر تیم هوش مصنوعی مایکروسافت ضمن هشدار درباره‌ی احتمال نابودی بشریت، گفت روی توسعه‌ی هوش مصنوعی انسان‌محور متمرکز هستند.

مصطفی سلیمان، هم‌بنیان‌گذار گوگل دیپ‌مایند و رهبر کنونی تیم هوش مصنوعی مایکروسافت، در اظهار نظری مهم اعلام کرد این شرکت سیستمی را که بتواند از کنترل انسان خارج شود توسعه نخواهد داد.

به گزارش زومیت، گفته‌های جدید سلیمان نشان‌دهنده‌ی یک چرخش استراتژیک هستند و روی توسعه‌ی اَبَر هوش مصنوعی انسان‌محور تاکید می‌کنند. رویکرد جدید مایکروسافت ایمنی را در اولویت قرار می‌دهد.

سلیمان تاکید کرد که مایکروسافت باید در حوزه‌ی هوش مصنوعی به خودکفایی برسد و مدل‌های پیشرفته‌اش را با داده‌ها و توان پردازشی اختصاصی آموزش بدهد. این تغییر رویکرد درحالی صورت می‌گیرد که مایکروسافت سرمایه‌گذاری‌های هنگفتی در حوزه‌ی هوش مصنوعی انجام داده است، از جمله سرمایه‌گذاری یک میلیارد دلاری در OpenAI در سال ۲۰۱۹.

گزارش‌های اخیر نشان می‌دهند که تلاش‌های داخلی مایکروسافت برای توسعه‌ی محصولات هوش مصنوعی چندان موفقت‌آمیز نیستند و همین مورد این شرکت را مجبور کرده است تا اهداف فروش را کاهش بدهد. در واقع، استفاده از محصولات هوش مصنوعی اختصاصی مایکروسافت در سطح بسیار پایینی قرار دارد.

مایکروسافت و OpenAI در توافقی جدید تصمیم گرفته‌اند تا استقلال بیشتری از یکدیگر پیدا کنند و ردموندی‌ها حالا آزاد هستند تا هوش مصنوعی انسان‌گونه (AGI) را به‌صورت مستقل یا با همکاری شرکت‌های شخص ثالث توسعه بدهد.

توافق جدید تضمین می‌کند که OpenAI نمی‌تواند پیش از تایید یک هیئت کارشناسی مستقل، با اعلام دستیابی به AGI، روابط خود با مایکروسافت را پایان بدهد.

مصطفی سلیمان می‌گوید مایکروسافت به توسعه‌‌ی سیستمی که بتواند به نابودی بشریت منجر شود ادامه نخواهد داد. او هشدار داد که احتمال نابودی وجودی (بشریت) تقریباً قطعی است و گفت در صورت افزایش خطرات، روند توسعه‌ی هوش مصنوعی را کند خواهند کرد.

پژوهشگران حوزه‌ی ایمنی هوش مصنوعی مانند رومن یامپولسکی در گذشته احتمال نابودی بشریت توسط هوش مصنوعی را تا ۹۹٫۹۹۹۹۹۹ درصد تخمین زده بودند. رویکرد محتاطانه و انسان‌محور مایکروسافت می‌تواند پاسخی به این نگرانی‌های جدی در جامعه‌ی فناوری باشد.

بخش هوش مصنوعی مایکروسافت با رهبری مصطفی سلیمان به پیشرفت‌های خوبی دست پیدا کرده است و این شرکت می‌خواهد به هوش مصنوعی انسان‌محور برسد؛ سیستمی که منحصراً برای خدمت به انسان‌ها خواهد بود.

مایکروسافت قبلاً در ازای دسترسی به فناوری‌های پیشگام OpenAI، از توسعه‌ی AGI و ابرهوش‌مصنوعی صرف‌نظر کرده بود. توافق جدید این دو شرکت باعث می‌شود تا مایکروسافت بتواند به‌سمت AGI برود.

سلیمان همچنین اذعان کرد محصولاتی مانند Copilot هنوز در حال توسعه هستند و ممکن است دچار خطا شوند.

پربیننده ترین پست همین یک ساعت اخیر

پیشنهاد فواد ایزدی برای پایان جنگ: کل زیرساخت های منطقه را بزنیم!

خبر بعد نظرات کاربران خبر قبل