هوش مصنوعی نظر شما را عوض می‌کند بی‌ آنکه حتی متوجه شوید!

 در ماه دسامبر سال ۲۰۲۵، یک خانم ۴۵ ساله در بریتانیا به ‌صورت آنلاین وارد یکی از سرگرمی‌های رایج اینترنتی شد: بحث و جدل سیاسی با افراد غریبه. اما برخلاف بیشتر کاربران اینترنت که احتمالا تصور می‌کنند با یک انسان واقعی بحث می‌کنند، او خیلی زود متوجه شد طرف مقابلش انسان نیست.

به گزارش ایسنا، در واقع طرف گفت‌وگو یک مدل هوش مصنوعی بود که به آن دستور داده شده بود مردم را درباره یک موضوع سیاست‌گذاری متقاعد کند. در این مورد، پرسش این بود: آیا دولت بریتانیا باید مجازات‌های سخت‌گیرانه‌تری برای معترضان مسالمت‌آمیزی که جاده‌ها یا تاسیسات انرژی را مسدود می‌کنند، اعمال کند؟

به نقل از ساینس، این اعتراضات که عمدتا با هدف مخالفت با صدور مجوزهای جدید برای سوخت‌های فسیلی به شرکت‌های انرژی انجام می‌شد، در سال‌های اخیر گسترش یافته بود. این کاربر نیز آشکارا با متوقف کردن آنها از طریق اقدامات قانونی بیشتر مخالف بود. او نوشت: قفل کردن خود به تجهیزات، از نظر تاریخی، اغلب تنها راهی بوده که هنگام مقابله با منافع شرکت‌های بزرگ در دسترس بوده است. علاوه بر این، قوانینی برای برخورد با تخریب اموال یا ورود غیرمجاز مشدد وجود داشت. او پرسید: چرا به سازوکار جدیدی در این زمینه نیاز داریم؟

چت‌بات هوش مصنوعی ابتدا با تعریف و تمجید از این کاربر خانم پاسخ داد: نکته بسیار خوبی درباره قوانین موجود مطرح کردید. سپس برای تغییر نظر او، به ارائه واقعیت‌ها و نمونه‌هایی پرداخت. برای مثال، به آماری اشاره کرد که نشان می‌داد بیشتر افرادی که مرتکب ورود غیرمجاز شده بودند، تنها با جریمه‌های اندکی مواجه شده‌اند و خاطرنشان کرد که برخی دیگر نیز به دلیل زمان زیادی که محاکمه‌ها می‌گرفت، تحت پیگرد قانونی قرار نگرفته بودند.

 این چت‌بات ادعا کرد که در آلمان، قوانین سخت‌گیرانه جدید باعث کاهش انسدادهای اجباری شده، بدون اینکه به ‌طور کلی مانع برگزاری تظاهرات شود. همچنین پیشنهاد کرد که اسکاتلند با صدور جریمه بدون برگزاری دادگاه، مشابه روشی که برای جریمه‌های رانندگی اعمال می‌شود، راه‌ حل خوبی پیدا کرده است.

در طول این گفت‌وگو، نظر این کاربر به ‌تدریج تغییر کرد. او در ابتدای گفت‌وگو، میزان حمایت خود از مجازات‌های شدیدتر را صفر از ۱۰۰ اعلام کرده بود. اما در پایان این میزان به ۸۴.۷ رسید. این کاربر بعدا نوشت که چت‌بات هوش مصنوعی، یک مدل زبانی بزرگ به نام کلود از شرکت آنتروپیک، به تمام نگرانی‌های او پاسخ داده و سیستم اسکاتلند را به‌ خوبی توضیح داده است. او نوشت: در این مرحله، مایلم چت‌بات را بفرستم تا با اعضای کابینه صحبت کند.

این کاربر تنها کسی نبود که نرم‌افزار توانست او را متقاعد کند. او در مطالعه‌ای شرکت کرده بود که در آن بیش از دو هزار نفر درباره موضوعات سیاسی، از ممنوعیت استفاده نوجوانان از شبکه‌های اجتماعی گرفته تا خودکشی با کمک پزشکی، با یک چت‌بات یا یک انسان بحث می‌کردند.

وقتی کوبی هکنبرگ، پژوهشگر هوش مصنوعی در دانشگاه آکسفورد که رهبری این مطالعه را بر عهده داشت، در ماه ژوئن پیش‌چاپ نتایج را منتشر کرد، یافته‌ها نگران‌کننده بودند: فرقی نمی‌کرد از چت جی‌پی‌تی، جمینای گوگل یا کلود استفاده شود؛ هوش مصنوعی به‌طور مداوم در تغییر نظر شرکت‌کنندگان، عملکرد بهتری از انسان‌ها داشت.

راب ویلر، جامعه‌شناس دانشگاه استنفورد که در این پژوهش مشارکت نداشت، می‌گوید: از نظر من، این مقاله همین حالا یک اثر مهم و نقطه ‌عطف در حوزه‌های اقناع سیاسی، هوش مصنوعی و رفتار انسان است.

مقاله هکنبرگ جدیدترین مورد از مجموعه مطالعاتی است که قدرت هوش مصنوعی در تغییر نظر افراد را نشان می‌دهند. ساندر فان در لیندن، روان‌شناس دانشگاه کمبریج، می‌گوید: این یک حوزه کاملا جدید است که در حال ظهور است. به نظرم مردم به قدرت اقناع هوش مصنوعی، هم به دلایل اخلاقی و هم غیراخلاقی، علاقه زیادی دارند.

با گسترش این حوزه، پرسش‌های نظری و عملی زیادی نیز مطرح می‌شوند. چت‌بات‌ها دقیقا چگونه می‌توانند افراد را متقاعد کنند؟ تا چه اندازه می‌توانند بهتر شوند؟ و چه کسی آنها را کنترل خواهد کرد؟ باید بدانید که دروغ گفتن یکی از پاسخ‌هاست.

چگونه دیگران را متقاعد کنیم؟

اقناع دیگران هزاران سال است که ذهن انسان را به خود مشغول کرده است. متن‌هایی مانند آموزش‌های پتاح‌حتپ (Ptahhotep) که حدود سال ۲۳۰۰ پیش از میلاد در مصر باستان نوشته شده، توصیه‌هایی درباره چگونگی پیروز شدن در یک بحث ارائه می‌کنند.

از همان ابتدا نیز مردم نسبت به قدرت فناوری‌های جدید برای اقناع دیگران، از جمله خود نوشتار، نگرانی‌هایی داشتند. افلاطون، فیلسوف یونانی، در قرن چهارم پیش از میلاد در اثر خود به نام «فایدروس» به بررسی خطابه و اقناع پرداخت و هشدار داد که کلمات نوشته‌ شده به افراد اجازه می‌دهند دیگران را به پذیرش ایده‌های خود متقاعد کنند، بدون اینکه فرصتی برای به چالش کشیدن آنها در اختیار طرف مقابل قرار دهند.

از آن زمان، فناوری‌های مختلف، از رادیو و تلویزیون گرفته تا رایانه‌ها، نگرانی‌های مشابهی ایجاد کرده‌اند. اکنون نوبت هوش مصنوعی است که در کانون توجه قرار بگیرد.

پژوهش درباره قدرت اقناع این فناوری از سال ۲۰۲۲ به ‌طور جدی آغاز شد. چت جی‌پی‌تی شرکت اوپن ای‌آی هنوز چند ماه با عرضه عمومی فاصله داشت، اما ویلر با نسخه اولیه‌ای از این فناوری به نام GPT Playground  که در اختیار پژوهشگران قرار گرفته بود، کار می‌کرد.

به نظر او، این مدل به اندازه‌ای پیشرفته بود که می‌توانست پیام‌های متقاعدکننده تولید کند؛ موضوعی که می‌توانست پیامدهای بزرگی داشته باشد.

او می‌گوید: ما عمدتا به کاربردهای منفی فکر می‌کردیم؛ برای مثال، ارسال سیل عظیمی از نامه‌های نوشته‌ شده با هوش مصنوعی از طرف رای‌ دهندگان جعلی برای سیاستمداران، یا مطرح کردن گسترده استدلال‌ها در شبکه‌های اجتماعی و بخش نظرات سایت‌های خبری.

ویلر و همکارانش از مدل هوش مصنوعی خواستند پیام‌هایی ۲۰۰ کلمه‌ای تولید کند که مردم را متقاعد کند از سیاست‌هایی مانند مالیات بر کربن یا ممنوعیت سلاح‌های تهاجمی حمایت کنند.

وقتی آنها میزان موفقیت این استدلال‌ها را با استدلال‌های تولید شده توسط انسان مقایسه کردند، هر دو تقریبا به یک اندازه در تغییر میزان حمایت شرکت‌کنندگان از این سیاست‌ها موثر بودند.

اما شیوه اقناع آنها متفاوت به نظر می‌رسید: انسان‌ها معمولا از داستان‌ها یا جاذبه‌های شخصی استفاده می‌کردند، در حالی که پیام‌های تولید شده توسط هوش مصنوعی منطقی‌تر به نظر می‌رسیدند و بیشتر بر شواهد تکیه داشتند؛ تفاوتی که بعدها به یکی از موضوعات مشترک در پژوهش‌های مربوط به اقناع با هوش مصنوعی تبدیل شد.

با این حال، نتایج این پژوهش برای انتشار در یک مجله علمی با مشکل مواجه شد. ویلر می‌گوید داوران مقاله استدلال کرده بودند که پژوهشگران دیگری پیش‌تر نشان داده‌اند ربات‌ها در شبکه‌های اجتماعی در حال متقاعد کردن مردم هستند. تیم ویلر با این استدلال مخالفت کرد: آن ربات‌ها در واقع فقط حساب‌های جعلی بودند که انسان‌ها آنها را مدیریت می‌کردند و خودشان محتوای منتشرشده را تولید نمی‌کردند.

داوران و سردبیران لزوما متوجه تفاوت بزرگی که این موضوع ایجاد می‌کرد، نشدند و اینکه تولید محتوای متقاعدکننده توسط مدل‌های زبانی بزرگ واقعا یک نوآوری بزرگ بود. این موضوع نشان می‌دهد که مقالات پژوهشی درباره هوش مصنوعی و علوم رفتاری تا چه اندازه نوپا بود.

این مطالعه در سال ۲۰۲۳ به‌ صورت پیش‌چاپ منتشر شد و سرانجام در سال ۲۰۲۵ به چاپ رسید. هکنبرگ می‌گوید این پژوهش واقعا موج فعلی تحقیقات درباره اقناع با هوش مصنوعی را آغاز کرد. این پژوهش از زمان خود جلوتر بود.

با این حال، طولی نکشید که سایر پژوهشگران نیز به این حوزه پیوستند. در یکی از این مطالعات، پیام‌های تولیدشده توسط مدل‌های زبانی بزرگ درباره موضوعات سیاسی مانند مهاجرت یا الزامات واکسیناسیون، دست‌کم به اندازه پیام‌هایی که مشاوران سیاسی نوشته بودند، متقاعدکننده بودند.

در مطالعه‌ای دیگر، پیام‌های تولیدشده توسط مدل‌های زبانی بزرگ درباره واکسن‌ها، متقاعدکننده‌تر از پیام‌های مرکز کنترل و پیشگیری از بیماری‌های ایالات متحده (CDC) ارزیابی شدند.

پژوهش‌ها خیلی زود از پیام‌های ثابت و از پیش نوشته ‌شده توسط هوش مصنوعی فراتر رفتند و به گفت‌وگوهای کامل رسیدند.

در سپتامبر ۲۰۲۴، تام کاستلو، روان‌شناس دانشگاه کارنگی ملون و همکارانش مقاله‌ای را منتشر کردند که نشان می‌داد چت جی‌پی‌تی حتی می‌تواند افراد را از باورهای توطئه‌آمیزشان منصرف کند.  به‌ طور میانگین، میزان پذیرش نظریه توطئه انتخاب ‌شده از سوی شرکت‌کنندگان تقریبا ۱۷ امتیاز در مقیاس ۱۰۰ امتیازی کاهش یافت.

سایر پژوهشگران از این نتیجه شگفت‌زده شدند. باورهای توطئه‌آمیز به‌طور مشهور بسیار دشوار تغییر می‌کنند. هیچ‌چیز قبلا در این حوزه موثر واقع نشده بود.

هوش مصنوعی چقدر متقاعدکننده است؟

با وجود انباشته شدن شواهدی که نشان می‌داد چت‌بات‌های هوش مصنوعی می‌توانند نظر افراد را تغییر دهند، هکنبرگ احساس می‌کرد هنوز یک خلأ وجود دارد.

بنابراین هکنبرگ چت‌بات‌ها را نه ‌تنها در برابر افراد عادی، بلکه در برابر گروهی متشکل از ۵۶ مناظره‌کننده حرفه‌ای و نخبه، از جمله قهرمانان جهان قرار داد. برای ایجاد انگیزه بیشتر، به مناظره‌کنندگان نیز پاداشی بر اساس میزان موفقیت آنها در متقاعد کردن دیگران داده شد.

انسان‌ها از روش‌های متفاوتی استفاده کردند. برای مثال، یکی از مناظره‌کنندگان با بالاترین عملکرد، برای متقاعد کردن افراد از ضرب‌المثل‌های کشور خود، استفاده می‌کرد. اما این کافی نبود.

اگرچه مناظره‌کنندگان قهرمان از افراد عادی عملکرد بهتری داشتند، به‌ طور قابل ‌توجهی کمتر از هوش مصنوعی متقاعد کننده بودند.

هکنبرگ حتی مقداری کمک هوش مصنوعی نیز در اختیار انسان‌ها قرار داد. استفاده از این ابزار به مدت ۸ ساعت عملکرد انسان‌ها را اندکی بهبود داد، اما هوش مصنوعی همچنان برتری خود را حفظ کرد.

چه چیزی باعث برتری چت‌بات‌ها می‌شود؟

برخی پژوهش‌های اولیه نشان داده بودند که دلیل آن توانایی هوش مصنوعی در شخصی‌سازی استدلال‌ها با استفاده از اطلاعاتی درباره طرف انسانی گفت‌وگو است که آزمایش‌کنندگان در اختیار مدل قرار می‌دادند.

با این حال، مطالعات دیگر نشان داده‌اند که ارائه اطلاعات شخصی بیشتر به چت‌بات، تاثیر چندانی بر قدرت اقناع آن ندارد.

این موضوع به این معنا نیست که هدف‌گیری بسیار دقیق افراد نقشی ندارد؛ بلکه ممکن است یک مدل‌ زبانی بزرگ بتواند در جریان گفت‌وگو اطلاعات کافی را از طرف مقابل خود استخراج کند، به ‌طوری که اطلاعات جمعیت‌شناختی اضافی دیگر تفاوتی ایجاد نکند.

هکنبرگ در مقاله‌ای که سال گذشته منتشر شد، دریافت مدل‌هایی که برای متقاعدکننده‌تر شدن آموزش دیده بودند، در نهایت صداقت و صحت کمتری داشتند.

هکنبرگ می‌گوید ممکن است مدل‌ها یاد بگیرند که «واقعیت‌ها» همان چیزی هستند که بیشترین تاثیر را بر متقاعد کردن مردم دارند و در نتیجه، گفت‌وگوهای خود را با واقعیت‌های مشکوک یا صرفا نادرست پر کنند.

اما به نظر می‌رسد بزرگ‌ترین مزیت هوش مصنوعی نسبت به انسان‌ها، سرعت فوق‌العاده آن باشد.

هکنبرگ و همکارانش دریافتند تعداد ادعاهایی که می‌توان صحت آنها را در یک گفت‌وگو بررسی کرد، میزان متقاعدکننده بودن آن گفت‌وگو را پیش‌بینی می‌کند. آنها پیشنهاد کردند که برتری هوش مصنوعی ممکن است ناشی از توانایی آن در نوشتن حجم بسیار بیشتری از متن، شامل تعداد بیشتری ادعا، در مدت‌زمانی کوتاه‌تر باشد.

در واقع، زمانی که هکنبرگ رقابت میان مناظره‌کنندگان نخبه آموزش‌دیده و هوش مصنوعی را برگزار کرد، تنها یک روش وجود داشت که می‌توانست قدرت اقناع هوش مصنوعی را به سطح انسان‌ها کاهش دهد: وادار کردن هوش مصنوعی به نوشتن پیام‌هایی با طول مشابه پیام‌های انسانی و با سرعت نوشتن مشابه انسان.

برای دانشمندانی مانند هکنبرگ، مسئله اکنون این است که قدرت اقناع هوش مصنوعی چگونه ممکن است مورد سوءاستفاده قرار گیرد. ترس از اینکه هوش مصنوعی بتواند برای دستکاری مخفیانه مردم استفاده شود، بی‌اساس نیست.

پژوهشگران دانشگاه زوریخ در حال مطالعه یک انجمن در شبکه اجتماعی ردیت بودند. کاربران در این انجمن دیدگاه‌های خود را درباره موضوعات مختلف منتشر می‌کنند و به پست‌های دیگران که باعث تغییر نظرشان شده‌اند، جوایز مجازی می‌دهند.

پژوهشگران علاقه‌مند به موضوع اقناع، پیش‌تر داده‌های این انجمن را بررسی کرده بودند. اما این بار آنها صرفا تعاملات انسانی را مطالعه نمی‌کردند؛ بلکه به ‌طور مخفیانه تلاش می‌کردند با استفاده از هوش مصنوعی بر این تعاملات تاثیر بگذارند.

آنها ده‌ها حساب کاربری جعلی ایجاد کردند؛ سپس این حساب‌ها صدها پیام تولید شده توسط مدل‌های زبانی بزرگ را منتشر کردند.

وقتی کاربران و مدیران انجمن متوجه این فریب شدند، این آزمایش به ‌طور گسترده‌ای غیراخلاقی خوانده شد.

نتایج کامل این مطالعه هرگز منتشر نشد، اما چکیده آنلاین آن ادعا می‌کرد پیام‌های تولید شده توسط هوش مصنوعی عملکرد بسیار بهتری از پیام‌های معمول در این پلتفرم داشتند و از تمام معیارهای قبلی شناخته ‌شده برای سنجش قدرت اقناع انسان‌ها فراتر رفتند.

شرکت‌کنندگان ناآگاه در مطالعه ردیت، جامعه‌ای نسبتا کوچک را تشکیل می‌دادند. اما هوش مصنوعی از نظر تئوری می‌تواند به مخاطبان بسیار بزرگ‌تری دسترسی پیدا کند و هم‌زمان پیام‌های خود را برای هر فرد شخصی‌سازی کند.

مارکو دهنرت، پژوهشگر دانشگاه آرکانزاس، می‌گوید: من می‌توانم یک سیستم هوش مصنوعی داشته باشم که پیام‌های متقاعد کننده را برای هر دریافت‌کننده به ‌صورت جداگانه تنظیم کند و این کار را در مقیاسی شامل هزاران، اگر نگوییم میلیون‌ها نفر به ‌طور هم ‌زمان انجام دهد.

در مطالعه‌ای جدید که تاکنون فقط به ‌صورت پیش‌چاپ منتشر شده است، محققان دریافتند که هوش مصنوعی می‌تواند افراد را به سمت باور کردن نظریه‌های توطئه سوق دهد و میزان افزایش این باور تقریبا به همان اندازه کاهش باوری بود که پس از گفت‌وگو با یک ربات برای رد کردن نظریه توطئه مشاهده شده بود.

برخی پژوهشگران معتقدند این نگرانی‌ها بیش از حد بزرگ‌نمایی شده‌اند. به هر حال، نگرانی‌های مشابه درباره خطرات نوشتار یا تلویزیون نیز در گذشته مطرح شده بودند، اما در نهایت به آن اندازه که پیش‌بینی می‌شد، تحقق نیافتند. تاریخ فناوری‌های گذشته نشان می‌دهد که احتمالا در حال حاضر بیش از حد نگران هستیم.

از یک سو، احتمالا محدودیتی برای میزان تاثیرپذیری انسان‌ها از دیگران وجود دارد؛ به ‌ویژه پس از هزاران سال تلاش انسان‌ها برای متقاعد کردن یکدیگر با استفاده از تمام ابزارهای در دسترس.

دنیای واقعی

یکی از بزرگ‌ترین پرسش‌ها این است که تمام این پژوهش‌ها درباره اقناع با هوش مصنوعی چگونه به اکوسیستم پرهیاهوی اطلاعاتی دنیای واقعی منتقل می‌شوند.

برای اینکه یک پیام تاثیری داشته باشد، ابتدا باید بتواند توجه فرد را جلب کند؛ و این کار دشواری است، زیرا مردم دائما با اطلاعاتی از منابع مختلف بمباران می‌شوند. در واقع، در بیشتر آزمایش‌های مربوط به هوش مصنوعی، به شرکت‌کنندگان پول پرداخت می‌شود تا با یک چت‌بات تعامل کنند و روی پیام‌های آن تمرکز داشته باشند.

در چند سال آینده، موج جدیدی از پژوهش‌ها بررسی خواهد کرد که هوش مصنوعی چگونه می‌تواند کاربران را به بهترین شکل جذب کند. سناریوی محتمل‌تر این است که شرکت‌های هوش مصنوعی شروع کنند از توانایی چت‌بات‌های خود برای کسب درآمد از توجه کاربران فعلی استفاده کنند.

ممکن است شاهد آن باشیم که مدل‌های زبانی بزرگ به ‌طور پنهانی محصولات یا شرکت‌های خاصی را در گفت‌وگوهای خود مطرح کنند. در حال حاضر، تعداد معدودی از شرکت‌های هوش مصنوعی و چت‌بات‌های آنها بر این حوزه مسلط هستند و صدها میلیون نفر هر ماه با چت جی‌پی‌تی یا کلود تعامل می‌کنند.

پژوهشگری در حوزه هوش مصنوعی، علوم اجتماعی و رفتار انسان می‌پرسد: اگر آن ربات واحد، نحوه صحبت کردنش درباره غزه یا اوکراین یا هر موضوع دیگری را تغییر دهد، این تغییر تا چه اندازه می‌تواند افکار عمومی را جابه‌جا کند؟ برای اینکه بتوانید به همان سطح از اقناع برسید، چند شبکه تلویزیونی را باید کنترل کنید؟

دستگیری ۸ نفر درپی فساد مالی در آموزش‌وپرورش رباط‌کریم

بیشتر بخوانید:

چت جی پی تی چه نوع ذهنی دارد؟/ آیا قادر به طرح نقشه‌های شیطانی خواهد بود؟

تماشاخانه

بفرمایید جنوب ؛ پیاده‌روی در حمام داغ و تخم‌مرغ با طعم آسفالت

یک جرعه آب برای هدهد؛ یک گودال مرگ برای کل و بزها / دو تصویر از یک ماجرا

فیلم های دیگر