هوش مصنوعی چطور ذهن انسان‌ها را تغییر می‌دهد؟ / راز قدرت زیاد چت‌بات‌ها در اقناع

تینا مزدکی_چت کردن با یک هوش مصنوعی ممکن است در نگاه اول شبیه یک گفت‌وگوی ساده برای دریافت اطلاعات یا کمک گرفتن باشد، اما پژوهش‌های جدید تصویری متفاوت ارائه می‌کنند. مطالعات انجام‌شده در سال‌های اخیر نشان داده‌اند مدل‌های زبانی بزرگ یا LLMها می‌توانند در جریان یک گفت‌وگو، دیدگاه افراد را درباره موضوعات سیاسی، اجتماعی و حتی باورهای توطئه‌آمیز تغییر دهند. در برخی آزمایش‌ها، این مدل‌ها از انسان‌ها نیز متقاعدکننده‌تر ظاهر شده‌اند.

چت‌بات‌هایی مانند ChatGPT، Gemini و Claude در یک مطالعه روی بیش از ۲۰۰۰ نفر، در تغییر دیدگاه افراد از انسان‌ها موفق‌تر بودند.
هوش مصنوعی در برخی آزمایش‌ها توانسته است حتی مناظره‌کنندگان حرفه‌ای و بهترین‌های جهان را پشت سر بگذارد.
استفاده از واقعیت‌ها، شواهد و استدلال منطقی یکی از عوامل مهم قدرت متقاعدکنندگی مدل‌های زبانی است.
سرعت بالای تولید متن و ارائه تعداد زیادی ادعا و استدلال می‌تواند به هوش مصنوعی برتری قابل توجهی بدهد.
افزایش قدرت متقاعدکنندگی همیشه به معنای افزایش دقت نیست برخی مدل‌های متقاعدکننده‌تر، اطلاعات نادرست بیشتری ارائه کرده‌اند.
پژوهش‌ها نشان می‌دهند هوش مصنوعی می‌تواند هم برای کاهش باور به نظریه‌های توطئه و هم برای تقویت آن‌ها استفاده شود
توانایی چت‌بات‌ها در تأثیرگذاری بر تصمیم خرید نیز در آزمایش‌ها مشاهده شده است.

چت‌بات‌ها چگونه توانستند نظر انسان‌ها را تغییر دهند؟
یکی از نمونه‌های قابل توجه در دسامبر ۲۰۲۵ در بریتانیا اتفاق افتاد. یک زن ۴۵ ساله وارد یک بحث سیاسی آنلاین شد و خیلی زود متوجه شد طرف مقابلش یک انسان نیست، بلکه یک مدل هوش مصنوعی است که برای متقاعد کردن افراد درباره یک موضوع سیاسی طراحی شده است.
موضوع بحث، اعمال مجازات‌های سخت‌گیرانه‌تر علیه معترضان صلح‌آمیزی بود که جاده‌ها یا سایت‌های انرژی را مسدود می‌کردند. زن در ابتدا با چنین اقدامی مخالف بود و معتقد بود قوانین موجود برای برخورد با تخلفاتی مانند آسیب به اموال یا ورود غیرمجاز کافی هستند.
چت‌بات ابتدا با تأیید بخشی از استدلال او وارد گفت‌وگو شد و سپس با ارائه آمار و نمونه‌هایی از قوانین کشورهای دیگر تلاش کرد نظر او را تغییر دهد. در ادامه، زن به تدریج دیدگاه خود را تغییر داد. امتیاز حمایت او از مجازات‌های سخت‌تر در ابتدای گفت‌وگو صفر از ۱۰۰ بود، اما در پایان به ۸۴.۷ رسید.
این فرد بخشی از مطالعه‌ای بود که در آن بیش از ۲۰۰۰ نفر درباره موضوعات مختلف سیاسی و اجتماعی، از ممنوعیت استفاده نوجوانان از شبکه‌های اجتماعی گرفته تا مرگ خودخواسته، با یک انسان یا چت‌بات گفت‌وگو کردند. در نتیجه مدل‌هایی مانند ChatGPT، Gemini و Claude در تغییر دیدگاه افراد به‌طور مداوم عملکرد بهتری نسبت به انسان‌ها داشتند.
هوش مصنوعی حتی از مناظره‌کنندگان حرفه‌ای هم جلو زد
پژوهشگران برای بررسی دقیق‌تر این موضوع، آزمایش را یک مرحله دشوارتر کردند. این بار چت‌بات‌ها فقط با افراد عادی مقایسه نشدند، بلکه ۵۶ مناظره‌کننده حرفه‌ای، از جمله بهترین‌های جهان، نیز وارد رقابت شدند. مناظره‌کنندگان انسانی از روش‌های مختلفی برای متقاعد کردن مخاطبان استفاده کردند. یکی از افراد موفق در این گروه، برای مثال، از ضرب‌المثل‌های کشور خود در نیجریه استفاده می‌کرد تا استدلال‌هایش را با فرهنگ مخاطب پیوند دهد.
با وجود این تلاش‌ها، هوش مصنوعی در آزمایش انجام‌شده توانست از مناظره‌کنندگان حرفه‌ای نیز متقاعدکننده‌تر باشد. پژوهشگران حتی ابزاری در اختیار مناظره‌کنندگان قرار دادند که گفت‌وگوهای قبلی آن‌ها با شرکت‌کنندگان، میزان تأثیرگذاری‌شان و پاسخ‌های احتمالی هوش مصنوعی را نشان می‌داد. استفاده از این ابزار برای هشت ساعت عملکرد انسان‌ها را کمی بهتر کرد، اما همچنان هوش مصنوعی در جایگاه بالاتری قرار گرفت.

راز قدرت هوش مصنوعی فقط اطلاعات شخصی کاربران نیست
در ابتدا تصور می‌شد یکی از دلایل اصلی موفقیت چت‌بات‌ها، توانایی آن‌ها در شخصی‌سازی است. یعنی اگر هوش مصنوعی اطلاعات بیشتری درباره فرد مقابل داشته باشد، می‌تواند استدلال خود را دقیق‌تر با شخصیت، علایق و دیدگاه‌های او هماهنگ کند. اما تحقیقات بعدی نشان دادند که اضافه کردن اطلاعات شخصی بیشتر، همیشه باعث افزایش قدرت متقاعدکنندگی چت‌بات نمی‌شود.
احتمال دیگری مطرح شده است، اینکه خود گفت‌وگو اطلاعات کافی برای شناخت طرف مقابل در اختیار مدل قرار می‌دهد. چت‌بات می‌تواند از حرف‌هایی که کاربر در طول مکالمه می‌زند، اطلاعات لازم را استخراج کند و استدلال‌های بعدی را بر اساس همان اطلاعات شکل دهد. به این ترتیب، ممکن است چت‌بات بدون آنکه از ابتدا اطلاعات زیادی درباره فرد داشته باشد، در جریان گفت‌وگو متوجه شود چه نوع استدلالی برای او مؤثرتر است.
واقعیت و استدلال، سلاح اصلی چت‌بات‌ها
یکی از الگوهای تکرارشونده در تحقیقات مربوط به متقاعدسازی هوش مصنوعی، اهمیت واقعیت‌ها و شواهد است. در پژوهشی درباره نظریه‌های توطئه، زمانی که چت‌بات اجازه نداشت از شواهد یا استدلال منطقی استفاده کند، توانایی آن برای تغییر باور افراد به‌شدت کاهش یافت.
این یافته نشان می‌دهد کاربران صرفاً به دلیل اینکه طرف مقابلشان یک هوش مصنوعی است، عقیده خود را تغییر نمی‌دهند. ارائه استدلال و شواهد همچنان نقش مهمی دارد. اما اینجا یک مشکل بزرگ ظاهر می‌شود، شواهدی که هوش مصنوعی ارائه می‌کند، لزوماً درست نیستند.
هوش مصنوعی می‌تواند با اطلاعات غلط هم متقاعد کند
یکی از نگران‌کننده‌ترین یافته‌های پژوهش‌های اخیر این است که افزایش قدرت متقاعدکنندگی ممکن است با کاهش دقت اطلاعات همراه شود. در مطالعه‌ای که سال گذشته در Science منتشر شد، مدل‌هایی که برای متقاعدکنندگی بیشتر آموزش دیده بودند، در برخی شرایط حقیقت‌گویی ضعیف‌تری داشتند.
به بیان ساده، ممکن است مدل متوجه شود ارائه «واقعیت» و «شواهد» راه مؤثری برای تغییر ذهن افراد است، اما در ادامه برای قانع کردن مخاطب به سراغ اطلاعاتی برود که لزوماً دقیق یا معتبر نیستند. در مطالعه مربوط به تغییر دیدگاه درباره قوانین اعتراضات در بریتانیا نیز چت‌بات Claude در جریان تلاش برای متقاعد کردن کاربر، چندین ادعای نادرست یا نادقیق مطرح کرد.
این موضوع یکی از مهم‌ترین تناقض‌های هوش مصنوعی متقاعدکننده است. یک مدل می‌تواند در تغییر ذهن انسان بسیار موفق باشد، بدون اینکه تمام اطلاعاتی که برای این کار استفاده می‌کند درست باشد.
چرا سرعت، هوش مصنوعی را به متقاعدکننده‌ای قدرتمند تبدیل می‌کند؟
به نظر می‌رسد یکی از مهم‌ترین مزیت‌های هوش مصنوعی نسبت به انسان، سرعت باشد. در یکی از مطالعات، پژوهشگران دریافتند تعداد ادعاهایی که امکان بررسی صحت آن‌ها وجود داشت، با میزان متقاعدکنندگی گفت‌وگو ارتباط داشت. چت‌بات می‌تواند در مدت کوتاهی حجم زیادی از متن تولید کند و تعداد زیادی استدلال، مثال و ادعا را پشت سر هم ارائه دهد. انسان در چنین شرایطی ممکن است فرصت بررسی تک‌تک این موارد را نداشته باشد.
این وضعیت شباهت زیادی به تکنیکی دارد که در علم مناظره به «Gish gallop» معروف است؛ یعنی فرد با ارائه حجم بسیار زیادی از ادعاها، فرصت پاسخ‌گویی دقیق به هرکدام را از طرف مقابل می‌گیرد. پژوهشگران حتی توانستند با محدود کردن سرعت و حجم پاسخ‌های هوش مصنوعی، میزان متقاعدکنندگی آن را به سطح انسان‌ها نزدیک کنند.
آیا هوش مصنوعی واقعاً در دنیای واقعی هم همین‌قدر قدرتمند است؟
همه پژوهشگران درباره میزان قدرت واقعی چت‌بات‌ها اتفاق نظر ندارند. یکی از انتقادهای مهم این است که بسیاری از آزمایش‌ها در محیطی کنترل‌شده انجام شده‌اند؛ جایی که شرکت‌کنندگان برای گفت‌وگو با چت‌بات وقت می‌گذارند و تمرکز خود را روی پیام‌های آن قرار می‌دهند.
اما دنیای واقعی بسیار متفاوت است. کاربران هر روز با حجم عظیمی از اطلاعات، تبلیغات، شبکه‌های اجتماعی، اخبار و پیام‌های مختلف مواجه هستند. بنابراین یک سؤال مهم همچنان باقی مانده است، اینکه آیا هوش مصنوعی می‌تواند در میان این حجم عظیم از اطلاعات، به همان اندازه‌ای که در محیط آزمایشگاهی متقاعدکننده است، روی مردم تأثیر بگذارد؟
برخی پژوهشگران معتقدند پاسخ این سؤال هنوز مشخص نیست و تحقیقات آینده باید روی همین مسئله تمرکز کنند.
وقتی هوش مصنوعی برای تغییر عقیده میلیون‌ها نفر آماده می‌شود
قدرت واقعی چت‌بات‌ها زمانی می‌تواند بسیار بزرگ‌تر شود که توانایی متقاعدسازی آن‌ها با مقیاس عظیم اینترنت ترکیب شود. یک انسان نمی‌تواند هم‌زمان با هزاران یا میلیون‌ها نفر گفت‌وگو کند، اما یک سیستم هوش مصنوعی می‌تواند پیام‌های متفاوتی را برای تعداد بسیار زیادی از افراد تولید و شخصی‌سازی کند.
پژوهشگران برای این توانایی از مفهوم «hypersuasion» یا «متقاعدسازی بیش‌ازحد» استفاده کرده‌اند. در چنین سناریویی، هوش مصنوعی می‌تواند برای هر فرد استدلال متفاوتی تولید کند؛ استدلالی که بر اساس اطلاعاتی که از همان فرد در اختیار دارد یا در جریان گفت‌وگو به دست آورده، طراحی شده است. این قابلیت می‌تواند کاربردهای مفیدی داشته باشد، اما هم‌زمان امکان سوءاستفاده گسترده را نیز ایجاد می‌کند.
آزمایش جنجالی ردیت نشان داد مرز اخلاقی کجاست
یکی از نمونه‌های بحث‌برانگیز در آوریل ۲۰۲۵ در دانشگاه زوریخ رخ داد. پژوهشگران در ردیت بدون اطلاع کاربران، از حساب‌های جعلی و پیام‌های تولیدشده توسط هوش مصنوعی برای تأثیرگذاری بر دیدگاه اعضای جامعه استفاده کردند.
برخی از این حساب‌ها خود را با هویت‌های مختلف معرفی می‌کردند تا استدلال‌هایشان تأثیر بیشتری داشته باشد. پس از آنکه کاربران و مدیران جامعه متوجه این آزمایش شدند، اقدام پژوهشگران به‌شدت مورد انتقاد قرار گرفت. این اتفاق یک مسئله اساسی را برجسته کرد حتی اگر هوش مصنوعی واقعاً بتواند انسان‌ها را متقاعد کند، استفاده مخفیانه از این قابلیت بدون اطلاع مخاطب می‌تواند پیامدهای اخلاقی جدی داشته باشد.

هوش مصنوعی می‌تواند هم باورهای توطئه‌آمیز را کاهش دهد و هم تقویت کند
یکی از جالب‌ترین بخش‌های این حوزه، دوگانه بودن قدرت متقاعدکنندگی هوش مصنوعی است. در یک مطالعه، چت‌بات توانست میزان باور افراد به نظریه‌های توطئه را به‌طور قابل توجهی کاهش دهد. اما پژوهش‌های بعدی نشان دادند همین فناوری می‌تواند در جهت عکس نیز عمل کند و افراد را به سمت باور بیشتر به نظریه‌های توطئه سوق دهد.
به این ترتیب، مسئله اصلی فقط این نیست که «آیا هوش مصنوعی می‌تواند مردم را متقاعد کند؟» شواهد موجود نشان می‌دهند که چنین قابلیتی وجود دارد. سؤال مهم‌تر این است که چه کسی این قدرت را کنترل می‌کند و هوش مصنوعی برای چه هدفی از آن استفاده می‌شود.
وقتی چت‌بات‌ها وارد بازار و تبلیغات می‌شوند
کاربرد متقاعدکنندگی هوش مصنوعی فقط به سیاست و مسائل اجتماعی محدود نمی‌شود. در یک آزمایش، پژوهشگران از یک «دستیار فروش» هوش مصنوعی استفاده کردند که قرار بود به کاربران برای انتخاب بین دو رمان هاروکی موراکامی کمک کند.
در حالی که کاربران تصور می‌کردند این ابزار صرفاً به آن‌ها برای انتخاب کتاب کمک می‌کند، هوش مصنوعی به‌صورت هدفمند تلاش می‌کرد یکی از دو کتاب را بیشتر پیشنهاد دهد. در نهایت، ۶۸ درصد از شرکت‌کنندگان گفتند ترجیح می‌دهند همان کتابی را خریداری کنند که هوش مصنوعی آن را تبلیغ کرده بود. حدود یک‌سوم شرکت‌کنندگان نیز متوجه نشده بودند که چت‌بات در تلاش است آن‌ها را به سمت یک گزینه خاص هدایت کند.
این نتیجه نشان می‌دهد قدرت متقاعدکنندگی هوش مصنوعی می‌تواند برای شرکت‌ها و تبلیغ‌کنندگان نیز ارزش اقتصادی قابل توجهی داشته باشد.
آیا آینده به چت‌بات‌های متقاعدکننده‌تر تعلق دارد؟
با افزایش استفاده از مدل‌های زبانی بزرگ، احتمالاً تحقیقات درباره توانایی هوش مصنوعی برای تغییر دیدگاه انسان‌ها نیز گسترده‌تر خواهد شد. یک سناریو این است که شرکت‌های هوش مصنوعی از این قابلیت برای تبلیغات، فروش محصولات یا افزایش تعامل کاربران استفاده کنند. سناریوی دیگر، استفاده از آن در سیاست، اطلاع‌رسانی عمومی یا حتی عملیات نفوذ و دستکاری افکار عمومی است.
برخی پژوهشگران معتقدند نگرانی‌ها درباره این فناوری ممکن است بیش از حد بزرگ‌نمایی شود و انسان‌ها در برابر متقاعدسازی محدودیت‌هایی دارند. از سوی دیگر، گروهی هشدار می‌دهند که ترکیب قدرت متقاعدکنندگی، شخصی‌سازی و مقیاس گسترده هوش مصنوعی می‌تواند شرایطی را ایجاد کند که نمونه مشابهی از آن در فناوری‌های پیشین وجود نداشته باشد.
یکی از راهکارهای پیشنهادی برای کاهش این خطر، وجود طیف متنوعی از سیستم‌های هوش مصنوعی است تا کاربران فقط با یک یا چند مدل غالب مواجه نباشند.
با این حال، در شرایط فعلی تعداد محدودی از شرکت‌ها و چت‌بات‌های بزرگ، بخش قابل توجهی از بازار هوش مصنوعی را در اختیار دارند و صدها میلیون نفر هر ماه با ابزارهایی مانند ChatGPT یا Claude تعامل می‌کنند.
به همین دلیل، پرسش مهم آینده فقط این نیست که هوش مصنوعی چقدر می‌تواند انسان‌ها را متقاعد کند؛ بلکه این است که اگر یک سیستم بسیار پرکاربرد نحوه صحبت کردن خود درباره موضوعات مهم اجتماعی و سیاسی را تغییر دهد، این تغییر تا چه اندازه می‌تواند بر افکار میلیون‌ها کاربر تأثیر بگذارد.
منبع: science
۵۸۳۲۳