آیا چت‌جی‌پی‌تی ما را میان‌مایه می‌کند؟

به گزارش پی آر؛ مطالعات تازه نشان می‌دهند که ابزارهایی مانند چت‌ جی‌بی‌تی فعالیت ذهنی ما را کاهش داده و نوشتار ما را غیرخلاقانه‌تر می‌کنند.

در آزمایشی در سال گذشته در مؤسسه فناوری ماساچوست (MIT)، بیش از پنجاه دانشجوی دانشگاه‌های اطراف بوستون به سه گروه تقسیم شدند تا مقاله‌هایی شبیه آزمون SAT را بر پایه سؤالاتی کلی همچون «آیا موفقیت‌های ما باید به دیگران سود برساند تا واقعاً ما را خوشحال کند؟» بنویسند.

گروه نخست فقط با تکیه بر ذهن خود نوشتند، گروه دوم اجازه استفاده از گوگل را داشتند، و گروه سوم می‌توانستند از چت‌جی‌پی‌تی استفاده کنند. در طول نگارش، دانشجویان کلاه‌های ویژه‌ای با الکترود بر سر داشتند تا فعالیت مغزی آن‌ها ثبت شود.

به گفته ناتالیا کوسمینا، پژوهشگر آزمایشگاه رسانه‌ای MIT، تحلیل نتایج نشان داد که کاربران چت‌جی‌پی‌تی فعالیت مغزی بسیار کمتری داشتند. ارتباط بین بخش‌های مختلف مغز آن‌ها ضعیف‌تر بود، «اتصال آلفا» که به خلاقیت مرتبط است کمتر، و «اتصال تتا» که به حافظه کاری مربوط می‌شود نیز کاهش داشت. برخی از کاربران چت‌جی‌پی‌تی اصلاً احساس تعلقی نسبت به متن‌های خود نداشتند؛ در یک مرحله از آزمایش، ۸۰ درصد نتوانستند حتی جمله‌ای از مقاله‌ای که ظاهراً نوشته بودند را نقل کنند. این پژوهش از نخستین مطالعات علمی برای اندازه‌گیری «هزینه شناختی» تکیه بر هوش مصنوعی در انجام کارهایی است که پیش‌تر با ذهن انسان انجام می‌شد.

نتیجه‌ای دیگر نیز جلب‌توجه کرد: متن‌های تولیدشده توسط چت‌جی‌پی‌تی گرایش به کلمات و ایده‌های مشابه داشتند. سؤالات آزمون SAT طوری طراحی می‌شوند که پاسخ‌های متنوع تولید کنند، اما استفاده از هوش مصنوعی اثر یکنواخت‌کننده‌ای داشت. برای مثال، در پاسخ به سؤال «چه چیزی ما را واقعاً خوشحال می‌کند؟»، کاربران چت‌جی‌پی‌تی بیشتر به موفقیت شغلی و شخصی اشاره کردند. در سؤال مربوط به نوع‌دوستی، همه کاربران چت‌جی‌پی‌تی با آن موافق بودند، در حالی که سایر گروه‌ها نظرات انتقادی نیز ارائه کردند. به گفته کوسمینا، این نشان می‌دهد که چت‌جی‌پی‌تی «هیچ دیدگاه متفاوتی ایجاد نمی‌کند» و نوعی «میانگین‌سازی در همه‌چیز» اتفاق می‌افتد.

فناوری میانگین‌ها

مدل‌های زبانی بزرگ مانند چت‌جی‌پی‌تی بر اساس تشخیص الگوها در داده‌های عظیم آموزش می‌بینند. خروجی آن‌ها اغلب پر از کلیشه و سطحی‌نگری است، چه در سبک نگارش و چه در کیفیت ایده‌ها.

اگرچه فناوری‌هایی مانند اسپارک‌نوت یا حتی صفحه‌کلید نیز نقش مشابهی در ساده‌سازی کار نویسندگان داشته‌اند، اما چت‌جی‌پی‌تی ما را قادر می‌سازد که کل فرایند تفکر را برون‌سپاری کنیم—و همین ما را بیشتر به سمت میان‌مایگی سوق می‌دهد.

سام آلتمن، مدیرعامل OpenAI، در یادداشتی تحت عنوان «تکینگی نرم» نوشت: «چت‌جی‌پی‌تی از هر انسان دیگری قدرتمندتر است» و هر روز صدها میلیون نفر برای امور مهم به آن متکی هستند. از نظر او، انسان در حال ادغام با ماشین است و هوش مصنوعی بهره‌وری را چند برابر می‌کند. اما ما هنوز نمی‌دانیم پیامدهای درازمدت این ادغام چیست، و اگر آزمایش‌های اولیه درست باشند، این «افزایش بهره‌وری» ممکن است به بهای از دست دادن کیفیت تمام شود.

تکرار، تقلید، تضعیف تنوع

در پژوهشی دیگر در دانشگاه کرنل، دو گروه از کاربران آمریکایی و هندی به سؤالاتی با محوریت فرهنگ پاسخ دادند، مانند «غذای مورد علاقه شما چیست و چرا؟» یا «جشن مورد علاقه‌تان کدام است؟» کاربرانی که از چت‌جی‌پی‌تی استفاده کردند، پاسخ‌هایی بسیار مشابه‌تر و متمایل به هنجارهای غربی دادند. اکثر آن‌ها پیتزا را به عنوان غذای مورد علاقه و کریسمس را به عنوان جشن محبوب نام بردند. حتی سبک نگارش نیز یکسان شده بود—برای مثال، مقاله‌ای درباره بریانی مرغ، به‌جای ذکر جزئیاتی چون جوز هندی و ترشی لیمو، فقط به «طعم‌های غنی» اشاره کرده بود.

علاوه بر این، هوش مصنوعی اثر روانی نیز دارد. آدیتیا واشیستا، استاد علوم اطلاعات کرنل، چت‌جی‌پی‌تی را به معلمی تشبیه کرد که دائم در گوش نویسنده زمزمه می‌کند: «این نسخه بهتر است.» او گفت: «در معرض مکرر این ابزار بودن، موجب از دست دادن هویت، اصالت و اعتماد به نفس در نوشتار می‌شود.»

میان‌مایگی خطرناک

واژه‌هایی چون «سطحی»، «کلیشه‌ای» یا «بی‌مزه» برای توصیف تولیدات هوش مصنوعی رایج‌اند. اما این میانگین‌سازی صرفاً خنثی نیست. نویسنده رمان و روزنامه‌نگار، واهینی وارا، می‌گوید این سطحی‌نگری «حسی از امنیت و بی‌خطر بودن» ایجاد می‌کند، در حالی‌که در واقع به تقویت هژمونی فرهنگی می‌انجامد.

به گفته او، شرکت‌هایی مانند OpenAI برای گسترش مخاطبان خود، خروجی مدل‌ها را به سمتی سوق می‌دهند که بیشتر افراد آن را «قابل‌قبول» بدانند. هرچه همه‌چیز یکنواخت‌تر شود، بهره‌وری و سود نیز بیشتر خواهد بود. به تعبیر او: «میانگین‌سازی، صرفه‌جویی در مقیاس را ممکن می‌سازد.»

آیا خلاقیت هم خودکار می‌شود؟

ابزارهایی مانند Figma و اپلیکیشن‌های خلاقانه Adobe مدعی‌اند که خلاقیت را آزاد می‌کنند. اما داده‌های دانشگاه سانتا کلارا در سال ۲۰۲۴ نشان می‌دهد در دو وظیفه استاندارد تفکر خلاق—یعنی بهبود محصولات و پیش‌بینی پیامدهای غیرمنتظره—کاربران چت‌جی‌پی‌تی نسبت به گروهی که از کارت‌های Oblique Strategies برای تحریک خلاقیت استفاده کردند، ایده‌هایی کمتر اصیل و بیشتر مشابه تولید کردند.

مکس کرمینسکی، یکی از محققان این پژوهش، گفت: «در ابتدا کاربران ایده‌های متنوعی مطرح می‌کنند، اما به‌تدریج با دیدن خروجی‌های فوری و پذیرفتنی چت‌جی‌پی‌تی، به حالت انتخاب‌گر صرف می‌افتند.» او افزود که ماشین بیشتر کاربر را به سمت میانگین تجربه کاربران دیگر می‌کشد، تا اینکه کاربر بتواند ماشین را شکل دهد. هرچه گفتگو ادامه می‌یابد، پنجره حافظه مدل پرتر شده و خروجی‌ها تکراری‌تر و کم‌اصالت‌تر می‌شوند.

پایانی باز

آزمایش‌های MIT، کرنل و سانتا کلارا کوچک بودند و تنها ده‌ها نفر را دربر می‌گرفتند. اما در عین حال، می‌توانند نشانه‌ای از آینده باشند. در اپلیکیشن Meta AI متعلق به مارک زاکربرگ، می‌توان موجی از تصاویر براق، ویدیوهای صیقل‌خورده و متن‌هایی مانند «ایمیل حرفه‌ای برای تغییر زمان جلسه» را مشاهده کرد.

در یکی از پست‌ها، کاربری از چت‌بات متا پرسید: «آیا ممکن است هوش مصنوعی از هوش انسان پیشی بگیرد؟» پاسخ شامل چند سناریو بود—همگی مثبت. هیچ‌گونه پیش‌بینی منفی یا هشداردهنده‌ای مطرح نشد. این خروجی‌ها که احتمالاً تحت تأثیر سوگیری‌های فناورانه الگوریتم هستند، تنوع اندیشه را محدود می‌کنند. برای باور کردن کامل چنین پاسخ‌هایی، باید فعالیت ذهنی خود را کاملاً خاموش کرد.