نتایج دو مطالعه تازه درباره ارتباط و همکاری پنهان میان LLMها

به گزارش آژانس خبری پی آر؛ مطالعه نخست، یک مقاله پیش‌چاپ از National Deep Inference Fabric دانشگاه نورث‌ایسترن، به بررسی جعبه سیاه LLMها پرداخته است. نتایج نشان داد مدل‌ها در طول آموزش، سیگنال‌های پنهان میان خود منتقل می‌کنند. این سیگنال‌ها می‌توانند شامل ترجیحات ساده، مانند علاقه به جغدها، یا حتی گرایش‌های نگران‌کننده‌تر باشند.

الکس کلود، نویسنده این مطالعه، به NBC News گفت: «ما سیستم‌هایی را آموزش می‌دهیم که درک کاملی از آنها نداریم و امیدواریم خروجی، همان هدف ما باشد. اما تضمینی وجود ندارد.»

مطالعه نشان داد مدل «معلم» می‌تواند تمایلات خاصی را از طریق تکه‌های اطلاعاتی پنهان به مدل «دانش‌آموز» انتقال دهد، حتی زمانی که داده‌های مربوط به آن موضوع از پایگاه آموزشی حذف شده باشد. نمونه جغد نشان می‌دهد داده‌های رمزگونه میان مدل‌ها مانند «سوت سگ» منتقل می‌شود.

مطالعه دوم که توسط دفتر ملی تحقیقات اقتصادی منتشر شد، رفتار مدل‌های AI را در شبیه‌سازی بازارهای مالی بررسی کرد. نتایج حاکی از آن است که این مدل‌ها به جای رقابت، شروع به همکاری و تشکیل کارتل برای تثبیت قیمت‌ها کردند.

این مدل‌ها بدون دستورالعمل خاصی، الگوریتم‌های خود را طوری هم‌سو کردند که سودآوری مشترک داشته باشند. محققان این تمایل را «حماقت مصنوعی» نامیده‌اند، چرا که مدل‌ها پس از یافتن استراتژی سودآور، به دنبال بهبود آن نمی‌روند و همان راهکار را ادامه می‌دهند.

یافته‌ها نشان می‌دهد که برقراری ارتباط میان مدل‌های هوش مصنوعی، چه برای انتقال ترجیحات یا چه برای افزایش سود، روندی طبیعی و ساده برای آنهاست. این امر می‌تواند نگرانی‌هایی در خصوص آینده هوش مصنوعی ایجاد کند.

از سوی دیگر، تمایل این مدل‌ها به دستیابی به نتایج «به اندازه کافی خوب» می‌تواند فرصتی برای کنترل و مدیریت رفتارشان ایجاد کند. این ویژگی امکان مذاکره یا اعمال محدودیت در زمان‌های بحرانی را فراهم می‌کند.

هر دو مطالعه بیانگر این نکته‌اند که LLMها می‌توانند مستقل از انسان‌ها روابط و همکاری‌هایی شکل دهند که نتایج پیچیده‌ای به همراه دارد. این واقعیت نیازمند بازنگری در سیاست‌گذاری و نظارت بر توسعه و استفاده از هوش مصنوعی است.