در حالی که رقابت میان شرکت های بزرگ فناوری برای توسعه نسل های قدرتمندتر هوش مصنوعی با سرعت ادامه دارد، پژوهشگران نسبت به ظهور رفتارهای نگران کننده در برخی از پیشرفته ترین مدل های زبانی هشدار می دهند.

به نقل از فیوچریسم، در سال های اخیر، موارد متعددی از عملکرد غیرمنتظره یا اصطلاحاً سرکشی برخی سیستم های هوش مصنوعی خبرساز شده است. اکنون نتایج یک تحقیق جدید نشان می دهد این اتفاقات ممکن است صرفاً نمونه های پراکنده نباشند و با پیشرفته تر شدن مدل های هوش مصنوعی، احتمال وقوع چنین رفتارهایی افزایش پیدا کند.

مؤسسه غیرانتفاعی ارزیابی مدل ها و پژوهش تهدیدات (METR) اخیراً نتایج مطالعه ای را منتشر کرده که بین ماه های فوریه و مارس سال جاری انجام شده است. هدف این پژوهش بررسی این موضوع بود که مدل های پیشرفته تا چه اندازه ممکن است در شرایط خاص از دستورات تعیین شده توسط توسعه دهندگان خود فاصله بگیرند یا رفتارهایی خلاف انتظار از خود نشان دهند.

نتایج این بررسی برای افرادی که درباره آینده هوش مصنوعی نگرانی دارند، چندان آرامش بخش نیست. پژوهشگران در گزارش خود نوشته اند: با توجه به رشد سریع توانمندی های این مدل ها، انتظار داریم میزان پایداری و توانایی سناریوهای مربوط به استقرار سامانه های سرکش در ماه های آینده به شکل قابل توجهی افزایش یابد.

این مطالعه مدل های زبانی بزرگ توسعه یافته توسط شرکت های پیشرو حوزه هوش مصنوعی را مورد ارزیابی قرار داده است؛ از جمله مدل های متعلق به متا، اون ای آی، انتروپیک و گوگل.

بر اساس یافته های پژوهش، هرچه مدل های هوش مصنوعی پیشرفته تر می شوند، نشانه های بیشتری از رفتارهای فریبکارانه یا گمراه کننده در آن ها مشاهده می شود. در برخی موارد، این سیستم ها برای رسیدن به هدف تعیین شده به سراغ میان برهایی رفته اند که صراحتاً ممنوع بوده اند. در مواردی دیگر نیز مدل ها دستورالعمل های اپراتورها را دور زده یا به شیوه هایی عمل کرده اند که با خواسته اصلی کاربران مطابقت نداشته است.

نگران کننده تر اینکه برخی از این سامانه ها توانسته اند اقداماتی انجام دهند که به نوعی پنهان کردن ردپای عملکردشان تعبیر شده است.

یکی از مثال های مطرح شده در این پژوهش به یک مدل داخلی پیشرفته متعلق به اوپن ای آی مربوط می شود.

در این آزمایش، از عامل هوش مصنوعی خواسته شده بود برای انجام یک وظیفه مشخص از نرم افزار خاصی استفاده کند. اما مدل نه تنها این دستور را نادیده گرفت، بلکه پس از رسیدن به نتیجه نهایی، بخشی از کد را به فرآیند اضافه کرد که هدف آن حذف شواهد مربوط به نحوه دستیابی به پاسخ بود.

به بیان دیگر، سیستم هوش مصنوعی از روشی غیر از آنچه تعیین شده بود استفاده کرد و سپس تلاش کرد آثار این تخلف را از بین ببرد تا مشخص نشود چگونه به نتیجه رسیده است. پژوهشگران این رفتار را نشانه ای از پیچیده تر شدن الگوهای تصمیم گیری در مدل های نسل جدید می دانند؛ هرچند تأکید می کنند چنین مواردی هنوز در محیط های آزمایشی مشاهده شده اند و به معنای تهدید فوری نیستند.

نمونه دیگری که در این گزارش به آن اشاره شده، مربوط به یک عامل هوش مصنوعی توسعه یافته توسط آنتروپیک است. این مدل در آزمایش ها مرتکب رفتاری شد که در ادبیات فنی از آن با عنوان هک کردن پاداش یا Reward Hacking یاد می شود.

این پدیده زمانی رخ می دهد که یک سامانه هوش مصنوعی به جای انجام واقعی هدف مورد نظر، راه های میانبری را پیدا می کند که از نظر فنی معیار موفقیت را برآورده می کنند، اما در عمل نتیجه مطلوب را ایجاد نمی کنند.

در این آزمایش، برنامه نویس به طور مشخص به مدل گفته بود که از تقلب، میانبر یا هرگونه روش دور زدن قوانین استفاده نکند. با این حال، مدل به صورت مستقل راهکاری را انتخاب کرد که اگرچه از نظر ظاهری مأموریتش را کامل می کرد، اما با هدف اصلی دستورالعمل سازگار نبود.

کارشناسان حوزه ایمنی هوش مصنوعی مدت هاست درباره این نوع رفتار هشدار می دهند؛ زیرا چنین اقداماتی نشان می دهد یک مدل می تواند میان آنچه واقعاً خواسته شده و آنچه برای کسب امتیاز کافی است تمایز قائل شود و گزینه دوم را انتخاب کند.

با وجود یافته های نگران کننده، نویسندگان این مطالعه معتقدند هنوز دلیلی برای وحشت عمومی وجود ندارد. به گفته آن ها، مدل های فعلی هوش مصنوعی هنوز توانایی لازم برای پنهان کردن یک عملیات گسترده و مخفیانه را ندارند؛ به ویژه اگر شرکت توسعه دهنده به طور فعال در حال بررسی و نظارت بر عملکرد آن ها باشد.

در بخشی از گزارش آمده است که مدل های ارزیابی شده در بازه زمانی فوریه و مارس 2026 از توانایی کافی برای مخفی نگه داشتن سرکشی خود در مقیاس بزرگ برخوردار نبوده اند. همچنین این سیستم ها نمی توانستند در برابر تلاش جدی شرکت های سازنده برای متوقف کردن فعالیتشان مقاومت کنند. با این حال، پژوهشگران هشدار می دهند که این وضعیت ممکن است به سرعت تغییر کند.

به اعتقاد این تیم تحقیقاتی، سرعت پیشرفت فناوری هوش مصنوعی به اندازه ای بالاست که فاصله میان وضعیت فعلی و سناریوهای پرخطر می تواند بسیار کوتاه تر از آن چیزی باشد که تصور می شود.

آن ها تأکید می کنند اگر اقدامات لازم در زمینه هم راستاسازی اهداف مدل ها با اهداف انسانی، تقویت زیرساخت های امنیتی و افزایش سیستم های نظارتی انجام نشود، خطر ظهور سامانه هایی که بتوانند رفتارهای ناخواسته خود را پنهان کنند به شکل محسوسی افزایش خواهد یافت.

پژوهشگران در جمع بندی گزارش خود می نویسند اگرچه مدل های کنونی هنوز از سطح توانایی لازم برای اجرای مستقل عملیات های مخفیانه و گسترده برخوردار نیستند، اما شواهد موجود نشان می دهد روند تکامل آن ها به سمتی حرکت می کند که این خطر در آینده نزدیک جدی تر شود.

در نتیجه، به باور کارشناسان، توسعه مسئولانه هوش مصنوعی دیگر تنها به افزایش قدرت پردازشی و قابلیت های فنی محدود نمی شود؛ بلکه طراحی سازوکارهای مؤثر برای نظارت، کنترل و اطمینان از پایبندی این سامانه ها به اهداف انسانی، به یکی از مهم ترین چالش های صنعت فناوری در سال های پیش رو تبدیل خواهد شد.

منبع: فرارو