به نقل از ایسنا، یک مطالعه جدید توسط پژوهشگران دانشگاه آکسفورد (Oxford) نشان داده است که تصاویر می توانند با پیام هایی آغشته شوند که برای چشم انسان نامریی هستند اما قادر به کنترل عوامل و دعوت هکرها به رایانه شما هستند.

به نقل از لایوساینس، عوامل هوش مصنوعی می توانند در برابر کدهای مخربی که در تصاویر به ظاهر بی ضرر روی صفحه رایانه شما پنهان شده اند، آسیب پذیر باشند. این عوامل مانند چت بات می توانند دوست پرشور و هیجانی باشند که نحوه تعویض لاستیک را توضیح می دهند اما امسال، آنها یا همان دستیاران شخصی که کارهای روتین رایانه را انجام می دهند، موج بعدی انقلاب هوش مصنوعی هستند. آنچه یک عامل هوش مصنوعی را از یک چت بات متمایز می کند این است که تنها حرف نمی زند، بلکه عمل می کند.

این سامانه می تواند تب ها را باز کند، فرم ها را پر کند، روی دکمه ها کلیک کند و رزروها را انجام دهد و با چنین دسترسی به رایانه شما، دیگر فقط یک پاسخ اشتباه توسط آن مطرح نیست. بنابراین اگر عامل هک شود، می تواند محتوای دیجیتال شما را به اشتراک بگذارد یا از بین ببرد. یارین گال (Yarin Gal) دانشیار یادگیری ماشین در دانشگاه آکسفورد و یکی از نویسندگان این مطالعه گفت: یک عکس تغییریافته می تواند در شبکه اجتماعی ایکس (توییتر سابق) برای تحریک عامل روی رایانه و انجام دادن اعمال مخرب کافی باشد.

وی افزود: هر تصویر تغییریافته یا خرابکاری شده می تواند واقعاً یک رایانه را تحریک کند تا آن تصویر را بازنشر کند و سپس کاری مخرب مانند ارسال تمام رمزهای عبور شما انجام دهد. این بدان معناست که نفر بعدی که صفحه مجازی شما را می بیند و یک عامل هوش مصنوعی در حال اجرا دارد نیز رایانه اش آلوده شود.

این مطالعه نشان می دهد که تصاویر خرابکاری شده، یک راه بالقوه برای به خطر انداختن رایانه شما هستند اما هنوز هیچ گزارشی از وقوع آن، خارج از محیط آزمایشی وجود ندارد. یک تصویر خرابکاری شده می تواند شامل هر فرد مشهور، غروب آفتاب، بچه گربه یا الگوی انتزاعی باشد. علاوه بر این، شاید اگر از عامل هوش مصنوعی استفاده نکنید، خطری رایانه شما را تهدید نکند اما یافته های جدید به وضوح نشان می دهند که خطر هک محتمل است.

هدف از این مطالعه، هشدار دادن به کاربران و توسعه دهندگان عوامل هوش مصنوعی است زیرا فناوری عوامل هوش مصنوعی همچنان در حال شتاب گرفتن است. یکی دیگر از نویسندگان این مطالعه گفت: توسعه دهندگان باید از این آسیب پذیری ها بسیار آگاه باشند. به همین دلیل است که ما این مطالعه را به امید این که مردم واقعاً آن را یک آسیب پذیری ببینند و در نحوه استقرار سامانه عامل خود کمی محتاط تر باشند، انجام دادیم.

این تصاویر برای چشم انسان، کاملاً عادی به نظر می رسند اما حاوی پیکسل های خاصی هستند که مطابق با نحوه پردازش داده های بصری توسط مدل زبانی بزرگ (LLM) تغییر یافته اند. به همین دلیل، عواملی که با سامانه های هوش مصنوعی با منبع باز (open-source) ساخته شده اند، آسیب پذیرتر هستند زیرا به کاربران اجازه می دهند کد زیربنایی را ببینند و آن را برای اهداف خود اصلاح کنند. هر کسی که بخواهد یک داده مخرب به رایانه شما وارد کند، می تواند نحوه پردازش داده های بصری توسط هوش مصنوعی را ارزیابی کند.

این گروه پژوهشی با استفاده از یک مدل منبع باز نشان دادند که چگونه تصاویر را می توان به راحتی دستکاری کرد تا دستورات مخرب را منتقل کنند. در حالی که کاربران انسانی تصویر مورد علاقه خود را می دیدند، رایانه دستوری را برای انتشار اطلاعات شخصی آنها دریافت می کرد. یکی دیگر از نویسندگان این مطالعه افزود: ما تعداد زیادی از پیکسل ها را به میزان بسیار ناچیزی تنظیم کردیم تا وقتی یک مدل، تصویری را می بیند، خروجی مورد نظر ما را تولید کند.

انسان اطلاعات بصری را به شکل متفاوتی از هوش مصنوعی پردازش می کند. زمانی که انسان به عکس یک سگ نگاه می کند، مغزش گوش های آویزان، بینی خیس و سبیل های بلند را متوجه می شود اما رایانه، تصویر را به پیکسل ها تجزیه می کند و هر نقطه رنگی را به عنوان یک عدد نمایش می دهد. سپس، به دنبال الگوها می گردد و این گونه است که تصمیم می گیرد این تصویر یک سگ است.

رایانه به اعداد متکی است و اگر کسی تنها چند عدد را تغییر دهد یا پیکسل ها را به گونه ای دستکاری کند که برای چشم انسان قابل تشخیص نباشد، رایانه باز هم تغییر را متوجه می شود و الگوهای عددی به هم می ریزند. بدین ترتیب، محاسبات رایانه ممکن است اشتباه کنند و از تصویر سگ، الگوی گربه را برداشت کنند و آن را اشتباه برچسب گذاری کنند؛ حتی اگر برای کاربر هنوز شبیه به سگ به نظر برسد. درست همان طور که تنظیم پیکسل ها می تواند باعث شود رایانه به جای سگ، گربه را ببیند، می تواند باعث شود یک عکس نیز برای آن شبیه به یک پیام مخرب باشد.

از آنجا که عوامل نمی توانند مستقیماً صفحه رایانه شما را ببینند، باید به طور مکرر از صفحه رایانه شما عکس بگیرند و به سرعت آنها را تجزیه و تحلیل کنند تا بفهمند روی چه چیزی کلیک کنند و چه چیزی را روی دسکتاپ شما حرکت دهند اما وقتی عامل، عکس را پردازش می کند و پیکسل ها را به فرم هایی که می شناسد سازماندهی می کند، کد فرمان مخفی پنهان شده در تصویر پس زمینه را نیز دریافت می کند. این مطالعه تنها به تصاویر پس زمینه، توجه ویژه ای دارد زیرا عامل تنها توسط چیزی که می تواند ببیند فریب می خورد.

این گروه پژوهشی دریافتند که تا وقتی آن تکه کوچک از پیکسل های تغییر یافته در کادر قرار دارد، عامل فرمان را می بیند و از مسیر خود منحرف می شود. فرمان پنهان حتی پس از تغییر اندازه و فشرده سازی نیز باقی می ماند. پیامی که در پیکسل ها کدگذاری شده است می تواند بسیار کوتاه باشد. آنها امیدوارند که مطالعاتشان به توسعه دهندگان کمک کند تا قبل از گسترش بیشتر عوامل هوش مصنوعی، تدابیر امنیتی را آماده کنند.

یکی دیگر از نویسندگان این مطالعه توضیح داد: این اولین قدم برای اندیشیدن به مکانیسم های دفاعی است زیرا هنگامی که بفهمیم چگونه می توانیم حمله را قوی تر کنیم، می توانیم بازگردیم و این مدل ها را با این تدابیر امنیتی قوی تر بازآموزی کنیم تا آنها را مقاوم تر کنیم. این امر، یک لایه دفاعی خواهد بود و حتی اگر حملات برای هدف قرار دادن سامانه های هوش مصنوعی منبع باز طراحی شده باشند، شرکت هایی با مدل های دیگر نیز ممکن است در معرض خطر باشند.

گال خاطرنشان کرد: عوامل هوش مصنوعی ظرف دو سال آینده رایج خواهند شد. مردم عجله دارند تا این فناوری را قبل از این که بدانیم واقعاً امن است یا خیر، مستقر کنند. ما امیدواریم بتوانیم توسعه دهندگان را تشویق کنیم تا عامل هایی بسازند که بتوانند از خود محافظت کنند و از دریافت دستورات از هر منبعی روی صفحه خودداری کنند.