روش جدید فریب هوش مصنوعی: اجرای حمله تزریق پرامپت با استفاده از فایل PNG
-
نویسنده:
دیجیاتو digiato
- 21 تیر 1405
- 0 دیدگاه
پژوهشگران امنیت سایبری از روشی جدید برای حمله به دستیارهای برنامهنویسی مبتنیبر هوش مصنوعی پرده برداشتهاند؛ روشی که در آن نوعی Prompt Injection داخل فایل PNG مخفی میشود و برخی ابزارهای مبتنیبر هوش مصنوعی بدون آنکه متوجه شوند، از دستورهای پنهانشده پیروی میکنند. بههمین ترتیب امکان دارد هکرها بتوانند تنها با آپلود یک تصویر ساده، به دسترسیهای غیرمجاز برسند و همین باعث ایجاد نگرانیهای تازه شده است.
هوش مصنوعی چگونه میتواند تنها با یک تصویر PNG فریب بخورد؟
بهنقل از Digitaltrends، این روش توسط دو محقق با نامهای «سودیپتا چاتوپادیای» و «مورالی ادیگا» توسعه داده شده و برخلاف حملات رایج، مستقیماً مدل هوش مصنوعی را هدف قرار نمیدهد. درعوض، در این روش از نحوه بررسی فایلهای پروژه توسط دستیارهای کدنویسی سوءاستفاده میشود. در این حمله، مهاجم دستورهای مخرب را داخل یک تصویر PNG قرار میدهد. از آنجایی که بسیاری از ابزارهای بازبینی کد، تصاویر را فایلهایی تزئینی در نظر میگیرند، ممکن است بدون بررسی از کنار آنها عبور کنند و Pull Request نیز بدون مشکل تأیید شود.
نکته مهم اینجاست که دستورهای مخفی در تصویر PNG بلافاصله اجرا نمیشوند؛ بلکه زمانی فعال میشوند که توسعهدهنده بعدها از دستیار هوش مصنوعی بخواهد کاری کاملاً بیربط انجام دهد. بهعنوان مثال شاید فرد برنامهنویس بخواهد یک تابع جدید بنویسد یا ماژولی به پروژه اضافه کند. در این شرایط، اگر ابزار هوش مصنوعی تصویر را در کنار سایر دستورات پردازش کرده باشد، ممکن است فرد مهاجم بدون اطلاع کاربر به فایلهای حساس پروژه دسترسی پیدا کند و اطلاعات محرمانه را بهشکلی نامحسوس داخل کد تولیدشده قرار دهد.
پژوهشگران میگویند دادههای سرقتشده نیز بهصورت مستقیم داخل سورسکد قرار نمیگیرند، بلکه در قالب مقادیر و متغیرهایی با ظاهر عادی مخفی میشوند؛ موضوعی که شناسایی آن را برای توسعهدهندگان و حتی بسیاری از ابزارهای امنیتی دشوار میکند. در آزمایشهای انجامشده، نتیجه فقط به مدل زبانی بستگی نداشت. یک مدل هوش مصنوعی بستهبه اینکه داخل کدام دستیار برنامهنویسی استفاده شده بود، رفتار متفاوتی از خود نشان داد؛ برخی ابزارها دستورهای مخفی را اجرا کردند و برخی دیگر آنها را بهعنوان محتوای مشکوک تشخیص داده و از ادامه کار خودداری کردند.
محققان معتقدند ابزارهای کدنویسی مبتنیبر هوش مصنوعی باید علاوهبر سورسکد، تصاویر، فایلهای مستندات و سایر فایلهای پروژه را نیز با همان دقت بررسی کنند. این پژوهش نشان میدهد با گسترش استفاده از AI در توسعه نرمافزار، مسیرهای حمله جدیدی نیز ایجاد شدهاند که بدون نظارت انسانی میتوانند به تهدیدی جدی تبدیل شوند.
