نقص امنیتی در Google Gemini
گزارش جدیدی از BleepingComputer نشان میدهد که ابزار هوش مصنوعی Google Gemini برای Workspace میتواند بهوسیله حملهای به نام تزریق غیرمستقیم دستور (Indirect Prompt Injection) مورد سوءاستفاده قرار گیرد. این حمله به مهاجمان اجازه میدهد تا خلاصهای از ایمیل تولید کنند که ظاهراً معتبر است، اما در واقع شامل هشدارهای جعلی یا دستوراتی است که کاربران را به سایتهای فیشینگ هدایت میکند.
نحوه عملکرد حمله
- مهاجم ایمیلی طراحی میکند که در ظاهر معمولی است و هیچ لینک یا فایل ضمیمهای ندارد.
- در انتهای متن ایمیل، با استفاده از HTML و CSS، دستور مخربی را بهصورت متن مخفی (مثلاً با فونت صفر و رنگ سفید) قرار میدهد.
- این دستور در Gmail نمایش داده نمیشود، اما وقتی کاربر از Gemini میخواهد ایمیل را خلاصه کند، مدل هوش مصنوعی آن دستور مخفی را اجرا میکند.
- نتیجه؟ یک خلاصه جعلی که ممکن است شامل هشدار امنیتی مثل “رمز عبور شما لو رفته، لطفاً با این شماره تماس بگیرید” باشد — بدون اینکه چنین پیامی در متن اصلی ایمیل وجود داشته باشد.
چرا این حمله خطرناک است؟
- کاربران به خروجی Gemini اعتماد دارند، چون بخشی از Google Workspace است.
- نبود لینک یا فایل ضمیمه باعث میشود ایمیل از فیلترهای امنیتی عبور کند.
- خلاصه تولیدشده توسط Gemini ممکن است بهعنوان هشدار واقعی تلقی شود.
واکنش گوگل
- گوگل اعلام کرده که در حال تقویت دفاعهای امنیتی خود از طریق تمرینهای Red Team و آموزش مدلها برای مقابله با حملات تزریقی است.
- برخی از اقدامات محافظتی در حال پیادهسازی یا نزدیک به اجرا هستند.
- با این حال، هنوز شواهدی از سوءاستفاده گسترده از این روش گزارش نشده است.
توصیههای امنیتی
- تیمهای امنیتی باید محتواهای مخفیشده در ایمیلها را شناسایی و خنثی کنند.
- استفاده از فیلترهای پسپردازش برای بررسی خروجی Gemini و شناسایی پیامهای فوری، URLها یا شمارههای تماس مشکوک توصیه میشود.
- کاربران باید بدانند که خلاصههای Gemini منبع معتبر هشدارهای امنیتی نیستند.
نقص امنیتی کشفشده در Google Gemini for Workspace نشان میدهد که حتی ابزارهای مبتنی بر هوش مصنوعی با برندهای معتبر نیز ممکن است در برابر حملات پیچیده آسیبپذیر باشند. حمله “تزریق غیرمستقیم دستور” ثابت میکند که فیشینگ میتواند شکلهای جدیدی به خود بگیرد که نهتنها از فیلترهای امنیتی عبور میکند، بلکه از اعتماد کاربران به AI سوءاستفاده مینماید.
اگرچه گوگل در حال تقویت مدلهای خود و افزودن مکانیزمهای دفاعی است، تا زمانی که این ابزارها کاملاً ایمن شوند، کاربران و تیمهای امنیتی باید با احتیاط بیشتری با خروجیهای تولیدشده توسط هوش مصنوعی برخورد کنند و به خلاصهسازی ایمیلها اعتماد مطلق نداشته باشند.
هوش مصنوعی میتواند دوست قدرتمند ما باشد، به شرط آنکه بدانیم چگونه امن، آگاهانه و مسئولانه با آن تعامل کنیم.
انتهای مطلب از دایان
