مایکروسافت هشدار داد: عامل هوش مصنوعی شما ممکن است به جاسوس دوجانبه تبدیل شود

عامل هوش مصنوعی شما ممکن است به جاسوس دوجانبه تبدیل شود

در سال‌های اخیر، عامل‌های هوش مصنوعی (AI Agents) به سرعت در محیط‌های کاری گسترش یافته‌اند و شرکت‌ها از آنها برای خودکارسازی وظایف، افزایش بهره‌وری و ساده‌سازی فرآیندها استفاده می‌کنند. اما این سرعت بالا، خطرات امنیتی جدی به همراه دارد. مایکروسافت در گزارش جدید خود با عنوان Cyber Pulse، به صراحت هشدار می‌دهد که این عامل‌ها در صورت مدیریت نادرست، می‌توانند به «عامل دوجانبه» (double agent) تبدیل شوند؛ یعنی ابزاری که به جای کمک به سازمان، توسط مهاجمان برای آسیب‌رساندن از داخل استفاده شود.

چرا عامل‌های هوش مصنوعی به تهدید داخلی تبدیل می‌شوند؟

عامل‌های هوش مصنوعی معمولاً دسترسی گسترده‌ای به داده‌ها، ایمیل‌ها، فایل‌ها و سیستم‌های سازمانی دارند. این دسترسی، آنها را به اهدافی جذاب برای هکرها تبدیل می‌کند. مایکروسافت توضیح می‌دهد که مهاجمان می‌توانند با روش‌های مختلف، کنترل این عامل‌ها را به دست بگیرند یا رفتار آنها را تغییر دهند:

• تزریق دستورات مخرب (Prompt Injection): با وارد کردن ورودی‌های فریبنده، عامل را وادار به انجام کارهای ناخواسته می‌کنند.
• مسموم‌سازی حافظه (Memory Poisoning): تغییر دائمی در حافظه عامل ایجاد می‌شود تا پاسخ‌های آینده را به سمت دلخواه مهاجم هدایت کند. مایکروسافت اخیراً کمپین تقلب واقعی را شناسایی کرده که از همین تکنیک برای دستکاری دستیارهای هوش مصنوعی استفاده می‌کرد.
• عامل‌های سایه (Shadow AI): طبق بررسی‌ها، ۲۹٪ از کارکنان از عامل‌های هوش مصنوعی تأییدنشده برای کارهای کاری استفاده می‌کنند. این ابزارها اغلب بدون نظارت تیم IT و امنیت مستقر می‌شوند و دیدگاهی از آنها وجود ندارد.

وقتی عامل هوش مصنوعی بیش از حد مجاز (over-privileged) باشد، یک حمله موفق می‌تواند به کل سیستم‌های حساس دسترسی پیدا کند و شعاع آسیب (blast radius) را بسیار بزرگ کند.

سرعت گسترش بیشتر از امنیت است

مایکروسافت تأکید می‌کند که مشکل اصلی، فناوری هوش مصنوعی نیست؛ بلکه عدم کنترل و مشاهده کافی است. بسیاری از سازمان‌ها عامل‌ها را سریع مستقر می‌کنند اما زیرساخت‌های نظارتی، مدیریت متمرکز و سیاست‌های امنیتی را به همان سرعت پیاده‌سازی نمی‌کنند. نتیجه؟ نقاط کور امنیتی ایجاد می‌شود که مهاجمان دقیقاً از همان نقاط سوءاستفاده می‌کنند.

مایکروسافت چه راهکارهایی پیشنهاد می‌کند؟

برای مقابله با این تهدیدها، مایکروسافت رویکرد «Zero Trust» را برای عامل‌های هوش مصنوعی توصیه می‌کند و آنها را مانند یک هویت دیجیتال جدید در نظر بگیرید. اقدامات کلیدی پیشنهادی عبارتند از:

• مدیریت متمرکز و مشاهده‌پذیری کامل: همه عامل‌ها (حتی آنهایی که خارج از کانال‌های رسمی مستقر شده‌اند) شناسایی و فهرست شوند.
• اصل حداقل دسترسی (Least Privilege): هر عامل فقط به داده‌ها و ابزارهایی دسترسی داشته باشد که واقعاً برای وظیفه‌اش لازم است.
• نظارت مداوم رفتار: سیستم‌هایی برای تشخیص تغییرات غیرعادی در دستورات یا اقدامات عامل مستقر شود.
• بررسی پیش از استقرار: قبل از دادن دسترسی گسترده، نقشه دسترسی هر عامل ترسیم شود و ریسک‌ها ارزیابی گردد.

مایکروسافت معتقد است اگر سازمان‌ها نتوانند به سؤالات پایه‌ای مانند «این عامل دقیقاً به چه چیزهایی دسترسی دارد؟» و «چه کسی آن را مستقر کرده؟» پاسخ دهند، بهتر است سرعت گسترش عامل‌ها را کاهش دهند تا ابتدا پایه‌های امنیتی محکم شود.

جمع‌بندی

عامل‌های هوش مصنوعی بدون شک آینده کار را تغییر خواهند داد و پتانسیل فوق‌العاده‌ای برای افزایش بهره‌وری دارند. اما همان‌طور که مایکروسافت در گزارش Cyber Pulse خود هشدار داده، بدون حکمرانی مناسب، همین ابزارها می‌توانند به یکی از خطرناک‌ترین تهدیدهای داخلی تبدیل شوند. سازمان‌هایی که امروز روی مشاهده‌پذیری، مدیریت متمرکز و اصول Zero Trust برای عامل‌های هوش مصنوعی سرمایه‌گذاری کنند، نه تنها ریسک را کاهش می‌دهند، بلکه می‌توانند با اطمینان بیشتری از مزایای این فناوری بهره ببرند.

در دنیای عامل‌محور هوش مصنوعی، امنیت دیگر یک گزینه نیست؛ شرط اصلی بقا و موفقیت است.

انتهای مطلب از دایان پرو