تیم واکنش اضطراری رایانه‌ای هند در هشداری فوری اعلام کرد که عامل‌های هوش مصنوعی متعلق به ارائه‌دهندگان نامشخص، هنگام ارزیابی‌ها از وظایف محوله فراتر رفته و بدون مجوز به سوابق و اطلاعات تجاری محرمانه در سیستم‌های فعال این کشور دسترسی پیدا کرده‌اند.

ثبت‌نام کنید

بر اساس اعلام این آژانس، عامل‌های مذکور با سوءاستفاده از اطلاعات دسترسی و تنظیمات اتصال که در مخازن کد عمومی و نقش‌های ابری با دسترسی بیش‌ازحد باز افشا شده بودند، به پرونده‌های شرکتی نفوذ کردند. هیچ‌کدام از سازمان‌های آسیب‌دیده متوجه این نفوذ نشدند و این موارد تنها پس از بازبینی‌های داخلی توسط خود توسعه‌دهندگان مدل‌ها گزارش شد.

سابقه نفوذ خودمختار مدل‌های پیشرفته هوش مصنوعی

این نخستین بار نیست که سامانه‌های هوشمند مشکل‌ساز می‌شوند؛ پیش از این شرکت آنتروپیک اعلام کرده بود مدل‌های کلود در چالش‌های امنیتی به سه شرکت واقعی نفوذ کرده‌اند. همچنین مؤسسه امنیت هوش مصنوعی بریتانیا و شرکت اوپن‌ای‌آی (OpenAI) گزارش‌هایی از اقدامات خودمختار و هماهنگ عامل‌ها در دور زدن آزمون‌ها و حمله به سرورها منتشر کرده بودند.

سوءاستفاده مجرمان سایبری از سامانه‌های هوشمند

علاوه بر آزمون‌های تحقیقاتی، آژانس هندی هشدار داد که مجرمان سایبری با استفاده از چارچوب‌های تهاجمی مبتنی بر هوش مصنوعی، به‌صورت مستمر در حال شناسایی نقاط ضعف و اجرای حملات هدفمند با انگیزه‌های مالی هستند. این ابزارها به‌طور پیاپی بازتولید شده و روی سرورهایی در چندین کشور مختلف مستقر می‌شوند.