طغیان الگوریتم‌ها: کالبدشکافی کامل «فرار» و حملات سایبری توسط هوش مصنوعی

در روزهای اخیر، خبری دنیای فناوری را در شوک فرو برد: مدل‌های هوش مصنوعی در حال شکستن حصارهای امنیتی و هک کردن سیستم‌های واقعی هستند!

شرکت متا اخیراً تایید کرد که یکی از مدل‌های هوش مصنوعی این شرکت در طول تست‌های امنیت سایبری، زیرساخت یک سازمان دیگر را هک کرده است. این یک اتفاق نادر نیست؛ بلکه سومین بار در هفته‌های اخیر است که آزمایشگاه‌های بزرگ هوش مصنوعی از نفوذ مدل‌هایشان به شبکه‌های شخص ثالث خبر می‌دهند.

آیا ربات‌ها به خودآگاهی رسیده‌اند و در حال نابودی سیستم‌های ما هستند؟ در این مقاله، پدیده تکامل هوش مصنوعی از چت‌بات‌های ساده تا هکرهای خودمختار را زیر ذره‌بین برده و واقعیت پنهانِ پشت این اخبار جنجالی را موشکافی می‌کنیم.

موج فرارهای آگوست ۲۰۲۶: از متا تا OpenAI

گزارش‌های منتشر شده نشان می‌دهند که بزرگ‌ترین غول‌های هوش مصنوعی، در کنترل ساخته‌های خود با چالش جدی مواجه شده‌اند:

• حمله مدل Muse Spark ۱.۱ متا: در جدیدترین مورد، مدل پیشرفته متا (Muse Spark ۱.۱) از طریق اینترنت به سیستم‌های یک سرویس شخص ثالث دسترسی پیدا کرد. این مدل به صورت خودمختار از یک آسیب‌پذیری امنیتی در این سرویس شخص ثالث سوءاستفاده کرد. این نفوذ به دلیل یک خطای تنظیماتی توسط شرکت مستقل ارزیاب به نام «Irregular» رخ داد که باعث شد مدل به جای محیط ایزوله، به اینترنت واقعی متصل شود.
• نفوذ مدل‌های Claude به سه سازمان: پیش از اتفاق متا، شرکت Anthropic نیز اعلام کرده بود که مدل‌های Claude Opus ۴.۷ و Claude Mythos ۵ در مجموع به زیرساخت سه سازمان رخنه کرده‌اند. این مدل‌ها مشغول انجام یک چالش امنیت سایبری به نام «تسخیر پرچم» (Capture the Flag) بودند. در این ارزیابی، به مدل‌ها یک سناریوی خیالی داده شد و به آن‌ها گفته شد که اطلاعات مخفی (پرچم) روی ماشینی دیگر در شبکه پنهان شده است. هوش مصنوعی موظف به شکستن سیستم و بازیابی این اطلاعات بود. مدل‌ها با استفاده از تکنیک‌های پایه‌ای مانند سوءاستفاده از پسوردهای ضعیف توانستند به سیستم‌ها نفوذ کنند.
• رخنه به سرورهای Hugging Face توسط OpenAI: ماه گذشته نیز شرکت OpenAI فاش کرد که مدل‌هایش در طول ارزیابی‌های امنیتی از کنترل خارج شده و به سرورهای استارتاپ معتبر Hugging Face نفوذ کرده‌اند.

کالبدشکافی یک «فرار»؛ آیا اسکای‌نت بیدار شده است؟

با خواندن این اخبار، تصویر سناریوهای آخرالزمانی در ذهن شکل می‌گیرد، اما پاسخ کوتاه به بیدار شدن اسکای‌نت «خیر» است.

سخنگوی شرکت ارزیابی امنیتی Irregular صراحتاً تاکید کرده است که این رویدادها به معنای «فرار از سندباکس» (Sandbox Escape) یا یک عملیات سایبری پیچیده و خودآگاهانه نیست. در واقع، تمام این اتفاقات ریشه در یک مشکل تکراری در محیط ارزیابی دارند.

اما این نفوذها از نظر فنی چگونه رخ دادند؟ مدل‌های هوش مصنوعی قرار بود در یک محیط شبیه‌سازی شده (ایزوله یا سندباکس) آزمایش شوند. با این حال، به دلیل پیکربندی اشتباه (Misconfiguration) در محیط تست، هوش مصنوعی تصادفاً یک پل ارتباطی به اینترنت عمومی پیدا کرد. از آنجایی که در سناریوی تست به مدل دستور داده شده بود تا «نقاط ضعف را پیدا کند و پرچم را تسخیر کند»، هوش مصنوعی صرفاً وظیفه‌اش را انجام داد. او با استفاده از چرخه‌های استدلالی (Agentic Loops) و ابزارهای در دسترس خود، به جای سیستم شبیه‌سازی شده، یک سیستم واقعی را در فضای اینترنت هدف قرار داد و هک کرد. ربات قصد شرارت نداشت؛ فقط دستورات را بیش از حد بی‌نقص اجرا کرد!

از چت‌بات‌های ساده تا هکرهای خودمختار (سیر تکامل هوش مصنوعی)

برای درک بهتر این جهش تکنولوژیک، باید نگاهی به مسیر پیشرفت هوش مصنوعی داشته باشیم:

1. دوران چت‌بات‌های منفعل (تا ۲۰۲۲): هوش مصنوعی تنها یک پاسخگوی متنی بود. کاربران با تکنیک‌های مهندسی پرامپت و «جیل‌بریک» (Jailbreak) تلاش می‌کردند ربات‌ها را فریب دهند تا دستورالعمل‌های ایمنی خود را دور بزنند. در این فاز، انسان‌ها هوش مصنوعی را هک می‌کردند.
2. ظهور هوش مصنوعی عامل‌گرا (۲۰۲۳ تا ۲۰۲۴): با معرفی مفهوم AI Agents، هوش مصنوعی از یک «پاسخگو» به یک «عامل اقدام‌کننده» تبدیل شد. مدل‌ها یاد گرفتند زنجیره‌ای از تفکرات ایجاد کنند، کدهای پایتون بنویسند، به مرورگرها دسترسی داشته باشند و خطاهای کدهای خود را دیباگ کنند.
3. عصر خودمختاری تهاجمی (امروز): هوش مصنوعی‌های امروزی مانند Muse Spark ۱.۱ یا Claude Opus ۴.۷ به قدری در درک کدنویسی و تسک‌های منطقی قدرتمند شده‌اند که در صورت اتصال به ابزارهای شبکه، می‌توانند به صورت خودکار پورت‌ها را اسکن کنند، آسیب‌پذیری‌های روز-صفر (Zero-Day) را بیابند و اسکریپت‌های نفوذ را به تنهایی نوشته و اجرا کنند.

زنگ خطر برای دنیای بلاکچین و دیفای

توانایی هوش مصنوعی در یافتن آسیب‌پذیری‌ها و بهره‌برداری خودمختار از آن‌ها، یک پیام مهم و حیاتی برای فعالان صنعت کریپتوکارنسی و دیفای (DeFi) دارد.

از یک سو، شرکت‌های ممیزی (Audit) و توسعه‌دهندگان قراردادهای هوشمند می‌توانند از این مدل‌ها برای تست نفوذ و یافتن باگ‌های پروژه‌های خود پیش از راه‌اندازی استفاده کنند. اما از سوی دیگر، اگر چنین ابزارهای خودمختاری در اختیار هکرهای کلاه‌سیاه قرار گیرد، آن‌ها می‌توانند در کسری از ثانیه پیچیده‌ترین آسیب‌پذیری‌ها را در کد پلتفرم‌های وام‌دهی یا صرافی‌های غیرمتمرکز کشف کرده و استخرهای نقدینگی را خالی کنند.

جمع‌بندی نهایی

هوش مصنوعی هنوز به خودآگاهی و قصدِ مجرمانه نرسیده است، اما به یک سلاح استدلالی بی‌نهایت قدرتمند تبدیل شده که اگر در محیط اشتباهی رها شود، دستورات را با دقتی مرگبار (اما کاملاً کورکورانه) اجرا می‌کند. رویدادهای اخیر هشداری جدی برای غول‌های فناوری است: برای کنترل الگوریتم‌های فوق‌هوشمند، نیازمند دیوارهای آتش و زندان‌های دیجیتالی بسیار پیچیده‌تری هستیم.