Gemini گوگل در جریان یک آزمایش امنیتی به سیستمهای واقعی سه شرکت دسترسی پیدا کرد
مدل هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیت سایبری، بهصورت ناخواسته به سیستمهای واقعی سه شرکت دسترسی پیدا کرد؛ اتفاقی که نشان میدهد افزایش توانایی عاملهای هوش مصنوعی در انجام وظایف پیچیده، چالشهای تازهای را برای امنیت سایبری و کنترل دسترسی این سیستمها ایجاد کرده است.
این اتفاق در ماه مه ۲۰۲۶ و در جریان یک ارزیابی امنیتی توسط شرکت Irregular رخ داد؛ شرکتی که تواناییهای امنیت سایبری مدلهای پیشرفته هوش مصنوعی را آزمایش میکند. هدف آزمایش، بررسی توانایی Gemini در انجام وظایف امنیتی در یک محیط کنترلشده و با استفاده از شرکتها و اهداف شبیهسازیشده بود. ( Reuters )
با این حال، محیط آزمایش بهطور ناخواسته به اینترنت دسترسی پیدا کرد. در یکی از سناریوها، Gemini قرار بود اطلاعات یک شرکت ساختگی را پیدا کند، اما نام این شرکت با یک شرکت واقعی یکسان بود. مدل پس از دسترسی به اینترنت، اطلاعات مربوط به شرکت واقعی را پیدا کرد و توانست با حدسزدن رمز عبور وارد یکی از سرویسهای محافظتشده آن شود.
در دو مورد دیگر نیز Gemini هنگام جستوجوی اینترنت، اطلاعات احراز هویت و اعتبارنامههایی را پیدا کرد که در مخازن عمومی منتشر شده بودند. مدل از این اطلاعات برای ورود به سیستمهای دو شرکت واقعی استفاده کرد. هویت این سه شرکت اعلام نشده است. ( Gulf News )
نکته قابلتوجه این است که Gemini پس از متوجهشدن اینکه سیستمهایی که به آنها دسترسی پیدا کرده، بخشی از محیط آزمایشی نیستند و متعلق به شرکتهای واقعی هستند، فعالیت خود را متوقف کرد. گوگل اعلام کرده است که هر سه شرکت از این اتفاق مطلع شدهاند و فرآیندهای آزمایش نیز برای جلوگیری از تکرار چنین اتفاقی تغییر کردهاند. ( Reuters )
به گفته گوگل، این اتفاق نمونهای از اهمیت ایجاد مرزهای مشخص و ایزوله میان محیطهای آزمایشی و زیرساختهای واقعی است؛ بهخصوص در شرایطی که عاملهای هوش مصنوعی میتوانند به اینترنت متصل شوند، اطلاعات را جستوجو کنند و بهصورت چندمرحلهای اقدام کنند.
این اتفاق همچنین در ادامه مجموعهای از حوادث مشابه در آزمایش مدلهای هوش مصنوعی شرکتهای مختلف رخ داده است. پیش از این نیز مواردی از دسترسی مدلهای شرکتهایی مانند OpenAI، Anthropic و Meta به سیستمهایی خارج از محدوده موردنظر آزمایش گزارش شده بود. ( Al Jazeera )
با افزایش استفاده از عاملهای هوش مصنوعی در حوزههایی مانند امنیت سایبری، برنامهنویسی و مدیریت زیرساختها، کنترل دسترسی، ایزولهسازی محیط آزمایش و نظارت انسانی به موضوعات مهمتری برای توسعه و استفاده ایمن از این فناوری تبدیل شدهاند.
