هشدار مدیرعامل گوگل دیپمایند درباره افزایش خطر حملات سایبری با هوش مصنوعی
دمیس هاسابیس، مدیرعامل گوگل دیپمایند، نسبت به افزایش تهدیدهای امنیتی ناشی از استفاده هوش مصنوعی در حملات سایبری هشدار داده و این حملات را نشانههای اولیهای از خطرات جدیتر در آینده توصیف کرده است.
هاسابیس در نشست هوش مصنوعی در دوبلین تأکید کرد که با پیشرفت سریع فناوریهای هوش مصنوعی، بهویژه عاملهای هوشمند (AI Agents)، ضرورت توجه به امنیت این سامانهها بیش از گذشته احساس میشود. به گفته او، توانایی روزافزون سیستمهای هوشمند در تحلیل اطلاعات، تولید کد و انجام فعالیتهای پیچیده میتواند در کنار کاربردهای مفید، فرصتهای جدیدی را نیز برای سوءاستفاده مهاجمان سایبری فراهم کند.
یکی از نگرانیهای مهم در این زمینه، افزایش توانایی عاملهای هوش مصنوعی در انجام وظایف بهصورت مستقل است. این عاملها میتوانند مجموعهای از فعالیتها را بدون نیاز به دخالت مداوم انسان انجام دهند و با ابزارها و سامانههای مختلف تعامل داشته باشند. اگر چنین قابلیتهایی بدون نظارت و محدودیتهای امنیتی مناسب توسعه پیدا کنند، ممکن است زمینه بروز رفتارهای پیشبینینشده یا سوءاستفادههای امنیتی را فراهم کنند.
استفاده از هوش مصنوعی در حملات سایبری میتواند فرآیندهایی مانند شناسایی آسیبپذیریهای نرمافزاری، تولید پیامهای فیشینگ، تحلیل اطلاعات و خودکارسازی بخشهایی از حملات را سریعتر و پیچیدهتر کند. این موضوع میتواند مقابله با برخی تهدیدهای سایبری را برای سازمانها و متخصصان امنیت اطلاعات دشوارتر سازد.
هاسابیس بر ضرورت تدوین استانداردهای امنیتی قویتر، آزمایش دقیق سامانههای هوش مصنوعی پیش از عرضه و همکاری بیشتر شرکتهای فناوری برای شناسایی و کاهش خطرات احتمالی تأکید کرده است.
این هشدار نشان میدهد که با گسترش استفاده از هوش مصنوعی در صنایع و خدمات مختلف، توسعه قابلیتهای فنی بهتنهایی کافی نیست و امنیت، نظارت انسانی و استفاده مسئولانه از این فناوری نیز باید به بخش جداییناپذیر فرآیند طراحی و توسعه سیستمهای هوشمند تبدیل شود.
