چگونه فیلترهای هوش مصنوعی کار پژوهشگران امنیت سایبری را مختل میکنند؟
مدلهای بزرگ زبانی مانند چتجیپیتی (OpenAI) و کلود (Anthropic) برای جلوگیری از سوءاستفادههای سایبری، فیلترهای امنیتی سختی را اعمال کردهاند. با این حال، گزارش اخیر رسانه تککرانچ نشان میدهد که این محدودیتها عملاً کار پژوهشگران قانونی امنیت سایبری و هکرهای کلاهسفید را با چالش جدی مواجه کرده است.
کارشناسان امنیت تهاجمی که وظیفه کشف آسیبپذیریها و شبیهسازی حملات را بر عهده دارند، برای تحلیل بدافزارها و نوشتن کدهای اثبات مفهوم (PoC) به این ابزارها تکیه میکنند. اما فیلترهای هوش مصنوعی اغلب بدون تفکیک نیت کاربر، هرگونه کد امنیتی یا شبیهسازی نفوذ را مخرب شناسایی کرده و مسدود میکنند. این موضوع محققان را ناچار میکند وقت زیادی را صرف دور زدن یا اصطلاحاً «جیلبریک» این ابزارها کنند یا به سراغ مدلهای متنباز بدون سانسور روی بیاورند که اجرای آنها نیازمند سختافزارهای بسیار گرانقیمت است.
چرا این موضوع برای کسبوکارهای اینترنتی و فعالان رسانههای اجتماعی در ایران اهمیت دارد؟
در فضای وب فارسی و بازار تجارت الکترونیک ایران، دسترسی به ابزارهای پیشرفته و گرانقیمت امنیت سایبری به دلیل تحریمها و محدودیتهای مالی بسیار دشوار است. بسیاری از مدیران فروشگاههای اینترنتی، ادمینهای صفحات پرمخاطب و برنامهنویسان محلی برای بررسی کدهای سایت، تست درگاههای پرداخت یا تحلیل لینکهای مشکوک فیشینگ، به دستیارهای هوش مصنوعی متکی هستند.
سختگیریهای بیمورد و فیلترهای همهجانبه غولهای فناوری، دفاع دیجیتال را برای کسبوکارهای ایرانی سختتر میکند. وقتی ابزارهای هوش مصنوعی درخواستهای امنیتی و تدافعی را مسدود میکنند، کسبوکارهای کوچک و نوپا ابزار حفاظتی کمهزینه خود را از دست میدهند. این مسئله باعث میشود پلتفرمها و پایگاه داده مشتریان آنها در برابر حملات سایبری و هک آسیبپذیرتر شود. این روند نشان میدهد که تکیه مطلق بر هوش مصنوعی تجاری برای امنیت کافی نیست و نیاز به آگاهی امنیتی بومی بیش از هر زمان دیگری احساس میشود.
منابع و مراجع
سارا تهرانی
نویسنده
