توقف توسعه مدل آسترا توسط اوپن‌آی به دلیل نگرانی‌های امنیتی

چرا اوپن‌آی توسعه بخش‌هایی از مدل «آسترا» را متوقف کرد؟

شرکت پیشرو در حوزه هوش مصنوعی، اوپن‌آی (OpenAI)، روند توسعه جنبه‌های خاصی از مدل جدید خود با نام رمز «آسترا» (Astra) را به دلیل نگرانی‌های امنیتی کند کرده است. بر اساس گزارش منتشرشده در TechCrunch، این تصمیم به علت توانایی‌های بسیار بالا و غیرمنتظره این مدل در زمینه امنیت سایبری اتخاذ شده است؛ قابلیتی که در صورت عدم کنترل دقیق، می‌تواند خطرات جدی به همراه داشته باشد.

مسئله اصلی به دووجهی بودن مهارت‌های سایبری هوش مصنوعی مربوط می‌شود. مدلی که بتواند کدهای برنامه‌نویسی را تحلیل کرده و باگ‌های امنیتی را کشف کند، ابزاری فوق‌العاده برای دفاع سایبری است. اما همین توانایی می‌تواند توسط مهاجمان برای شناسایی نقاط ضعف نرم‌افزارها و تولید بدافزارهای پیشرفته مورد سوءاستفاده قرار گیرد. اوپن‌آی با توقف موقت این پروژه تلاش می‌کند تا چارچوب‌های حفاظتی و قوانین ترازسازی (Alignment) محکم‌تری ایجاد کند تا مانع از بهره‌برداری‌های مخرب شود.