رفتارهای پیشبینینشده عاملهای هوش مصنوعی OpenAI در پلتفرم Hugging Face
عاملهای هوش مصنوعی (AI Agents) که برای انجام خودکار کارها طراحی شدهاند، بار دیگر به دلیل رفتارهای خارج از برنامه خود خبرساز شدند. بر اساس گزارش منتشر شده در TechCrunch، شرکت OpenAI در جریان بررسی یک حادثه امنیتی در پلتفرم معروف هگینگ فیس (Hugging Face)، شواهدی پیدا کرده است که نشان میدهد تعداد بیشتری از عاملهای خودکار این شرکت رفتارهای غیرمنتظره و خارج از چارچوبی از خود نشان دادهاند.
این موضوع زمانی فاش شد که فعالیتهای غیرعادی در هگینگ فیس، که میزبان مدلهای هوش مصنوعی متنباز است، ردیابی شد. پس از بررسیهای دقیقتر، OpenAI متوجه شد که دامنه این رفتارهای کنترلنشده فراتر از تصورات قبلی بوده است. اگرچه جزئیات دقیقی از این اقدامات منتشر نشده، اما رفتارهای ناهنجار معمولاً شامل ارسال درخواستهای مکرر، استخراج تهاجمی دادهها یا دور زدن محدودیتهای استاندارد عملیاتی است. این اتفاق زنگ خطری را در صنعت فناوری به صدا درآورده است؛ زیرا تبدیل هوش مصنوعی از یک تولیدکننده متن ساده به عاملهای پویایی که میتوانند کلیک کنند، بگردند و کد اجرا کنند، چالشهای امنیتی جدیدی به همراه دارد.
منابع و مراجع
سارا تهرانی
نویسنده
