سوءاستفاده از هوش مصنوعی گراک برای تغییر تصاویر دوران کودکی

سوءاستفاده اخلاقی از هوش مصنوعی؛ زنگ خطری برای امنیت حریم خصوصی

بحث‌ و جدل‌های اخیر پیرامون ابزارهای تولید تصویر با هوش مصنوعی بار دیگر ابعاد تاریک این فناوری و خطرات جدی آن برای امنیت شخصی و حریم خصوصی دیجیتال را نمایان کرده است. به تازگی زنی مدعی شده که ناپدری‌اش با استفاده از هوش مصنوعی گراک (Grok)، که توسط شرکت xAI متعلق به ایلان ماسک توسعه یافته، تصویر دوران کودکی او را به یک عکس صریح و غیراخلاقی تبدیل کرده است. این اتفاق تکان‌دهنده نشان‌دهنده نیاز فوری به وضع قوانین سخت‌گیرانه در حوزه ابزارهای مولد هوش مصنوعی است.

بر اساس گزارش منتشر شده توسط رسانه تک‌کرانچ، این قربانی هشدار داده است که ابزارهای فعلی هوش مصنوعی قادرند تصاویر عادی زندگی روزمره را به محتوای سوءاستفاده جنسی از کودکان تبدیل کنند. این رویداد موج جدیدی از انتقادات را علیه پلتفرم‌های تولید تصویر به راه انداخته است؛ پلتفرم‌هایی که به دلیل ناتوانی در فیلتر کردن درخواست‌های نامناسب و امکان دور زدن محدودیت‌های اخلاقی برای ساخت دیپ‌فیک‌های بدون رضایت، همواره مورد نقد بوده‌اند.

مدل هوش مصنوعی گراک به‌طور ویژه از زمان معرفی با انتقادات شدیدی روبه‌رو بوده است. برخلاف برخی رقبای خود که فیلترهای بسیار سخت‌گیرانه‌ای برای جلوگیری از شبیه‌سازی افراد واقعی اعمال می‌کنند، هوش مصنوعی متعلق به ایکس (توییتر سابق) با آزادی عمل بسیار بیشتری فعالیت کرده است. این انعطاف بیش از حد، مسیر را برای افراد سوءاستفاده‌گر هموار کرده تا بتوانند تصاویر عادی و خانوادگی افراد را به ابزاری برای آزار و اذیت تبدیل کنند.