به گزارش سیتنا، دادخواست xAI در تاریخ ۱۵ جولای (۲۴ تیر) در دادگاه فدرال منطقه شمالی تگزاس ثبت شده است. در این شکایت، xAI ادعا کرده که هاروود با دورزدن تدابیر امنیتی Grok، از این ابزار برای تبدیل عکس‌های غیرمستهجن به تصاویر صریح جنسی از کودکان و بزرگسالان، بدون رضایت افراد، استفاده کرده است . پیش‌تر نیز هاروود در فوریه سال جاری در کارولینای جنوبی به اتهامات متعدد مربوط به بهره‌کشی جنسی از کودکان بازداشت شده است .

xAI در شکایت خود اعلام کرده که هاروود با ایجاد چندین حساب کاربری و وارد کردن «پرامپت‌های فریبنده»، قوانین استفاده از سرویس را نقض کرده است . این شرکت همچنین تأکید کرده که اقدامات هاروود، xAI را در معرض «خطر قانونی و آسیب جدی به اعتبار» قرار داده است . به همین دلیل، xAI از دادگاه درخواست خسارت‌های مالی نامشخص و صدور حکم دائمی برای جلوگیری از استفاده مجدد هاروود از Grok را دارد .

این شکایت در حالی مطرح شده که xAI به دلیل عملکرد Grok در تولید محتوای جنسی جعلی و عدم وجود تدابیر امنیتی کافی، با انتقادات و بررسی‌های زیادی مواجه بوده است . در همین راستا، دفتر دادستان کل کالیفرنیا نیز پیش‌تر با ارسال نامه‌ای توقف فعالیت، از xAI خواسته بود تا فوراً تولید و توزیع این تصاویر غیرقانونی را متوقف کند .

با وجود این جنجال‌ها، xAI در دادخواست خود به اقدامات تنبیهی این شرکت اشاره کرده و اعلام داشته که تنها در سال ۲۰۲۶، ۵۲,۲۲۲ حساب کاربری را به دلیل تخلف تعلیق و ۷۳,۶۰۴ گزارش به مرکز ملی کودکان گمشده و استثمارشده (NCMEC) ارسال کرده است که منجر به حداقل ۲۴۴ بازداشت شده است . اکنون باید دید که این نخستین شکایت یک شرکت فناوری از کاربر خود، چه تأثیری بر آینده تعامل کاربران با ابزارهای مولد هوش مصنوعی خواهد داشت.

انتهای پیام