پلیس چین مردی را به دلیل استفاده از ChatGPT برای تولید اخبار جعلی دستگیر کرد

مقامات چینی مردی را در استان گانسو در شمال چین به اتهام استفاده از ChatGPT برای نوشتن مقالات اخبار جعلی بازداشت کردند. به نظر می‌رسد این اقدام یکی از اولین دستگیری‌هایی باشد که تحت دستورالعمل‌های جدید ضد هوش مصنوعی چین، که (در میان سایر محدودیت‌ها) استفاده نادرست از سرویس‌های هوش مصنوعی برای توزیع «اطلاعات نادرست» را ممنوع می‌کند.

بر اساس بیانیه پلیس گزارش شده توسط پلیس، مظنون، که تنها با نام خانوادگی خود هونگ شناسایی شده است، متهم به استفاده از ربات چت OpenAI برای تولید مقالات خبری در توصیف یک تصادف مرگبار قطار است که مقامات می گویند “اطلاعات نادرست” بوده است. پست صبحگاهی چین جنوبی. پس از کشف مقاله در 25 آوریل، مقامات دریافتند که چندین نسخه از یک داستان با مکان های تصادف مختلف به طور همزمان در 20 حساب دیگر در پلت فرم وبلاگ نویسی Baijahao که متعلق به Baidu است، پست شده است.

مقامات گانسو این مقالات را به یک شرکت مستقل که توسط هونگ اداره می شود و چندین رسانه از نوع وبلاگ را اداره می کند، ردیابی کردند. در این بیانیه، پلیس محلی مدعی است که هنگ اعتراف کرده است که از ChatGPT برای بازنویسی مقالات خبری ویروسی موجود برای فرار از فیلترهای محتوای تکراری استفاده کرده است، سپس آنها را پس از اینکه دوستانش به او نشان دادند که چگونه از طریق ترافیک اینترنتی پول تولید کند، پست کرده است. مقالات نادرست قبل از حذف بیش از 15000 بار مشاهده شدند. چین یکی از معدود کشورهایی است که دسترسی به ChatGPT را مسدود کرده است، اما ساکنان می توانند با استفاده از اتصال VPN از این محدودیت ها عبور کنند.

هنگ به طور خاص به دلیل “مشاهده کردن و ایجاد مشکل” متهم شد – یک جرم بزرگ که پست صبحگاهی چین جنوبی می گوید می تواند برای مظنونین متهم به ایجاد و / یا انتشار اطلاعات نادرست آنلاین اعمال شود. با این حال، این تنها کاربرد اتهام نیست، که می تواند به طور کلی به عنوان تضعیف نظم عمومی یا ایجاد بی نظمی در مکان های عمومی تعریف شود. عبارت این جرم مبهم است و به دلیل پتانسیل آن برای خفه کردن آزادی بیان و دستگیری فعالان منتقد دولت چین به طور گسترده مورد انتقاد قرار گرفته است. متهمان ممکن است به پنج تا 10 سال زندان محکوم شوند.