OpenAI، شرکت تحقیقاتی هوش مصنوعی پشت ChatGPT، ابزار جدیدی را برای تمایز بین متن تولید شده توسط هوش مصنوعی و متن تولید شده توسط انسان منتشر کرده است.
اگرچه تشخیص متن نوشته شده با هوش مصنوعی با دقت ۱۰۰٪ غیرممکن است، OpenAI معتقد است ابزار جدید آن می تواند به کاهش ادعاهای نادرست مبنی بر نوشتن محتوای تولید شده توسط هوش مصنوعی توسط انسان کمک کند.
در یک اعلان، OpenAI می‌گوید طبقه‌بندی‌کننده نوشتار هوش مصنوعی جدیدش می‌تواند توانایی اجرای کمپین‌های خودکار اطلاعات غلط، استفاده از ابزارهای هوش مصنوعی برای کلاهبرداری دانشگاهی و جعل هویت انسان‌ها را با چت‌بات‌ها محدود کند.
هنگامی که این ابزار روی مجموعه‌ای از متون انگلیسی آزمایش می‌شود، می‌تواند به درستی بگوید که آیا متن توسط هوش مصنوعی نوشته شده است یا خیر. اما همچنین به اشتباه فکر می کرد که متن نوشته شده توسط انسان در ۹٪ مواقع توسط هوش مصنوعی نوشته شده است.
OpenAI می‌گوید که ابزارش هر چه متن طولانی‌تر باشد بهتر کار می‌کند، به همین دلیل است که برای اجرای یک آزمایش به حداقل ۱۰۰۰ کاراکتر نیاز دارد.
محدودیت های دیگر طبقه بندی متن OpenAI جدید شامل موارد زیر است:
- می‌تواند هم متن تولید شده توسط هوش مصنوعی و هم متن نوشته شده توسط انسان را اشتباه برچسب‌گذاری کند.
- متن تولید شده توسط هوش مصنوعی می‌تواند با ویرایش‌های جزئی از طبقه‌بندی کننده فرار کند.
- ممکن است با متن نوشته شده توسط کودکان و روی متنی که به زبان انگلیسی نیست اشکالاتی ایجاد شود، زیرا عمدتاً بر روی محتوای انگلیسی نوشته شده توسط بزرگسالان آموزش داده شده است.
با در نظر گرفتن این موضوع، بیایید نحوه عملکرد آن را بررسی کنیم.
مرتبط: نرم افزار تشخیص متن هوش مصنوعی: آیا می توانند ChatGPT را شناسایی کنند؟
استفاده از طبقه‌بندی‌کننده متن هوش مصنوعی OpenAI
طبقه‌بندی‌کننده متن AI از OpenAI ساده است.
وارد سیستم شوید، متنی را که می‌خواهید آزمایش کنید جای‌گذاری کنید و دکمه ارسال را بزنید.
این ابزار به احتمال اینکه AI متن ارسالی شما را ایجاد کرده باشد، رتبه بندی می کند. نتایج از موارد زیر متغیر است:
- بعید است
- بعید است
- مشخص نیست
- احتمالا
- احتمالا
من آن را با درخواست از ChatGPT برای نوشتن مقاله ای در مورد SEO، آزمایش کردم، سپس متن را به کلمه به کلمه طبقه بندی کننده متن AI ارسال کردم.
این مقاله تولید شده توسط ChatGPT را به عنوان احتمالا ایجاد شده توسط هوش مصنوعی رتبه بندی کرد، که یک شاخص قوی اما نامشخص است.
عکس از صفحه: platform.openai.com/ai -text-classifier، ژانویه ۲۰۲۳این نتیجه محدودیت‌های ابزار را نشان می‌دهد، زیرا نمی‌توان با درجه بالایی از اطمینان گفت که متن ایجاد شده توسط ChatGPT توسط هوش مصنوعی نوشته شده است.
با اعمال ویرایش‌های جزئی پیشنهاد شده توسط Grammarly، رتبه‌بندی را از احتمالا به نامشخص کاهش دادم.
OpenAI در بیان اینکه فرار از طبقه‌بندی‌کننده آسان است، درست است. با این حال، قرار نیست این تنها مدرکی باشد که هوش مصنوعی چیزی نوشته است.
در بخش پرسش‌های متداول در پایین صفحه، OpenAI بیان می‌کند:
«هدف ما از طبقه‌بندی‌کننده نوشتار هوش مصنوعی تقویت گفتگو درباره تمایز بین محتوای نوشته‌شده توسط انسان و محتوای تولید شده توسط هوش مصنوعی است. نتایج ممکن است کمک کننده باشند، اما نباید تنها مدرکی در هنگام تصمیم گیری در مورد اینکه آیا یک سند با هوش مصنوعی تولید شده است یا خیر. این مدل بر روی متن نوشته شده توسط انسان از منابع مختلف آموزش داده شده است، که ممکن است نماینده همه انواع متن های نوشته شده توسط انسان نباشد.”
OpenAI اضافه می کند که این ابزار به طور کامل برای تشخیص محتوای حاوی ترکیبی از هوش مصنوعی و متن نوشته شده توسط انسان آزمایش نشده است.
در نهایت، AI Text Classifier می‌تواند منبع ارزشمندی برای پرچم‌گذاری متن بالقوه تولید شده توسط هوش مصنوعی باشد، اما نباید به عنوان معیاری قطعی برای صدور حکم استفاده شود.
تصویر ویژه: IB Photography/Shutterstock
