با پیشرفت روزافزون هوش مصنوعی و توانایی آن در تولید متن‌های بسیار شبیه به متن نوشته شده توسط انسان، نگرانی‌هایی در مورد انتشار مقالات علمی جعلی تولید شده توسط این فناوری به وجود آمده است. این نگرانی به ویژه در حوزه‌هایی مانند پزشکی بسیار حائز اهمیت است، جایی که اطلاعات نادرست می‌تواند عواقب جدی برای سلامت عمومی داشته باشد.
برای مقابله با این چالش، محققان به دنبال راهکارهایی برای تشخیص خودکار مقالات جعلی هستند. یکی از این راهکارها، توسعه الگوریتم‌های یادگیری ماشینی است که قادر به تشخیص تفاوت‌های ظریف بین مقالات نوشته شده توسط انسان و هوش مصنوعی باشند.
احمد عبدین حامد، پژوهشگر دانشگاه بینگهمتون، الگوریتمی به نام xFakeSci را توسعه داده است که می‌تواند با دقت ۹۴ درصد مقالات جعلی تولید شده توسط هوش مصنوعی را شناسایی کند. این الگوریتم با تحلیل دو ویژگی اصلی متن، یعنی تعداد و ارتباط بین جفت کلمات (بی‌گرام‌ها)، به تشخیص مقالات جعلی می‌پردازد.
نتایج تحقیقات حامد نشان می‌دهد که مقالات جعلی به طور معمول تعداد بی‌گرام‌های کمتری نسبت به مقالات واقعی دارند. همچنین، ارتباط بین بی‌گرام‌ها در مقالات جعلی به گونه‌ای است که نشان می‌دهد هوش مصنوعی تلاش می‌کند تا با استفاده از کلمات کلیدی، محتوای قانع‌کننده‌ای تولید کند، بدون آنکه به عمق موضوع بپردازد.
این یافته‌ها نشان می‌دهند که سبک نگارش انسان و هوش مصنوعی تفاوت‌های قابل توجهی دارد. انسان‌ها در نگارش مقالات علمی به دنبال ارائه یک تصویر جامع و دقیق از موضوع هستند، در حالی که هوش مصنوعی تلاش می‌کند تا با استفاده از کلمات کلیدی، خواننده را متقاعد کند.
با این حال، حامد معتقد است که با پیشرفت هوش مصنوعی، تشخیص مقالات جعلی به طور فزاینده‌ای دشوار خواهد شد. بنابراین، توسعه مداوم الگوریتم‌های تشخیص و همچنین افزایش آگاهی کاربران در مورد این موضوع، برای مقابله با انتشار اطلاعات نادرست در حوزه‌های علمی ضروری است.
این تحقیق در مجله Scientific Reports منتشر شده است.
به روز ترین اخبار در مجله خبری تدبیرگران
