هوش مصنوعی متون جعلی ربات‌ها را تشخیص خواهد داد

MacTavish · 24/8/19

ابزار جدیدی با کمک فناوری هوش مصنوعی توسط پژوهشگران توسعه داده شد که قادر است متون جعلی ربات‌ها را تشخیص دهد. چنین ابزاری برای تشخیص اخبار جعلی بسیار سودمند خواهد بود.

با توجه به رشد روزافزون تکنولوژی همواره سودجویان با استفاده از ربات‌ها متون جعلی را در فضای مجازی منتشر می‌کنند که همین موضوع نگرانی‌های زیادی را به همراه داشته است. اما اخیرا محققان توانستند با کمک فناوری هوش مصنوعی یک ابزار بسیار سودمند را طراحی کنند که می‌تواند متون جعلی که توسط ربات‌ها نوشته شده است را تشخیص دهد. این ابزار کارآمد توسط پژوهشگران آزمایشگاه هوش مصنوعی واتسون آی.بی.ام موسسه ام.آی.تی (MIT-IBM Watson AI) و دانشگاه هاروارد (Harvard University) طراحی شده است.

هوش مصنوعی در مقابل ربات‌ها

پژوهشگران برای این ابزار نام اتاق آزمایش مدل زبان غول‌پیکر (Giant Language Model Test Room یا GLTR) را در نظر گرفتند که به کمک فناوری هوش مصنوعی قادر است متونی جعلی که توسط ربا‌ت‌ها نوشته شده است را شناسایی کند. در واقع این ابزار چنین توانایی را دارد تا به کاربر بگوید متنی که مورد بررسی قرار داده است توسط انسان نوشته شده است یا ربات‌ها نگارنده آن بوده‌اند. همچنین شرکت پژوهشی هوش مصنوعی باز (Open AI) برای این ابزار یک الگوریتم بسیار پیشرفته‌ای را توسعه داد که در این مطالعه محققان به این الگوریتم متون زیادی را آموختند که بتواند به کمک الگوهای ویژه‌ای کلمات را شناسایی کند.

در تصویر بالا هر رنگ میزان پیش‌بینی کلمات را نشان می‌دهد؛ رنگ سبز نمایانگر قابل پیش‌بینی‌ترین کلماتی هستند که توسط ربات نوشته شده‌اند، رنگ زرد و قرمز کمتر قابل پیش‌بینی و رنگ بنفش نیز کمترین احتمال پیش‌بینی را دارند. در زمان آزمایش وقتی متون نوشته شده توسط الگوریتم شرکت Open AI آزمایش شد، آنها متوجه شدند قسمت زیادی از این خبر از سوی ربات‌ها نوشته شده است. در ادامه آزمایش از دانشجویان درخواست شد تا بدون استفاده از این ابزار متون نوشته شده توسط هوش مصنوعی را شناسایی کنند، اما دانشجویان فقط توانستند 50 درصد از متون جعلی را تشخیص دهند، در حالی که این ابزار پیشرفته حدود 72 درصد از متون جعلی را شناسایی کرد. سباستین گرمان (Sebastian Gehrmann)، دانشجوی مقطع دکترا که در این مطالعه مشارکت داشت عنوان کرد ما قصد داریم سیستم‌هایی را برای همکاری هوش مصنوعی و انسان به وجود آوریم.