متا از هوش مصنوعی برای مقابله با محتوا‌های مضر استفاده می‌کند

متا سعی دارد با فناوری هوش مصنوعی روی پست‌هایی که اطلاعات ضد واکسن داشته یا به خشونت اشاره دارند برچسب گذاری کند این فناوری با ۱۰۰ زبان آشنایی دارد.

کد خبر: ۲۲۹۷۰۱

۱۸ آذر ۱۴۰۰ / ۲۰:۱۱

به گزارش روزپلاس، متا که قبلاً فیسبوک نام داشت، روز چهارشنبه گفت که نوعی فناوری هوش مصنوعی ایجاد کرده است که می‌تواند سریع‌تر انواع محتوای مضر، از جمله پست‌هایی که واکسیناسیون کووید-۱۹ را منع می‌کنند، شناسایی کند. به طور کلی، فرآیند جمع‌آوری و برچسب‌گذاری حجم عظیمی از داده‌ها معمولاً ماه‌ها طول می‌کشد. با استفاده از فناوری Meta به نام Few-Shot Learner، سیستم هوش مصنوعی جدید تنها به مقدار کمی از داده‌های آموزشی نیاز دارد تا بتواند به جای چند ماه در عرض چند هفته با انواع جدید محتوای مضر مبارزه کند.

به عنوان مثال، این شبکه اجتماعی قوانینی را علیه ارسال اطلاعات نادرست در مورد واکسن کووید ۱۹، از جمله ادعا‌های نادرست مبنی بر اینکه واکسن DNA را تغییر می‌دهد، دارد. اما کاربران گاهی اوقات اظهارات خود را به عنوان سؤالی مطرح می‌کنند مانند "واکسن یا تغییر دهنده DNA؟ " یا حتی از کلمات رمزی برای فرار از تشخیص استفاده می‌کنند. متا می‌گوید فناوری جدید به شرکت کمک می‌کند تا محتوایی را که ممکن است از دست بدهد، پیدا کند.

مدیر محصول متا در مصاحبه‌ای گفت: "اگر ما سریعتر واکنش نشان دهیم می‌توانیم به هدفمان که در اینجا حفظ امنیت کاربران است برسیم. " ایجاد این سیستم جدید هوش مصنوعی می‌تواند به شبکه اجتماعی کمک کند تا از انتقادات در امان باشند به طور مثال: شبکه‌های اجتماعی باعث افزایش افراد ضد واکسن می‌شود. مدیر سابق محصولات فیسبوک که در حال حاضر به یک افشاگر تبدیل شده این شرکت را متهم کرده که سود خود را بر ایمنی کاربران ترجیح می‌دهد، این موضوع به ویژه در کشور‌های در حال توسعه قابل مشاهده است.

متا گفت که سیستم جدید را آزمایش کرده و قادر به شناسایی محتوای توهین‌آمیز است که ممکن است سیستم‌های هوش مصنوعی معمولی آن را تشخیص ندهند. متا گفت: پس از راه اندازی سیستم جدید در فیسبوک و سرویس عکس آن در اینستاگرام، درصد بازدید از محتوای مضر کاربران کاهش یافت. Few-Shot Learner به بیش از ۱۰۰ زبان کار می‌کند.

این شرکت فهرستی از زبان‌های گنجانده نشده را ذکر نکرد، اما گفته شده است که فناوری جدید می‌تواند در مبارزه با محتوای مضر در زبان‌های خارج از انگلیسی، که ممکن است نمونه‌های کمتری برای آموزش سیستم‌های هوش مصنوعی داشته باشد، تحول بزرگ را ایجاد کند. یکی از محققان متا گفت: "شاید به نظر برسد Few-Shot Learner یک فناوری است که به طور خاص برای یکپارچه سازی فضای مجازی مورد استفاده قرار می‌گیرد، اما آموزش سیستم‌های یادگیری ماشینی موضوعی است که در خط مقدم تحقیقات قرار گرفته است."

باشگاه خبرنگاران