متا از هوش مصنوعی برای مقابله با محتوا‌های مضر استفاده می‌کند

شماره :
41378
آخرین به روزرسانی :
سه شنبه 1402/06/28 ساعت 16:36
دسته بندی

متا از هوش مصنوعی برای مقابله با محتوا‌های مضر استفاده می‌کند

متا سعی دارد با فناوری هوش مصنوعی روی پست‌هایی که اطلاعات ضد واکسن داشته یا به خشونت اشاره دارند برچسب گذاری کند این فناوری با ۱۰۰ زبان آشنایی دارد.

متا که قبلاً فیسبوک نام داشت، روز چهارشنبه گفت که نوعی فناوری هوش مصنوعی ایجاد کرده است که می‌تواند سریع‌تر انواع محتوای مضر، از جمله پست‌هایی که واکسیناسیون کووید-۱۹ را منع می‌کنند، شناسایی کند.

به طور کلی، فرآیند جمع‌آوری و برچسب‌گذاری حجم عظیمی از داده‌ها معمولاً ماه‌ها طول می‌کشد. با استفاده از فناوری Meta به نام Few-Shot Learner، سیستم هوش مصنوعی جدید تنها به مقدار کمی از داده‌های آموزشی نیاز دارد تا بتواند به جای چند ماه در عرض چند هفته با انواع جدید محتوای مضر مبارزه کند.

به عنوان مثال، این شبکه اجتماعی قوانینی را علیه ارسال اطلاعات نادرست در مورد واکسن کووید ۱۹، از جمله ادعا‌های نادرست مبنی بر اینکه واکسن DNA را تغییر می‌دهد، دارد. اما کاربران گاهی اوقات اظهارات خود را به عنوان سؤالی مطرح می‌کنند مانند "واکسن یا تغییر دهنده DNA؟ " یا حتی از کلمات رمزی برای فرار از تشخیص استفاده می‌کنند.

متا می‌گوید فناوری جدید به شرکت کمک می‌کند تا محتوایی را که ممکن است از دست بدهد، پیدا کند.

مدیر محصول متا در مصاحبه‌ای گفت: "اگر ما سریعتر واکنش نشان دهیم می‌توانیم به هدفمان که در اینجا حفظ امنیت کاربران است برسیم. " ایجاد این سیستم جدید هوش مصنوعی می‌تواند به شبکه اجتماعی کمک کند تا از انتقادات در امان باشند به طور مثال: شبکه‌های اجتماعی باعث افزایش افراد ضد واکسن می‌شود.

مدیر سابق محصولات فیسبوک که در حال حاضر به یک افشاگر تبدیل شده این شرکت را متهم کرده که سود خود را بر ایمنی کاربران ترجیح می‌دهد، این موضوع به ویژه در کشور‌های در حال توسعه قابل مشاهده است.

متا گفت که سیستم جدید را آزمایش کرده و قادر به شناسایی محتوای توهین‌آمیز است که ممکن است سیستم‌های هوش مصنوعی معمولی آن را تشخیص ندهند. پس از راه اندازی سیستم جدید در فیسبوک و سرویس عکس آن در اینستاگرام، درصد بازدید از محتوای مضر کاربران کاهش یافت. در واقع Few-Shot Learner به بیش از ۱۰۰ زبان کار می‌کند .

202000920.309

X