توییتر غول میکروبلاگینگ اعلام کرد که برنامه ای برای یافتن سوگیری در الگوریتم های هوش مصنوعی (AI) دارد.

این شرکت افزود به هکرها و برنامه‌نویسانی که بتوانند عیب سوگیری در الگوریتم‌های موجود در این شبکه اجتماعی را کشف و برطرف کنند تا ۳۵۰۰ دلار جایزه خواهد داد.

این تصمیم در پی آن اعلام می‌شود که شماری از محققان دریافتند الگوریتم‌ توئیتر افراد سیاهپوست را در شماری از توییت‌ها نادیده می‌گیرد. بیانیه جدید توئیتر بخشی از تلاش گسترده‌تر در حوزه فناوری‌های جدید است که با هدف اطمینان از اخلاقی بودن کاربردهای هوش مصنوعی صورت می‌گیرد.

توییتر در وبلاگ رسمی خود گفته است این مسابقه با هدف شناسایی «آسیب‌های احتمالی الگوریتم‌های به کار رفته، فراتر از آنچه پیش‌تر خودمان شناسایی کرده‌ایم» انجام می‌شود. استفاده از الگوریتم‌های مبتنی بر هوش مصنوعی برای کارکرد بهتر شبکه‌های اجتماعی روشی رایج به شمار می‌رود، با این حال به علت اینکه یادگیری خودکار در ماشین‌ها همواره با درصدی از سوگیری ناخواسته همراه است، عیب‌هایی بروز می‌کند که الزاما خواسته مدیران این شرکت‌ها نیست.

این مشکل الگوریتم AI زمانی معلوم شد که کاربری در توییتر پی برد اگر یک تصویر بزرگ شامل یک مرد سیاهپوست در بالا و یک مرد سفیدپوست در پایین را در حساب خود منتشر کند، توئیتر در ‌پیش‌نمایش کوچک عکس، به صورت خودکار مرد سفیدپوست را اولویت می‌دهد. حتی زمانی که ترتیب این دو عکس نیز عوض شدند بار دیگر مرد سفید پوست ترجیح داده شد.

این مسئله باعث تقویت این فرضیه شده بود که الگوریتم هوشمند افراد با پوست روشن را اولویت می‌دهد.

توئیتر با انتشار عمومی کد کامپیوتری الگوریتم خود از همه علاقه‌مندان خواسته‌ است دریابند چگونه می‌توان این کدها را بهینه کرد و مانع از بروز عیب‌هایی نظیر کلیشه‌انگاری و یا قضاوت بر اساس گروه قومی و نژادی شد .

217000510.173