هوش مصنوعی به جایی رسیده است که می تواند متنی بسازد که به نظر انسانی باشد و بیشتر مردم را فریب دهد و تصور کنند که توسط شخص دیگری نوشته شده است.

این برنامه‌های هوش مصنوعی - که مدل‌های رگرسیون نامیده می‌شوند - با موفقیت برای ایجاد و انتشار عمدی همه چیز از اخبار سیاسی جعلی گرفته تا پست‌های وبلاگ نوشته‌شده با هوش مصنوعی که برای افراد عادی معتبر به نظر می‌رسند و تحت خط‌مشی با صدای انسانی منتشر می‌شوند، استفاده می‌شوند. با این حال، اگرچه مدل‌های اتورگرسیو می‌توانند با موفقیت اکثر انسان‌ها را فریب دهند، طبق تحقیقات چو-چنگ لین، کاندیدای دکترا در گروه علوم کامپیوتر دانشکده مهندسی وایتینگ، توانایی‌های آنها همیشه محدود است.

تحقیقات لین نشان داد که مدل‌های خود رگرسیون دارای یک فرآیند تفکر خطی هستند که نمی‌توانند از استدلال استفاده کنند، زیرا برای پیش‌بینی سریع کلمه بعدی با استفاده از کلمات قبلی طراحی شده‌اند. این یک مشکل است زیرا مدل‌ها طوری ساخته نشده‌اند که کارشان را به عقب برگردانند، ویرایش کنند یا تغییر دهند، همان کاری که انسان‌ها هنگام نوشتن چیزی انجام می‌دهند.

تیم لین همچنین نشان داد که مدل‌های اتورگرسیو فعلی یک ضعف دیگر نیز دارند: آنها به رایانه زمان کافی نمی‌دهند تا از قبل درباره آنچه باید بعد از کلمه بعدی بگوید فکر کند، بنابراین هیچ تضمینی وجود ندارد که آنچه می‌گوید مزخرف نباشد. نتیجه این است که هرچه مدل‌های اتورگرسیو متن بیشتری تولید کنند، اشتباهات آن‌ها آشکارتر می‌شود و متن را در معرض خطر پرچم‌گذاری یا توجه برنامه‌های رایانه‌ای دیگر، حتی کمتر پیشرفته‌تر که به منابع کمتری برای تمایز بین نوشته‌های نوشته شده نیاز دارند، قرار می‌دهد.

از آنجایی که برنامه های کامپیوتری می توانند آنچه را که توسط یک مدل خودبازگشتی نوشته شده است و آنچه توسط یک انسان نوشته شده است رمزگشایی کنند، لین معتقد است که نکات مثبت داشتن هوش مصنوعی که می تواند از استدلال استفاده کند بسیار بیشتر از موارد منفی است.

او می‌گوید که فرآیندی به نام «خلاصه‌سازی متن» نمونه‌ای از این که چگونه هوش مصنوعی قادر به استفاده از استدلال است می باشد .

لین گفت :"این کارها باعث می شود که کامپیوتر یک مقاله طولانی یا جدولی حاوی اعداد و متون بخواند و سپس می تواند در چند جمله توضیح دهد که چه اتفاقی در حال رخ دادن است. مدل‌هایی که توانایی استدلال دارند می‌توانند متن‌هایی را تولید کنند که بیشتر در محل هستند و از نظر واقعی نیز دقیق‌تر هستند."

202000902.344