مدل جدید یادگیری ماشین OpenAI می تواند کتاب با هراندازه ای را با بازخورد انسان خلاصه کند
پلتفرم OpenAI یک مدل جدید برای مطالعه مشکل همسویی یادگیری ماشین ایجاد کرده است. این مدل می تواند با ایجاد خلاصه ای از هر فصل ، کتابهایی با هر طول را خلاصه کند. مدل یادگیری ماشین جدید OpenAI می تواند کل کتاب را خلاصه کند.
مدل یادگیری ماشین پیشنهادی بخش کوچکی از کتاب را خلاصه می کند و سپس این خلاصه ها را برای به دست آوردن یک نمای کلی در سطح بالاتر خلاصه می کند. این تحقیق به عنوان یک مطالعه تجربی در مورد مقیاس بندی مشکلات مکاتبات انجام شده است که معمولاً برای الگوریتم های هوش مصنوعی مشکل است زیرا به متن ورودی پیچیده یا اعدادی نیاز دارند که هنوز آموزش ندیده اند.
تیم تحقیق مدل زبان GPT-3 را به گونه ای تنظیم کرده است که چکیده ای برای یک کتاب ایجاد می کند ، حتی برخی از ویژگی های آن با آثار دستی نوشته شده است برابر است. هنگام انجام خلاصه کتاب مجموعه داده های BookSum ، واقعا خوب عمل می کند. این مدل توسط OpenAI می تواند با سایر مدلها مانند مدل پرسش و پاسخ ، برای دستیابی به نتایج بهتر استفاده شود.
ارزیابی خروجی مدل یادگیری ماشین دشوار است زیرا انسانها همیشه نمی توانند تشخیص دهند که آیا این مدل درست است یا خیر. بنابراین محققان OpenAI می خواهند نسخه های مقیاس پذیر ایجاد کنند که مقادیر زیادی را هنگام آموزش موضوعات جدید به آنها خلاصه کنند ، اما آنها ابتدا به داده های بیشتری نیاز دارند.
تیم OpenAI بازخورد انسان و طبقه بندی وظایف بازگشتی را برای ایجاد یک مدل یادگیری ماشینی موثر برای خلاصه کتابها ترکیب کرد. آنها دریافتند که مدلهای پیش از آموزش در مقیاس بزرگ در این نوع خلاصه چندان خوب نیستند ، زیرا مستلزم قضاوت در مورد کل کار بدون داشتن زمان کافی برای خواندن هر صفحه است ، که انسان به چندین ساعت نیاز دارد تا بتواند از تمام اطلاعات خود مطلع شود.
به این ترتیب محققان OpenAI مشکل جمع بندی متون طولانی را حل کردند. آنها از روشی به نام "تجزیه وظیفه بازگشتی" استفاده می کنند که وظایف پیچیده و دشوار را به برنامه های ساده ای مانند Brevabet یا Summarizer Demonstrator تقسیم می کند تا آنها را برای افرادی که نیاز به زمان بیشتری برای ارزیابی خلاصه مدل ها دارند در حالی که هنوز می توانند کتابها را بدون محدودیت خلاصه کنند ، آسان کند.
راه حل پیشنهادی به انسانها این امکان را می دهد تا از مدلهایی برای ارزیابی خروجی مدل ماشین کمک بگیرند. با ایجاد خلاصه ای از فصل های مختلف کتاب ، می تواند در خواندن متن توسط افراد صرفه جویی کند .
208000706.283