Santos, Gulchehre, & Xiang 2016; Lopyrev, 2015). Har uch jurnalda
enkoder-dekoder ishlatilgan
Facebook AI Research guruhi foydalangan. Bundan tashqari, IBM Watson guruhi foydalangan
umumlashtirish. Kodlovchi-dekoderda LSTM qatlamlaridan foydalanish ham qo'shimcha ma'lumot olish imkonini beradi
an'anaviy RNNlarga qaraganda asl maqola mazmunidan. Oldingi ishlardan ilhomlangan ushbu loyihada,
Kodlovchi va dekoderda muddatli xotira (LSTM). Ular xuddi shu xabarlar to'plamidan
foydalanganlar
bizning mavhum xulosalash modelimiz (Rush, Chopra, & Weston, 2015; Nallapati, Chjou,
Facebook AI Research guruhi Rush va boshqalar tomonidan yaratilgan modeldan foydalanilgan
sarlavhalar.
ma'lum ma'lumotlar to'plamlarida Rush va boshqalarning modellarini ortda qoldira oldi.
bashorat qilish uchun yangilik maqolalari ma'lumotlar to'plamida mavhum umumlashtirishni amalga oshirish uchun modellar
sarlavha yaratish uchun maqolalar mazmunining dastlabki ikki-besh jumlasi (2016). Nallapati va boshqalar.
sobit uzunlikdagi vektorga kirish hujjati. Keyin dekoder qismi belgilangan uzunlikdagi vektorni oladi
(batafsil ma'lumot uchun A ilovasiga qarang: kengaytirilgan texnik shartlar). Ularning
modelida faqat birinchisi
(2015). Loprev shuningdek, yangiliklar maqolalarining ma'lumotlar to'plamidan foydalangan va model sarlavhalarni bashorat qiladi
13
kodlovchi uchun konvolyutsion tarmoq modeli va dekoder uchun oldinga neyron tarmoq modeli
Konstantin Lopyrevning maqolasi to'rtta LSTM qatlamidan foydalanadigan model haqida gapiradi va
e'tibor
mexanizmi, kodlovchi-dekoder modelining ish faoliyatini yaxshilashga yordam beradigan mexanizm
IBM Watson jamoasi Nallapati va boshqalar tomonidan yaratilgan model Long Short-dan foydalangan.
Barcha uchta ish koder-dekoder modeli matn uchun potentsial yechim ekanligini ko'rsatadi
Biz ilhom sifatida matnni umumlashtirish bo'yicha so'nggi uchta tadqiqotga e'tibor qaratdik
va uni kutilgan natijaga dekodlaydi (Bahdanau, Cho, & Bengio, 2014).
Har bir maqola mazmunining jumlasi sarlavha yaratish uchun ishlatiladi (2015).
har bir moddaning birinchi xatboshidagi maqolalar.
Machine Translated by Google
yangiliklar maqolalari kabi toza. Bizning ma'lumotlar to'plamimizda juda ko'p texnik atamalar,
kodlash tillari, shuningdek, mavjud
Xulosa asl nusxadan ko'ra aniqroq bo'ladi.
o'qilmaydigan belgilar. Shuning uchun biz ekstraktiv xulosani birlashtirishga harakat qildik va
14
biz LSTM bilan kodlovchi-dekoder modelidan ham foydalandik, ammo biroz boshqacha tuzilishda. Biz
yaxshiroq ishlashni ta'minlaydimi yoki yo'qligini tekshirish uchun mavhum xulosa. Biz
ekstraktiv deb umid qildik
kodlovchida uchta LSTM qatlami va dekoderda yana uchta LSTM qatlami ishlatilgan (tafsilotlar
model 3.0-bo'limda tasvirlangan). Biroq, ushbu loyihada foydalanilgan ma'lumotlar to'plami bunday emas edi
Xulosa maqolalardan asosiy jumlalarni ajratib olishga yordam berishi mumkin, ulardan kirish sifatida foydalanish mumkin
bizning mavhum chuqur o'rganish modellarimiz. Shunday qilib, mavhum
uchun kirish hujjatlari
Machine Translated by Google