Qarshi davlat universiteti international scientific and practical conference on algorithms and current problems of programming

264 
Ключевые слова:
трансферное обучение, модель, обучение, сеть. 
Abstract. 
The article provides information on the method of creating a new type of 
model through data transfer based on previously created effective models.
 
Key words:
transfer learning, model, training, network. 
Hozirgi kunda zamonaviy axborot texnologiyalari inson faoliyatining barcha sohalariga 
jadallik bilan kirib kelmoqda. Yangi texnologiyalar ta’limda, sanoatda va tibbiyotda ancha 
samarali qo‘llanilmoqda. So‘ngi yillarda yaratilgan texnologiyalar haqida ma’lumotga ega 
bo‘lish va ushbu texnologiyalardan o‘z sohasida to‘g‘ri foydalanishni tashkil etish orqali 
foydalanuvchilar mehnat samaradorligini oshirishlari, vaqt tejamkorligi va kutilayotgan 
yutuq va natijalarga tezroq erishishlari mumkin bo‘lmoqda. Zamonaviy texnologiyalarning 
sohalarda keng qo‘llanilishi avvalgiga qaraganda turli, ya’ni matn, tasvir, audio va video 
ko‘rinishlardagi ma’lumotlarning yig‘ilishiga va qayta ishlanishiga yordam bermoqda. Bu 
esa to‘plangan ma’lumotlarga ishlov berish, ularni o‘rganish va qayta ishlash asosida 
bashoratlash, tanib olish, tasniflash masalalarini nafaqat yechish, balki bunday masalalarni 
yechishni kompyuter va robotlarga xam o‘rgatish imkoniyati paydo bo‘lmoqda. Matn, 
tasvir, audio va video ma’lumotlarni tahlil qilishni kompyuter va robotlarga o‘rgatish sun’iy 
intellekt texnologiyalari [1], ya’ni “Mashinaviy o‘qitish” (Machine learning) yo‘nalishining 
usul va vositalari yordamida bajarilmoqda [2]. 
“Transfer learning” (TL) – bu Mashinaviy o‘qitishning yo‘nalishlaridan biri bo‘lib, 
“Transferli o‘qitish” ma’nosida tarjima qilinadi va bir vazifadan olingan bilimlarni boshqa 
maqsadli vazifaga qo‘llash uchun ishlatiladi. Bu texnologiya ma'lumotlar tahlili bilan 
shug‘ullanuvchi mutaxassislar va foydalanuvchilar uchun ko‘plab yechimlarni mavjud 
masalalariga qo‘llashga yordam beradi [3]. Misol uchun, Vikipediya maqolalarining 
tasnifini o‘rganish jarayonida olingan bilimlar tibbiy matnlarni tasniflash masalasini 
yechish uchun ishlatilishi mumkin. Yoki Computer Vision vazifalaridan biri sifatida 
osmondagi qushlarni tanib olish uchun avtomobillarni tasniflash bo‘yicha o‘qitilgan model 
yechimidan foydalanish mumkin. Shuningdek “Transfer learning”ni machinani o‘rgatish 
uchun yetarlicha ko‘p malumotlar bo‘lmagan hollarda, masalan tibbiyotda onkologik 
kasalliklarni bashoratlashda ishlatiladigan insonning biror organidan olingan gistologik 
preparatlar tasvirlari to‘plami kam bo‘lgan vaziyatlarda ishlatish mumkin [4]. 
Shunday ekan “Transfer learning” texnologiyasidan foydalanish uchun quyidagi ikkita 
jihatga e’tibor qaratish kerak bo‘ladi: 

Ochiq, oldindan tayyorlangan modelga ega bo‘lish; 

Belgilarni ajratish yoki to‘liqroq o‘qitish yordamida model vazifasini qaytadan 
tayinlash. 
Oldindan tayyorlangan model - bu ayni vaqtda yechilishi kerak bo‘lgan masalaga 
o‘xshash masalani yechish uchun boshqa kimdir tomonidan yaratilgan va o‘rgatilgan 
modeldir. Oldindan tayyorlangan tarmoqlar (masalan neyron tarmoqlar) odatda modelni 
yangi ma’lumotlar bilan boyitish va belgilarni ajratish uchun qo‘llaniladi. Amalda, katta 
hisoblash resurslariga ega bo‘lgan mutaxassis yoki foydalanuvchilar, ma'lum bir masalani 
yechish uchun katta modellarni tuzadi, va bu modelni masalan ImageNet yoki Wikipedia 
Corpus kabi katta ma'lumotlar to‘plamida (Big Data) o‘qitadi (model parametrlarini 
moslaydi) va sinovdan o‘tkazadi. Misol uchun, VGG19 modeli 143 miliondan ziyod 
parametrga ega va tasvirni tasniflash uchun ishlatiladi. "Ochiq" deganda modelning 
ommaga e'lon qilinganligi va undan erkin foydalanish mumkinligini nazarda tutiladi. 
Internet tarmog‘ida TensorFlow Hub, Keras Applications, PyTorch Hub kabi resurslarda 
tayyor o‘qitilgan modellardan foydalanish mumkin. Lekin xamma vaqt xam tayyor 
modellar maqsad qilingan masalani to‘laligicha yechishga yordam beravermaydi. Shuning 
uchun quyidagi sabablar tufayli ularni qayta sozlashga to‘g‘ri keladi: 

Yana xam yuqori aniqlikka erishish; 

265 

Kerakli formatdagi(ko‘rinishdagi) chiqish signallarini shakllantirish. 
Ko‘pgina modellar ko‘plab turdagi vaziyatlarda o‘qitiladi, masalan, ImageNet modeli 
mingta sinfga ajratilgan bir million tasvirni o‘z ichiga oladi, shuning uchun bu model 
parametrlarini o‘zgartirishga hojat yo‘q. Buning o‘rniga, uni yangi konkret belgilar bilan 
to‘ldirish, va faqat uning oxirgi qatlamlarini yechilishi kerak bo‘lgan masala uchun qayta 
o‘qitish foydaliroqdir.TLda modelga uzatilayotgan yangi namunalardan belgilarni ajratib 
olish uchun oldingi model tomonidan olingan qonuniyatlardan foydalaniladi, keyinchalik 
bu belgilar yangi tasniflagich (klassifikator) orqali o‘tkaziladi. Bu usulda faqatgina maqsad 
qilingan masalani yechish uchun oldindan o‘rgatilgan model ustiga boshidan o‘qitiladigan 
tasniflagich qo‘shiladi. Ya’ni oldin tayyorlangan model parametr(vazn)laridan foydalanib 
yangi model yangi ma’lumotlar asosida o‘qitiladi va buning natijasida yangi model mavjud 
parametrlarni saqlagan holda yangi kiritilgan malumotlardan kerakli yangi parametrlarni 
qo‘shib oladi. Buni 1-rasmda ko‘rsatilgan Konvolyutsion neyron tarmog‘i (CNN-
Convolutional Neural Network) misolida tushintirish mumkin. Dastlab ImageNet tasvirlar 
to‘plamida o‘qitilgan model vaznlaridan foydalanib, gistoligik tasvirlarni tasniflash 
modelini qurish mumkin. Buning uchun bu tarmoqning dastlabki qatlamlari muzlatilib, 
oxirgi qatlamlari yangi tasvirlarda qayta o‘qitiladi. Bundan avval esa bu modelning so‘ngi 
chiqish qatlamidagi sinflar soni quyilgan masalaga moslashtiriladi. 
1-rasm. 1-avval o‘qitilgan model, 2- avval o‘qitilgan modelning o‘zgartirilgan ko‘rinishi. 
Natijada avval katta xajmdagi malumotlarda o‘qitilgan va yaxshi tasniflash 
ko‘rsatgichlariga ega modeldan foydalanib, usha vazifaga yaqin tipdagi masalalarni yechish 
uchun yangi model olinadi. Bu esa quyilgan masalani yechish uchun ko‘p miqdorda 
ma’lumotlarga va katta hisoblash resurslariga ega bo‘lmagan foydalanuvchilarga samarasi 
ancha yuqori bo‘lgan modellarni faqatgina o‘zida mavjud malumotlar asosida yaratish va 
ishlatish imkoniyatini beradi. 

Download 15,84 Mb.