Oʻzbekiston respublikasi oliy ta’lim, fan va innovatsiyalar vazirligi mirzo ulugʻbek nomidagi oʻzbekiston milliy universitetining jizzax filiali

Download 0.75 Mb.
bet	1/4
Sana	31.10.2023
Hajmi	0.75 Mb.
	#92000

1 2 3 4

Bog'liq
SI M 1.
MyFile, Mustaqil ish5, 187-сон 06.04.2017. Umumiy o‘rta va o‘rta maxsus ta’limning davlat ta’lim standartlarini tasdiqlash to‘g‘risida, 2-topshiriq.moʻm.maxmasalayeva.yulduz, erkaboyev ulug\'bek, 1000words, itb 4, Mustaqil ish, 777888

MUSTAQIL ISH Mavzu
Xatolarni teskari tarqatish usuli (back-propagation).

OʻZBEKISTON RESPUBLIKASI OLIY TA’LIM, FAN VA INNOVATSIYALAR VAZIRLIGI
MIRZO ULUGʻBEK NOMIDAGI OʻZBEKISTON MILLIY UNIVERSITETINING JIZZAX FILIALI

Axborot tizimlari va texnalogiyalari kafedrasi

Sun'iy intellekt va neyronto'rli texnologiyalar fanidan
MUSTAQIL ISH
Mavzu: Xatolarni teskari tarqalishi usuli.
Bajardi: 21-21 guruh
Razaqov Zufarjon
Tekshirdi: Ergashev Sirojiddin

Jizzax-2023

Reja:
1. Xatolarni teskari tarqatish usuli (back-propagation).
2. Delta qoida usuli.
3. Differensiallashning zanjirli qoidasi.
4. Chiqish qatlami vazinlarni sozlash.
5. Xatoliklarni teskari tarqalishi algoritmi.
6. Xulosa.
7. Foydalanilgan adabiyotlar.

Xatolarni teskari tarqatish usuli (back-propagation).
Xatolarni teskari tarqalish algoritmi (The backpropagation algorithm (Rumelhart and McClelland, 1986)) sun‘iy intellekt tarmoqlarida foydalanilgan. Sun‘iy neyronlar qatlamlarga birlashtirilib signallarini oldinga keyingi qatlamga uzatiladi. Xatolar esa teskari yo‘nalishda tarqaladi. Sun‘iy intellekt tarmog‘i kirish qiymatlarini kirish qatalmidagi neyronlar orqali qabul qiladi.
Chiqish qiymatlari esa chiqish qatlami neyronlari orqali beriladi. Tarmoqda bir yoki bir necha yashirin qatlam bo‘lishi mumkin. Xatolarni teskari tarqalish algoritmi o‘qituvchili o‘rgatishda foydalaniladi. Ya‘ni kirish qiymati uchun tarmoq chiqarishi kerak bo‘lgan chiqish qiymati beriladi. Tarmoqning chiqishidan chiqqan qiymat va chiqishi kerak bo‘lgan qiymat orasidagi farq xisoblanib xatolik topiladi.
Xatoliklarni teskari tarqalish usulining g‘oyasi ushbu xatoni sun‘iy neyron tarmog‘i o‘rganishni tugatgangacha ya‘ni o‘rgangancha kamaytirish xisoblanadi. O‘rgatishni boshlashda vaznlar ixtiyoriy tanlangan qiymatlar bo‘ladi. Ularning qiymatlarini shunday moslashtirish kerakki tarmoqning xatoligi minimal bo‘lsin.
Sun‘iy neyronlardagi faollashtiruvchi funksiyada vaznlar qiymatining kirish qiymatlariga ko‘paytmasi yig‘indisi xisoblanadi.
Ko‘rinib turibdiki faollashtirish faqatgina kirishlar va vaznlarga bog‘liq bo‘ladi. Chiziqli funksiya neyronning o‘rganish qobiliyatini cheklagani uchun odatda quyidagi sigmoid kabi funksiyalardan foydalaniladi:
Sigmoid funksiya qiymati x ning katta musbut qiymatlarida 1 ga yaqin bo‘ladi. x ning qiymati nol bo‘lganda esa funksiya qiymati 0.5 bo‘ladi. Bu neyron chiqish qiymatlarining yuqori qiymatdan past qiymatga bir tekisda o‘tishini ta‘minlaydi. Chiqish qiymatlar faqatgina faollashtiruvchi funksiyaga kirish qiymatlari va ularga mos vaznlarga bog‘liq bo‘ladi.
Sun‘iy neyronni o‘rgatishdan maqsad kirishga biror qiymat berilganda chiqishda kutilgan qiymatni olish uchun bo‘ladi. Xatolik bu kutilgan chiqish qiymati va xaqiqiy chiqqan qiymat orasidagi farq bo‘lib, uni minimallashtirish uchun vaznlar qiymatlar mos ravishda o‘zgartiriladi.
Xatolik kutilgan chiqish qiymati va xaqiqiy chiqqan qiymat orasidagi farqning kvadrati orqali xisoblanadi. Kvadratni xisoblaganda qiymat musbat bo‘ladi. Bundan tashqari farq qiymati katta bo‘lsa kvadrat qiymati yanada kattalashib ketadi va aksincha farq qiymati kichik bo‘lsa kvadrat qiymat yanada kichik bo‘ladi. Tarmoqni xatoligi chiqish qatlami neyronlarning xatoliklarning yig‘indisidan iborat bo‘ladi.
Xatoliklarni teskari tarqalish algoritmi xatolik kirish, chiqish va vaznlar qiymatlari o‘zaro qanday bog‘langanini xisoblaydi.
Teskari tarqalish ma'lumotlarni qazib olish va mashinani o'rganishda bashorat qilishning aniqligini oshirish uchun muhim matematik vositadir. Aslini olganda, teskari tarqalishlotinlarni tezda hisoblash uchun ishlatiladigan algoritmdir. Teskari tarqalishning qanday turlari mavjud? Shunday qilib, asosiy uchta qatlam: Kirish qatlami. Yashirin qatlam. Chiqish qatlami. Teskari tarqalish qoidasida haqiqiy chiqish har bir yashirin qatlam uchun birliklarning chiqishini hisoblash orqali aniqlanadi. Teskari tarqalish- bu tarmoq o'rganishi uchun vaznlarni sozlash imkonini berish uchun xatoni tarmoq orqali orqaga uzatish. Tushuntirish: RNN (Recurrent Neural Network) topologiyasi chiqishdan kirish va yashirin qatlamlarga orqaga bog'lanishni o'z ichiga oladi. Teskari tarqalish neyron tarmog'ini o'qitishning mohiyatidir. Bu oldingi davrda (ya'ni iteratsiya) olingan xato darajasi (ya'ni yo'qotish) asosida neyron tarmog'ining vaznlarini nozik sozlash amaliyotidir. Vaznlarni to'g'ri sozlash xatolik darajasini pasaytirishni ta'minlaydi, uning umumlashtirilishini oshirish orqali modelni ishonchli qiladi.
Perseptron va uning modeli. Perseptron sun'iy neyron tarmoqlarining qurilish bloki bo'lib, u miyamizdagi biologik neyronlarning soddalashtirilgan modelidir. Perseptron - bu eng oddiy neyron tarmoq bo'lib, u faqat bitta neyrondan iborat.
Perseptron algoritmi 1958 yilda Frank Rozenblat tomonidan ixtiro qilingan.
Perseptron - bu sun'iy neyron tarmog'idagi biologik neyronning oddiy modeli. Perceptron, shuningdek, ikkilik tasniflagichlarni nazorat ostida o'rganish uchun dastlabki algoritmning nomi.
Oldinga bosqich: faollashtirish funktsiyalari oldingi bosqichdagi kirish qatlamidan boshlanadi va chiqish qatlamida tugaydi.
Orqa bosqich: Orqa bosqichda model talabiga ko'ra vazn va egilish qiymatlari o'zgartiriladi.
Neyron tarmoqlar kontekstida perseptron faollashtirish funktsiyasi sifatida Heaviside qadam funktsiyasidan foydalanadigan sun'iy neyrondir. Perseptron algoritmi uni ko'p qatlamli perseptrondan farqlash uchun bir qavatli perseptron deb ham ataladi, bu esa murakkabroq neyron tarmoq uchun noto'g'ri nomdir.
Har bir sun'iy neyron tarmog'ida uchta qatlam mavjud - kirish qatlami, yashirin qatlam va chiqish qatlami.
Perseptron ba'zi bir raqamli ma'lumotlar bilan birga og'irliklar va noto'g'rilik deb nomlanuvchi narsalarni qabul qilish orqali ishlaydi. Keyin u ushbu kirishlarni tegishli og'irliklar bilan ko'paytiradi (bu og'irlikdagi yig'indi deb nomlanadi). Bu mahsulotlar keyin tarafkashlik bilan birga qo'shiladi.
Perceptron tarmoqlari bir qancha cheklovlarga ega. Birinchidan, perseptronning chiqish qiymatlari qattiq chegara uzatish funksiyasi tufayli ikkita qiymatdan faqat bittasini (0 yoki 1) qabul qilishi mumkin. Ikkinchidan, perseptronlar faqat chiziqli ajratiladigan vektorlar to'plamini tasniflashi mumkin.
Perseptronni o'rganish maqsadi sinfni aniqlash bilan birga vaznni sozlashdir. Perceptron bir qatlamli neyron tarmoq bo'lib, ko'p qatlamli perseptron Neyron tarmoqlari deb ataladi. Perseptron chiziqli klassifikator (ikkilik). Bundan tashqari, u nazorat ostida o'qitishda qo'llaniladi. Bu kiritilgan ma'lumotlarni tasniflashga yordam beradi.
Perseptronlarning turlari. Perceptron algoritmi ikki sinfli (ikkilik) tasniflash mashinasini o'rganish algoritmidir. Bu neyron tarmoq modelining bir turi, ehtimol neyron tarmoq modelining eng oddiy turi. U bir qator ma'lumotlarni kirish sifatida qabul qiladigan va sinf yorlig'ini bashorat qiladigan bitta tugun yoki neyrondan iborat.Har bir sun'iy neyron tarmog'ida uchta qatlam mavjud - kirish qatlami, yashirin qatlam va chiqish qatlami.
Neyron tarmoqlarning asosiy turlari
Perseptron.
Ko'p qatlamli Perceptron.
Konvolyutsion neyron tarmoqlari.
Takroriy neyron tarmoqlari.
Uzoq qisqa muddatli xotira tarmoqlari.
Generativ raqib tarmoqlari.
Perseptron - bu sun'iy neyron tarmog'idagi biologik neyronning oddiy modeli. Perceptron, shuningdek, ikkilik tasniflagichlarni nazorat ostida o'rganish uchun dastlabki algoritmning nomi.
Ko'p qatlamli perseptron (MLP) bir yoki bir nechta yashirin qatlamlarni o'z ichiga oladi (bitta kirish va bitta chiqish qatlamidan tashqari). Bir qavatli perseptron faqat chiziqli funktsiyalarni o'rganishi mumkin bo'lsa, ko'p qatlamli perseptron chiziqli bo'lmagan funktsiyalarni ham o'rganishi mumkin. Perceptron odatda ma'lumotlarni ikki qismga bo'lish uchun ishlatiladi. Shuning uchun u chiziqli ikkilik tasniflagich sifatida ham tanilgan. Agar siz mashinani o'rganishni yaxshiroq tushunmoqchi bo'lsangiz, oflayn rejimda ham. Qatlamlarga ko'ra Perceptron modellari ikki turga bo'linadi. Bular quyidagilar: Bir qavatli perseptron modeli. Ko'p qatlamli Perceptron modeli.
Orqaga tarqalish algoritmi nima? Orqaga tarqalish yoki xatolarning orqaga tarqalishi - chiqish tugunlaridan kirish tugunlariga qayta ishlaydigan xatolarni tekshirish uchun mo'ljallangan algoritm. Bu ma'lumotlarni qidirish va mashinani o'rganishda bashoratlarning aniqligini oshirish uchun muhim matematik vositadir. Aslini olganda, orqaga tarqalish - bu neyron tarmoqdagi lotinlarni tezda hisoblash uchun ishlatiladigan algoritm bo'lib, ular sozlash va sozlashlar tufayli chiqishdagi o'zgarishlardir.

Orqa tarqalish tarmoqlarining ikkita asosiy turi mavjud:

Statik orqaga tarqalish. Statik orqaga tarqalish - bu statik chiqishlar uchun statik kirishlarni xaritalash uchun ishlab chiqilgan tarmoq. Statik tarmoqlar optik belgilarni aniqlash (OCR) kabi statik tasniflash muammolarini hal qilishi mumkin.

Takroriy orqaga tarqalish. Qayta tarqalish tarmog'i qattiq nuqtali o'rganish uchun ishlatiladi. Bu shuni anglatadiki, neyron tarmog'ini o'qitish paytida og'irliklar soni qiymatlar bo'lib, ular neyronlar deb ham ataladigan tugunlarning chiqish qiymatiga qanchalik ta'sir qilishini aniqlaydi. Ular tarmoq belgilangan qiymatga erishish orqali barqarorlikka erisha oladigan tarzda sozlangan.
Bu erda asosiy farq shundaki, statik orqaga tarqalish tezkor xaritalashni taklif qiladi, takroriy orqaga tarqalish esa yo'q.
1-rasm. Mashinani o'rganish, chuqur o'rganish va neyron tarmoqlar qanday taqqoslanayotganini bilib oling.

Download 0.75 Mb.

1 2 3 4

Download 0.75 Mb.