|
Xatolarni teskari tarqalishi usuli
|
| bet | 9/19 | | Sana | 20.05.2024 | | Hajmi | 58,88 Kb. | | #245889 |
Bog'liq Документ Microsoft Office WordXatolarni teskari tarqalishi usuli
Xatolarni teskari tarqalishi usuli (Backpropagation)
Xatolarni teskari tarqalishi (Backpropagation) - bu sun'iy neyron tarmoqlarini o'qitishda ishlatiladigan asosiy algoritm. U modelning chiqish va haqiqiy qiymatlar o'rtasidagi xatolarni neyron tarmog'ining har bir qatlamiga qaytarib, gradientlarni hisoblash va og'irliklarni yangilash uchun ishlatiladi. Bu usul gradientli optimizatsiya algoritmlarining asosi bo'lib xizmat qiladi.
Backpropagation asoslari
Backpropagation algoritmi uch bosqichni o'z ichiga oladi:
1.Oldinga tarqalish (Forward Propagation)
2.Xatolikni hisoblash (Loss Calculation)
3.Orqaga tarqalish (Backward Propagation)
Backpropagation jarayonining afzalliklari va cheklovlari
Afzalliklari:
Samarali: Gradientlarni hisoblash uchun samarali usul.
Moslashuvchan: Har xil neyron tarmoq arxitekturalariga mos keladi.
Nazoratli o'qitish: Qo'llab-quvvatlash uchun nazoratli o'qitish jarayonida yaxshi ishlaydi.
Del’ta qoida usuli.
Delta qoida usuli (Delta Rule)
Delta qoida, shuningdek, Widrow-Hoff o'rgatish qoidasi yoki LMS (Least Mean Squares) algoritmi deb ham ataladi, sun'iy neyron tarmoqlarini o'qitishda foydalaniladigan oddiy va samarali usuldir. U asosan bir qatlamli perceptronlarni (yoki oddiy neyron tarmoqlarni) o'qitishda qo'llaniladi va gradient tushish (gradient descent) printsipiga asoslanadi.
Delta qoida neyron tarmog'ining og'irliklarini yangilash uchun xatolik va o'rganish tezligiga asoslangan o'qitish qoidasi. Quyidagi bosqichlarda amalga oshiriladi:
1.Oldinga tarqalish (Forward Propagation):
Kirish ma'lumotlari neyron orqali o'tkaziladi va chiqish qiymati hisoblanadi.
Y= (w*x+b)
Bu yerda:
w - og'irliklar vektori
x - kirish vektori
b - ofset (bias)
σ - aktivatsiya funktsiyasi (odatda, identitet yoki sigmoid funksiyasi)
2.Xatolikni hisoblash (Error Calculation):
Modelning prognozi va haqiqiy qiymat o'rtasidagi xatolik aniqlanadi.
=ytrue-y
3.Og'irliklarni yangilash (Weights Update):
Og'irliklar xatolik va o'rganish tezligiga asoslangan holda yangilanadi.
W=w+n* *x
Delta qoida algoritmi
Delta qoidaning har bir iteratsiyasida quyidagi qadamlar amalga oshiriladi:
Kirish vektorini olish: Kirish ma'lumotlaridan bitta namunani (x) tanlang.
Chiqishni hisoblash: Oldinga tarqalish jarayonida neyronning chiqishini (𝑦) hisoblang.
Xatoni aniqlash: Haqiqiy qiymat (𝑦true) va model prognozi (𝑦) o'rtasidagi farqni toping.
Og'irliklarni yangilash: Og'irliklarni delta qoidaga ko'ra yangilang.
Ofsetni yangilash: Agar kerak bo'lsa, ofsetni yangilang.
|
| |
