International Journal of Education, Social Science & Humanities.
Finland Academic Research Science Publishers
ISSN: 2945-4492 (online) | (SJIF) = 7.502 Impact factor
Volume-11| Issue-9| 2023
Published:
|22-09-2023|
64
Publishing centre of Finland
2-rasm.
Chiziqli faollashtirish funksiyasi
Matematik jihatdan uni quyidagicha ifodalash mumkin:
Biroq, chiziqli faollashtirish funksiyasi ikkita asosiy muammoga ega:
Orqaga tarqalishdan
foydalanish mumkin emas, chunki funksiyaning hosilasi
doimiy va x kirishiga hech qanday aloqasi yo'q.
Agar chiziqli faollashtirish
funksiyasidan foydalanilsa, neyron tarmoqning
barcha qatlamlari bittaga qulab tushadi. Neyron tarmog'idagi qatlamlar sonidan qat'iy
nazar, oxirgi qatlam baribir birinchi qatlamning chiziqli funksiyasi bo'lib
qoladi. Shunday qilib, chiziqli faollashtirish funksiyasi
neyron tarmoqni faqat bitta
qatlamga aylantiradi
[2]
.
Chiziqli bo'lmagan faollashtirish funksiyalari
Yuqorida ko'rsatilgan chiziqli faollashtirish funksiyasi
shunchaki chiziqli
regressiya modelidir. Quvvati cheklanganligi sababli, bu
model tarmoqning kirish va
chiqishlari o'rtasida murakkab xaritalarni yaratishga imkon bermaydi. Chiziqli
bo'lmagan faollashtirish funksiyalari chiziqli faollashtirish funksiyalarining quyidagi
cheklovlarini hal qiladi:
Ular orqaga tarqalishga ruxsat beradi, chunki endi hosila funksiyasi kirish bilan
bog'liq bo'ladi
va orqaga qaytib, kirish neyronlaridagi qaysi og'irliklar yaxshiroq
bashorat qilishini tushunish mumkin.
