|
Toshkent axborot texnologiyalari universiteti urganch filiali kompyuter injineringi fakulteti
|
| bet | 1/8 | | Sana | 22.05.2024 | | Hajmi | 117,37 Kb. | | #250384 |
Bog'liq Vaisbek Davlatov Mustaqil ishi ishi
MUHAMMAD AL-XORAZMIY NOMIDAGI
TOSHKENT AXBOROT TEXNOLOGIYALARI UNIVERSITETI
URGANCH FILIALI
KOMPYUTER INJINERINGI FAKULTETI
961-20 GURUH TALABASI
Davlatov Vaisbekning
Mashinali o'qitishga kirish
fanidan
Mustaqil ISHI
Mavzu: Stoxastik Gradientli tushish
Bajardi: Kompyuter injineringi fakulteti
961-20 guruh talabasi V.Davlatov
Mundarija
Stochastik gradient millati 3
Shartlar 3
Iterativ usul 4
Muhim dasturlar 6
Navlar va oʻzgartirishlar 6
Overt oʻzgarishlari (ISGD) 6
Impuls 14
AdaGrad 17
RMSProp 21
Parametrlar quyidagicha yangilanadi 23
Tabiiy gradient tushishi va kSGD 29
Boshqa usullarga qaraganda kSGD ning afzalliklari: 29
Xulosa 38
Foydalanilgan adabiyotlar 40
Stochastik gradient millati
Stochastik gradientli pastga tushish (SGD) - mos silliqlik xususiyatlariga ega bo'lgan ob'ektiv funktsiyani optimallashtirish uchun iterativ usul (masalan, differentsiallik yoki subdifferentiability). Uni stochastik yaqinlik deb hisoblash mumkin gradient tushish optimallashtirishlari, chunki u to'liq ma'lumotlar to'plamidan hisoblangan haqiqiy gradientni ma'lumotlarning tasodifiy tanlangan quyi to'pidan hisoblangan hisob-kitob bilan almashtiradi[1]. Bu ishtirok etgan hisoblash resurslarini kamaytiradi va konversiyaning pastroq ko'rsatkichlari evaziga yuqoriroq iteratsiya ko'rsatkichiga erishishga yordam beradi[2]. Ayniqsa katta ma'lumotlarni qayta ishlash bilan bog'liq dasturlarda katta ta'sirga erishiladi.
Stoxematik yaqinlashishning asosiy g'oyasi 1950-yillarning Robbins-Monro algoritmiga borib taqalsa-da, [3] stochastik gradient tushishi mashina o'rganishda muhim optimallashtirish texnikasiga aylangan.[1]
|
| |
