Dastlabki hosilalar
Endi biz qo'shimcha belgilarni kiritamiz. Faqat ogohlantirish so'zi. Matematika yaqinlashmoqda! Xavotir olmang. Men lotinlarni yaxshiroq tushunish uchun yozuvni iloji boricha toza saqlashga harakat qilaman. Birinchidan, biz xn ma'lumotlar nuqtasining Gauss k dan kelishi ehtimoli qanday ekanligini bilmoqchimiz deylik. Buni quyidagicha ifodalashimiz mumkin:
Qaysi "x ma'lumot nuqtasi berilgan bo'lsa, uning Gauss k dan kelib chiqish ehtimoli qanday?" Bunday holda, z yashirin o'zgaruvchi bo'lib, faqat ikkita mumkin bo'lgan qiymatni oladi. X Gauss k dan kelganida bir, aksincha nolga teng. Aslida, biz bu z o'zgaruvchisini haqiqatda ko'ra olmaymiz, lekin uning paydo bo'lish ehtimolini bilish, keyinroq muhokama qilganimizdek, Gauss aralashmasi parametrlarini aniqlashda foydali bo'ladi.
Xuddi shunday, biz quyidagilarni aytishimiz mumkin:
Bu shuni anglatadiki, Gauss k dan kelgan nuqtani kuzatishning umumiy ehtimoli aslida ushbu Gauss uchun aralashtirish koeffitsientiga teng. Bu mantiqiy, chunki Gauss qanchalik katta bo'lsa, biz bu ehtimollik shunchalik yuqori bo'lishini kutamiz. Endi z barcha mumkin bo'lgan yashirin o'zgaruvchilar to'plami bo'lsin z, demak:
Va hokazo…
Pythonda amalga oshirish
Yon eslatma sifatida, to'liq dastur Jupyter noutbuki sifatida https://bit.ly/2MpiZp4 manzilida mavjud.
Men ushbu mashq uchun Iris ma'lumotlar to'plamidan foydalandim, asosan oddiylik va tez mashq qilish uchun. Oldingi hosilalarimizdan biz EM algoritmi Gauss aralashmasi modeli parametrlarini topish uchun iterativ yondashuvga amal qilishini aytdik. Bizning birinchi qadamimiz parametrlarimizni ishga tushirish edi. Bunday holda, biz ushbu maqsadga muvofiq K-vositalarning qiymatlaridan foydalanishimiz mumkin. Buning uchun Python kodi quyidagicha ko'rinadi:
Va tegishli Python kodi quyidagicha ko'rinadi:
E'tibor bering, yig'indini hisoblash uchun biz faqat numeratordagi atamalardan foydalanamiz va shunga ko'ra ajratamiz.
Buning uchun mos keladigan Python kodi quyidagicha bo'ladi:
Nihoyat, biz tomonidan berilgan log-ehtimollik hisobi ham mavjud
Buning uchun Python kodi bo'ladi
Biz kutish bosqichida ikkinchi yig'indining qiymatini oldindan hisoblab chiqdik, shuning uchun biz bu erda foydalanamiz. Bundan tashqari, ehtimollik qanday rivojlanayotganini ko'rish uchun grafiklarni yaratish har doim foydalidir.
Algoritm taxminan 20 davrdan keyin birlashishini aniq ko'rishimiz mumkin. EM ma'lum miqdordagi protsedura takrorlangandan so'ng mahalliy maksimalga erishishni kafolatlaydi.
Va nihoyat, amalga oshirishning bir qismi sifatida biz har bir iteratsiyadan keyin klaster sozlamalari qanday yaxshilanishini ko'rsatadigan animatsiyani ham yaratamiz.
GMM K-vositalari bilan hisoblangan markazlarni qanday yaxshilashiga e'tibor bering. Biz birlashganda, har bir klaster uchun parametrlarning qiymatlari boshqa o'zgarmaydi.
Yakuniy izohlar
Gauss aralashmasi modellari juda kuchli vosita bo'lib, ma'lumotlar klasterini o'z ichiga olgan turli vazifalarda keng qo'llaniladi. Umid qilamanki, siz ushbu postni foydali deb topdingiz! Savollar yoki sharhlar bilan murojaat qiling. Men sizni derivatsiyalarni o'zingiz sinab ko'rishingizni va kodni batafsilroq ko'rib chiqishingizni tavsiya qilaman. Tez orada shunga o'xshash ko'proq materiallar yaratishni orziqib kutaman.
|
