13
Sintaksis axborot o‘lchov miqdori – bu ob’ektning ma’nosi bo‘lmagan axborotlari deb
hisoblanadi. Xabarlarning axborot hajmi (Vd ) belgilar miqdori bilan aniqlanadi. Har xil sanoq
sistemalarida elementar o‘lchov birligi har xil bo‘ladi. Masalan, ikkilik
sanoq sistemasida bu
BIT, o‘nlik sanoq sistemasida DIT (masalan, 10001101 ushbu xabarning hajmi Vd=8 bit,
110859 ushbu xabarning hajmi Vd=6 dit.).
Axborot miqdorini sintaksis yondashuvda faqatgina entropiya (tizimni noaniq holati)
tushunchasi orqali aniqlasa bo‘ladi, chunki biror-bir tizim haqida biz qabul qilgan axborot
ushbu tizim haqidagi bilimimizni o‘zgartiradi. Ushbu konsepsiya
quyidagicha beriladi, faraz
qilamiz, α tizimi haqidagi boshlang‘ich ma’lumotga egamiz. Tizimni noaniqlik holatini H (α )
funksiyasi orqali aniqlaymiz. Qo‘shimcha β ma’lumot qabul qilinganda biz qo‘shimcha
axborotga I
β
(α) ega bo‘lamiz. Natijada tizimni noaniqlik holati H
β
(α ) ga teng bo‘ladi. Demak
tizim
haqidagi axborot miqdori I
β
(α) quyidagicha aniqlanadi I
β
(α)=H
β
(β) – H
β
(α ), ya’ni
noanikliqni o‘zgarishi bilan axborot miqdori aniqlanadi.
Agar tizim N holatga ega bo‘lsa Shennon formulasi bo‘yicha
uning entropiyasi teng
bo‘ladi:
N
H (α ) = - ∑ Pi log Pi
i=1
Bu yerda Pi - tizimning i-holatda bo‘lishining ehtimoli.
Semantik nuqtai nazardan axborotni mazmunan o‘lchovini bildiradi va ushbu masalani
tezaurus tushunchasi orqali aniqlashishadi.
