138
ehtimoli (t >t0) uning hozirgi holatiga bog‘liq (t q t
0
) bo‘lib
tizimning bunday
holatga qanday kelganligiga bog‘liq bo‘lmasa.
Bu bobda faqat S
1
, S
2
, ..., S
n
diskret holatli markov jarayonlarini qarab
chiqamiz. Bunday jarayonlarni holatlar grafi orqali ko‘rsatish qulayroq. (rasm.
15.4), bu yerda to‘rtburchaklar S
1
, S
2
, ...S
n
tizim holatlari, strelkalar holatdan
holatga mumkin bo‘lgan o‘tishlar.
Rasm 2.4 – Tasodifiy
jarayon holatlar grafi
Ba’zan holatlar grafida nafaqat mumkin bo‘lgan o‘tishlar, balki oldingi
holatlardagi kutilishlar ham ifodalanadi;
Diskret vaqtli va diskret holatli markov tasodifiy jarayoni markov zanjiri
deyiladi. Bunday jarayon uchun S tizim o‘z holatini o‘zgartiradigan t
1
, t
2
,…
momentlarni jarayonning ketma-ket qadamlari sifatida qarash qulay,
jarayon
bog‘liq bo‘lgan argument sifatida t vaqtni emas, balki qadam raqami olinadi: 1, 2, .
. ., k;, . . . . Tasodifiy jarayon bu holda holatlar ketma-ketligi bilan tavsiflanadi.
agar S(0) — tizim boshlang‘ich holati (birinchi qadamdan oldin); S(1) —
birinchi qadamdan keying tizim holati; ...; S(k)
—
k-qadamdan keying tizim
holati....
S
i
, (iq 1,2,...) hodisa tasodifiy hisoblanadi, shuning
uchun holatlar ketma-
ketligini tasodifiy hodisalar ketma-ketligi sifatida qarash mumin. Boshlang‘ich
S(0) holat oldindan berilgan yoki tasodifiy bo‘lishi mumkin. Yuqoridagi hodisalar
ketma-ketligi markov jarayonlarini tashkil etadi.
n ta mumkin bo‘lgan S
1
, S
2
, ..., S
n
holatli jarayonni qaraymiz. Agar X(t)
orqali t momentdagi S tizim holati raqamini belgilasak, u holda jarayon qiymatlari
1,2,…,n ga teng butun sonli tasodifiy funksiya X(t)>0 orqali ifodalanadi. Bu
funksiya berilgan t
1
,t
2
,… vaqt momentlarida bir butun qiymatdan boshqa butun
139
qiymatga sakrashni amalga oshiradi va chapdan uzluksizdir.
Rasm 2.5 – Tasodifiy
jarayon grafigi
X(t) tasodifiy funksiya bir o‘lchovli taqsimot qonunini qaraymiz. P
i
(k) orqali
k qadamdan keyin [ va (kQ1) qadamgacha] S tizim S
i
(iq1,2,…,n) holatda bo‘lish
ehtimoli. P
i
(k) ehtimolni markov zanjiri holatlari ehtimoli deyiladi. Ixtiyoriy k
uchun
Jarayon boshida holatlar ehtimollarini taqsimlash
Markov jarayonlari ehtimollarini boshlang‘ich taqsimlash deyiladi.
Xususan, agar S tizim boshlang‘ich holati S(0) aniq ma’lum bo‘lsa,
masalan
S(0)qS
i
, u holda boshlang‘ich ehtimol P
i
(0) q 1, qolgan barchasi nolga teng
bo‘ladi.
k qadamda Si holatdan S
j
holatga o‘tish ehtimoli k-1 qadamdan keyin S
i
holatda bo‘lganligi va k – qadamda S
j
holatga o‘tishining shartli ehtimolidir.
Bunday ehtimollar o‘tish ehtimollari deb nomlanadi.
Markov
zanjiri bir jinsli deyiladi, agar o‘tish ehtimollari qadam raqamiga
bog‘liq bo‘lmasdan, faqat qaysi holatdan qaysiga o‘tishiga bog‘liq bo‘lsa:
R
ij
bir jinsli markov zanjiri o‘tish ehtimollari n x n o‘lchovli kvadrat
matritsani tashkil qiladi:
140
Shartni qanoatlantiruvchi matritsa stoxastik deyiladi.
R
ij
ehtimol tizimning S
j
holati keying qadamda ham qolishi ehtimolidir.
Agar bir jinsli markov zanjiri uchun ehtimollarning boshlang‘ich taqsimoti
va o‘tish ehtimollari matritsasi berilgan bo‘lsa, u holda
tizim holatlari ehtimollari
p
i
(k) (i q1,2,...,n) rekurrent formula orqali aniqlanadi.
Bir jinslimas markov zanjiri uchun matritsa va formulada o‘tish ehtimollari k
qadam raqamiga bog‘liq.
Bir jinsli markov zanjiri uchun barcha holatlar o‘rinli va chekli bo‘lsa,
tenglamalar tizimi orqali aniqlanadiga limit
mavjud.
tenglamalar tizimi orqali aniqlanadigan.
Matritsa ixtiyoriy satridagi o‘tish ehtimollari yig‘indisi birga teng.
Formula bo‘yicha hisoblashlarda barcha S
j
holatlarni hisobga olish shart
emas, balki faqat o‘tish ehtimollari noldan farqli bo‘lganlarini olish kerak.
Download