• 1.Nisbiy entropiya va xabarlarning ortiqchaligi. 2.Samarali kodlarni qurishning Shennon-Fano va Xaffmen algoritmlari. 1.
    		•

    Guruh talabasining




    Download 80.71 Kb.
    bet1/2
    Sana20.04.2024
    Hajmi80.71 Kb.
    #202359
      1   2
    Bog'liq
    2-amaliy mashg\'ulot axborotni kodlash
    AZIZ RUS TILI, ALFJuly2008 Merce2, Қоратут ота МФЙ , Daptar 1-para, Maktabgacha pedagogika fanidan test savollari, Документ Microsoft Word (2), Foydalanish shartlari, Магистратуранинг Неврология йўналиши бўйича сухбат ўтқазиш учун, Doc1, Ma`ruza xor inv KB va T, EhtimolltopshiriqZ.Fasxudinov

    MUHAMMAD AL-XORAZMIY NOMIDAGI TOSHKENT AXBOROT TEXNOLOGIYALARI UNVERSITETI QARSHI FILIALI “TT” FAKULTETI 3– BOSQICH “TT-11-21” GURUH TALABASINING “AXBOROTNI KODLASH NAZARIYASI ”FANIDAN TAYYORLAGAN


    2-AMALIY MASHG’ULOT

    BAJARDI: JUMANAZAROVA G
    QABUL QILDI: KUCHABOYEV R


    2-topshiriq.
    1.Nisbiy entropiya va xabarlarning ortiqchaligi.
    2.Samarali kodlarni qurishning Shennon-Fano va Xaffmen algoritmlari.
    1.Татбиқ нуқтаи назаридан ахборот миқдорини бахолаш, асосан, тежамли кодларни қуриш, алоқа каналлари ҳусусиятларини ва уларнинг ўтказиш қобилиятини бахолаш, кодларнинг ортиқчалигини ва уларнинг халалларга бардошлигини аниқлаш учун зарур ҳисобланади.
    Масалан, алоқа каналларини тахлиллашда ҳолатлари тўплами маълум элементлар ёрдамида узатилиши мумкин бўлган ахборотнинг максимал миқдорини аниқлашни билиш зарур. Хабар элементига тўғри келувчи ахборотнинг максимал миқдорини фақат ҳолатларнинг тенг эҳтимоллиги ва мустақиллигида олиш мумкин.
    Энтропияси максимал қийматга (Нмакс=log2q) тенг бўлган хабарлар узатиладиган ахборотнинг максимал миқдори жихатидан оптимал хабарлар хисобланади. Реал хабарлар камдан – кам бу шартни қаноатлантиради. Шу сабабли, реал хабарларнинг ҳар бир элементига улар узатиши мумкин бўлганидан кам ахборот юкламаси тўғри келади. Бундай хабарларининг энтропияси максималдан кам бўлади.
    Агар хабар элементи “тўла юкланмаган” бўлса, хабарнинг ўзи ахборот ортиқчалиги хусусиятига эга хисобланади.
    Ахборот назариясида ортиқчалик “ортиқча” ахборот миқдорини кўрсатади. Бу ахборот миқдори элементлар холати тўпламининг структураси орқали аниқланади ва одатда, статистик маълумотлардан олдиндан маълум бўлади.
    Хабарлар манбаининг энтропияси сифат аломатларининг берилган сонига эга бўлган алфавит учун максимал энтропияга тенг бўлмаслиги ушбу манба хабарларининг кўп сонли информацияни элтиши мумкинлигини англатади.
    Бундай манба хабарларининг символига тўғри келувчи абсолют юкланмаганлик


    1.1 Алфавит структурасидаги “ортиқча” информация миқдорини аниқлаш учун “ортиқчалик” тушунчаси киритилган. Информацион ортиқчалик ўлчамсиз катталик бўлиб, алфавит символига тўғри келадиган нисбий ортиқчаликни ифодалайди.

    бу ерда зичлаш коэффициенти(нисбий энтропия).
    1.2 Хабардаги символлар пайдо бўлиш ъэхтимолликлари тенг бўлмаган холдa, ортиқчалик

    Хабар символлари орасидаги статистик боғланиш туғдирувчи ортиқчалик

    Тўлиқ информацион ортиқчалик

    Берилган код табиатидаги ортиқчалик, хабарлардаги ушбу коднинг сифат аломатларининг нотекис тақсимланиши эвазига ҳосил бўлади ва статистик снаш асосида битта рақам орқали берилиши мумкин эмас. Ҳақиқатан, ўнли рақамлар иккили код ёрдамида узатилганда иккиламчи алфавитнинг фақат иккининг бутун сонли даражаси ҳисобланувчи қийматларни узатувчи символлари максимал юкланган бўлади. Қолган ҳолларда символларнинг шундай сони ёрдамида рақамларнинг каттароқ сони узатилиши мумкин. Масалан, ўнта иккили хона ёрдамида 5 рақамини ва 8 рақамини узатиш мумкин, яъни бешта хабарларни узатишга сарфланадиган символлар сони саккизта хабарларни узатишга сарфланадиган символлар сонига тенг.
    Ортиқчалик ҳар доим ҳам номақбул хисобланмайди. Кодларнинг холатларга бардошлигини ошириш учун ортиқчалик зарур ва у сунъий равишда қўшимча символлар кўринишида киритилади.
    Иформацион ортиқчалик – одатда табиий ҳодиса бўлиб, бирламчи алфавитнинг аслида мавжуд. Тузатувчи ортиқчалик суниий ҳодиса бўлиб, иккиламчи алфавитдаги кодда мавжуд. Ортиқчаликни камайтиришнинг энг самарали усули оптимал кодларни қуриш.

    1.3 Хабарлар a,b,c,d ахборот воситасида тузилган. Матнларда алфавит харфларининг пайдо бўлиши эхтимолликлари қуйидагича:
    pa=0.2, hb=0.3, pc=0.4, pd=0.1. Ушбу алфавит асосида тузилган хабарлар ортиқчалиги аниқлансин.
    Ечиш.
    Ортиқчалик тўртта харфли алфавит учун максимал энтропия

    Хабар символига тўғри келадиган ўртача энтропия


    Ортиқчалик

    2.Ўзаро статистик боғланмаган хабарлар алфавити харфлари учун самарали кодларни қуриш усуллари илк бор америка олимлари Шеннон ва Фано томонидан таклиф этилган. Уларнинг усуллари, жиддий фарқланмаганлиги туфайли, мос код Шеннон-Фано коди номини олган.
    2.1Шеннон-Фано алгоритмига биноан самарали кодни қуриш қуйидагича амалга оширилади:

    • хабар алфавитининг харифлари эҳтимолликларининг пасайиши тартибида жойлаштирилади;

    • барча кодланувчи хабар харфлари иккита гуруҳга шундай ажратиладики, иккала гуруҳдаги харфлар эҳтимолликларининг йиғиндилари иложи борича тенг бўлсин. Агар тенгликка эришиб бўлмаса, йиғинди орасидаги тафовут минималь бўлсин;

    • Юқори гуруҳга “0” символи, пастки гуруҳга “1” символи берилади;

    • Ҳосил бўлган қисмгуруҳлар ўз навбатида икки қисмга шундай ажратиладики, янгида ҳосил бўлган қисмгуруҳлардаги харфлар эхтимолликларининг йиғиндилари иложи борпича тенг бўлсин ва ҳ.;

    • Жараён ҳар бир қисмгуруҳда битта харф қолгунча такрорланади.

    Ушбу (ёки шунга ўхшаш) алгоритм бўйича қурилган харфлари нотекис тақсимланган ва код сўзининг минимал ўртача узунлигига эга кодлар самарали нотекис кодлар деб аталади.
    Бундай кодлар қуйидаги шартни қаноатлантирса максимал самарали ҳисобланади.
    Nўрт.=H,
    Иккили кодлар учун

    2. Алфавитдаги харфларнинг пайдо бўлиш эҳтимолликлари:

    А1=0,25;

    А2=0,25;

    А3=0,125;

    А4=0,125;

    А5=0,0625;

    А6=0,0625;

    А7=0,0625;

    А8=0,0625

    бўлган хабарнинг самарали нотекис коди қурилсин.
    Ечиш. Код қурилишининг татижаси қуйидаги жадвалда акс эттирилган.

    Харфлар

    Эхтимол-ликлар

    Харфларни гуруҳларга
    кетма-кет ажратиш

    Код сўзлар


    Download 80.71 Kb.
      1   2




    Download 80.71 Kb.