Információelmélet

Információelmélet Nagy Szilvia 5. Út a csatornán át 2005.

Információelmélet – Út a csatornán át Digitális moduláció A kódolt üzenetet a csatornával kompatibilis alakra kell hozni. Az elektromágneses hullám amplitúdója, fázisa és körfrekvenciája is hordozhatja az információt. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés yi( t ) = A0 sin( w0 t + j0 )

Információelmélet – Út a csatornán át Digitális moduláció A digitális kódoló • az időt egyforma hosszú (TK), nem átfedő intervallumokra bontja • a kódolandó szimbólumok mindegyikének megfeleltet egy-egy TK hosszúságú jelszakaszt • az időintervallumok mindegyikében lead egy az üzenetben soron következő szimbólumnak megfelelő jelet. Így az egész karaktersorozatot elemenként a csatornára küldi. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció A digitális dekódoló • ismeri a szóba jöhető jelalakokat és TK -t • szinkronizálódik a kódolóval • az időintervallumok mindegyikében vesz egy zajjal változtatott jelet • összehasonlítja vett jelszakaszt a lehetséges jelalakokkal és eldönti, hogy a zajos jel azok közül melyik lehetett a csatorna bemeneti oldalán (melyikre hasonlít a legjobban; figyelembe véve a csatorna tulajdonságait) • ennek a jelalaknak megfelelő szimbólum jelenik meg a kimenetén. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: PAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation)ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) az ai lehet például a0 = 0, a1 = 1; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: PAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation) ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) az ai lehet például a0 = −1, a1 = 1; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: PAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation) ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) ai lehet például a0=−2, a1=−1, a2=1, a3 = 2: Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: QAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation) ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) ai lehet: a0=−1−i, a1=−1+i, a2=1−i, a3=−1+i; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés fázistolás

Információelmélet – Út a csatornán át Digitális moduláció: QAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation) ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) 16 komplex amplitúdófaktorral (16-QAM): Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: QAM Impulzus-amplitúdómoduláció (Pulse Amplitude Modulation) ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) = ai A0 sin( ω0 t + φ0 ) 16 komplex amplitúdófaktorral (16-QAM): Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés 10 8 2 4 3 3 6 9 12

Információelmélet – Út a csatornán át Digitális moduláció: PSK Fázistolásos moduláció (Phase Shift Keying)ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) =A0 sin( ω0 t + φ0 + ψi ) a ψi lehet például ψ0 = 0°, ψ1 = 180°;  2PAM Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: PSK Fázistolásos moduláció (Phase Shift Keying)ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) =A0 sin( ω0 t + φ0 + ψi ) a ψi lehet például ψ0 = 0°, ψ1 = 90°, ψ2 = 180°, ψ3 = 270°; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: PSK Fázistolásos moduláció (Phase Shift Keying)ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) =A0 sin( ω0 t + φ0 + ψi ) ψi lehet: ψ0 = 0°, ψ1 = 45°, ψ2 = 90°, ψ3 = 135°, ψ4 = 180°, ψ5 = 225°, ψ6 = 270°, ψ7 = 315°; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció: FSK Frekvenciatolásos moduláció (Frequency Shift Keying)ha a vivőjel: A0 sin( ω0 t + φ0 )az i-edik szimbólumnak megfelelő jelszakasz:yi( t ) =A0 sin( (ω0+ωi) t + φ0) a ωilehet például ω0 = ωc , ω1 = −ωc ; Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Digitális moduláció • robosztusabb, zajra kevésbé érzékeny információátvitel • lehetőség hibajavító kódolás alkalmazására • interferenciával szemben védettebb • egyenletesebb spektrum, zajszerű jel • keskenyebb sáv elég, mint a hagyományos modulációknál • jobb kihasználása a frekvenciasávoknak • lehetséges csatornaosztás Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás Az olyan technikákat, amelyek lehetővé teszik, hogy egy csatornát több felhasználó párhuzamosan használjon nyalábolásnak vagy multiplexelésnek hívják. A megosztott csatornákat többszörös hozzáférésűnek nevezik. • Frekvanciaosztás: egy-egy adó—vevő páros kap egy-egy rész-frekvenciasávot, amin kommunikálhat (Frequency Division, FD). A rendelkezésre álló részcsatornák száma lehet a maximális felhasználószám, ha ütközést nem akarunk. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás Az olyan technikákat, amelyek lehetővé teszik, hogy egy csatornát több felhasználó párhuzamosan használjon nyalábolásnak vagy multiplexelésnek hívják. A megosztott csatornákat többszörös hozzáférésűnek nevezik. • Időosztás: egy-egy adó—vevő páros csak bizonyos időintervallumokban lehet aktív (Time Division, TD). Szintén a rendelkezésre álló részcsatornák száma lehet a maximális felhasználószám. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás Az olyan technikákat, amelyek lehetővé teszik, hogy egy csatornát több felhasználó párhuzamosan használjon nyalábolásnak vagy multiplexelésnek hívják. A megosztott csatornákat többszörös hozzáférésűnek nevezik. • Kódosztás: több felhasználó használhatja párhuzamosan a csatornát, mint ahány részcsatorna van. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás: kódosztás Minden felhasználó páros kap egy hosszabb bit/szimbólumsorozatot. Közvetlen sorozatú (Direct Spread) kódosztásos többszörös hozzáférés: az egyes felhasználók a 0, ill.1 bitjeiket a kódsorozatuk, ill. annak ellentettjével reprezentálják. Az vevő a kapott jelet összeszorozza az N hosszú kódsorozattal, ha N-et kap, akkor 1 volt a küldött bit, ha −1-et, akkor 0. A kódrendszer speciális: minden kiosztott sorozat önmagával szorozva N-et, ellentettjével –N-et, az összes többi kóddal 0-t ad. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás: kódosztás A kódrendszer speciális: minden kiosztott sorozat önmagával szorozva N-et, ellentettjével –N-et, az összes többi kóddal 0-t ad. Példa: N=8 Walsh—Hadamard Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás: kódosztás Minden felhasználó páros kap egy hosszabb bit/szimbólumsorozatot. Frekvenciaugratásos (Frequency Hopping) kódosztásos többszörös hozzáférés: A csatorna N frekvenciasávra van osztva. Az egyes felhasználók a kapott kódjuknak megfelelő sorrendben használják a részcsatornákat:T ideig a sorozat első elemének megfelelő sorszámú frekvenciasávban kommunikálnak, a következő T ideig a második elemnek megfelelőben, … Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Csatornaosztás: kódosztás Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés Lassú FH: Az egy bit átjuttatásához szükséges τb időnél sokkal hosszabb T. (pl GSM) Gyors FH: Az egy bit átjuttatásához szükséges τb időnél sokkal rövidebb T. Általában sok a passzív felhasználó.

Információelmélet – Út a csatornán át Csatornaosztás: kódosztás Időugratásos (Time Hopping) kódosztásos többszörös hozzáférés: A csatorna időintervallumai újabb N idősávra vannak felosztva. Az egyes felhasználók a kapott kódjuknak megfelelő sorrendben használják a részcsatornákat:Az első T időintervallumon belül a sorozat első elemének megfelelő sorszámú T/N hosszú idősávot használja, a következő T ideig a második elemnek megfelelőt, … Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Döntés Tegyük fel, hogy a csatorna bemenetén a C ={C1, C2, …, CN } halmaz elemei fordulnak elő, a kimeneten az X ={X1, X2, …, XM } halmaz elemei. Az i -edik vett elemből, X( i )-ből szeretnénk az i -edik leadott elemre következtetni. Döntésnek nevezzük azon függvényeket, amelyek a lehetséges vett Xj szimbólumokhoz, ill. jelalakokhoz egyértelműen hozzárendelnek egy leadott Ci szimbólumot.Megjegyzés: ha C végtelen halmaz, becslésről beszélünk. Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Döntés i-edik hipotézisnek nevezzük azt, ha az i-edik elem, Ci mellett döntünk. A döntés i-edik döntési tartománya azon Xj-k halmaza, amelyek vételekor mindig az i-edik hipotézist tesszük. A g függvény megadható a döntési tartományaival is. Az i-edik döntési tartomány jele Di , és Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Döntés Szokásos elnevezések • a priori valószínűség: • a posteriori valószínűség: • likelihood: Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Döntés A döntéseket különféle költségfüggvényekkel lehet jellemezni: minél kisebb a költség, annál jobb a döntés. A költségfüggvény várható értéke az rgglobális kockázat. Példa: cg ( Ci , Cj )=1−δi j , Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés

Információelmélet – Út a csatornán át Döntés Példa: cg ( Ci , Cj )=1−δi j , Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés A globális kockázat tehát itt a hibás döntés valószínűsége.

Információelmélet – Út a csatornán át Bayes-döntés A Bayes-döntés költségfüggvénye az a posteriori valószínűség reciproka. A döntési tartományok: A Bayes-döntés függvényét döntési tartományaival szokás megadni: Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés A Bayes-döntés optimális, Bayes-döntés esetén a legkisebb a hibás döntés valószínűsége. Általában azonban a p( C i|x ) feltételes valószínűségek nem ismertek.

Információelmélet – Út a csatornán át Maximum likelihood döntés A maximum likelihood döntés költségfüggvénye a likelihood reciproka. A döntési tartományok: A maximum likelihood döntés függvényét is döntési tartományaival szokás megadni: Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés A maximum likelihood döntés bizonyos ese-tekben (egyenlő a posteriori valószínűségek) megegyezik a Bayes-döntéssel. Általában a maximum likelihood döntés nem optimális, de elég jól közelíti az optimális döntést.

Információelmélet – Út a csatornán át Maximum likelihood döntés A maximum likelihood döntés költségfüggvénye a likelihood reciproka. A döntési tartományok: A maximum likelihood döntés függvényét is döntési tartományaival szokás megadni: Út a csatornán át Digitális moduláció - amplitúdó - fázis - frekvencia Csatornaosztás - frekvencia - idő - kód Döntés A p(x|C i ) feltételes valószínűségek viszont többnyire ismertek.

Információelmélet