Teoria informației

Concepte de bază ale teoriei introduse în patruzeci de ani ai secolului XX, Shannon. teoria informației - știința procesului de transfer, stocarea și regăsirea datelor în sistemele naturale, tehnice și sociale. În multe aplicații de domenii științifice, cum ar fi știința calculatoarelor, lingvistică, criptografie, teoria de control, de procesare a imaginii, genetica, psihologie, economie, organizarea de metode de producție sunt utilizate această știință.

În condiții moderne , cu teoria informației foarte strâns legate de o teorie de codificare, discută despre cele mai frecvente probleme de conformitate între un semnal și un mesaj, și teoria de procesare a semnalului, în care cuantizarea a studiat și a semnalelor de recuperare și spectrale și de analiza de corelare a acestora.

teoria informației consideră conceptul de bază de „informații“ pentru cea mai mare parte cantitativ, fără a lua în considerare valoarea sa, și, uneori, lipsită de sens. În această abordare, o pagină de text va conține aproximativ aceeași cantitate de date determinate de o serie de semne și simboluri, și nu depinde de faptul că, strict vorbind, nu este tipărită, chiar dacă este absolut set fără sens și haotică a unor simboluri.

Această abordare este justificată, dar numai pentru simularea sistemelor de comunicații, deoarece acestea trebuie să transmită informații precise cu privire la canalele de comunicare, care poate fi orice set de caractere și simboluri. Apoi, atunci când este necesar să se ia în considerare valoarea și semnificația datelor, abordarea cantitativă este inacceptabilă. Aceste circumstanțe impun restricții substanțiale în domeniul posibilei aplicări a acestei teorii.

Bazele teoriei informației implică luarea în considerare a diferitelor aspecte, inclusiv direct legate de transmiterea și recepția datelor. Schema principală de comunicații, care este considerat în învățătura este după cum urmează. Teoria informației și codificare a mărfurilor El consideră că acestea sunt sursa de mesaje, care este un cuvânt sau un set de cuvinte scrise anumite litere ale alfabetului. Sursa mesajului poate fi text la orice persoană fizică sau limbaj artificial, limbajul uman, baze de date și unele modele matematice, creând o secvență de litere. Transmițătorul convertește mesajul într-un semnal care corespunde naturii fizice a canalului de comunicare - mediu de transmitere a semnalului. În timpul trecerii unei astfel este supusă la interferențe, care introduc distorsiuni în valoarea parametrilor de informare. Receptorul recuperează mesajul original din semnalul distorsionat primit. Mesaj într-o formă redusă vine la destinație - o anumită persoană sau un dispozitiv tehnic.

Sursa mesajului este de natură statistică, adică apariția fiecărui mesaj este determinată de o anumită probabilitate. teoria informației Shannon consideră că, dacă probabilitatea mesajului este egal cu unitatea, adică, aspectul său în mod semnificativ și incertitudinile nu cred că nu are nici o informație.

Una dintre cele mai importante probleme ale teoriei informației consideră coordonarea canalului de comunicare și informare proprietățile sursei mesajului. Lățimea de bandă este determinată de către unitatea de 1 bit pe secundă.

O problemă cu sistemele de comunicare sunt interferențe la calea semnalului dorit. Shannon, din păcate, nu ne oferă metode specifice pentru a face cu acestea. Cea mai simplă metodă de îndepărtare , care se repetă de multe ori mesaje nu sunt foarte eficiente , deoarece este nevoie de mai multe costuri de timp pentru transmiterea informațiilor. Mult mai mare eficiență permite utilizarea codurilor care vă permit să detecteze și să corecteze erorile de transmitere a datelor.