470 likes | 664 Views
Introdução à Telemática Teoria da Informação. M.Sc. Engenharia de Sistemas Prof. Sérgio Campello. Informação. O que é informação?. Informação. Não há definição formal. Capacidade de alterar: o ambiente, as propriedades, as reações, etc. Entropia.
E N D
Introdução à TelemáticaTeoria da Informação M.Sc. Engenharia de Sistemas Prof. Sérgio Campello
Informação • O que é informação?
Informação • Não há definição formal. • Capacidade de alterar: o ambiente, as propriedades, as reações, etc.
Entropia • Da química, mede o grau de desorganização do meio. • Função para medir a quantidade de informação.
Entropia , , • Fonte de informação X. Valores {x1, x2,...,xN} e probabilidades {p1, p2, ... ,pN}. • Se a fonte é binária temos: • e
Gráfico da entropia para uma fonte binária. • A entropia é máxima quando p = 1/2
Entropia • A entropia é máxima quando p = 50%. • O que isso significa? • Fornecer uma informação com probabilidade de ocorrência de 50% causa máxima entropia. O que isso quer dizer?
Entropia • Se fornecemos uma informação que tem probabilidade zero de ocorrer não causamos nenhuma alteração no estado pois já se sabia que aquilo não ocorreria. • Se fornecemos uma informação que tem probabilidade UM de ocorrer não causamos nenhuma alteração no estado pois já se sabia que aquilo IRIA ocorrer.
Exemplo • Sugestão com p = 1/2 , extrai mais informação • P{Xa = 1} = 0,19815 -> H(Xa) = 0,7182 bits • P{Xb = 1} = 0,52132 -> H(Xb) = 0,9987 bits
Transporte da Informação • Modulação – adequação ao meio para o correto transporte da equação. Informação “onda” Modulada
Transporte da Informação • AM – Modulação em amplitude • FM – Modulação em frequência
Transporte da Informação • PM – Modulação em Fase
Modulação • A modulação depende do meio físico de transmissão e dos objetivos da transmissão. • Fibras ópticas, cabos metálicos, ar, água, etc. • Digital x Analógica
Digital x Analógica • O que quer dizer analógica? • O que quer dizer digital? Quando um sinal é considerado digital? • Qual é mais preciso? • Qual é mais imune a ruídos? • Qual dá a melhor qualidade final?
Transmissão da informação digital • Agora que sabemos que o formato digital é melhor para transmitir informações à distância, como proceder para transmitir a informação?
Codificação • Vamos criar um código para transmitir a palavra: CAFÉ • Regras • Símbolos com até 4 dígitos • Símbolos com até 4 dígitos binários • Os códigos são unicamente decifráveis? • Os códigos são ótimos? • Se conhecermos as probabilidades podemos melhorar o código?
Código de huffman • Ordenam-se os símbolos por ordem decrescente de probabilidade • Agrupam-se os dois símbolos com menor probabilidade em um “super símbolo” com probabilidade igual a soma das probabilidades • Se o alfabeto restante possuir dois ou mais símbolos volta-se ao primeiro passo. • Percorre-se a árvore ordenada de símbolos atribuindo aleatoriamente 0 ou 1 a cada folha da árvore
Código de huffman - Exemplo • {a,b,c,d} – {0.1, 0.25, 0.2, 0.45} • {d, b, c, a} - {0.45, 0.25, 0.2, 0.1} – ord. • {d, b, (a,c)} - {0.45, 0.25, 0.3} • {d, (a,c), b} - {0.45, 0.3, 0.25} – ord. • {d,((a,c),b)} - {0.45, 0.55} • Reordenando e reagrupando: • {((a,c),b,d)} – {1}
Código de huffman - Exemplo • Os super símbolos vão sendo agrupados em árvore.
Código de huffman - Exemplo • Atribui-se 1 ou 0 aleatoriamente a cada ramo ou folha.
Código de huffman - Exemplo • Código final • D – 1 • B – 00 • C – 011 • A - 010
Código de huffman - Exemplo • Qual a vantagem deste código? • Ele é único? • É decodificável Unicamente?
Obtenção das probabilidades de uma língua • Como obter a probabilidade de uma língua? • O cálculo sempre retornará os mesmos resultados?
Proteção da informação • Como proteger uma informação? • Como é a proteção atual da informação? • Como ela funciona? • É indecifrável? • Por que é segura?
Aplicação de Teoria da InformaçãoAmbiente de uso para comunicação e entretenimento.
Funcionalidades • T9 • Aplicativo Facilitador de Escrita (AFE) • Jogo da Memória • RSS
Aplicativo T9 • 12 Botões grandes • Permite mudar a base Do dicionário • Funciona com e sem previsão • 3 modos de funcionamento: • Manual (SRO) • Automático • Joystick • Possui teclado numérico
Implementação T9 • Para cada botão é atribuído um número. • Ao iniciar o ambiente é carregada a lista palavras em 2,1 segundos. • Para cada palavra é atribuída uma chave. • Um dicionário guarda o Mapeamento (Chave -> Palavra)
Funcionamento • Com previsão, ao clicar em um botão é feita uma busca pela chave e retornado as palavras prováveis. • Sem previsão (modo ditar), o usuário efetua vários cliques.
Desambiguação • Feita na tela de opções: a seguir exemplo da palavra “casa” que possui a mesma chave de “abra” que é 2272.
Análise do T9 • Resultados satisfatórios • Fornecida interface para resolução de problemas de ambiguidade • Dificuldades de utilização por pessoas com redução do campo visual.
Aplicativo de escrita com previsão de texto baseado em árvore • Denominado Aplicativo Facilitador de Escrita - AFE. • Utiliza teoria da informação para diminuir o tempo de escrita • Letras são sugeridas apenas no local central da tela • Usuários apenas capazes de emitir um “sim” podem utilizar o aplicativo. • O aplicativo adapta-se ao usuário, as palavras mais usadas passam a ser mais sugeridas.
Árvore de busca • Árvore -> • Adição da palavra, • “elastico” ->
Configurações: • Modo automático ou Assistido • Fator de aprendizado • Atalhos: K -> confirma, J-> desiste e L -> próxima palavra.
Estados do aplicativo B • A -> Digita a primeira letra • B -> Previsão com sugestão única • C -> Previsão com sugestão em grupo • D -> Busca no dicionário • E -> Modo ditar A D E C
Estado A – primeira letra • A árvore seguinte é percorrida até escolher a letra. • Pode ter a escolha automática
Escrita de palavras utilizando o modo Grupo-Subgrupo • Neste teste teórico a quantidade de passos para escrita de uma palavra é diretamente proporcional a posição da letra no alfabeto
Escrita de palavras utilizando árvore sem previsão • Para a escrita de uma palavra é necessária uma quantidade média entre 4 e 5 passos.
Escrita de palavras utilizando árvore com previsão e sugestão de uma letra • As palavras “CASA” e “QUERO”, por estarem na árvore de previsão necessitam de poucos passos para a escrita
Escrita de palavras utilizando árvore com previsão e sugestão em grupo • Comparado com o método anterior, fica claro que, caso não seja possível a previsão, não ocorre perda de tempo com a sugestão de 5 letras (passos)
Previsão com aprendizado e sugestão de palavra • Na primeira vez que apalavra foi digitada, pelo fato de não estar presente na árvore, sua digitação foi bastante custosa. • Porém pelo aplicativo ir aprendendo, na 6º vez só é necessário 6 passos.