Código (comunicação)

Código é uma representação simbólica de repertório próprio ou resultado de um processo de codificação, podendo ser entendido como o ponto de partida do qual é elaborada e decifrada uma mensagem. Situa-se como elemento da informação entre os níveis de semiótica, ou seja, do significado comum a todos os sistemas simbólicos e cuja interpretação menos depende do sistema no qual foi escrito; e da comunicação, sistema de receptores/emissores e fontes de informação. Nesse contexto geral, código também é a ferramenta criada para manter a máxima eficiência da transmissão de informação segundo determinadas propriedades matemáticas.

Propriedades matemáticas do código

Pode-se associar qualquer conjunto finito de símbolos de forma biunívoca a equivalentes em códigos binários (0's e 1's) e assim tratar cada símbolo como uma sequência de escolhas do emissor e como uma quantidade que pode ser mensurada em bits. Para sinais analógicos, é necessário primeiro fazer sua discretização. Feito isso, o código detém as seguintes propriedades:

Seja $D=\{s_1,s_2,...s_n\}$ um dicionário de uma fonte emissora $F$ com $n$ símbolos na qual cada símbolo possui uma probabilidade $P(s_i)$ de ocorrência e seja $M$ uma mensagem qualquer contendo $m$ símbolos produzida por essa fonte.

Se a mensagem for convertida para código binário, como frequentemente requer o processamento digital de sinais e utilizando algum processo como código de Huffman ou de Shannon-Fano, obtemos um novo dicionário $D^{*}=\{s_1^{*},s_2^{*},...s_n^{*}\}$, associando cada símbolo original $s_i$ a uma sequência de números binários $s_i^{*}$.

Quantidade de informação

Define-se a quantidade de informação de um símbolo por $I(s_i)={\log }_2\left(\frac{1}{P(s_i)}\right)=-{\log }_2(P(s_i))$ com a exceção particular de que se $P(s_i)=0$, então $I(s_i)=0$ (nota-se que o mesmo ocorre se $P(s_i)=1$, ou seja, símbolos que sempre ou nunca ocorrem não carregam informação nova alguma). A escolha da base 2 para o logaritmo é devido à relação entre o dicionário e um conjunto de códigos binários e a unidade de medida é o bit.

Para a mensagem, tem-se que $I(M)=\sum _{s_i\in M}I(s_i)=-\sum _{s_i\in M}{\log }_2(P(s_i))$, considerando no somatório todas as repetições de símbolos.

Entropia

Entropia é uma medida da informação média contida numa mensagem. Para $F$, define-se entropia como a esperança da quantidade de informação de uma mensagem produzida por essa fonte, ou seja, $H(F)=E[I(s_i)]=-\sum _{i=1}^{n}P(s_i){\log }_2(P(s_i))$, de unidade em bits. Vê-se que qualquer $M$ produzida por $F$ não interfere no valor de $H(F)$ uma vez que os valores $P(s_i)$ tenham sido determinados. Para uma mensagem, tem-se que $H(M)=E[I(M)]=E[\sum _{s_i\in M}I(s_i)]=\sum _{s_i\in M}E[I(s_i)]=mH(F)$.

Tamanho de mensagem codificada, tamanho médio e eficiência de codificação

Se passarmos a utilizar $D^{*}$ como dicionário para a mensagem, uma mensagem $M^{*}$ possui o tamanho $L(M)=\sum _{s_i\in M}L(s_i^{*})$, em que $L(s_i^{*})$ é simplesmente a quantidade de caracteres binários de $s_i^{*}$. A partir disso, define-se tamanho médio da mensagem de $F$, também uma esperança, por $\overline{L}(F)=\sum _{i=1}^{n}P(s_i)L(s_i^{*})$ e a eficiência de codificação por $\eta =\frac{H(F)}{\overline{L}(F)}$, adimensional (apesar da unidade da entropia).