
Кодирование и декодирование информации

Кодирование
- кодирование – это перевод информации с одного языка на другой (запись в другой системе символов, в другом алфавите)
- обычно кодированием называют перевод информации с «человеческого» языка на формальный, например, в двоичный код, а декодированием – обратный переход.
- один символ исходного сообщения может заменяться одним символом нового кода или несколькими символами, а может быть и наоборот – несколько символов исходного сообщения заменяются одним символом в новом коде (китайские иероглифы обозначают целые слова и понятия)

кодирование может быть равномерное и неравномерное ;
- при равномерном кодировании все символы кодируются кодами равной длины;
- при неравномерном кодировании разные символы могут кодироваться кодами разной длины, это затрудняет декодирование

Условие Фано :
Закодированное сообщение можно однозначно декодировать с начала , если выполняется условие Фано :
никакое кодовое слово не является началом другого кодового слова.
Закодированное сообщение можно однозначно декодировать с конца , если выполняется обратное условие Фано :
никакое кодовое слово не является окончанием другого кодового слова;

Для трехбуквенного алфавита {А, М, П} используется кодировка А-01, М-10, П-001. Какой код минимальной длины следует задать для кодировки буквы Т, добавляемой в алфавит?
Решение: Для нового символа, добавляемого в алфавит, нельзя использовать код, состоящий из одного символа, так как будет нарушено условие Фано. Для кода, состоящего из двух символов, возможен только один вариант, удовлетворяющий условию Фано, Т-11.

По каналу связи передаются сообщения, содержащие только 4 буквы: А, В, С, D.
Для передачи используется двоичный код, допускающий однозначное декодирование. Для букв используются такие кодовые слова: А-111, В-0, D-110.
Укажите кратчайшее кодовое слово для буквы С, при котором код будет допускать однозначное декодирование. Если таких кодов несколько, укажите код с наименьшим числовым значением.
Решение: Коды 1 и 0 являются началом кода данных букв. Коды 00 и 01 нельзя использовать, так как код буквы В является их началом. Следовательно, минимальный код для буквы C будет 10.