Выбор и обоснование информационных характеристик канала связи

АС	Аналоговый сигнал
ГМ	Генераторная матрица
ИМ	Информационная матрица
КМ	Канальная матрица
КС	Канал связи
ПП	Полоса пропускания
ЭВО	Эквивалентная вероятность ошибки

ВВЕДЕНИЕ

Информация наряду с материей и энергией является первичным понятием нашего мира и поэтому в строгом смысле не может быть определена. Можно лишь перечислить ее основные свойства, например такие как:

1) информация приносит сведения об окружающем мире;

2) информация не материальна, но она проявляется в форме материальных носителей, дискретных знаков или первичных сигналах;

3) знаки и первичные сигналы несут информацию только для получателя, способного распознать.

Вместе с тем слово «информация» является одним из тех терминов, которые достаточно часто встречаются во множестве обиходных ситуаций и являются интуитивно понятными каждому человеку. При этом в узком практическом смысле под информацией обычно понимают совокупность сведений об окружающем мире являющихся объектом хранения, передачи и преобразования.

Информация передается, и хранится в виде сообщений. Под сообщением понимают совокупность знаков или первичных сигналов, содержащих информацию. Иначе говоря, сообщение – это информация, представленная в какой-либо форме.

Для того чтобы сообщение можно было передать получателю, необходимо воспользоваться некоторым физическим процессом, способным с той или иной скоростью распространяться от источника к получателю сообщения. Изменяющийся во времени физический процесс, отражающий передаваемое сообщение называется сигналом .

Сообщения могут быть функциями времени (когда информация представлена в виде первичных сигналов: речь, музыка) и не является ими (когда информация представлена в виде совокупности знаков).

Сигнал всегда является функцией времени. В данной работе рассматриваются непрерывные или аналоговые сигналы . Они определены для всех моментов времени и могут принимать все значения из заданного диапазона. Чаще всего физические процессы, порождающие сигналы являются непрерывными. Этим и объясняется второе название сигналов данного типа – аналоговый, т.е. аналогичный порождающим процессам.

Совокупность технических средств, используемых для передачи сообщений от источника к потребителю информации, называется системой связи . Она состоит из 5 частей:

1) Источник сообщений, создающий сообщения или последовательность сообщений, которые должны быть переданы.

2) Передатчик, который перерабатывает некоторым образом сообщения в сигналы соответственного типа, определенного характеристиками используемого канала.

3) Канал – это комплекс технических средств, обеспечивающий передачу сигналов от передатчика к приемнику.

4) Приемник обычно выполняет операцию, обратную по отношению к операции, производимой передатчиком, т.е. восстанавливается сообщение по сигналам.

5) Получатель – это лицо или аппарат, для которого предназначено сообщение. Процесс преобразования сообщения в сигнал, осуществляющийся в передатчике, и обратный ему процесс, реализующийся в приемнике, назовем соответственно кодированием и декодированием .

Тогда круг проблем, составляющих основное содержание теории информации, можно охарактеризовать как исследование методов кодирования для экономического представления сообщений различных источников и для надежной передачи сообщений по каналам связи с шумом.

При проектировании цифровой системы передачи данных по каналу связи перед разработчиком неизбежно встает вопрос о борьбе с возникающими при передаче ошибками. Для этой цели используется кодирование информации с последующей коррекцией ошибок. Известно довольно большое разнообразие корректирующих кодов. Для оптимального выбора того или иного кода разработаны специальные методики. Основной недостаток большинства приводимых методик заключается в том, что оптимальные параметры кода ищутся только для конкретного канала связи, предполагая при этом, что в течение сеанса связи статистика канала мало отличается от принятой модели, для которой искался оптимальный код. В практических ситуациях в разных сеансах связи возможно существенное различие в параметрах канала.

В связи с этим в данной работе излагается соответствующий критерий для сравнения различных блочных кодов и приводится методика для поиска оптимальных по этому критерию параметров корректирующего кода. Из всего множества корректирующих кодов в данной работе рассматриваются только линейные блочные коды. Также приводятся несколько примеров, показывающих практическую применимость и эффективность изложенной методики.

1. ДИСКРЕТИЗАЦИЯ И ВОССТАНОВЛЕНИЕ
АНАЛОГОВЫХ СИГНАЛОВ

Исходная информация о процессе снимается с аналогового датчика. Требуется осуществить дискретизацию сигнала и подготовить его для передачи по КС. Используя ряд Котельникова, необходимо восстановить сигнал и показать работоспособность использованных методов.

1.1. Восстановление аналогового сигнала по дискретному, используя ряд Фурье

1.1.1. Расчет и построение спектра сигнала

Часто физический процесс, порождающий сигнал, развивается во времени таким образом, что значения сигнала можно измерять в любые моменты времени. Сигналы этого класса принято называть аналоговыми (континуальными). Термин «аналоговый сигнал» подчеркивает, что такой сигнал «аналогичен», полностью подобен порождающему его физическому процессу.

Одномерный аналоговый сигнал наглядно представляется своим графиком (осциллограммой), который может быть как непрерывным, так и с точками разрыва.

В данном случае аналоговый сигнал (АС) описывается выражением:

x(t) = sin (0.05wt)*cos(0.8wt) (1.1)

где w – опорная частота последовательности, образующей периодический сигнал, которая находится по формуле:

w (1.2)

Если принять Т = 100 с, график сигнала будет выглядеть следующим образом:

Рис. 1.1. Аналоговый сигнал

Возросшие требования к радиотехническим системам заставили искать новые принципы их построения. На смену аналоговым в ряде случаев пришли импульсные системы, работа который основана на использовании дискретных сигналов. Одно из преимуществ дискретных сигналов по сравнению с аналоговыми – отсутствие необходимости воспроизводить сигнал непрерывно во все моменты времени.

При дискретизации по времени непрерывная функция x(t) преобразуется в дискретную функцию x(t*), в которой t* – дискретные значения времени. Иными словами, непрерывная функция представляется совокупностью дискретных отсчетов.

Функцию y(t), полученную в результате восстановления дискретной функции x(t*), называют воспроизводящей функцией.

(1.3)

Коэффициенты а_j зависят от отсчетов, а функции являются базисными. Их выбор определяется ожидаемой формой сигнала. Чаще всего в качестве базисных функций выбирают синусоиду. В этом случае формула 1.3 представляет собой ряд Фурье в виде:

(1.4)

Где a_i , b_i – коэффициенты Фурье, которые рассчитываются с помощью прямого преобразования Фурье:

a_i = (1.5)

b_i = (1.6)

Итак, периодический сигнал содержит бесконечный набор гармонических колебаний, так называемых гармоник. Каждую гармонику можно описать ее амплитудой S_i и начальной фазой . Для этого коэффициенты ряда Фурье следует записать в виде:

так что

S_i = (1.7)

Таким образом, возможно изобразить спектральную диаграмму данного сигнала, т.е. графическое изображение коэффициентов ряда Фурье:

Рис. 1.2. Спектр сигнала

1.1.2. Восстановление аналогового сигнала

Для восстановления аналогового сигнала по дискретному из построенного графика спектра сигнала необходимо выбрать количество значимых гармоник, позволяющих с заданной точностью восстановить сигнал. Обозначим его как m_k . В данном случае m_k = 3.

Исходя из этого, возможно восстановление сигнала, используя ряд Фурье:

x(t) = (1.8)

Рис. 1.3. Восстановленный сигнал

1.2. Восстановление аналогового сигнала по теореме Котельникова

1.2.1. Расчет параметров

В 1933 г. В. А. Котельников доказал теорему, которая является одним из фундаментальных положений теоретической радиотехники и других областей. Эта теорема устанавливает возможность сколь угодно точного восстановления мгновенных значений сигнала исходя из отсчетных значений, взятых через равные промежутки времени.

Теорему Котельникова принято формулировать так: произвольный сигнал, спектр которого не содержит частот выше f_в Гц, может быть полностью восстановлен, если известны отсчетные значения этого сигнала, взятые через равные промежутки времени . Если же условия теоремы нарушаются и отсчеты во времени берутся недостаточно часто, то однозначное восстановление исходного сигнала принципиально невозможно.

Физический смысл теоремы заключается в следующем. Пусть требуется передать значение непрерывной функции x(t) с интервалом времени dt. Чем короче dt, тем точнее будет передаваться функция.

Для восстановления АС по дискретному данным методом необходимо рассчитать следующие параметры:

ширина спектра сигнала:

W_m = 2m_k w (1.9)

Учитывая формулу 1.2, получим:

W_m = 0.377 рад/с

интервал дискретизации рассчитывается по теореме Котельникова:

dt = (1.10)

dt = 8.333 с

количество дискретных значений сигнала, подлежащих передаче по КС

K_m (1.11)

K_m = 12

значения сигнала, подлежащие передаче по КС

(1.12)

1.2.2. Восстановление сигнала

Восстановление АС осуществляется по следующей формуле Котельникова:

x(t) = (1.13)

Рис. 1.4. Восстановленный сигнал

Из 1.13 видно, что непрерывный сигнал x(t) представляется в виде произведений совокупностей отсчетов x(kdt) и функции времени , которая называется функцией отсчетов.

Таким образом, функция x(t) может быть представлена своими отсчетами, снятыми с интервала времени dt. Для восстановления непрерывной функции по дискретным отсчетам необходимо использовать ряд Котельникова.

Итак, восстановление непрерывного сигнала по его дискретным значениям с заданной точностью можно осуществить двумя способами – с помощью ряда Фурье и по теореме Котельникова.

В первом случае для этого было использовано спектральное представление сигнала, выбрано число значимых гармоник. Во втором методе по теореме Котельникова был рассчитан интервал дискретизации, достаточно небольшой для восстановления сигнала с заданной точностью.

В обоих случаях при построении графиков исходного АС и восстановленного была подтверждена правильность и эффективность методов.

2. ОПРЕДЕЛЕНИЕ КОЛИЧЕСТВА ИНФОРМАЦИИ В СООБЩЕНИИ, СОДЕРЖАЩЕМ ЗАДАННЫЙ ТЕКСТ

Задано сообщение М в виде текста: <студентка 529 группы Аксененко>. Требуется:

1. определить количество информации в сообщении М для следующих случаев:

а) символы в алфавитах распределены равновероятно;

б) сообщение передается телеграфным кодом.

2. определить энтропию сообщения для случаев а) и б).

Для расчетов принять значения вероятностей появления букв, представленные в приложении.

Из анализа данного сообщения видно, что оно состоит из двух частей: буквенной М1, в которой количество знаков m₁ = 27, и цифровой М2, в которой m₂ =3.

2.1. Определения количества информации в сообщении

Пусть А – некоторое случайное событие, относительно которого известно, что оно может произойти с вероятностью Р_А . Предположим, что до момента наступления этого события к получателю информации приходит некоторое сообщение, абсолютно точно предсказывающее исход случайного испытания. Ставится вопрос о том, какова количественная мера информации, содержащейся в данном сообщении. Впервые эту задачу поставил и решил американский инженер Хартли в конце 20-х годов. Он предложил вычислять количество информации, содержащейся в сообщении, по формуле:

(2.1)

где логарифм может быть взят при любом основании. В дальнейшем оказалось, что удобнее всего пользоваться двоичными логарифмами. При этом:

(2.2)

Хотя с физической точки зрения величина I безразмерна, ее стали измерять в условных единицах, называемых битами. Выбор двоичных логарифмов диктуется тем, что сообщение в технически реализуемых каналах связи чаще всего принимал форму отдельных групп (кодовых слов), состоящих только из двух символов, которые можно трактовать как 0 и 1. Каждая такая казалось, что уи любом основании. ле:группа кодирует, например, буквы того или иного естественного языка, из которых составляются отдельные слова.

2.1.1. Определение количества информации в сообщении, написанном на алфавите с равновероятным распределением символов

При равновероятном распределении символов в алфавите вероятность появления любой буквы Р_i =1/32. В этом случае количество информации в буквенной части сообщения определится по формуле:

(2.1)

I₁ = 135 бит

В цифровой части сообщения при равновероятном появлении цифр P_i =1/10, количество информации в сообщении будет определяться по формуле:

(2.2)

I₂ = 9.96 бит

Таким образом, общее количество информации в сообщении с равновероятным появлением символов определится как:

I = I₁ + I₂ (2.3)

I = 144.96 бит

Следует заметить, что подобный расчет является лишь ориентировочным, прежде всего потому, что не учитывается разница между вероятностями появления различных букв.

2.1.2. Определение количества информации в сообщении, переданном телеграфным кодом

Для расчета количества информации в данном сообщении необходимо составить вспомогательную таблицу:

Таблица 2.1

i	1	2	3	4	5	6	7	8	9	10	11	12	13	14
	c	т	у	д	е	н	к	а	_	г	р	п	ы	о
n_i	2	2	2	1	3	3	3	2	3	1	1	2	1	1
P_i	0.045	0.053	0.021	0.025	0.072	0.053	0.028	0.062	0.175	0.013	0.040	0.023	0.016	0.090

Расчет среднего количества информации на 1 символ в заданном сообщении произведен по формуле:

(2.4)

I₁ = 5.9 бит

Общее количество информации в буквенной части сообщения будет определяться как:

I₁₁ = i*I₁ (2.5)

I₁₁ = 82.6 бит

Общее количество информации в цифровой части сообщения остается неизменным, т.к. все цифры могут попасться в сообщении также с равной вероятностью. Поэтому количество информации в цифровой части определится по формуле 2.2.

Общее количество информации в сообщении, переданном телеграфным кодом, будет определено по формуле:

I = I₁₁ + I₂ (2.6)

I = 92.56 бит

2.2. Расчет энтропии сообщения

Понятие энтропии вводится дли измерения неопределенности состояния процесса. Исторически оно было введено в физике, математике и других точных науках. В информатике энтропия – степень неопределенности источника информации или его способности отдавать информацию. Она характеризует степень исходной неопределенности, которая присуща элементам алфавита, выбранного для передачи сообщения. Алфавит с малой энтропией, как правило, мало пригоден для практического использования.

2.2.1. Расчет энтропии сообщения, написанного на алфавите с равновероятным распределением символов

Развивая идеи Хартли, К. Шеннон ввел очень важное понятие энтропии источника – среднее значение количества информации, приходящееся на один символ алфавита. Исходя из определения, для данного случая энтропия рассчитается следующим образом:

Для буквенной части сообщения:

(2.7)

Н₁ = 5 бит/символ

Для цифровой части сообщения:

(2.8)

Н₂ = 3.32 бит/символ

Энтропия всего сообщения:

Н = Н₁ + Н₂ (2.9)

Н = 8.32 бит/символ

2.2.2. Расчет энтропии сообщения, в котором буквы попадаются со своей вероятностью

Согласно тому же определению энтропии источника сообщения, в котором буквы попадаются со своей вероятностью, она определится таким же образом:

Для буквенной части сообщения:

(2.10)

Н₁₁ = 3.06 бит/символ

Для цифровой части сообщения энтропия остается неизменной, т.к. количество информации также не меняется. Она определится по формуле 2.8.

Таким образом, полная энтропия сообщения определится как:

Н = Н₁₁ + Н₂ (2.11)

Н = 6.38 бит/символ

Таким образом, в данном пункте было определено количество информации и энтропия сообщения М для двух случаев: сообщение написано на алфавите, в котором буквы распределены с равной вероятностью, и в случае, когда сообщение написано на алфавите, в котором буквы попадаются со своей вероятностью.

Как энтропия сообщения, так и количество информации в нем меньше в том случае, когда оно написано на алфавите, буквы которого попадаются со своей вероятностью.

3. РАСЧЕТ ПРОПУСКНОЙ СПОСОБНОСТИ

КАНАЛА СВЯЗИ БЕЗ ПОМЕХ

Необходимо обосновать пропускную способность канала связи для передачи сообщения М <АКСЕНЕНКО_И> за время 10 мс.

Для расчетов принять распределение вероятностей появления букв как для художественного текста в соответствии с таблицей, приведенной в приложении.

3.1. Построение канальной матрицы

Канальная матрица (КМ) – квадратная матрица размером , ее элементами кроме диагональных являются вероятности появления букв передаваемого сообщения. В диагонали записывается дополнение до единицы по строке.

Для определения размера матрицы необходимо решить неравенство:

(3.1)

где m – количество символов в сообщении

Следовательно, получаем квадратную матрицу размером , в которую вписываем буквы сообщения.

А	К	С
Е	Н	Е
Н	К	О
_	И	_

Рис. 3.1. Канальная матрица

Элементами КМ являются сигналы b_j при условии формирования сигналов a_i , поэтому она заполняется в соответствии с таблицей, представленной в приложении.

Элементы диагонали рассчитываются следующим образом:

Р(b₁ /a₁ ) = 1– Р(b₂ /a₁ ) – Р(b₃ /a₁ )– Р(b₄ /a₁ ) = 0.921

Р(b₂ /a₂ ) = 1– Р(b₁ /a₂ ) – Р(b₃ /a₂ ) – Р(b₄ /a₂ ) = 0.909

Р(b₃ /a₃ ) = 1– Р(b₁ /a₃ ) – Р(b₂ /a₃ ) – Р(b₄ /a₃ ) = 0.885

Р(b₄ /a₄ ) = 1– Р(b₁ /a₄ ) – Р(b₂ /a₄ ) – Р(b₃ /a₄ ) = 0.712

Таким образом, получаем заполненную КМ:

0.921	0.062	0.028	0.045
0.072	0.909	0.053	0.072
0.053	0.028	0.885	0.09
0.175	0.062	0.175	0.712

Рис. 3.2. Канальная матрица P(b_j /a_i )

3.2. Расчет матриц совместного появления сигналов a_i , b_j и относительных вероятностей

Расчет энтропии объединения базируется на знании статистических характеристик КС. Основной характеристикой КС в данном случае является матрица вероятностей взаимного появления событий P(a_i , b_j ).

Элементы данной матрицы рассчитаны по следующей формуле:

P(a_i , b_j ) = P(a_i )*P(b_j /a_i ) (3.2)

Допустим, сигналы a_i появляются c равной вероятностью. В таком случае имеет место формула:

P(a_i ) = const = 1/i (3.3)

Исходя из этого:

P(a₁ ) = P(a₂ ) = P(a₃ ) = P(a₄ ) = 1/4

Получаем матрицу P(a_i ) размером :

Рис. 3.3. Матрица равновероятного появления сигнала a_i

Таким образом, в соответствии с формулой 3.2 получаем следующую таблицу:

0.230	0.015	0.007	0.011
0.018	0.227	0.013	0.018
0.013	0.007	0.220	0.022
0.043	0.015	0.043	0.178

Рис. 3.4. Матрица совместного появления сигналов a_i , b_j

Из формулы для определения вероятностей совместного появления событий можно выразить формулу для нахождения относительных вероятностей P(b_j /a_i ):

(3.4)

Таким образом, можно построить матрицу относительных вероятностей P(b_j /a_i ).

0.756	0.056	0.024	0.048
0.059	0.859	0.045	0.078
0.042	0.026	0.777	0.096
0.141	0.056	0.151	0.178

Рис. 3.6. Матрица относительных вероятностей P(b_j /a_i )

Элементы матрицы с вероятностями появления сигналов b_j , показывающей, с какой вероятностью появляются сигналы b_j в сообщении, будут рассчитываться по следующей формуле:

(3.5)

Согласно этой формуле, матрица будет выглядеть следующим образом:

0.304

0.264

0.283

0.229

Рис. 3.5. Матрица вероятностей появления сигналов b_j

3.3. Расчет полных условных энтропий

Если существует статистическая связь между символами алфавита источника и приемника, то энтропия приемника по отношению к источнику определится по формуле:

(3.6)

H(B/A) = 0.979 бит/символ

Энтропия источника по отношению к приемнику рассчитается аналогично:

(3.7)

H(A/B) = 1.134 бит/символ

Энтропия совместных А и В будет в таком случае найдена по следующей формуле:

(3.8)

H(AB) = 3.134 бит/2 символа

Размерность [бит/2 символа] означает, что взаимная энтропия представляет собой неопределенность возникновения пары символов, т.е. неопределенность на два символа.

Опираясь на формулы 3.2 и 3.4, можно показать, что энтропия появления событий АВ будет также рассчитываться как:

H(AB) = H(B) – H(A/B) (3.9)

Из данной формулы можно выразить формулы для определения энтропии источника и приемника:

H(A) = H(AB) – H(B/A) (3.10)

Н(А) = 2.155 бит/символ

H(B) = H(AB) – H(A/B) (3.11)

Н(В) = 2 бит/символ

3.4. Расчет количества информации, переданной по КС

При передаче информации одним символом снимается неопределенность Н. Если в сообщении присутствует n символов, то количество информации рассчитается по формуле:

I = nH (3.12)

Используя введенные количественные меры неопределенности, количество информации, переданной по КС, можно определить тремя способами.

1 способ :

I(AB) = (H(A) – H(A/B)) * m (3.13)

В данном случае энтропия H(A/B) характеризует потери информации со стороны приемника.

I(AB) = 11.231 бит

2 способ :

I(AB) = (H(B) – H(B/A)) * m (3.14)

I(AB) = 11.231 бит

Энтропия H(B/A) характеризует влияние помех.

3 способ :

I(AB) = (H(A) + H(B) – H(AB)) * m (3.15)

I(AB) = 11.231 бит

3.5. Расчет пропускной способности КС

Кроме информационных характеристик в виде количества передаваемой информации и энтропии вводят в рассмотрение избыточность системы кодирования и динамические характеристики КС, основной из которых является пропускная способность КС, которая определяет количество информации, которая передается по КС за единицу времени.

(3.16)

где Т – время, за которое передается сообщение по КС

С = 1.1 кбит/с

Итак, для определения пропускной способности КС было рассчитано количество информации в передаваемом сообщении, влияние помех на канал и потери со стороны приемника.

В данном случае для передачи сообщения, содержащего 11.2 бит, за 10 мс требуется КС с пропускной способностью 1.1 кбит/с.

4. СОГЛАСОВАНИЕ КАНАЛА СВЯЗИ

С ДАТЧИКОМ И ДИСПЛЕЕМ

Необходимо обосновать полосу пропускания КС для передачи информации от датчика, вырабатывающего сигнал, заданный в п. 1.

4.1. Выбор исходных данных

В п. 1 для заданного источника (датчика) информации подготовлено сообщение в виде М = (dt, T, x₁ , x₂ , …, x_n ). Из анализа значений {x₁ , x₂ , …, x_n } заданного сигнала, описанного выражением (1.1), необходимо определить x_min , x_max .

Рис. 4.1. Аналоговый сигнал

x_min = - 0.204

x_max = 0.095

4.2. Расчет энтропии источника

Передаваемая информация представляет собой совокупность следующих сигналов:

1) а₁ – знак числа, а₁ = (0,1). Заранее указать его невозможно, поэтому, в соответствии с признаком максимальной энтропии, Р₁ = 0.5.

2) а₂ – количество цифр целой части числа, а₂ = 0

3) а₃ – число в интервале от 0 до наибольшего по абсолютной величине х, а₃ = 204.

Если допустить, что цифры по КС передаются двоичным кодом, то для передачи числа 204 требуется l разрядов:

2^l = 204 (4.1)

l = 7.672

После округления в большую сторону для расчетов принято l = 8. Таким образом, а₃ = [0, 204] передается с помощью двойного кода с количеством разряда, равным 8. Заранее указать значение числа невозможно, поэтому, в соответствии с принципом максимальной энтропии, Р = 1/2⁸ .

Таким образом, передаваемая информация состоит из трех сигналов и представляет собой сложное сообщение.

При передаче сигналов их энтропия находится по формуле Шеннона:

Н (4.2)

H₁ = - 0.5 * log₂ 0.5

H₁ = 0.5 бит/символ

H₂ = - 1*log₂ 1

H₂ = 0 бит/символ

H₃ =

H₃ = 8 бит/символ

На основании правила сложения энтропий при передаче сложного сообщения, можно найти энтропию датчика сообщения:

H(А) = H₁ + H₂ + H₃ (4.3)

H(А) = 8.5 бит/символ

4.3. Расчет ширины спектра сигнала

Любой непрерывный датчик характеризуется шириной спектра сигнала dF. В соответствии с теоремой Котельникова, для обеспечения неискаженного процесса передач необходимо показание датчика снимать с интервалом времени dt:

dF = (4.4)

Учитывая (1.9) и (1.10), ширина спектра сигнала будет равна:

dF = 0.06 Гц

4.4. Расчет полосы пропускания КС

Необходимо рассчитать ПП КС при соотношении сигнал-шум равным 26.

В соответствии с теоремой Шеннона, для обеспечения передачи информации без искажений должно выполняться условие:

C >> R (4.5)

где R – скорость выдачи информации датчиком

С – пропускная способность КС

Т.е.

2Fkc_min log₂ ( ) 2dF

Fkc_min dF

Fkc_min 0.109 Гц

Ширина ПП должна быть тем больше, чем больше ширина спектра датчика и чем меньше соотношение мощности сигнала к мощности помехи.

4.5. Расчет энтропии приемника

В настоящее время создано большое разнообразие оконечных или периферийных устройств, с помощью которых можно представлять информацию в форме, удобной для обработки. Эта информация может наноситься на магнитные либо на бумажные носители, или представляться в виде образов на экране.

В зависимости от формы носителя разрабатываются свои методики, с помощью которых обосновываются характеристики оконечных устройств. Эти методики учитывают специфику оконечных устройств. Рассмотрим подход при разработке этих методик на примере согласования КС с черно-белым дисплеем с разрешением 800*600.

На экран монитора информация выводится в виде множества точек – пикселей. Количество пикселей, выводимых на дисплей, определяется двумя величинами – r и q. Черно-белый дисплей может, в принципе, представлять образы в виде полутонов, т.е. для каждого пикселя существует l градаций яркости. В этом случае необходимо учитывать гораздо большее количество состояний дисплея.

С другой стороны, в современных дисплеях управление разверткой луча и уровнем полутона осуществляется командами, которые представляют собой двоичные кодовые группы. Для определения количества разрядов этих кодовых групп будем считать, что луч должен выводиться равновероятно в любую точку матрицы q*r, а градации полутона могут быть также выбраны равновероятно из интервала [0, l].

Тогда количество разрядов для кодирования величин q, r, l составит:

(4.6)

В данном случае r = 600, q = 800, l = 8.

n₁ = 9.644 бит/символ

n₂ = 9.229 бит/символ

n₃ = 3 бит/символ

Если считать, что все состояния дисплея равновероятны, то энтропия дисплея численно равна:

H(B) = log₂ 2^{n1 + n2 + n3} = n₁ + n₂ + n₃ (4.7)

H(B) = 21.873 бит/символ

4.6. Определение максимальной полосы КС

Если на дисплей в единицу времени подается n₀ фрагментов информации, то частота подачи информации на дисплей будет равна:

F = (4.8)

Тогда скорость вывода информации на дисплей определиться по формуле:

R = n₀ H(B) = (4.9)

Задача согласования КС с дисплеем сводится к следующему:

R >> C (4.10)

или

Fkc_max (4.11)

Подставив в эту формулу выражения 4.7 и 4.8, получим:

n₀ (n₁ + n₂ + n₃ ) Fkc_max

При достаточно большом соотношении сигнал-шум величина 1, следовательно, для согласования КС с дисплеем достаточно чтобы выполнялось условие:

Fkc_max n₀ (n₁ + n₂ + n₃ ) (4.12)

В данном случае необходимо определить полосу КС при n₀ = 80 зн/с:

Fkc_max 1.75*10³ Гц

4.7. Выбор ширины ПП КС

Для нормальной передачи информации от датчика к дисплею по КС должны выполняться два условия:

(4.13)

Из этой формулы следует следующее:

Fkc = Fk_max – Fk_min

Fkc = 1.75 кГц

Таким образом, для нормальной передачи информации от датчика к дисплею по КС должны выполняться два условия:

1) Пропускная способность КС должна быть больше либо равна скорости выдачи информации датчиком.

2) Скорость вывода информации на дисплей должна быть больше либо равна пропускной способности КС.

В данном случае, исходя из формулы (4.13), видно, что достаточная ширина ПП КС составляет 1.75 кГц.

5. КОДИРОВАНИЕ ИНФОРМАЦИИ В КАНАЛЕ СВЯЗИ

БЕЗ ПОМЕХ

Необходимо закодировать заданное сообщение М <АКСЕНЕНКО_И> двумя способами:

1. методом Шеннона-Фано;

2. методом Хаффмана.

Для каждого кода требуется оценить показатель его эффективности.

Для расчетов принять значения вероятностей появления букв, представленные в приложении.

5.1. Оптимальное кодирование

Дискретный КС, работающий без помех, является самым простым техническим устройством. Для такого канала наилучшим способом кодирования является система с неравномерными кодами. При этом наиболее вероятные сообщения необходимо передавать короткими кодовыми группами. При этом основанием кода может быть любое число k.

Допустим, передаче подлежит ансамбль (1,2,3…m) с соответствующими вероятностями (Р₁ , Р₂ , Р₃ … Р_m ). Тогда количество информации

I_i = - log₂ P_i (5.1)

где = Р_i

Отсюда путем некоторых преобразований можно получить выражение для определения среднего количества разрядов, которые необходимо отвести при передаче символов:

n_i = (5.2)

Если среднее количество разрядов не больше дроби, то кодирование оптимальное. Если нет, то говорят что кодирование неоптимальное. В настоящее время разработано множество оптимальных кодов, но классическими являются коды Шеннона-Фано и Хаффмана. Отличительной способностью этих кодов является то, что начало любой кодовой комбинации, с помощью которой кодируется символ, не совпадает с более короткой кодовой комбинацией.

5.2. Кодирование сообщения методом Шеннона-Фано

5.2.1. Разработка кода сообщения

Принцип построения оптимального кода Шеннона-Фано следующий.

Для заданного сообщения необходимо составить вспомогательную таблицу вероятностей появления букв в сообщении.

Таблица 5.1

А	К	С	Е	Н	Е	Н	К	О	_	И
0.062	0.028	0.045	0.072	0.053	0.072	0.053	0.028	0.09	0.175	0.062

Все символы сообщения, входящие в ансамбль, располагаются в порядке убывания вероятности их появления, определяется сумма всех вероятностей. Чтобы кодирование было оптимальным, необходимо выполнение условия нормировки:

(5.1)

Это означает, что необходимо ввести паузу, вероятность которой будет рассчитана, как:

P₁ = 0.26

Т.к. код Шеннона-Фано двоичный, следовательно, основание кода k = 2.

Далее все символы ансамбля разбиваются на k групп с таким расчетом, чтобы суммарные вероятности в группах были приблизительно одинаковы. Каждая из групп делится на подгруппы, чтобы в каждой из k подгрупп суммарные вероятности были бы равны. Такое разбиение осуществляется до тех пор, пока в подгруппах не останется по одному символу.

В подгруппах каждый символ или группа кодируется следующим образом. Всем символам первой подгруппы присваивается 0, всем символам второй подгруппы – 1, третьей – 2, и т.д. до k-ой группы, которой присваивается (k – 1).

По этим данным можно составить таблицу разработки кода:

Таблица 5.2

Буква	Символ	P_i	1	2	3	4	5	а_i	n
пауза	а₁	0.26	0	0	а₁	2
_	а₂	0.175	0	1	0	а₂	3
О	а₃	0.09	0	1	1	а₃	3
Е	а₄	0.072	1	0	0	0	а₄	4
Е	а₅	0.072	1	0	0	1	а₅	4
А	а₆	0.062	1	0	1	0	а₆	4
И	а₇	0.062	1	0	1	1	а₇	4
Н	а₈	0.053	1	1	0	0	а₈	4
Н	а₉	0.053	1	1	0	1	а₉	4
С	а₁₀	0.045	1	1	1	0	а₁₀	4
К	а₁₁	0.028	1	1	1	1	0	а₁₁	5
К	а₁₂	0.028	1	1	1	1	1	а₁₂	5

Таким образом, можно окончательно записать сообщение, закодированное методом Шеннона-Фано:

0010101111011101000110010011101111110110101011

Процесс кодирования методом Шеннона-Фано обеспечивает оптимальность кода засчет того, что символам с более высокой вероятностью появления ставится в соответствие более короткая кодовая комбинация.

Обычно после разработки системы кодирования определяют среднее количество разрядов, необходимое для передачи одного символа, следующим образом:

(5.2)

5.2.3. Оценка кода по показателям эффективности

Для оценки качества кода необходимо знать энтропию, рассчитывающуюся по формуле Шеннона:

(5.3)

Н = 3.241 бит/символ

Для оптимальности кода необходимо выполнение следующего условия:

(5.4)

1. Расчет показателя избыточности сообщения

Расчет показателя избыточности сообщения будет осуществляться по следующей формуле:

(5.5)

где Н – энтропия сообщения, написанного на алфавите, в котором буквы распределяются со своей вероятностью

Н_max – энтропия сообщения, написанного на алфавите, в котором буквы распределяются с равной вероятностью

Н_max = log₂ n (5.6)

В таком случае, подставив формулу (5.7) в (5.6), получим:

R = 0.096

2.Расчет показателя избыточности кода

Расчет показателя избыточности кода осуществляется по следующей формуле:

Rk (5.7)

Rk = 0.009

3. Расчет показателя недогруженности кода

Расчет показателя недогруженности кода осуществляется по следующей формуле:

D (5.8)

D = 0.03

5.3. Кодирование сообщения методом Хаффмана

Код Хаффмана строится на базе кодового дерева – специального графа, отображающего запись всех возможных k-ичных n-разрядных чисел. Дерево представляет собой совокупность узлов, которые располагаются на разных уровнях.

Рис. 5.1. Кодовое дерево

5.3.1. Разработка кода сообщения

Для построения оптимального кода на базе кодового дерева необходимо учитывать следующее:

1) символ ансамбля с наибольшей вероятностью появления должен находиться в узле наименьшего порядка.

2) по крайней мере, два сообщения с минимальной вероятностью появления должны кодироваться в узлах максимального порядка.

3) если выбран узел порядка i, то все узлы более высокого порядка, связанные с ним, не могут быть использованы для кодирования.

4) для кодирования могут не использоваться узлы более высокого порядка.

При укрупнении сообщения, т.е. при переходе от улов порядка i к i – 1 количество символов, закодированных в узлах более высокого порядка, уменьшается. Однако в узлах самого высокого порядка количество закодированных символов m₀ должно лежать в пределах [2,k], где k – основание кода.

При выборе k используют следующую формулу:

M = 1 + (k – 1) + (m₀ – 1) (5.9)

где М – общее количество символов в алфавите

m₀ – количество закодированных символов

– целое число, которое подбирается таким образом, чтобы выполнялось условие:

(5.9)

где k – основание кода

Если найдено m₀ , то оно определяет количество закодированных символов в узлах само высокого порядка. Все остальные узлы низких порядков полностью заполняются.

Требуется построить двоичный код Хаффмана.

содержание .. 595 596 597 ..