СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Проверяем корректность

Вернёмся к коду с утроением.

$ \begin{aligned} A &\to 000,\\ B &\to 111. \end{aligned} $

Для начала просто решим задачу проверки, были ли вообще ошибки при передаче. Как видно, из самого кода, принятое сообщение будет кодовым словом только тогда, когда все три цифры равны между собой.

Пусть мы приняли вектор-строку $x$
из трёх цифр. ( Стрелочки над векторами рисовать не будем, так как у нас почти всё — это вектора или матрицы.)

$\dots \rightsquigarrow x = (x_1, x_2, x_3). $

Математически равенство всех трёх цифр можно записать как систему:

$ \left\{ \begin{aligned} x_1 &= x_2,\\ x_2 &= x_3. \end{aligned} \right. $

Или, если воспользоваться свойствами сложения в GF

, получаем

$ \left\{ \begin{aligned} x_1 + x_2 &= 0,\\ x_2 + x_3 &= 0. \end{aligned} \right. $

$ \left\{ \begin{aligned} 1\cdot x_1 + 1\cdot x_2 + 0\cdot x_3 &= 0,\\ 0\cdot x_1 + 1\cdot x_2 + 1\cdot x_3 &= 0. \end{aligned} \right. $

В матричном виде эта система будет иметь вид

$ Hx^T = 0, $

$ H = \begin{pmatrix} 1 & 1 & 0\\ 0 & 1 & 1 \end{pmatrix}. $

Транспонирование здесь нужно потому, что $x$
— это вектор-строка, а не вектор-столбец. Иначе мы не могли бы умножать его справа на матрицу.

Будем называть матрицу $H$
проверочной матрицей. Если полученное сообщение — это корректное кодовое слово (то есть, ошибки при передаче не было), то произведение проверочной матрицы на это сообщение будет равно нулевому вектору.

Умножение на матрицу — это гораздо более эффективно, чем поиск в таблице, но у нас на самом деле есть ещё одна таблица — это таблица кодирования. Попробуем от неё избавиться.

Код с утроением

Давайте попробуем построить какой-то корректирующий код. Что мы обычно делаем, когда кто-то нас не расслышал? Повторяем дважды:

$ \begin{aligned} A &\to 00,\\ B &\to 11. \end{aligned} $

Правда, это нам не очень поможет. В самом деле, рассмотрим канал с одной возможной ошибкой:

$ A \to 00 \rightsquigarrow 0\underline{1} \to ?. $

Какие выводы мы можем сделать, когда получили $01$
? Понятно, что раз у нас не две одинаковые цифры, то была ошибка, но вот в каком разряде? Может, в первом, и была передана буква $B$
. А может, во втором, и была передана $A$
.

То есть, получившийся код обнаруживает, но не исправляет ошибки. Ну, тоже неплохо, в общем-то. Но мы пойдём дальше и будем теперь утраивать цифры.

$ \begin{aligned} A &\to 000,\\ B &\to 111. \end{aligned} $

Проверим в деле:

$ A \to 000 \rightsquigarrow 0\underline{1}0 \to A?. $

Получили $010$
. Тут у нас есть две возможности: либо это $B$
и было две ошибки (в крайних цифрах), либо это $A$
и была одна ошибка. Вообще, вероятность одной ошибки выше вероятности двух ошибок, так что самым правдоподобным будет предположение о том, что передавалась именно буква $A$
. Хотя правдоподобное — не значит истинное, поэтому рядом и стоит вопросительный знак.

Если в канале связи возможна максимум одна ошибка, то первое предположение о двух ошибках становится невозможным и остаётся только один вариант — передавалась буква $A$
.

Про такой код говорят, что он исправляет одну ошибку. Две он тоже обнаружит, но исправит уже неверно.

Это, конечно, самый простой код. Кодировать легко, да и декодировать тоже. Ноликов больше — значит передавался ноль, единичек — значит единица.

Если немного подумать, то можно предложить код исправляющий две ошибки. Это будет код, в котором мы повторяем одиночный бит 5 раз.

Ошибка по синдрому

Ну хорошо, мы построили код обнаруживающий ошибки. Но мы же хотим их исправлять!

Для начала введём такое понятие, как вектор ошибки. Это вектор, на который отличается принятое сообщение от кодового слова. Пусть мы получили сообщение $x$
, а было отправлено кодовое слово $v$
. Тогда вектор ошибки по определению

$ e = x - v. $

Но в странном мире GF

, где сложение и вычитание одинаковы, будут верны и соотношения:

$ \begin{aligned} v &= x + e,\\ x &= v + e. \end{aligned} $

В силу особенностей сложения, как читатель сам может легко убедиться, в векторе ошибки на позициях, где произошла ошибка будет единица, а на остальных ноль.

Как мы уже говорили раньше, если мы получили сообщение $x$
с ошибкой, то $Hx^T\neq 0$
. Но ведь векторов, не равных нулю много! Быть может то, какой именно ненулевой вектор мы получили, подскажет нам характер ошибки?

Назовём результат умножения на проверочную матрицу синдромом:

$ s(x)=Hx^T.$

И заметим следующее

$ s(x) = Hx^T = H(v+e)^T = He^T = s(e). $

Это означает, что для ошибки синдром будет таким же, как и для полученного сообщения.

Разложим все возможные сообщения, которые мы можем получить из канала связи, по кучкам в зависимости от синдрома. Тогда из последнего соотношения следует, что в каждой кучке будут вектора с одной и той же ошибкой. Причём вектор этой ошибки тоже будет в кучке. Вот только как его узнать?

А очень просто! Помните, мы говорили, что у нескольких ошибок вероятность ниже, чем у одной ошибки? Руководствуясь этим соображением, наиболее правдоподобным будет считать вектором ошибки тот вектор, у которого меньше всего единиц. Будем называть его лидером.

Давайте посмотрим, какие синдромы дают всевозможные 5-элементные векторы. Сразу сгруппируем их и подчеркнём лидеров — векторы с наименьшим числом единиц.

В принципе, для корректирования ошибки достаточно было бы хранить таблицу соответствия синдрома лидеру.

Обратите внимание, что в некоторых строчках два лидера. Это значит для для данного синдрома два паттерна ошибки равновероятны. Иными словами, код обнаружил две ошибки, но исправить их не может.

$ a=01 \to aG=01011 \rightsquigarrow x=01\underline{1}11 \to s(x)=Hx^T = (110)^T \to e=(00100). $

Вектор ошибки равен $(00100)$
, а значит ошибка в третьем разряде. Как мы и загадали.

Ура, всё работает!

Окрестности

Таким образом, разные цепочки мы считаем точками в каком-то воображаемом пространстве, и теперь мы умеем находить расстояния между ними. Правда, если попытаться сколько нибудь длинные цепочки расставить на листе бумаги так, чтобы расстояния Хэмминга совпадали с расстояниями на плоскости, мы можем потерпеть неудачу. Но не нужно переживать. Всё же это особое пространство со своими законами. А слова вроде «расстояния» лишь помогают нам рассуждать.

Пойдём дальше. Раз мы заговорили о расстоянии, то можно ввести такое понятие как окрестность. Как известно, окрестность какой-то точки — это шар определённого радиуса с центром в ней. Шар? Какие ещё шары! Мы же о кодах говорим.

Но всё просто. Ведь что такое шар? Это множество всех точек, которые находятся от данной не дальше, чем некоторое расстояние, называемое радиусом. Точки у нас есть, расстояние у нас есть, теперь есть и шары.

Так, скажем, окрестность кодового слова $000$
радиуса 1 — это все коды, находящиеся на расстоянии не больше, чем 1 от него, то есть отличающиеся не больше, чем в одном разряде. То есть это коды:

$ \{000, 100, 010, 001\}. $

Да, вот так странно выглядят шары в пространстве кодов.

А теперь посмотрите. Это же все возможные коды, которые мы получим в канале в одной ошибкой, если отправим $000$
! Это следует прямо из определения окрестности. Ведь каждая ошибка заставляет цепочку измениться только в одном разряде, а значит удаляет её на расстояние 1 от исходного сообщения.

Аналогично, если в канале возможны две ошибки, то отправив некоторое сообщение $x$
, мы получим один из кодов, который принадлежит окрестности $x$
радиусом 2.

Тогда всю нашу систему декодирования можно построить так. Мы получаем какую-то цепочку нулей и единиц (точку в нашей новой терминологии) и смотрим, в окрестность какого кодового слова она попадает.

Кодирование

Итак, у нас есть система для проверки

$ \left\{ \begin{aligned} x_1 + x_2 &= 0,\\ x_2 + x_3 &= 0. \end{aligned} \right. $

Её решения — это кодовые слова. Собственно, мы систему и строили на основе кодовых слов. Попробуем теперь решить обратную задачу. По системе (или, что то же самое, по матрице $H$
) найдём кодовые слова.

Правда, для нашей системы мы уже знаем ответ, поэтому, чтобы было интересно, возьмём другую матрицу:

$ H = \begin{pmatrix} 1 & 0 & 1 & 0 & 0 \\ 0 & 1 & 1 & 0 & 1\\ 0 & 0 & 0 & 1 & 1 \end{pmatrix}. $

Соответствующая система имеет вид:

$ \left\{ \begin{aligned} x_1 + x_3 &= 0,\\ x_2 + x_3 + x_5 &= 0,\\ x_4 + x_5 &= 0. \end{aligned} \right. $

Чтобы найти кодовые слова соответствующего кода нужно её решить.

В силу линейности сумма двух решений системы тоже будет решением системы. Это легко доказать. Если $a$
и $b$
— решения системы, то для их суммы верно

$H(a+b)^T=Ha^T+Hb^T=0+0=0,$

что означает, что она тоже — решение.

Поэтому если мы найдём все линейно независимые решения, то с их помощью можно получить вообще все решения системы. Для этого просто нужно найти их всевозможные суммы.

Выразим сперва все зависимые слагаемые. Их столько же, сколько и уравнений. Выражать надо так, чтобы справа были только независимые. Проще всего выразить $x_1, x_2, x_4$
.

Если бы нам не так повезло с системой, то нужно было бы складывая уравнения между собой получить такую систему, чтобы какие-то три переменные встречались по одному разу. Ну, или воспользоваться методом Гаусса. Для GF

он тоже работает.

$ \left\{ \begin{aligned} x_1 &= x_3,\\ x_2 &= x_3 + x_5,\\ x_4 &= x_5. \end{aligned} \right. $

Чтобы получить все линейно независимые решения, приравниваем каждую из зависимых переменных к единице по очереди.

<img src="https://habrastorage.org/getpro/habr/post_images/f26/b2b/c9a/f26b2bc9a9ab9a6d14d51a378653c01f.svg" alt="$ \begin{aligned} x_3=1, x_5=0:\quad x_1=1, x_2=1, x_4=0 \Rightarrow x^{

} = (1, 1, 1, 0, 0),\\ x_3=0, x_5=1:\quad x_1=0, x_2=1, x_4=1 \Rightarrow x^{

} = (0, 1, 0, 1, 1). \end{aligned} $” data-tex=”display”>

Всевозможные суммы этих независимых решений (а именно они и будут кодовыми векторами) можно получить так:

<img src="https://habrastorage.org/getpro/habr/post_images/4de/caf/d26/4decafd26623b55fecc3e410989a2f5d.svg" alt="$ a_1 x^{

}+a_2 x^{

}, $” data-tex=”display”>

где $a_1, a_2$
равны либо нулю или единице. Так как таких коэффициентов два, то всего возможно $2^2=4$
сочетания.

Но посмотрите! Формула, которую мы только что получили — это же снова умножение матрицы на вектор.

$ (a_1, a_2)\cdot \begin{pmatrix} 1 & 1 & 1 & 0 & 0 \\ 0 & 1 & 0 & 1 & 1 \end{pmatrix} = aG. $

Строчки здесь — линейно независимые решения, которые мы получили. Матрица $G$
называется порождающей. Теперь вместо того, чтобы сами составлять таблицу кодирования, мы можем получать кодовые слова простым умножением на матрицу:

$ a \to aG. $

Найдём кодовые слова для этого кода. ( Не забываем, что длина исходных сообщений должна быть равна 2 — это количество найденных решений.)

$ \begin{aligned} 00 &\to 00000,\\ 01 &\to 01011,\\ 10 &\to 11100,\\ 11 &\to 10111. \end{aligned} $

Итак, у нас есть готовый код, обнаруживающий ошибки. Проверим его в деле. Пусть мы хотим отправить 01 и у нас произошла ошибка при передаче. Обнаружит ли её код?

$ a=01 \to aG=01011 \rightsquigarrow x=01\underline{1}11 \to Hx^T = (110)^T \neq 0. $

А раз в результате не нулевой вектор, значит код заподозрил неладное. Провести его не удалось. Ура, код работает!

Для кода с утроением, кстати, порождающая матрица выглядит очень просто:

$G=\begin{pmatrix}1&1&1\end{pmatrix}.$

Подобные коды, которые можно порождать и проверять матрицей называются линейными (бывают и нелинейные), и они очень широко применяются на практике. Реализовать их довольно легко, так как тут требуется только умножение на константную матрицу.

Поле GF

Для изложения дальнейшего материала нам потребуются матрицы. А при умножении матриц, как известно мы складываем и перемножаем числа. И тут есть проблема. Если с умножением всё более-менее хорошо, то как быть со сложением? Из-за того, что мы работаем только с одиночными двоичными цифрами, непонятно, как сложить 1 и 1, чтобы снова получилась одна двоичная цифра. Значит вместо классического сложения нужно использовать какое-то другое.

Введём операцию сложения как сложение по модулю 2 (хорошо известный программистам XOR):

$ \begin{aligned} 0 + 0 &= 0,\\ 0 + 1 &= 1,\\ 1 + 0 &= 1,\\ 1 + 1 &= 0. \end{aligned} $

Умножение будем выполнять как обычно. Эти операции на самом деле введены не абы как, а чтобы получилась система, которая в математике называется полем. Поле — это просто множество (в нашем случае из 0 и 1), на котором так определены сложение и умножение, чтобы основные алгебраические законы сохранялись. Например, чтобы основные идеи, касающиеся матриц и систем уравнений по-прежнему были верны. А вычитание и деление мы можем ввести как обратные операции.

Читайте также:  Какая ошибка вызывает системные ошибки 0x80070422 и как ее исправить

Множество из двух элементов $\{0, 1\}$
с операциями, введёнными так, как мы это сделали, называется полем Галуа GF

. G F — это Galois field, а 2 — количество элементов.

У сложения есть несколько очень полезных свойств, которыми мы будем пользоваться в дальнейшем.

$ x + x = 0. $

Это свойство прямо следует из определения.

$ x + y = x - y. $

А в этом можно убедиться, прибавив $y$
к обеим частям равенства. Это свойство, в частности означает, что мы можем переносить в уравнении слагаемые в другую сторону без смены знака.

Эффективное кодирование

Методика кодирования Шеннона-Фано

Код строится следующим образом: буквы алфавита сообщений выписываются в таблицу в порядке убывания вероятностей. Затем они разделяются на две группы так, чтобы суммы вероятностей в каждой из групп были по возможности одинаковы. Всем буквам верхней половины в качестве первого символа приписывается 1, а всем нижним – 0. Каждая из полученных групп, в свою очередь, разбивается на две подгруппы с одинаковыми суммарными вероятностями и т. д. Процесс повторяется до тех пор, пока в каждой подгруппе останется по одной букве.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Непрерывные коды

Из непрерывных кодов, исправляющих ошибки, наиболее известны коды Финка—Хагельбаргера, в которых контрольные символы образуются путем линейной операции над двумя или более информационными символами. Принцип построения этих кодов рассмотрим на примере простейшего цепного кода. Контрольные символы в цепном коде формируются путем суммирования двух информационных символов, расположенных один относительно другого на определенном расстоянии:

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
; СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
                                                                            (7.19)

Расстояние между информационными символами l
=
k
i
определяет основные свойства кода и называется шагом сложения. Число контрольных символов при таком способе кодирования равно числу информационных символов, поэтому избыточность кода СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
=0,5. Процесс образования последовательности контрольных символов показан на рис.7. символы разметаются  между информационными символами с задержкой на два шага сложения.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Рис. 7.3. Образование и размещение контрольных символов в цепном коде Финка—Хагельбаргера

При декодировании из принятых информационных символов по тому же правилу (7.19) формируется вспомогательная последовательность контрольных символов е”,
которая сравнивается с принятой последовательностью контрольных символов е’
(рис. 7.36). Если произошла ошибка в информационном символе, например, c

k
,
то это вызовет искажения сразу двух символов e

k
и e

km
,
что и обнаружится в результате их сравнения с СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 и e

km
.
Отсюда по общему индексу k
легко определить и исправить ошибочно принятый информационный символ с’ СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Ошибка в принятом контрольном символе, например, e

k
приводит к несовпадению контрольных последовательностей лишь в одном месте. Исправление  такой ошибки не требуется.

Важное преимущество непрерывных кодов состоит в их способности исправлять не только одиночные ошибки, но я группы (пакеты) ошибок. Если задержка контрольных символов выбрана равной 2
l
,
то можно показать, что максимальная длина исправляемого пакета ошибок также равна 2
l
при интервале между пакетами не менее 6 l
+1. Таким образом, возможность исправления длинных пакетов связана с увеличением шага сложения, а следовательно, и с усложнением кодирующих и декодирующих устройств.

Вопросы для повторения

1. Как могут быть  классифицированы  корректирующие коды?

2. Каким образом исправляются ошибки в кодах, которые только их обнаруживают?

3. В чем состоят основные принципы корректирования ошибок?

4. Дайте определение кодового расстояния.

5. При каких условиях код может обнаруживать или исправлять ошибки?

6. Как используется корректирующий код в системах со стиранием?

7. Какие характеристики определяют корректирующие способности кода?

8. Как осуществляется построение кодовых комбинаций в систематических кодах?

9. На чем  основан  принцип  корректирования  ошибок  с использованием  контрольного числа?

10. Объясните метод построения кода с четным числом единиц.

11. Как осуществляется процедура кодирования в семизначном коде Хэмминга?

12. Почему семизначный код 3/4 не обнаруживает ошибки смещения?

13. Каким образом производится непрерывное кодирование?

14. От чего зависит длина пакета исправляемых ошибок в коде Финка—Хагельбаргера?

Сколько ошибок может исправить код?

Чтобы код мог исправлять больше ошибок, окрестности должны быть как можно шире. С другой стороны, они не должны пересекаться. Иначе если точка попадёт в область пересечения, непонятно будет, к какой окрестности её отнести.

В коде с удвоением между кодовыми словами $00$
и $11$
расстояние равно 2 (оба разряда различаются). А значит, если мы построим вокруг них шары радиуса 1, то они будут касаться. Это значит, точка касания будет принадлежать обоим шарам и непонятно будет, к какому из них её отнести.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Именно это мы и получали. Мы видели, что есть ошибка, но не могли её исправить.

Что интересно, точек касания в нашем странном пространстве у шаров две — это коды $01$
и $10$
. Расстояния от них до центров равны единице. Конечно же, в обычно геометрии такое невозможно, поэтому рисунки — это просто условность для более удобного рассуждения.

В случае кода с утроением, между шарами будет зазор.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Минимальный зазор между шарами равен 1, так как у нас расстояния всегда целые (ну не могут же две цепочки отличаться в полутора разрядах).

В общем случае получаем следующее.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Этот очевидный результат на самом деле очень важен. Он означает, что код с минимальным кодовым расстоянием $d_{\min}$
будет успешно работать в канале с $k$
ошибками, если выполняется соотношение

$ d_{\min} \geqslant 2k+1. $

Полученное равенство позволяет легко определить, сколько ошибок будет исправлять тот или иной код. А сколько код ошибок может обнаружить? Рассуждения такие же. Код обнаруживает $k$
ошибок, если в результате не получится другое кодовое слово. То есть, кодовые слова не должны находиться в окрестностях радиуса $k$
других кодовых слов. Математически это записывается так:

$d_{\min}\geqslant k + 1.$

Рассмотрим пример. Пусть мы кодируем 4 буквы следующим образом.

$ \begin{aligned} A \to 10100,\\ B \to 01000,\\ C \to 00111,\\ D \to 11011.\\ \end{aligned} $

Чтобы найти минимальное расстояние между различными кодовыми словами, построим таблицу попарных расстояний.

Минимальное расстояние $d_{\min}=3$
, а значит $3\geqslant2k+1$
, откуда получаем, что такой код может исправить до $k=1$
ошибок. Обнаруживает же он две ошибки.

$ A \to 10100 \rightsquigarrow 101\underline{1}0. $

Чтобы декодировать полученное сообщение, посмотрим, к какому символу оно ближе всего.

$ \begin{aligned} A:\, d(10110, 10100) &= 1,\\ B:\, d(10110, 01000) &= 4,\\ C:\, d(10110, 00111) &= 2,\\ D:\, d(10110, 11011) &= 3. \end{aligned} $

Минимальное расстояние получилось для символа $A$
, значит вероятнее всего передавался именно он:

$ A \to 10100 \rightsquigarrow 101\underline{1}0 \to A?. $

Итак, этот код исправляет одну ошибку, как и код с утроением. Но он более эффективен, так как в отличие от кода с утроением здесь кодируется уже 4 символа.

Таким образом, основная проблема при построении такого рода кодов — так расположить кодовые слова, чтобы они были как можно дальше друг от друга, и их было побольше.

Для декодирования можно было бы использовать таблицу, в которой указывались бы все возможные принимаемые сообщения, и кодовые слова, которым они соответствуют. Но такая таблица получилась бы очень большой. Даже для нашего маленького кода, который выдаёт 5 двоичных цифр, получилось бы $2^5 = 32$
варианта возможных принимаемых сообщений. Для более сложных кодов таблица будет значительно больше.

Попробуем придумать способ коррекции сообщения без таблиц. Мы всегда сможем найти полезное применение освободившейся памяти.

Эффективное кодирование

Методика кодирования Шеннона-Фано

Множество вероятностей в предыдущей таблице можно было разбить

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Эффективное кодирование

Методика кодирования по четности-

Если в математическомкоде выделен один контрольный разряд (= 1), то к каждому двоичному числу добавляется один избыточный разряд и в него записывается 1 или 0 с таким условием, чтобы сумма цифр в каждом числе была по модулю 2 равна 0 для случая четности или 1 для случая нечетности. Появление ошибки в кодировании обнаружится по нарушению четности (нечетности). При таком кодировании допускается, что может возникнуть только одна ошибка.

Такое кодирование имеет минимальное кодовое расстояние, равное 2.

Эффективное кодирование

Методика кодрования Хаффмена (Huffman)

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Код с чётным числом единиц. Инверсионный код

Рассмотрим некоторые простейшие систематические коды, применяемые только для обнаружения ошибок. Одним из кодов подобного типа является код с четным числом единиц. Каждая комбинация этого кода содержит, помимо информационных символов, один контрольный символ, выбираемый равным 0 или 1 так, чтобы сумма единиц в комбинации всегда была четной. Примером могут служить пятизначные комбинации кода Бодо, к которым добавляется шестой контрольный символ: 10101,1 и 01100,0. Правило вычисления контрольного символа можно выразить на

основании (7.9) в следующей форме: СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
. Отсюда вытекает, что для любой комбинации сумма всех символов по модулю два будет равна нулю ( СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
— суммирование по модулю):

Это позволяет в декодирующем устройстве сравнительно просто производить обнаружение ошибок путем проверки на четность.
Нарушение четности имеет место при появлении однократных, трехкратных и в общем, случае ошибок нечетной кратности, что и дает возможность их обнаружить. Появление четных ошибок не изменяет четности суммы (7.12), поэтому такие ошибки не обнаруживаются. На основании ,(7.8) вероятность необнаруженной ошибки равна:

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

К достоинствам кода следует отнести простоту кодирующих и декодирующих устройств, а также малую .избыточность СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
однако последнее определяет и его основной недостаток — сравнительно низкую корректирующую способность.

Значительно лучшими корректирующими способностями обладает
инверсный код, который также применяется только для обнаружения ошибок. С принципом построения такого кода удобно ознакомиться на примере двух комбинаций: 11000, 11000 и 01101, 10010. В каждой комбинации символы до запятой являются информационными, а последующие — контрольными.   Если   количество единиц в информационных символах четное, т. е. сумма этих

равна нулю, то контрольные символы представляют собой простое повторение информационных. В противном случае, когда число единиц нечетное и сумма (7.13) равна 1, контрольные символы получаются из информационных посредством инвертирования, т. е. путем замены всех 0 на 1, а 1 на 0. Математическая форма записи образования контрольных символов имеет вид СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
. При декодировании происходит сравнение принятых информационных и контрольных символов. Если сумма единиц в принятых информационных символах четная, т. е. СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, то соответствующие друг другу информационные и контрольные символы суммируются по модулю два. В противном случае, когда c
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
=1

, происходит такое же суммирование, но с инвертированными контрольными символами. Другими словами, в соответствии с (7.10) производится r
проверок на четность: СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
.
Ошибка обнаруживается, если хотя бы одна проверка на четность дает 1.

Анализ показывает, что при СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 наименьшая кратность необнаруживаемой ошибки g
=4.
Причем не обнаруживаются только те ошибки четвертой кратности, которые искажают одинаковые номера информационных и контрольных символов. Например, если передана комбинация 10100, 10100, а принята 10111, 10111, то такая четырехкратная ошибка обнаружена не будет, так как здесь все значения СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 

равны 0. Вероятность необнаружения ошибок четвертой кратности определяется выражением

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Для g
>4
вероятность необнаруженных ошибок еще меньше. Поэтому при достаточно малых вероятностях ошибочных символов ро
можно полагать, что полная вероятность необнаруженных ошибок СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Инверсный код обладает высокой обнаруживающей способностью, однако она достигается ценой сравнительно большой избыточности, которая, как нетрудно определить, составляет величину СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
=0,5.

Читайте также:  Расшифровка кодов ошибок на автомобили ваз 2110

Классификация корректирующих кодов

В каналах с помехами эффективным средством повышения достоверности передачи сообщений является помехоустойчивое кодирование. Оно основано на применении специальных кодов, которые корректируют ошибки, вызванные действием помех. Код называется корректирующим,
если он позволяет обнаруживать или обнаруживать и исправлять ошибки при приеме сообщений. Код, посредством которого только обнаруживаются ошибки, носит название обнаруживающего
кода. Исправление ошибки при таком кодировании обычно производится путем повторения искаженных сообщений. Запрос о повторении передается по каналу обратной связи. Код, исправляющий обнаруженные ошибки, называется исправляющим,
кодом. В этом случае фиксируется не только сам факт наличия ошибок, но и устанавливается, какие кодовые символы приняты ошибочно, что позволяет их исправить без повторной передачи. Известны также коды, в которых исправляется только часть обнаруженных ошибок, а остальные ошибочные комбинации передаются повторно.

Для того чтобы «од обладал корректирующими способностями, в кодовой последовательности должны содержаться дополнительные (избыточные) символы, предназначенные для корректирования ошибок. Чем больше избыточность кода, тем выше его корректирующая способность.

Помехоустойчивые коды могут быть построены с любым основанием. Ниже рассматриваются только двоичные коды, теория которых разработана наиболее полно.

Все известные в настоящее время коды могут быть разделены

на две большие группы: блочные
и непрерывные.
Блочные коды характеризуются тем, что последовательность передаваемых символов разделена на блоки операции кодирования и декодирования в каждом блоке производятся отдельно. Отличительной особенностью непрерывных кодов является то, что первичная последовательность символов, несущих информацию, непрерывно преобразуется по определенному закону в другую последовательность, содержащую избыточное число символов. Здесь процессы кодирования и декодирования не требуют деления кодовых символов на блоки.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Рис. 7.1. Классификация корректирующих кодов

Разновидностями как блочных, так и непрерывных кодов являются разделимые
и неразделимые
коды. В разделимых кодах всегда можно выделить информационные
символы, содержащие передаваемую информацию, и контрольные
(проверочные) символы, которые являются избыточными и служат ‘исключительно для коррекции ошибок. В неразделимых кодах такое разделение символов провести невозможно.

Наиболее многочисленный класс разделимых кодов составляют линейные
коды. Основная их особенность состоит в том, что контрольные символы образуются как линейные комбинации информационных символов.

Каналы с ошибкой

Разберёмся сперва, откуда вообще берутся ошибки, которые мы собираемся исправлять. Перед нами стоит следующая задача. Нужно передать несколько блоков данных, каждый из которых кодируется цепочкой двоичных цифр. Получившаяся последовательность нулей и единиц передаётся через канал связи. Но так сложилось, что реальные каналы связи часто подвержены ошибкам. Вообще говоря, ошибки могут быть разных видов — может появиться лишняя цифра или какая-то пропасть. Но мы будем рассматривать только ситуации, когда в канале возможны лишь замены нуля на единицу и наоборот. Причём опять же для простоты будем считать такие замены равновероятными.

Ошибка — это маловероятное событие (а иначе зачем нам такой канал вообще, где одни ошибки?), а значит, вероятность двух ошибок меньше, а трёх уже совсем мала. Мы можем выбрать для себя некоторую приемлемую величину вероятности, очертив границу «это уж точно невозможно». Это позволит нам сказать, что в канале возможно не более, чем $k$
ошибок. Это будет характеристикой канала связи.

Кодирование и декодирование будем обозначать прямой стрелкой ( $\rightarrow$
), а передачу по каналу связи — волнистой стрелкой ( $\rightsquigarrow$
). Ошибки при передаче будем подчёркивать.

Например, пусть мы хотим передавать только сообщения $A=0$
и $B=1$
. В простейшем случае их можно закодировать нулём и единицей (сюрприз!):

$ \begin{aligned} A &\to 0,\\ B &\to 1. \end{aligned} $

Передача по каналу, в котором возникла ошибка будет записана так:

$ A \to 0 \rightsquigarrow \underline{1} \to B. $

Цепочки нулей и единиц, которыми мы кодируем буквы, будем называть кодовыми словами. В данном простом случае кодовые слова — это $0$
и $1$
.

Принципы помехоустойчивого кодирования

В теории помехоустойчивого кодирования важным является  вопрос об использовании  избыточности для корректирования возникающих при  передаче ошибок. Здесь   удобно   рассмотреть блочные моды, в
которых всегда имеется возможность выделить отдельные кодовые комбинации. Напомним, что для равномерных кодов, которые в дальнейшем только и будут изучаться, число возможных комбинаций равно M
=2
n

,
где п
— значность кода. В обычном некорректирующем коде без избыточности, например в коде Бодо, число комбинаций М
выбирается равным числу сообщений алфавита источника М0
и все комбинации используются для передачи информации. Корректирующие коды строятся так, чтобы число комбинаций М
превышало число сообщений источника М0
. Однако в.этом случае лишь М0
комбинаций из общего числа  используется для передачи  информации.  Эти  комбинации называются разрешенными,
а остальные М
М0
комбинаций носят название запрещенных.
На приемном конце в декодирующем устройстве известно, какие комбинации являются разрешенными и какие запрещенными. Поэтому если переданная разрешенная комбинация в результате ошибки преобразуется в некоторую запрещенную комбинацию, то такая ошибка будет обнаружена, а при определенных условиях исправлена. Естественно, что ошибки, приводящие к образованию другой разрешенной комбинации, не обнаруживаются.

Различие между комбинациями равномерного кода принято характеризовать расстоянием,
равным числу символов, которыми отличаются комбинации одна от другой. Расстояние d СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

между двумя комбинациями СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 и СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 
определяется количеством единиц в сумме этих комбинаций по модулю два. Например,

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Для любого кода d СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

.
Минимальное расстояние между разрешенными комбинациями ,в данном коде называется кодовым расстоянием
d
.

Расстояние между комбинациями СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 и СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 условно обозначено на рис. 7.2а,
где показаны промежуточные комбинации, отличающиеся друг от друга одним символом. B общем случае некоторая пара разрешенных комбинаций СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 и СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, разделенных кодовым расстоянием d
,
изображается на прямой рис. 7.2 б
, где точками указаны запрещенные комбинации. Для того чтобы в результате ошибки комбинация СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 преобразовалась в другую разрешенную комбинацию СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, должно исказиться d
символов.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Рис. 7.2.  Геометрическое представление разрешенных и запрещенных кодовых комбинаций

При искажении меньшего числа символов комбинация СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 перейдет в запрещенную комбинацию и ошибка будет обнаружена. Отсюда следует, что ошибка всегда обнаруживается, если ее кратность, т. е. число искаженных символов в кодовой комбинации,

Если g
>
d
,
то некоторые ошибки также обнаруживаются. Однако полной гарантии обнаружения ошибок здесь нет, так как ошибочная комбинация ib этом случае может совпасть с какой-либо разрешенной комбинацией. Минимальное кодовое расстояние, при котором обнаруживаются любые одиночные ошибки, d
=2.

Процедура исправления ошибок в процессе декодирования сводится к определению переданной комбинации по известной принятой. Расстояние между переданной разрешенной комбинацией и принятой запрещенной комбинацией d
0
равно кратности ошибок g .
Если ошибки в символах комбинации происходят независимо относительно друг друга, то вероятность искажения некоторых g
символов в n
-значной комбинации будет равна:

где СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
— вероятность искажения одного символа. Так как обычно СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
<<1, то вероятность многократных ошибок уменьшается с увеличением их кратности, при этом более вероятны меньшие расстояния d
0
.
В этих условиях исправление ошибок может производиться по следующему правилу. Если принята запрещенная комбинация, то считается переданной ближайшая разрешенная комбинация. Например, пусть образовалась запрещенная комбинация СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 (см.рис.7.2 б
), тогда принимается решение, что была передана комбинация СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
.
Это .правило декодирования для указанного распределения ошибок является оптимальным, так как оно обеспечивает исправление максимального числа ошибок. Напомним, что аналогичное правило используется в теории потенциальной помехоустойчивости при оптимальном приеме дискретных сигналов, когда решение сводится к выбору того переданного сигнала, который ib наименьшей степени отличается от принятого. Нетрудно определить, что при таком правиле декодирования будут исправлены все ошибки кратности

Минимальное значение d
,
при котором еще возможно исправление любых одиночных ошибок, равно 3.

Возможно также построение таких кодов, в которых часть ошибок исправляется, а часть только обнаруживается. Так, в соответствии с рис. 7.2 в
ошибки кратности СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 

исправляются, а ошибки, кратность которых лежит в пределах СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
только обнаруживаются. Что касается ошибок, кратность которых сосредоточена в пределах СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
то они обнаруживаются, однако при их исправлении принимается ошибочное решение — считается переданной комбинация А СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

вместо A
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

или наоборот.

Существуют двоичные системы связи, в которых решающее устройство выдает, кроме обычных символов 0 и 1, еще так называемый символ стирания СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
. Этот символ соответствует приему сомнительных сигналов, когда затруднительно принять определенное решение в отношении того, какой из символов 0 или 1 был передан. Принятый символ в этом случае стирается. Однако при использовании корректирующего кода возможно восстановление стертых символов. Если в кодовой комбинации число символов СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 оказалось равным gc
,
причем

а остальные символы приняты без ошибок, то такая комбинация полностью восстанавливается. Действительно, для восстановления всех символов СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 необходимо перебрать всевозможные сочетания из gc символов типа 0 и 1. Естественно, что все эти сочетания, за исключением одного, будут неверными. Но так как в неправильных сочетаниях кратность ошибок СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, то согласно неравенству (7.1) такие ошибки обнаруживаются. Другими словами, в этом случае неправильно восстановленные сочетания из gc
символов совместно с правильно принятыми символами образуют запрещенные комбинации и только одно- сочетание стертых символов даст разрешенную комбинацию, которую и следует считать как правильно восстановленную.

Если СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
то при восстановлении окажется несколько разрешенных комбинаций, что не позволит принять однозначное решение.

Таким образом, при фиксированном кодовом расстоянии максимально возможная кратность корректируемых ошибок достигается в кодах, которые обнаруживают ошибки или .восстанавливают стертые символы. Исправление ошибок представляет собой более трудную задачу, практическое решение которой сопряжено с усложнением кодирующих и декодирующих устройств. Поэтому исправляющие «оды обычно используются для корректирования ошибок малой кратности.

Корректирующая способность кода возрастает с увеличением d
.
При фиксированном числе разрешенных комбинаций М СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

увеличение d
возможно лишь за счет роста количества запрещенных комбинаций:

что, в свою очередь, требует избыточного числа символов r
=
n

k
,
где k
— количество символов в комбинации кода без избыточности. Можно ввести понятие избыточности кода и количественно определить ее по аналогии с (6.12) как

При независимых ошибках вероятность определенного сочетания g
ошибочных символов в n
-значной кодовой комбинации выражается ф-лой ((7.2), а количество всевозможных сочетаний g
ошибочных символов в комбинации зависит от ее длины и определяется известной формулой числа сочетаний

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Отсюда полная вероятность ошибки кратности g
,
учитывающая все сочетания ошибочных символов, равняется:

Используя (7.7), можно записать формулы, определяющие вероятность отсутствия ошибок в кодовой комбинации, т. е. вероятность правильного приема

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

и вероятность правильного корректирования ошибок

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Здесь суммирование ‘Производится по всем значениям кратности ошибок g
,
которые обнаруживаются и исправляются. Таким образом, вероятность некорректируемых ошибок равна:

Анализ ф-лы (7.8) показывает, что при малой величине Р0
и сравнительно небольших значениях п
наиболее вероятны ошибки малой кратности, которые и необходимо корректировать в первую очередь.

Вероятность Р СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,

избыточность СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 
и число символов n
являются основными характеристиками корректирующего кода, определяющими, насколько удается повысить помехоустойчивость передачи дискретных сообщений и какой ценой это достигается.

Общая задача, которая ставится при создании кода, заключается, в достижении наименьших значений Р СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

и СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
.
Целесообразность применения того или иного кода зависит также от сложности кодирующих и декодирующих устройств, которая, в свою очередь, зависит от п.
Во многих практических случаях эта сторона вопроса является решающей. Часто, например, используются коды с большой избыточностью, но обладающие простыми правилами кодирования и декодирования.

Читайте также:  Как запустить EasyAntiCheat без исправления ошибки ядра 30015

В соответствии с общим принципом корректирования ошибок, основанным на использовании разрешенных и запрещенных комбинаций, необходимо сравнивать принятую комбинацию со всеми комбинациями данного кода. В результате М
сопоставлений и принимается решение о переданной комбинации. Этот способ декодирования логически является наиболее простым, однако он требует сложных устройств, так как в них должны запоминаться все М
комбинаций кода. Поэтому на практике чаще всего используются коды, которые позволяют с помощью ограниченного числа преобразований принятых кодовых символов извлечь из них всю информацию о корректируемых ошибках. Изучению таких кодов и посвящены последующие разделы.

Систематические коды

Изучение конкретных способов помехоустойчивого кодирования начнем с систематических кодов, которые в соответствии с классификацией (рис. 7.1) относятся к блочным разделимым кодам, т. е. к кодам, где операции кодирования осуществляются независимо в пределах каждой комбинации, состоящей из информационных и контрольных символов.

Остановимся кратко на общих принципах построения систематических кодов. Если обозначить информационные символы буквами с,
а контрольные — буквами е,
то любую кодовую комбинацию, содержащую k
информационных и r
контрольных символов, можно представить последовательностью: СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
где с
и е
в двоичном коде принимают значения 0 или 1.

Процесс кодирования на передающем конце сводится к образованию контрольных символов, которые выражаются в виде линейной функции информационных символов:

Здесь СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 
— коэффициенты, равные 0 или 1, а СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 и СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 — знаки суммирования по модулю два. Значения *
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 выбираются по определенным правилам, установленным для данного вида кода. Иными словами, символы е
представляют собой суммы по модулю два информационных символов в различных сочетаниях. Процедура декодирования принятых комбинаций может осуществляться различными” методами. Один из них, так называемый метод контрольных чисел, состоит в следующем. Из информационных символов принятой кодовой комбинации *
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 образуется по правилу (7.9) вторая группа контрольных символов *
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Затем производится сравнение обеих групп контрольных символов путем их суммирования по модулю два:

Полученное число X
называется контрольным числом или синдромом. С его помощью можно обнаружить или исправить часть ошибок. Если ошибки в принятой комбинации отсутствуют, то все суммы *
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, а следовательно, и контрольное число X
будут равны .нулю. При появлении ошибок некоторые значения х
могут оказаться равным 1. В этом случае СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, что и позволяет обнаружить ошибки. Таким образом, контрольное число Х
определяется путем r
проверок на четность.

Для исправления ошибок знание одного факта их возникновения является недостаточным. Необходимо указать номер ошибочно принятых символов. С этой целью каждому сочетанию исправляемых ошибок в комбинации присваивается одно из контрольных чисел, что позволяет по известному контрольному числу определить место положения ошибок и исправить их.

Контрольное число X
записывается в двоичной системе, поэтому общее количество различных контрольных чисел, отличающихся от нуля, равно *
СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
. Очевидно, это количество должно быть не меньше числа различных сочетаний ошибочных символов, подлежащих исправлению. Например, если код предназначен для исправления одиночных ошибок, то число различных вариантов таких ошибок равно СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
.
В этом случае должно выполняться условие

Формула (7.11) позволяет при заданном количестве информационных символов k
определить необходимое число контрольных символов r
, с помощью которых исправляются все одиночные ошибки.

Корректирующие коды «на пальцах»

Время на прочтение

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
Корректирующие (или помехоустойчивые) коды — это коды, которые могут обнаружить и, если повезёт, исправить ошибки, возникшие при передаче данных. Даже если вы ничего не слышали о них, то наверняка встречали аббревиатуру CRC в списке файлов в ZIP-архиве или даже надпись ECC на планке памяти. А кто-то, может быть, задумывался, как так получается, что если поцарапать DVD-диск, то данные всё равно считываются без ошибок. Конечно, если царапина не в сантиметр толщиной и не разрезала диск пополам.

Как нетрудно догадаться, ко всему этому причастны корректирующие коды. Собственно, ECC так и расшифровывается — «error-correcting code», то есть «код, исправляющий ошибки». А CRC — это один из алгоритмов, обнаруживающих ошибки в данных. Исправить он их не может, но часто это и не требуется.

Давайте же разберёмся, что это такое.

Для понимания статьи не нужны никакие специальные знания. Достаточно лишь понимать, что такое вектор и матрица, как они перемножаются и как с их помощью записать систему линейных уравнений.

Внимание! Много текста и мало картинок. Я постарался всё объяснить, но без карандаша и бумаги текст может показаться немного запутанным.

Коды Хэмминга

К этому типу кодов обычно относят систематические коды с расстоянием d
=3,
которые позволяют исправить все одиночные ошибки (7.3).

Рассмотрим построение семизначного кода Хэмминга, каждая комбинация которого содержит четыре  информационных и триконтрольных символа. Такой код, условно обозначаемый (7.4), удовлетворяет неравенству (7.11)    и   имеет   избыточность СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Если информационные символы с
занимают в комбинация первые четыре места, то последующие три контрольных символа образуются по общему правилу (7.9) как суммы:

Декодирование осуществляется путем трех проверок на четность (7.10):

Так как х равно 0 или 1, то всего может быть восемь контрольных чисел Х=х1х2х3:
000, 100, 010, 001, 011, 101, 110 и 111. Первое из них имеет место в случае правильного приема, а остальные семь появляются при наличии искажений и должны использоваться для определения местоположения одиночной ошибки в семизначной комбинации. Выясним, каким образом устанавливается взаимосвязь между контрольными числами я искаженными символами. Если искажен один из контрольных символов: СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 
или СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
то, как следует из (7.15), контрольное число примет соответственно одно из трех значений: 100, 010 или 001. Остальные четыре контрольных числа используются для выявления ошибок в информационных символах.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Порядок присвоения контрольных чисел ошибочным информационным символам может устанавливаться любой, например, как показано в табл. 7.1. Нетрудно показать, что этому распределению контрольных чисел соответствуют коэффициенты СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
приведенные в табл. 7.2.

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Если подставить коэффициенты СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 
в выражение (7.15), то получим:

При искажении одного из информационных символов становятся равными единице те суммы х,
в которые входит этот символ. Легко проверить, что получающееся в этом случае контрольное число СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
согласуется с табл. 7.1. Нетрудно заметить, что первые четыре контрольные числа табл. 7.1 совпадают со столбцами табл. 7.2. Это свойство дает возможность при выбранном распределении контрольных чисел составить таблицу коэффициентов СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
.
Таким образом, при одиночной ошибке можно вычислить контрольное число, позволяющее по табл. 7.1 определить тот символ кодовой комбинации, который претерпел искажения. Исправление искаженного символа двоичной системы состоит в простой замене 0 на 1 или 1 на 0. B качестве примера рассмотрим передачу комбинации, в которой информационными символами являются СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, Используя ф-лу (7.14) и табл. 7.2,
вычислим контрольные символы:

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Передаваемая комбинация при этом будет СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
. Предположим, что принята комбинация — 1001, 010 (искажен символ СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
). Подставляя соответствующие значения в (7.16), получим:

СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ

Вычисленное таким образом контрольное число СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
 110 позволяет согласно табл. 7.1 исправить ошибку в символе.

Здесь был рассмотрен простейший способ построения и декодирования кодовых комбинаций, в которых первые места отводились информационным символам, а соответствие между контрольными числами и ошибками определялось таблице. Вместе с тем существует более изящный метод отыскания одиночных ошибок, предложенный впервые самим Хэммингом. При этом методе код строится так, что контрольное число в двоичной системе счисления сразу указывает номер искаженного символа. Правда, в этом случае контрольные символы необходимо располагать среди информационных, что усложняет процесс кодирования. Для кода (7.4) символы в комбинации должны размещаться в следующем порядке: СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
, а контрольное число вычисляться по формулам:

Так, если произошла ошибка в информационном символе с’5
то контрольное  число СПОСОБНОСТЬ КОДА ВЕРОЯТНОСТЬ ОБНАРУЖЕНИЯ ИЛИ ИСПРАВЛЕНИЯ ОШИБКИ
,
что соответствует  числу 5 в двоичной системе.

В заключение отметим, что в коде (7.4) при появлении многократных ошибок контрольное число также может отличаться от нуля. Однако декодирование в этом случае будет проведено неправильно, так как оно рассчитано на исправление лишь одиночных ошибок.

Что же дальше?

Чтобы попрактиковаться, попробуйте повторить рассуждения для разных проверочных матриц. Например, для кода с утроением.

Логическим продолжением изложенного был бы рассказ о циклических кодах — чрезвычайно интересном подклассе линейных кодов, обладающим замечательными свойствами. Но тогда, боюсь, статья уж очень бы разрослась.

Если вас заинтересовали подробности, то можете почитать замечательную книжку Аршинова и Садовского «Коды и математика». Там изложено гораздо больше, чем представлено в этой статье. Если интересует математика кодирования — то поищите «Теория и практика кодов, контролирующих ошибки» Блейхута. А вообще, материалов по этой теме довольно много.

Расстояния между кодами

Рассмотрим поподробнее код с утроением. Итак, мы получили работающий код, который исправляет одиночную ошибку. Но за всё хорошее надо платить: он кодирует один бит тремя. Не очень-то и эффективно.

И вообще, почему этот код работает? Почему нужно именно утраивать для устранения одной ошибки? Наверняка это всё неспроста.

Давайте подумаем, как этот код работает. Интуитивно всё понятно. Нолики и единички — это две непохожие последовательности. Так как они достаточно длинные, то одиночная ошибка не сильно портит их вид.

Пусть мы передавали $000$
, а получили $001$
. Видно, что эта цепочка больше похожа на исходные $000$
, чем на $111$
. А так как других кодовых слов у нас нет, то и выбор очевиден.

Но что значит «больше похоже»? А всё просто! Чем больше символов у двух цепочек совпадает, тем больше их схожесть. Если почти все символы отличаются, то цепочки «далеки» друг от друга.

Можно ввести некоторую величину $d(\alpha, \beta)$
, равную количеству различающихся цифр в соответствующих разрядах цепочек $\alpha$
и $\beta$
. Эту величину называют расстоянием Хэмминга. Чем больше это расстояние, тем меньше похожи две цепочки.

Например, $d(010, 010) = 0$
, так как все цифры в соответствующих позициях равны, а вот $d(010101, 011011) = 3$
.

Расстояние Хэмминга называют расстоянием неспроста. Ведь в самом деле, что такое расстояние? Это какая-то характеристика, указывающая на близость двух точек, и для которой верны утверждения:

  1. Расстояние между точками неотрицательно и равно нулю только, если точки совпадают.
  2. Расстояние в обе стороны одинаково.
  3. Путь через третью точку не короче, чем прямой путь.

Достаточно разумные требования.

Математически это можно записать так (нам это не пригодится, просто ради интереса посмотрим):

Предлагаю читателю самому убедиться, что для расстояния Хэмминга эти свойства выполняются.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *