1. Статьи
Заметки пользователей
26.12.2018 07:40
PDF
20191
3

Теореме Котельникова 85 лет

В 2018 году исполнились юбилейные 110 лет со дня рождения выдающегося советского и российского ученого в области радиотехники Владимира Александровича Котельникова (1908−2005), и одновременно исполнилось 85 лет сформулированной им и доказанной теореме о дискретизации сигналов, которую можно назвать одной из главных в теории цифровой связи и обработки сигналов.

В честь таких знаменательных дат в этом уходящем году захотелось успеть написать статью об этом легендарном человеке и поподробнее рассказать о его легендарной теореме, которую сегодня учат тысячи студентов технических вузов. Стоит отметить, что это не только студенты радиотехнических и телекоммуникационных институтов, а студенты практически всех технических вузов, сталкивающихся в тех или иных дисциплинах с цифровыми сигналами. Причем таких столкновений происходит больше, чем, пожалуй, на мировом чемпионате по регби, учитывая тот факт, что сегодня почти любое техническое устройство работает на уровне цифровых сигналов, будь то телескоп, медицинский ЭКГ-аппарат, видеокамера, спектрометр или какой-либо датчик.

Но конечно уж кто и должен хорошо знать данную теорему, так это каждый уважающий цифровые системы передачи связист, за исключением того случая, если он является так сказать "старовером" и работает только лишь с одними полностью аналоговыми системами.

Стоит отметить, что, к сожалению, многие знают фамилию Котельникова лишь по названию "теоремы Котельникова", несмотря на многие другие его немаловажные достижения. Постараемся исправить эту невежественную ситуацию.

Кроме этого, в планах рассмотреть многие интересные неоднозначности, связанные с теоремой отсчётов, в том числе:

  • Как правильно называть эту теорему? В разных учебниках ее называют по-разному: теорема Котельникова, теорема Найквиста-Шеннона, теорема Уиттакера-Шеннона, кардинальная теорема интерполяции и даже теорема Уиттакера-Найквиста-Котельникова-Шеннона. В итоге неудивительно, что зачастую происходит путаница в умах людей.
  • Как можно объяснить суть теоремы просто и как не правильно ее объяснять?
  • Можно ли восстановить синусоидальный сигнал при Fд=2*Fв? (здесь Fд – частота дискретизации, Fв – верхняя частота спектра сигнала)


История появления теоремы отсчётов

Владимир Александрович Котельников родился 24 августа (6 сентября) 1908 года в Казани. Его отец был математиком и даже преподавал в МВТУ - МГТУ имени Баумана. Дед – Петр Иванович Котельников (1809-1879), профессор математики Казанского университета, декан физико-математического факультета, ближайший помощник Н.И. Лобачевского. Он был единственным в мире ученым, который при жизни Н.И. Лобачевского не только понял его геометрию, но и открыто отстаивал ее, бросая вызов всей научной общественности в то время. Четырехкратный прадед Владимира Александровича – Семен Кириллович Котельников (1723-1806), математик, был седьмым по счету российским ученым, избранным действительным членом Российской академии наук (1751 г.).

Теореме Котельникова 85 лет
Рис.1 Володя Котельников

Когда Володе Котельникову было 10 лет, он впервые увидел радиопередатчик то ли у красных, то ли у белых. Любопытный мальчик спросил у папы: "Как это устроено?". Отец постарался объяснить сыну как с помощью невидимых и неслышимых радиоволн передают сообщения и  также сказал: "Ты этого пока не поймешь". Обычно после такого ответа Володя старался придумать свое объяснение непонятного ему явления или устройства, и это ему как-то удавалось. В этом же случае он оказался бессилен. Радио его потрясло!

Для школьной стенгазеты он написал статью о радио, для этого, правда, пришлось самостоятельно поразбираться с тригонометрией, которую в школе он еще не проходил.

В связи с увлечением с юношеских лет радиотехникой в 1926 году поступил на Электротехнический факультет Московского высшего технического училища (МВТУ) имени Н.Э.Баумана (ныне МГТУ).  Во время обучения, один из институтов университета – Московский энергетический институт (МЭИ) выделился из МВТУ как самостоятельный институт, поэтому Владимир Александрович в 1930 году получил диплом МЭИ и против своей воли оказался в аспирантуре. Он мечтал распределиться в Центральную радиолабораторию, но как одного из лучших выпускников его зачислили в аспирантуру МЭИ.

В 1932 г. будучи 24 летним аспирантом он сформулировал и доказал знаменитую теорему отсчётов, вошедшую в число основополагающих принципов теории цифровой связи.

Теореме Котельникова 85 лет
Рис. 2 Молодой автор теоремы отсчётов

На самом деле в своей публикации В. А. Котельников доказал семь теорем, две из которых являются основополагающими, а остальные их дополняют и конкретизируют. Их значение так велико, что, по сути, они являются основой современной теории и практики цифровой электрической связи, радиотехники и цифровой обработки сигналов.

Ниже представлены формулировки двух основных теорем Котельникова.

Теореме Котельникова 85 лет

Это выражение принято называть рядом Котельникова (но лучше говорить рядом Уиттакера-Котельникова, позже обсудим почему). Промежутки времени T, через которые берутся отсчёты s (kT), получили название интервалов Найквиста. Верхнюю частоту спектра сигнала обозначают по-разному: fb, fmax  и т.д.

Члены ряда Котельникова представляют собой функции отсчётов (рис. 3а), сдвинутых друг относительно друга по времени на величину T (рис. 3б), умноженных на величину дискретного значения сигнала x(kt). Суммирование конечного числа членов ряда  позволяет получить сигнал, который будет приближаться к аналоговому сигналу (рис. 4).

Теореме Котельникова 85 лет

Теореме Котельникова 85 лет
Рис. 3 Функции отсчётов

Теореме Котельникова 85 лет
Рис. 4 Восстановление сигнала с помощью ряда Уиттакера-Котельникова

Теореме Котельникова 85 лет

Дискретизация аналогового сигнала есть преобразование функции непрерывной переменной x (t)в последовательность дискретных значений x (kT), k=1,2,3... Дискретный сигнал можно отображать разными способами, например, в виде дискретной последовательности импульсов, имеющих на интервалах T значения x(kT) , или в виде точечных значений сигнала (рис. 5).

Теореме Котельникова 85 лет

Теореме Котельникова 85 лет

Теореме Котельникова 85 лет

Теореме Котельникова 85 лет
Рис. 5 Разные примеры отображения дискретного сигнала

Дискретные значения сигнала x(kT) называют дискретными отсчётами. Не отчет типа годовой отчет о работе, а отсчёт от глагола отсчитать с буквой ё!  (Когда читаешь в газете: "В ближайшие дни страна передохнет от холода" начинаешь понимать важность буквы ё.)

Название научной статьи Котельникова, в которой были представлены данные теоремы, по современным меркам звучит несуразно "О пропускной способности "эфира" и проволоки в электросвязи". Однако не стоит удивляться, в те времена радиотехника как наука только зарождалась и, по-видимому, термин "проволока" считался в теории электросвязи общепринятым. В те времена еще вовсю велись споры о том, что представляет собой амплитудно-модулированный сигнал: синусоидальное колебание с медленно изменяющейся амплитудой или набор спектральных компонент.

Хотя "I Всесоюзный съезд по вопросам технической реконструкции дела связи и развития слаботочной промышленности", на котором Котельников должен был сделать доклад по своей работе, не состоялся, издательство Управления связи РККА отпечатало 3000 экз. сборников трудов конференции и выпустило в открытую продажу по цене 1 р. 35 коп. Автор понимал теоретическое и особенно практическое значение этой работы и в 1936 г. попытался опубликовать ее в виде статьи в более широко читаемом специалистами научно-техническом журнале "Электричество", но получил отказ!

Теореме Котельникова 85 лет
Рис. 6 Редакция журнала 11.10.1936 г. прислала Котельникову официальный отказ "из-за перегруженности текущего номера журнала и узкого интереса данной статьи, учитывая профиль нашего журнала".

Котельников решил продолжить работу дальше, забыв об этом эпизоде и не делая попытки вновь опубликовать работу.

Примечательно то, что Котельников и Клод Шеннон, сформулировавший теорему отсчётов 8 годами позже, были соратниками по неудачному опубликованию своих трудов. В редакцию американского Института радиоинженеров (IRE, впоследствии IEEE) статья Шеннона поступила 23 июля 1940 г., а опубликована лишь в 1949 г. У 24-летнего "доктора философии в области математики" Клода Шеннона так же, как и у 24-летнего инженера В.А. Котельникова, с публикацией теоремы отсчётов были проблемы!

Путаница в названиях теоремы отсчётов: вклад Котельникова, Уиттакера, Шеннона и Найквиста в теорию сигналов

В отечественной литературе установилась традиция называть теорему отсчётов теоремой Котельникова. В зарубежной литературе эту теорему обычно называют теоремой Шеннона, в честь выдающегося американского инженера-связиста и математика Клода Шеннона, или теоремой Найквиста, в честь американского электроинженера шведского происхождения Гарри Найквиста или теоремой Уиттакера-Шеннона, в честь всемирно известного английского математика Эдмунда Уиттакера. Встречаются также следующие названия: теорема Найквиста-Шеннона, теорема Уиттакара-Шеннона, кардинальная теорема интерполяции (cardinal theorem of interpolation) и даже теорема Уиттакера-Найквиста-Котельникова-Шеннона. В англоязычной литературе встречается также понятие "интерполяционная формула Уиттакера-Шеннона".

Несомненно, что это множество различных названий одной и той же теоремы дискретизации запутывает студентов. Например, человек может рассказать теорему Котельникова, однако если его спросить о теореме Найквиста, он скажет, что не знает ее. Вот свежий пример такой путаницы – комментарии на YouTube к опубликованной недавно видео лекции по ЦОС на тему теоремы Котельникова.

Теореме Котельникова 85 лет
Рис. 7

Кроме того, читая англоязычную работу или переведенную книгу, студент может спутать теорему дискретизации, называемую теоремой Найквиста-Шеннона (Nyquist–Shannon theorem), с другими теоремами Шеннона, например о пропускной способности канала. Чтобы понять, почему теорема дискретизации имеет столько различных названий и не путаться в них, необходимо изучить историю зарождения данной теоремы и заслуги каждого из ее "авторов". Итак, начнем раскладывать все по полочкам.

С математической точки зрения интерполяция функций с помощью ряда вида:

Теореме Котельникова 85 летТеореме Котельникова 85 лет

рассматривалась еще в 1914 г. известным английским математиком Эдмундом Уиттакером, поэтому такой ряд справедливо будет называть рядом Уиттакера. Очевидно, что при a=0 данный ряд эквивалентен ряду, который представлял в своей работе Котельников. Однако это не означает, что автором теоремы отсчётов следует считать Э. Уиттакера. Работа Э. Уиттакера относится лишь к одному из возможных методов интерполяции произвольных функций, он не подразумевал использование этого ряда для представления сигналов и тем более не отмечал его прикладного применения для передачи и восстановления сигналов.

В зарубежной литературе теорема отсчётов часто называется теоремой Найквиста, который в 1928 года опубликовал работу "Certain topics in telegraph transmission theory" ("Некоторые вопросы теории телеграфной передачи") или теоремой Шеннона, который в 1940 г. в своей фундаментальной для теории связи статье как и Котельников доказал теорему отсчётов. Некоторые авторы усматривают в работе Найквиста эвристическую формулировку теоремы отсчётов, несмотря на то, что проблемой дискретизации он не занимался и не приводил какой-либо математической формулировки или доказательства теоремы. По сути, Найквиста оценил теоретически предельно достижимую скорость передачи элементарных посылок через телеграфный канал связи, рассматривая его как линейный фильтр нижних частот с частотой среза F. Он доказал, что интервал между соседними элементарными телеграфными посылками не может быть меньше, чем величина 1/(2F).

Доказательством того, что теорему отсчётов по праву можно называть теоремой Котельникова служит тот факт, что в 1999 г. немецкий фонд Эдуарда Рейна, который отмечал выдающиеся научные достижения XX в. и который удостоил К. Шеннона в 1991 г. премии за теорию информации, справедливо присудил Владимиру Александровичу Котельникову премию "За впервые математически точно сформулированную и опубликованную теорему отсчётов". В 2000 г. американский Институт электро- и радиоинженеров – IEEE (англ. Institute of Electrical and Electronics Engineers), в трудах которого в 1949 г. была опубликована статья К. Шеннона 1940 г., удостоил В.А. Котельникова Золотой медали А. Белла.

Учитывая все приведенные выше обстоятельства, теорему отсчётов по праву можно называть теоремой В.А. Котельникова, первым сформулировавшим и доказавшим ее в 1932 г. (но обычно принимают год сборника со статьей – 1933 г., сама статья Котельникова была подписана к печати 19.11.1932 г.). Учитывая обобщение теоремы отсчётов Клодом Шенноном на стационарные случайные процессы, а также независимую формулировку теоремы отсчётов 23.07.1940 г., допустимо в названии теоремы приписывать фамилию Шеннона.

Также учитывая достижения Уиттакера (1915 г.) и Найквиста (1928 г.), следует при формулировке теоремы отсчётов называть ряд из sinc функций рядом Э. Уиттакера (при а ≠ 0), а максимально возможный интервал дискретизации Δtмакс = l/(2Fm) - по предложению К. Шеннона – интервалом Найквиста. Если читателю захочется более подробно познакомиться с историей зарождения теоремы, можно порекомендовать к прочтению статью профессора Г.И. Худякова "Теорема отсчётов теории сигналов и ее создатели".

Теореме Котельникова 85 лет
Рис. 8

В 1977 г. при расстановке приоритетов теорему отсчётов было предложено называть WKS-теоремой, т.е. теоремой Уиттакера-Котельникова- Шеннона (Whittaker-Kotelnikov-Shannon).

В то же время во многих зарубежных книгах и материалах при рассмотрении теоремы отсчетов до сих пор не упоминается фамилия Котельникова.

Теореме Котельникова 85 лет
Рис. 9 Выдержка из англоязычного учебника по теории сигналов

Вследствие таких печальных обстоятельств возникла идея провести анализ лекционных материалов крупных зарубежных университетов на тему упоминания авторов теоремы отсчетов и посмотреть, рассказывают ли иностранным студентам о русском ученом В.А. Котельникове.

Результаты эксперимента следующие. В институтах:

  1. New Jersey Institute of Technology
  2. The University of Leicester, United Kingdom
  3. Massachusetts Institute of Technology
  4. University of Oslo
  5. Tel Aviv University, Israel
  6. University of California, Berkeley
  7. University of Washington, Seattle


При рассмотрении sampling theorem идет упоминание только фамилий Шеннон, Найквист, Уиттакер. Ниже представлен пример слайда, на котором написано:

"Теорема о дискретизации соотносится с Клодом Шенноном, который первым сформулировал ее в 1949"

Теореме Котельникова 85 лет
Рис. 10 Пример слайда к лекции по дискретизации сигналов в зарубежном университете

В институтах:

  1. Imperial College London, помимо прочих фамилий, упоминается Котельников.

Таким образом, результаты изучения лекций множества зарубежных институтов говорят о том, что до сих пор иностранным студентам не говорят о вкладе Котельникова в теорию дискретизации. Удалось найти только один факт того, что студентам говорят:

"The first formulation of the sampling theorem precisely and applied it to communication is probably a Russian scientist by the name of V. A. Kotelnikov in 1933." 

Теореме Котельникова 85 лет
Рис.11 В.А. Котельников

Про теорему Котельникова можно много что еще сказать, но мы на этом пока остановимся.    

Продолжение следует...

3 комментариев
Оставлять комментарии могут только авторизованные пользователи
Robot_NagNews
Robot_NagNews
Материал: В 2018 году исполнились юбилейные 110 лет со дня рождения выдающегося советского и российского ученого в области радиотехники Владимира Александровича Котельникова (1908−2005), и одновременно исполнилось 85 лет сформулированной им и доказанной теореме о дискретизации сигналов, которую можно назвать одной из главных в теории цифровой связи и обработки сигналов. Полный текст
Kirya
Kirya
Супер !
frol13
frol13

Хорошая в целом статья. Мелкие шероховатости оставим в покое.

А вот пояснение физического смысла теоремы, обычно в виде картинки с перекрывающимися спектрами, не приведено. Что происходит со спектром сигнала при дискретизации, тоже не помянуто. Без этого понять смысл, кмк, нельзя. Если это будет в продолжении. то ждемс...

Цитата

Таким образом, результаты изучения лекций множества зарубежных институтов говорят о том, что до сих пор иностранным студентам не говорят о вкладе Котельникова в теорию дискретизации.

Дело даже хуже - поскольку теперь большинство наших статей по обработке сигналов и смежным областям публикуется на английском языке и цитируются почти исключительно англоязычные источники, терминология перенимается тоже оттуда.

Пришлось однажды уточнять у одного товарища (все по-русски), что такое частота Найквиста в его докладе, после этого только прозвучала фамилия Котельникова.