Теория информации Теоремы Шеннона об источниках 1 Лекция 6 Теоремы Шеннона об источниках
Теория информации Кодирование на входе и декодирование на выходе канала Процесс передачи информации по каналу характеризуется следующими двумя параметрами: 1. Скоростью передачи , измеряемой числом двоичных символов в секунду на входе кодера канала. 2. Правильностью приема, определяемой вероятностью ошибки на символ , т. е. вероятностью того, что любой данный двоичный символ будет ошибочно воспроизведен декодером Лекция 6 Теоремы Шеннона об источниках канала.
Теория информации Теорема Шеннона (1948) устанавливает ограничения, накладываемые на эти два параметра, определяемые характеристиками канала передачи. Для любого стационарного канала с конечной памятью можно определить пропускную способность , имеющую следующий смысл. При любой скорости передачи двоичных символов , меньшей чем , вероятность ошибки на символ можно сделать произвольно малой путем надлежащего конструирования кодера и декодера канала, и обратно, вероятность ошибки не может быть сделана произвольно малой, когда больше чем. Лекция 6 Теоремы Шеннона об источниках
Теория информации Другими словами теорема утверждает, что наличие случайных помех в канале само по себе не накладывает каких-либо ограничений на точность передачи. Скорее оно накладывает ограничение на скорость передачи двоичных символов, при которой может быть достигнута сколь угодно высокая точность их воспроизведения. Лекция 6 Теоремы Шеннона об источниках
Теория информации Первая теорема Шеннона Если производительность источника R на входе канала с помехами (канал без памяти) с пропускной способностью С меньше пропускной способности, т. е. R < C, то существует такой код, при котором вероятность ошибок на приемном конце сколь угодно мала. Вторая теорема Шеннона При условии R ≤ C среди кодов, обеспечивающих (согласно Первой теореме) сколь угодно малую вероятность ошибки, существует код, при котором скорость передачи информации сколь угодно близка к производительности источника. Лекция 6 Теоремы Шеннона об источниках
Скачать презентацию Теория информации Теоремы Шеннона об источниках 1 Лекция
Лекция 6 Теоремы Шеннона об источниках.ppt