Скачать презентацию МОСКОВСКИЙ ГОРОДСКОЙ ПСИХОЛОГО-ПЕДАГОГИЧЕСКИЙ УНИВЕРСИТЕТ ф-т информационных технологий Измерение Скачать презентацию МОСКОВСКИЙ ГОРОДСКОЙ ПСИХОЛОГО-ПЕДАГОГИЧЕСКИЙ УНИВЕРСИТЕТ ф-т информационных технологий Измерение

Измерение информации.pptx

  • Количество слайдов: 49

МОСКОВСКИЙ ГОРОДСКОЙ ПСИХОЛОГО-ПЕДАГОГИЧЕСКИЙ УНИВЕРСИТЕТ ф-т информационных технологий Измерение информации Преподаватель: Думин Павел Николаевич dumin. МОСКОВСКИЙ ГОРОДСКОЙ ПСИХОЛОГО-ПЕДАГОГИЧЕСКИЙ УНИВЕРСИТЕТ ф-т информационных технологий Измерение информации Преподаватель: Думин Павел Николаевич dumin. pn@gmail. com

Содержание: • Информация - ? – – – Виды информации Структура информатики Место информатики Содержание: • Информация - ? – – – Виды информации Структура информатики Место информатики в системе наук Задачи информатики Общая характеристика информационных процессов Свойства информации • Носители информации • Передача информации • Системы счисления – Перевод между различными системами счисления • Подходы к измерению информации – Содержательный подход – Алфавитный подход

Что такое информация? – Данные (сведения) о некотором процессе, объекте или явлении – Информация Что такое информация? – Данные (сведения) о некотором процессе, объекте или явлении – Информация — сведения (сообщения, данные) независимо от формы их представления – «Информация — это обозначение содержания, полученное нами из внешнего мира в процессе приспосабливания к нему нас и наших чувств» Норнберт Винер

Информатика • Теоретическая информатика – часть информатики, занимающаяся изучением структуры и общих свойств информации Информатика • Теоретическая информатика – часть информатики, занимающаяся изучением структуры и общих свойств информации и информационных процессов, разработкой общих принципов построения информационной техники и технологии. • Средства информатизации (технические и программные) – раздел, занимающийся изучением общих принципов построения вычислительных устройств и систем обработки и передачи данных, а также вопросов, связанных с разработкой систем программного обеспечения. • Информационные системы и технологии – раздел информатики, связанный с решением вопросов анализа потоков информации, их оптимизации, структурирования в различных сложных системах, с разработкой принципов реализации в данных системах информационных процессов.

Структура информатики Теоретическая информация Теория алгоритмов, теория информации, теория кодирования, математическая логика, теория формальных Структура информатики Теоретическая информация Теория алгоритмов, теория информации, теория кодирования, математическая логика, теория формальных языков и грамматик, исследование операций и др. Средства информатизации Средства обработки, передачи, хранения и предоставления информации Системное программное обеспечение, инструментарий технологии программирования, пакеты прикладных программ Информационные системы и технологии Ввода/вывода, сбора, хранения, передачи и обрабоки данных, подготовки различных документов, программирования, проектирования, моделирования, оубчения, диагностики, управления объектами, процессами, системами.

Структура информатики • с философией и психологией – через учение об информации и теорию Структура информатики • с философией и психологией – через учение об информации и теорию познания; • с математикой – через теорию математического моделирования, дискретную математику, математическую логику и теорию алгоритмов; • с лингвистикой – через учение о формальных языках и о знаковых системах; • с кибернетикой – через теорию информации и теорию управления; • с физикой и химией, электроникой и радиотехникой – через «материальную» часть компьютера и информационных систем.

Задачи информатики • исследует информационные процессы в социальных системах; • разрабатывает информационную технику и Задачи информатики • исследует информационные процессы в социальных системах; • разрабатывает информационную технику и создает новейшие технологии преобразования информации на основе результатов, полученных в ходе исследования информационных процессов; • решает научные и инженерные проблемы создания, внедрения и обеспечения эффективного использования компьютерной техники и технологии во всех сферах человеческой деятельности.

Общая характеристика информационных процессов • Информация не является ни материей, ни энергией. В отличие Общая характеристика информационных процессов • Информация не является ни материей, ни энергией. В отличие от них, она может возникать и исчезать. • Информация – наиболее важный ресурс современного производства: он снижает потребность в земле, труде, капитале, уменьшает расход сырья и энергии, вызывает к жизни новые производства, является товаром, причем продавец информации не теряет ее после продажи, может накапливаться. • Понятие «информация» обычно предполагает наличие двух объектов – «источника» информации и «приемника» (потребителя, адресата) информации.

Общая характеристика информационных процессов • Информация передается от источника к приемнику в материально-энергетической форме Общая характеристика информационных процессов • Информация передается от источника к приемнику в материально-энергетической форме в виде сигналов (например, электрических, световых, звуковых и т. д. ), распространяющихся в определенной среде. – Сигнал (от лат. signum – знак) – физический процесс (явление), несущий сообщение (информацию) о событии или состоянии объекта наблюдения. • Понятие информации можно рассматривать с двух позиций: в широком смысле слова – это окружающий нас мир, обмен сведениями между людьми, обмен сигналами между живой и неживой природой, людьми и устройствами; в узком смысле слова информация – это любые сведения, которые можно сохранить, преобразовать и передать.

Общая характеристика информационных процесов • Информация – специфический атрибут реального мира, представляющий собой его Общая характеристика информационных процесов • Информация – специфический атрибут реального мира, представляющий собой его объективное отражение в виде совокупности сигналов и проявляющийся при взаимодействии с «приемником» информации, позволяющим выделять, регистрировать эти сигналы из окружающего мира и по тому или иному критерию их идентифицировать. • Из этого определения следует, что: – информация объективна, так как это свойство материи – отражение; – информация проявляется в виде сигналов и лишь при взаимодействии объектов; – одна и та же информация различными получателями может быть интерпретирована по-разному в зависимости от «настройки» «приемника» .

Общая хар-ка информационных процессов • • Совершенный приемник → больше информации. Информация имеет определенные Общая хар-ка информационных процессов • • Совершенный приемник → больше информации. Информация имеет определенные функции. Основными из них являются: – познавательная – получение новой информации. Функция реализуется в основном через такие этапы обращения информации, как: • ее синтез (производство) • представление • хранение (передача во времени) • восприятие (потребление) – коммуникативная – функция общения людей, реализуемая через такие этапы обращения информации, как: • передача (в пространстве) • распределение – управленческая – формирование целесообразного поведения управляемой системы, получающей информацию. Эта функция информации неразрывно связана с познавательной и коммуникативной и реализуется через все основные этапы обращения, включая обработку.

Общая хар-ка информационных процессов • • Без информации не может существовать жизнь в любой Общая хар-ка информационных процессов • • Без информации не может существовать жизнь в любой форме и не могут функционировать любые информационные системы, созданные человеком. Без нее биологические и технические системы представляют груду химических элементов. В общем случае роль информации может ограничиваться эмоциональным воздействием на человека, однако наиболее часто она используется для выработки управляющих воздействий в автоматических (чисто технических) и автоматизированных (человеко-машинных) системах. В подобных системах можно выделить отдельные этапы (фазы) обращения информации, каждый из которых характеризуется определенными действиями. Последовательность действий, выполняемых с информацией, называют информационным процессом. Основными информационными процессами являются: – сбор (восприятие) информации; – подготовка (преобразование) информации; – передача информации; – обработка (преобразование) информации; – хранение информации; – отображение (воспроизведение) информации.

Виды информации • по способу восприятия: – – – Визуальная — воспринимаемая органами зрения. Виды информации • по способу восприятия: – – – Визуальная — воспринимаемая органами зрения. Аудиальная — воспринимаемая органами слуха. Тактильная — воспринимаемая тактильными рецепторами. Обонятельная — воспринимаемая обонятельными рецепторами. Вкусовая — воспринимаемая вкусовыми рецепторами. • по форме представления: – Текстовая — передаваемая в виде символов, предназначенных обозначать лексемы языка. – Числовая — в виде цифр и знаков, обозначающих математические действия. – Графическая — в виде изображений, предметов, графиков. – Звуковая — устная или в виде записи и передачи лексем языка аудиальным путём.

Виды информации • по назначению: – Массовая — содержит тривиальные сведения и оперирует набором Виды информации • по назначению: – Массовая — содержит тривиальные сведения и оперирует набором понятий, понятным большей части социума. – Специальная — содержит специфический набор понятий, при использовании происходит передача сведений, которые могут быть не понятны основной массе социума, но необходимы и понятны в рамках узкой социальной группы, где используется данная информация. – Секретная — передаваемая узкому кругу лиц и по закрытым (защищённым) каналам. – Личная (приватная) — набор сведений о какой-либо личности, определяющий социальное положение и типы социальных взаимодействий внутри популяции.

Виды информации • по значению: – Актуальная — информация, ценная в данный момент времени. Виды информации • по значению: – Актуальная — информация, ценная в данный момент времени. – Достоверная — информация, полученная без искажений. – Понятная — информация, выраженная на языке, понятном тому, кому она предназначена. – Полная — информация, достаточная для принятия правильного решения или понимания. – Полезная — полезность информации определяется субъектом, получившим информацию в зависимости от объёма возможностей её использования. • по истинности: – истинная – ложная

Свойства информации • Актуальность информации – свойство информации сохранять ценность для потребителя в течение Свойства информации • Актуальность информации – свойство информации сохранять ценность для потребителя в течение времени, т. е. не подвергаться «моральному» старению. • Полнота информации – свойство информации, характеризуемое мерой достаточности для решения определенных задач. Полнота информации означает, что она обеспечивает принятие правильного (оптимального) решения. Оценивается относительно вполне определенной задачи или группы задач. • Адекватность информации – свойство, заключающееся в соответствии содержательной информации состоянию объекта. Нарушение идентичности связано с техническим старением информации, при котором происходит расхождение реальных признаков объектов и тех же признаков, отображенных в информации.

Свойства информации • Сохранность информации – свойство информации, характеризуемое степенью готовности определенных информационных массивов Свойства информации • Сохранность информации – свойство информации, характеризуемое степенью готовности определенных информационных массивов к целевому применению и определяемое способностью контроля и защиты информации обеспечить постоянное наличие и своевременное предоставление информационного массива, необходимых для автоматизированного решения целевых и функциональных задач системы. • Достоверность информации – свойство информации, характеризуемое степенью соответствия реальных информационных единиц их истинному значению. Требуемый уровень достоверности информации достигается путем внедрения методов контроля и защиты информации на всех стадиях ее переработки, повышения надежности комплекса технических и программных средств информационной системы, а также административно-организационными мерами.

Основные информационные процессы Примеры: сбор метеорологических данных, запись кинофильма и т. д. Основные информационные процессы Примеры: сбор метеорологических данных, запись кинофильма и т. д.

Носители информации Эволюция носителей информации Носители информации Эволюция носителей информации

Передача информации Эволюция средств передачи информации Передача информации Эволюция средств передачи информации

Системы счисления • • Двоичная Десятичная Восьмеричная Шестнадцатеричная Системы счисления • • Двоичная Десятичная Восьмеричная Шестнадцатеричная

Десятичная система счисления В системе 10 цифр: 0, 1, 2, 3, 4, 5, 6, Десятичная система счисления В системе 10 цифр: 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, однако информацию несет не только цифра, но и место, на котором цифра стоит (то есть ее позиция). В десятичной системе счисления особую роль играют число 10 и его степени: 10, 1000 и т. д.

Двоичная система счисления • В этой системе всего две цифры – 0 и 1. Двоичная система счисления • В этой системе всего две цифры – 0 и 1. Особую роль здесь играет число 2 и его степени: 2, 4, 8 и т. д. Самая правая цифра числа показывает число единиц, следующая цифра – число двоек, следующая – число четверок и т. д. Двоичная система счисления позволяет закодировать любое натуральное число – представить его в виде последовательности нулей и единиц. • В двоичном виде можно представлять не только числа, но и любую другую информацию: тексты, картинки, фильмы и аудиозаписи. Инженеров двоичное кодирование привлекает тем, что легко реализуется технически.

Восьмеричная система счисления • В этой системе счисления 8 цифр: 0, 1, 2, 3, Восьмеричная система счисления • В этой системе счисления 8 цифр: 0, 1, 2, 3, 4, 5, 6, 7. Цифра 1, указанная в самом младшем разряде, означает, как и в десятичном числе, просто единицу. Та же цифра 1 в следующем разряде означает 8, в следующем – 64 и т. д. Число 100 (восьмеричное) есть не что иное, как 64 (десятичное). Чтобы перевести в двоичную систему, например, число 611 (восьмеричное), надо заменить каждую цифру эквивалентной ей двоичной триадой (тройкой цифр). Легко догадаться, что для перевода многозначного двоичного числа в восьмеричную систему нужно разбить его на триады справа налево и заменить каждую триаду соответствующей восьмеричной цифрой.

Шестнадцатеричная система счисления • Запись числа в восьмеричной системе счисления достаточно компактна, но еще Шестнадцатеричная система счисления • Запись числа в восьмеричной системе счисления достаточно компактна, но еще компактнее она получается в шестнадцатеричной системе. В качестве первых 10 из 16 шестнадцатеричных цифр взяты привычные цифры 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, а вот в качестве остальных 6 цифр используют первые буквы латинского алфавита: A, B, C, D, E, F. Цифра 1, записанная в самом младшем разряде, означает просто единицу. Та же цифра 1 в следующем – 16 (десятичное), в следующем – 256 (десятичное) и т. д. Цифра F, указанная в самом младшем разряде, означает 15 (десятичное). • Перевод из шестнадцатеричной системы в двоичную и обратно производится аналогично тому, как это делается для восьмеричной системы.

Двоичная → десятичная Перевод из двоичной системы в десятичную: n (степень) 0 1 2 Двоичная → десятичная Перевод из двоичной системы в десятичную: n (степень) 0 1 2 3 4 5 6 7 8 9 10 2 n 1 2 4 8 16 32 64 128 256 512 1024 Пример 1: перевести число 111010002 в десятичную систему счисления.

Десятичная → двоичная Для перевода десятичного числа в двоичную систему его необходимо последовательно делить Десятичная → двоичная Для перевода десятичного числа в двоичную систему его необходимо последовательно делить на 2 до тех пор, пока не останется остаток, меньший или равный 1. Число в двоичной системе записывается как последовательность последнего результата деления и остатков от деления в обратном порядке. Пример 2: перевести число 22 из десятичной системы в двоичную.

Восьмеричная → десятичная Для перевода восьмеричного числа в десятичное необходимо его записать в виде Восьмеричная → десятичная Для перевода восьмеричного числа в десятичное необходимо его записать в виде многочлена, состоящего из произведений цифр числа и соответствующей степени числа 8, и вычислить по правилам десятичной арифметики: n (степень) 0 1 2 3 4 5 6 8 n 1 8 64 512 4096 32768 262144 Пример 3: Число 750138 перевести в десятичную систему счисления.

Десятичная → восьмеричная Для перевода десятичного числа в восьмеричную систему его необходимо последовательно делить Десятичная → восьмеричная Для перевода десятичного числа в восьмеричную систему его необходимо последовательно делить на 8 до тех пор, пока не останется остаток, меньший или равный 7. Число в восьмеричной системе записывается как последовательность цифр последнего результата деления и остатков от деления в обратном порядке. Пример 4: число 57110 перевести в восьмеричную систему счисления. 57110 = 10738

Шестнадцатеричная → десятичная Для перевода шестнадцатеричного числа в десятичное необходимо его записать в виде Шестнадцатеричная → десятичная Для перевода шестнадцатеричного числа в десятичное необходимо его записать в виде многочлена, состоящего из произведений цифр числа и соответствующей степени числа 16, и вычислить по правилам десятичной арифметики: n (степень) 0 1 2 3 4 5 6 16 n 1 16 256 4096 65536 1048576 16777216 Пример 5: перевести число FDA 116 в десятичную систему счисления.

Десятичная → шестнадцатеричная Для перевода десятичного числа в шестнадцатеричную систему его необходимо последовательно делить Десятичная → шестнадцатеричная Для перевода десятичного числа в шестнадцатеричную систему его необходимо последовательно делить на 16 до тех пор, пока не останется остаток, меньший или равный 15. Число в шестнадцатеричной системе записывается как последовательность цифр последнего результата деления и остатков от деления в обратном порядке. Пример 6: число 746710 перевести в шестнадцатеричную систему счисления.

Двоичная → восьмеричная Чтобы перевести число из двоичной системы в восьмеричную, его нужно разбить Двоичная → восьмеричная Чтобы перевести число из двоичной системы в восьмеричную, его нужно разбить на триады (тройки цифр), начиная с младшего разряда, в случае необходимости дополнив старшую триаду нулями, и каждую триаду заменить соответствующей восьмеричной цифрой. Пример 7: 10010112 = 001 0112 = 11310 Десят Двоичн Восьме Шестна ичная ая ричная дцатер ичная 1 001 1 1 2 010 2 2 3 011 3 3 4 100 4 4 5 101 5 5 6 110 6 6 7 111 7 7 8 1000 10 8 9 1001 11 9 10 1010 12 A 11 1011 13 B 12 1100 14 C 13 1101 15 D 14 1110 16 E 15 1111 17 F 16 10000 20 10

Двоичная → восьмеричная Чтобы перевести число из двоичной системы в шестнадцатеричную, его нужно разбить Двоичная → восьмеричная Чтобы перевести число из двоичной системы в шестнадцатеричную, его нужно разбить на тетрады (четверки цифр), начиная с младшего разряда, в случае необходимости дополнив старшую тетраду нулями, и каждую тетраду заменить соответствующей восьмеричной цифрой. Десят Двоичн Восьме Шестна ичная ая ричная дцатер ичная 1 001 1 1 2 010 2 2 3 011 3 3 4 100 4 4 5 101 5 5 6 110 6 6 7 111 7 7 10111000112 = 0010 1110 00112 = 2 E 316 8 1000 10 8 9 1001 11 9 10 1010 12 A 11 1011 13 B 12 1100 14 C 13 1101 15 D 14 1110 16 E 15 1111 17 F 16 10000 20 10 Пример 8: число 10111000112 перевести в шестнадцатеричную систему счисления.

Восьмеричная → двоичная Для перевода восьмеричного числа в двоичное необходимо каждую цифру заменить эквивалентной Восьмеричная → двоичная Для перевода восьмеричного числа в двоичное необходимо каждую цифру заменить эквивалентной ей двоичной триадой. Десят Двоичн Восьме Шестна ичная ая ричная дцатер ичная 001 1 1 2 010 2 2 3 Пример 9: 5318 = 101 011 0012 1 011 3 3 4 100 4 4 5 101 5 5 6 110 6 6 7 111 7 7 8 1000 10 8 9 1001 11 9 10 1010 12 A 11 1011 13 B 12 1100 14 C 13 1101 15 D 14 1110 16 E 15 1111 17 F 16 10000 20 10

Шестнадцатеричная → двоичная Десят Двоичн Восьме Шестна ичная ая ричная дцатер ичная Для перевода Шестнадцатеричная → двоичная Десят Двоичн Восьме Шестна ичная ая ричная дцатер ичная Для перевода шестнадцатеричного числа в двоичное необходимо каждую цифру заменить эквивалентной ей двоичной тетрадой. Пример 10: EE 816 = 1110 10002 1 001 1 1 2 010 2 2 3 011 3 3 4 100 4 4 5 101 5 5 6 110 6 6 7 111 7 7 8 1000 10 8 9 1001 11 9 10 1010 12 A 11 1011 13 B 12 1100 14 C 13 1101 15 D 14 1110 16 E 15 1111 17 F 16 10000 20 10

Тест Тест

Содержательный подход: • Основной постулат: получение информации → сокращение неопределенности. • Возможная оценка на Содержательный подход: • Основной постулат: получение информации → сокращение неопределенности. • Возможная оценка на экзамене или зачете. • Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности вашего знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности вашего знания в четыре раза, так как получено одно из четырех возможных информационных сообщений. • Ясно, что чем более неопределенна первоначальная ситуация (чем большее количество информационных сообщений возможно), тем больше мы получим новой информации при получении информационного сообщения (тем в большее количество раз уменьшится неопределенность знания).

Содержательный подход: • Количество информации можно рассматривать как меру уменьшения неопределенности знания при получении Содержательный подход: • Количество информации можно рассматривать как меру уменьшения неопределенности знания при получении информационных сообщений. • Рассмотренный выше подход к информации как мере уменьшения неопределенности знания позволяет количественно измерять информацию. Существует формула, которая связывает между собой количество возможных информационных сообщений N и количество информации I, которое несет полученное сообщение: N = 2 i

Содержательный подход: • За единицу количества информации принимается такое количество информации, которое содержится в Содержательный подход: • За единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа битом. – 1 байт = 8 битов = 23 битов. – 1 килобайт (Кбайт) = 210 байт = 1024 байт; – 1 мегабайт (Мбайт) = 210 Кбайт = 1024 Кбайт; – 1 гигабайт (Гбайт) = 210 Мбайт = 1024 Мбайт.

Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, если после того, как вытянули билет, получили сообщение равно 5 битам? N = 2 i

Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, если после того, как вытянули билет, получили сообщение равно 5 битам? N = 2 i Пояснение: количество билетов – неизвестное количество информационных сообщений N. Одно сообщение несет в себе 5 бит информации: I = 5

Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, Содержательный подход: • Определение количества информационных сообщений: как узнать, сколько всего билетов на экзамене, если после того, как вытянули билет, получили сообщение равно 5 битам? N = 2 i Пояснение: количество билетов – неизвестное количество информационных сообщений N. Одно сообщение несет в себе 5 бит информации: I = 5 Ответ: N = 2^5 = 2*2*2 = 32 сообщения. 32 билета предусмотрено на экзамене.

Содержательный подход: Определить, какое количество информации будет нести в себе Одно из возможных выпавших Содержательный подход: Определить, какое количество информации будет нести в себе Одно из возможных выпавших направлений на компасе. N = 2 i Решение: 8 = 2 i 8 = 2*2*2 … 8 = 2*2*2 = 23 Ответ: I = 3

Алфавитный подход • При алфавитном подходе к определению количества информации отвлекаются от содержания информации Алфавитный подход • При алфавитном подходе к определению количества информации отвлекаются от содержания информации и рассматривают информационное сообщение как последовательность знаков определенной знаковой системы. • Информационная емкость знака. Представим себе, что необходимо передать информационное сообщение по каналу передачи информации от отправителя к получателю. Пусть сообщение кодируется с помощью знаковой системы, алфавит которой состоит из N знаков {1, . . . , N}. В простейшем случае, когда длина кода сообщения составляет один знак, отправитель может послать одно из N возможных сообщений "1", "2", . . . , "N", которое будет нести количество информации I.

Алфавитный подход N = 2 i В алфавитном подходе N – не количество информационных Алфавитный подход N = 2 i В алфавитном подходе N – не количество информационных сообщений, а количество знаков в алфавите, из символов которого сообщение составлено. i - количество информации, которое несет каждый знак Задание: определить количество информации, которое несет знак в двоичной знаковой системе.

Алфавитный подход N = 2 i В алфавитном подходе N – не количество информационных Алфавитный подход N = 2 i В алфавитном подходе N – не количество информационных сообщений, а количество знаков в алфавите, из символов которого сообщение составлено. Задание: определить количество информации, которое несет знак в двоичной знаковой системе: N = 2 => 2 = 2 i => i=1 бит.

Алфавитный подход • Определить, какое количество информации несет в себе буква русского алфавита (исключить Алфавитный подход • Определить, какое количество информации несет в себе буква русского алфавита (исключить «ё» ). N = 2 i

Алфавитный подход • Определить, какое количество информации несет в себе буква русского алфавита (исключить Алфавитный подход • Определить, какое количество информации несет в себе буква русского алфавита (исключить «ё» ). • Решение: количество букв алфавита равно 33 – 1 ( «ё» ) = 32. • N = 32 • I = 5 бит N = 2 i

Алфавитный подход Количество информации в сообщении: • Сообщение состоит из последовательности знаков, каждый из Алфавитный подход Количество информации в сообщении: • Сообщение состоит из последовательности знаков, каждый из которых несет определенное количество информации. • Если знаки несут одинаковое количество информации, то количество информации ic в сообщении можно подсчитать, умножив количество информации iз, которое несет один знак, на длину кода (количество знаков в сообщении) К: ic = iз × K