Теория информации Информация это то

Теория информации

«Информация – это то, что снижает неопределенность наших знаний о чемто» Клод Элвуд Шеннон 30. 04. 1916 – 24. 02. 2001

Информационные ресурсы …различные формализованные знания (теории, идеи, изобретения), данные (отдельные документы и массивы документов), технологии и средства их сбора, обработки, анализа, интерпретации и применения, а также обмена между источниками и потребителями информации

Информационные процессы Сбор информации - это процесс целенаправленного извлечения и анализа информации. Цель сбора - обеспечение готовности информации к дальнейшему продвижению в информационном процессе.

Информационные процессы Передача информации. Информация передаётся в форме сообщений от некоторого источника информации к её приёмнику посредством канала связи между ними. устройство, предназначенное для преобразования исходного сообщения источника к виду, удобному для передачи совокупность технических устройств, обеспечивающих передачу сигнала от источника к получателю устройство для преобразования кодированного сообщения в исходное

Каналы связи Ä аналоговые телефонные каналы общего пользования Ä цифровые каналы Ä узкополосные и широкополосные кабельные каналы Ä радиоканалы и спутниковые каналы связи Ä оптоволоконные каналы связи

Информационные процессы Обработка информации процесс получения новой информации на базе уже имеющейся. Преобразование информации может быть связано с изменением ее содержания или формы представления.

Информационные процессы Хранение информации — это поддержание информации в форме, постоянно готовой к выдаче потребителю.

• Синтаксический аспект • Семантический аспект • Прагматический аспект

касается формальной правильности сообщения с точки зрения синтаксических правил используемого языка безотносительно к его содержанию

передает смысловое содержание информации

рассматривает информацию с точки зрения ее практической полезности, ценности для потребителей. Прагматический аспект определяет возможность достижения поставленной цели с учетом полученной информации.

Объективность информации. Информация объективна, если она не зависит, от чьего-либо мнения, суждения. Достоверность информации. Информация достоверна, если она отражает истинное положение дел.

Полнота информации. Информацию можно назвать полной, если ее достаточно для понимания и принятия решения. Актуальность информации. Важность, существенность информации для настоящего времени.

Полезность информации. Полезность информации оценивается по тем задачам, которые мы можем решить с ее помощью. Понятность информации. Информация понятна, если она выражена на языке, доступном для получателя.

Рост информации. С течением времени количество информации растет, информация накапливается, происходит ее систематизация, оценка и обобщение. Старение информации заключается в уменьшении ее ценности с течением времени. Старит информацию не само время, а появление новой информации, которая уточняет, дополняет или отвергает полностью или частично более раннюю.

Сигналы Сигнал – это материальный носитель информации.

Данные могут рассматриваться как записанные наблюдения, которые по каким-то причинам не используются, а только хранятся.

Знания - это зафиксированная и проверенная практикой обработанная информация, которая использовалась и может многократно использоваться для принятия решений. Знания – это вид информации, отражающей опыт и восприятие человека-специалиста (эксперта) в определенной предметной области.

Единицы измерения информации Количеством информации называют числовую характеристику информации, отражающую ту степень неопределенности, которая исчезает после получения информации. За единицу количества информации приняли такое количество информации, при котором неопределённость уменьшается в два раза. Такая единица названа бит (англ. bit — binary digit — двоичная цифра).

Единицы измерения информации Название байт Кбайт Мегабайт Гигабайт Терабайт Петабайт Символ Степень В 210 байт Мбайт, MB 220 байт Гбайт, GB 230 байт Тбайт, TB 240 байт Пбайт, PB 250 байт Кбайт, k. B 8 бит 1024 байт 1024 Кбайт 1024 Мбайт 1024 Гбайт 1024 Тбайт

Перевод из одних единиц в другие 25 Кб = =25· 1024 (210) байт =25· 1024· 8 бит =25: 1024 Мб =25: 1024=25: 10242 Гб =25: 1024: 1024= 25: 10243 Тб умножение крупные единицы деление мелкие единицы

Кодирование текстовой информации Таблица кодировки – это таблица, в которой всем символам компьютерного алфавита поставлены в соответствие порядковые номера. ASCII - American Standard Code for Information Interchange - американский стандартный код для обмена информацией

Базовая таблица кодов ASCII

Расширенная таблица кодов ASCII

Кодовые таблицы ACSII - 1 байт на 1 символ КОI 8 -R СР-866 Windows-1251 UNICODE – 2 байта на 1 символ

Количество информации

Подходы к измерению информации Вероятностный Алфавитный подход Через неопределенность знаний с учетом вероятности событий Через количество символов с учетом информационного веса символов

Количество информации 1. Для равновероятных событий Формула Хартли Ральф Винтон Лайон Хартли 30. 11. 1888 – 01. 05. 1970 где N – количество возможных событий i – количество информации (в битах)

Количество информации 1. Для равновероятных событий: где N – количество равновозможных вариантов i – количество информации (в битах) p – вероятность события

i=log 2 N N i N i 1 0, 00000 17 4, 08746 33 5, 04439 49 5, 61471 2 1, 00000 18 4, 16993 34 5, 08746 50 5, 64386 3 1, 58496 19 4, 24793 35 5, 12928 51 5, 67243 4 2, 00000 20 4, 32193 36 5, 16993 52 5, 70044 5 2, 32193 21 4, 39232 37 5, 20945 53 5, 72792 6 2, 58496 22 4, 45943 38 5, 24793 54 5, 75489 7 2, 80735 23 4, 52356 39 5, 28540 55 5, 78136 8 3, 00000 24 4, 58496 40 5, 32193 56 5, 80735 9 3, 16993 25 4, 64386 41 5, 35755 57 5, 83289 10 3, 32193 26 4, 70044 42 5, 39232 58 5, 85798 11 3, 45943 27 4, 75489 43 5, 42626 59 5, 88264 12 3, 58496 28 4, 80735 44 5, 45943 60 5, 90689 13 3, 70044 29 4, 85798 45 5, 49185 61 5, 93074 14 3, 80735 30 4, 90689 46 5, 52356 62 5, 95420 15 3, 90689 31 4, 95420 47 5, 55459 63 5, 97728 16 4, 00000 32 5, 00000 48 5, 58496 64 6, 00000

Задача При угадывании целого числа в диапазоне от 1 до N было получено 7 бит информации. Чему равно N? Решение: Ответ:

Количество информации 2. Для событий с различными вероятностями Формула Шеннона (1948) Клод Элвуд Шеннон 30. 04. 1916 – 24. 02. 2001 I – количество информации N – количество возможных событий pi – вероятность i-го события

Количество информации …позволяет определить количество информации в тексте, отвлекаясь от содержания информации, воспринимая ее как последовательность знаков. Алфавит – множество символов, используемых для записи текста. Мощность алфавита – полное количество символов в алфавите.

Количество информации i – N – количество информации, которое несет каждый символ (информационный вес одного символа) мощность алфавита (полное количество символов, составляющих алфавит выбранного кодирования)

Количество информации K – количество информации в сообщении S – количество символов в сообщении i – количество информации, которое несет каждый символ (информационный вес одного символа)

Количество информации В алфавите, который состоит из двух символов (двоичное кодирование), каждый символ несет 1 бит информации: N=2 i → N=2 → 2=2 i → i=1 Один символ из алфавита мощностью 256 символов (используется для представления текстов в компьютере) несет 8 битов информации: N=2 i → N=256 → 256=2 i → i=8

Задача: Сколько места в памяти надо выделить для хранение предложения Привет, Саша! Решение: Ø подсчитываем все символы в сообщении, включая знаки препинания (13 символов); Ø мощность русского алфавита + все дополнительные символы = 56 символов 1 символ несет ≈ 6 бит информации (26 = 64). Ответ: 13 ∙ 6 = 78 бит или (78: 8) 9, 75 байт

Задача Сколько места в памяти надо выделить для хранения 10 страниц книги, если на каждой странице помещаются 32 строки по 64 символа в каждой? Решение: Ø на 1 странице 32· 64=2048 символов Ø на 10 страницах 10· 2048=20480 символов Ø если нет дополнительной информации, то считаем, что 1 Ответ: символ занимает 1 байт Ø 20480 байт или … Ø 20480 · 8 = 163840 бит или … Ø 20480 : 1024 = 20 Кб

Задача Сообщение, записанное буквами из 64 -х символьного алфавита, содержит 20 символов. Какой объем информации оно несет? Решение: 64 = 2 i i = 6 бит (информационный вес одного символа этого алфавита) 6 20 = 120 бит = (120: 8) 15 байт

Задача Информационное сообщение объемом 1, 5 Кбайта содержит 3072 символа. Сколько символов содержит алфавит, при помощи которого записано это сообщение? Решение: 1, 5 Кб = 1024*1, 5 = 1536 байт = 12288 бит 12288 = 3072 * i i = 12288/3072 = 4 бита 24 =1 6 символов в алфавите