Информационные процессы
<<  Информация и информационные процессы Информация и информационные процессы  >>
Информация и информационные процессы
Информация и информационные процессы
Информация и информационные процессы
Информация и информационные процессы
I – количество информации в битах N – количество вариантов
I – количество информации в битах N – количество вариантов
Алфавитный подход
Алфавитный подход
Количество различных сообщений
Количество различных сообщений
Информация и вероятность
Информация и вероятность
x2 < 0
x2 < 0
Вероятность
Вероятность
Вероятность и информация
Вероятность и информация
Если событие имеет вероятность p, то количество информации в битах,
Если событие имеет вероятность p, то количество информации в битах,
Вероятность и информация
Вероятность и информация
Связь с формулой Хартли
Связь с формулой Хартли
I = ?H = hнач – hкон
I = ?H = hнач – hкон
Формула Шеннона
Формула Шеннона
Когда неопределённость наибольшая
Когда неопределённость наибольшая
Информация и информационные процессы
Информация и информационные процессы
V = 512000 бит/с, t = 1 мин
V = 512000 бит/с, t = 1 мин
00 01 10 11
00 01 10 11
Помехоустойчивые коды
Помехоустойчивые коды
d(001, 100) = 2
d(001, 100) = 2
d(000000, x) =
d(000000, x) =
0
0
0
0
Длинные коды Хэмминга
Длинные коды Хэмминга
Информация и информационные процессы
Информация и информационные процессы
Что такое сжатие
Что такое сжатие
Коэффициент сжатия
Коэффициент сжатия
Сжатие без потерь
Сжатие без потерь
Алгоритм RLE
Алгоритм RLE
Ааааааааааааааабв
Ааааааааааааааабв
Неравномерные коды
Неравномерные коды
Префиксные коды
Префиксные коды
Код Шеннона-Фано
Код Шеннона-Фано
01
01
Код Шеннона-Фано
Код Шеннона-Фано
Алгоритм Хаффмана
Алгоритм Хаффмана
Алгоритм Хаффмана
Алгоритм Хаффмана
Сравнение алгоритмов
Сравнение алгоритмов
Сравнение алгоритмов
Сравнение алгоритмов
Алгоритм Хаффмана
Алгоритм Хаффмана
Алгоритм LZW
Алгоритм LZW
Сжатие с потерями
Сжатие с потерями
Снижение глубины цвета
Снижение глубины цвета
Сжатие JPEG
Сжатие JPEG
Сжатие JPEG
Сжатие JPEG
Сжатие JPEG
Сжатие JPEG
Сжатие рисунков с потерями и без
Сжатие рисунков с потерями и без
Сжатие звука (MP3)
Сжатие звука (MP3)
Сжатие видео
Сжатие видео
Сжатие: итоги
Сжатие: итоги
Информация и информационные процессы
Информация и информационные процессы
Кибернетика
Кибернетика
Что такое система
Что такое система
Что такое система
Что такое система
Системы управления
Системы управления
Системы с обратной связью
Системы с обратной связью
Типы систем управления
Типы систем управления
Информация и информационные процессы
Информация и информационные процессы
Что такое информационное общество
Что такое информационное общество
Информатизация
Информатизация
Информатизация
Информатизация
Информационные ресурсы
Информационные ресурсы
Информационные технологии
Информационные технологии
Автоматизированные системы управления
Автоматизированные системы управления
Автоматизированные системы управления
Автоматизированные системы управления
Сапр
Сапр
Геоинформационные системы (ГИС)
Геоинформационные системы (ГИС)
Дистанционное обучение
Дистанционное обучение
Дистанционное обучение
Дистанционное обучение
Компьютерные тренажёры
Компьютерные тренажёры
Информационная культура
Информационная культура
Конец фильма
Конец фильма
Источники иллюстраций
Источники иллюстраций

Презентация: «Информация и информационные процессы». Автор: kp. Файл: «Информация и информационные процессы.ppt». Размер zip-архива: 5058 КБ.

Информация и информационные процессы

содержание презентации «Информация и информационные процессы.ppt»
СлайдТекст
1 Информация и информационные процессы

Информация и информационные процессы

§ 1. Количество информации § 2. Передача данных § 3. Сжатие данных § 4. Информация и управление § 5. Информационное общество

1

2 Информация и информационные процессы

Информация и информационные процессы

§ 1. Количество информации

2

3 I – количество информации в битах N – количество вариантов

I – количество информации в битах N – количество вариантов

Формула Хартли (1928)

Пример: В аэропорту стоит 10 самолетов, из них один летит в Санкт-Петербург. Оценить количество информации в сообщении «В Санкт-Петербург летит второй самолет»?

Бита

3

4 Алфавитный подход

Алфавитный подход

N – мощность алфавита

Сообщения длиной L:

Информационный объём символа:

Вверх до целого числа

Пример: сообщение длиной 100 символов закодировано с помощью алфавита из 50 знаков.

6 битов

600 битов

4

5 Количество различных сообщений

Количество различных сообщений

N – мощность алфавита L – длина сообщения Q – количество различных сообщений

алфавит: А, Б, В, Г

Всего: 4?4 = 42 = 16

5

6 Информация и вероятность

Информация и вероятность

Доля символов в русских текстах:

Из 1000 символов около 175 пробелов

0,175

Я

0,018

Ы

0,017

О

0,090

З

0,016

Е

0,072

Ь

0,015

А

0,063

Б

0,014

И

0,062

Г

0,013

Т

0,053

Ч

0,012

Н

0,052

Й

0,010

С

0,045

Х

0,009

Р

0,040

Ж

0,007

В

0,038

Ю

0,006

Л

0,035

Ш

0,005

К

0,028

Ц

0,004

М

0,026

Щ

0,003

Д

0,025

Э

0,002

П

0,023

Ф

0,001

У

0,021

6

7 x2 < 0

x2 < 0

x2 ? 0

Вероятность

Вероятность события – число от 0 до 1, показывающее, как часто случается это событие в большой серии одинаковых опытов.

Событие никогда не происходит (нет неопределенности) событие происходит в половине случаев (есть неопределенность) событие происходит всегда (нет неопределенности)

7

8 Вероятность

Вероятность

N – количество испытаний m – сколько раз произошло событие

Ровно 2:

2 и 2:

Чётное:

2 чётных:

Меньше 3:

Оба меньше 3:

8

9 Вероятность и информация

Вероятность и информация

Чем более неожиданно событие, тем больше получено информации.

…Аааааааааааааааааа

получили букву «А»:

…Bаааааааааааааааааа

получили букву «В»:

В 10 опытах будет получено в 10 раз больше информации, чем в одном (аддитивность).

9

10 Если событие имеет вероятность p, то количество информации в битах,

Если событие имеет вероятность p, то количество информации в битах,

полученное в сообщении об этом событии, равно

Вероятность и информация

При K = 1 ? информация в битах

10

11 Вероятность и информация

Вероятность и информация

Аддитивность:

По 8 шариков разного цвета

Всего 8?8 = 64 варианта

11

12 Связь с формулой Хартли

Связь с формулой Хартли

N равновероятных событий

совпадает с формулой Хартли

Если вероятности разные:

«Васе достался зелёный шарик».

12

13 I = ?H = hнач – hкон

I = ?H = hнач – hкон

Формула Шеннона

Неопределённость знаний об источнике данных (N событий, вероятности pi):

Информационная энтропия

Количество полученной информации равно уменьшению неопределенности.

13

14 Формула Шеннона

Формула Шеннона

«Идёт ли сейчас снег?» (1 – да, 2 – нет)

Зимой:

Летом:

14

15 Когда неопределённость наибольшая

Когда неопределённость наибольшая

совпадает с формулой Хартли!

Система двух событий:

Неопределенность максимальна, когда все события равновероятны.

15

16 Информация и информационные процессы

Информация и информационные процессы

§ 2. Передача данных

16

17 V = 512000 бит/с, t = 1 мин

V = 512000 бит/с, t = 1 мин

I = v ? t = 512000 бит/с ? 60 с = 30 720 000 битов = 3 840 000 байтов = 3075 Кбайт.

Скорость передачи данных

Бит/с = 1 bps (bits per second)

1 кбит/с = 1000 бит/с

Скорость передачи

1 Мбит/с = 106 бит/с

1 Гбит/с = 109 бит/с

Время

Объём переданных данных:

Скорость передачи данных – это количество битов (байтов, Кбайт и т.д.), которое передается по каналу связи за единицу времени (например, за 1 с).

17

18 00 01 10 11

00 01 10 11

? 000 011 101 110

Обнаружение ошибок

10010

Бит чётности:

Принято: 010 110 000 111 000

Для файлов – контрольные суммы (хэш):

Если в принятом блоке нечётное число «1» – ошибка!

CRC = Cyclic Redundancy Code MD5, SHA-1

18

19 Помехоустойчивые коды

Помехоустойчивые коды

10010

111 000 000 111 000 – утроение каждого бита

Принято: 010111000101000

Исправлено: 000111000111000

Помехоустойчивый код – это код, который позволяет исправлять ошибки, если их количество не превышает некоторого уровня.

19

20 d(001, 100) = 2

d(001, 100) = 2

3

d(000, 111) = ?

d ? 2r + 1

Исправление r ошибок:

Расстояние Хэмминга

Расстояние Хэмминга – это количество позиций, в которых отличаются два закодированных сообщения одинаковой длины.

20

21 d(000000, x) =

d(000000, x) =

dmin= 3 ? r = 1

Передача 3-битных блоков

000000 001111

010011 011100

100101 101010

110110 111001

001111?4

010011?3 011100?3

100101?3 101010?3

110110?4 111001?4

Исправление ошибки

Принято: 101110

Ближайший допустимый код:

101010

21

22 0

0

1

1

1

1

0

0

dmin= 3 ? r = 1

Помехоустойчивые коды Хэмминга

4 полезных бита, 3 контрольных

Избыточность 3/4 =75%

3 = 1 + 2 5 = 1 + 4 6 = 2 + 4 7 = 1 + 2 + 4

Бит 1: (1 + 1 + 0) mod 2 = 0 бит 2: (1 + 0 + 0) mod 2 = 1 бит 4: (1 + 0 + 0) mod 2 = 1

1

2

3

4

5

6

7

22

23 0

0

1

1

1

1

1

0

0

1

1

1

1

0

0

1

1

0

0

Код Хэмминга: исправление ошибки

Контрольные биты:

Бит 1: (1 + 1 + 0) mod 2 = 0 бит 2: (1 + 1 + 0) mod 2 = 0 бит 4: (1 + 1 + 0) mod 2 = 0

Номер ошибочного бита: 2 + 4 = 6

1

2

3

4

5

6

7

23

24 Длинные коды Хэмминга

Длинные коды Хэмминга

Контрольные биты: 1, 2, 4, 8, 16, … , 2k

Длина кодовых слов, бит

Число контрольных битов

Избыточность

4

3

75%

11

4

36%

27

5

19%

58

6

10%

248

8

3%

1014

10

1%

24

25 Информация и информационные процессы

Информация и информационные процессы

§ 3. Сжатие данных

25

26 Что такое сжатие

Что такое сжатие

Сообщение: АBА CАBАBА

A ? 00 B ? 01

Аbа cаbаbа ? 00 01 00 11 10 00 01 00 01 00

Словарь:

20 битов

00

01

10

11

000001002

010000012

010000102

010000112

001000002

4 символа

A (код 65)

B (код 66)

C (код 67)

Пробел (код 32)

Пробел (код 32)

26

27 Коэффициент сжатия

Коэффициент сжатия

Сообщение: 10240 символов

Словарь: 5 байтов

Длина кода: 10240?2 = 20480 битов = 2560 байтов

Длина сжатого сообщения: 5 + 2560 = 2565 байтов

Коэффициент сжатия – это отношение размеров исходного и сжатого файлов.

27

28 Сжатие без потерь

Сжатие без потерь

Используются только 4 символа из 256

Сжатие без потерь – это такое уменьшение объема закодированных данных, при котором можно восстановить их исходный вид из кода без искажений.

28

29 Алгоритм RLE

Алгоритм RLE

RLE (англ. Run length encoding, кодирование цепочек одинаковых символов)

Файл qq.txt

200 байтов

A

A

A

B

B

B

100

100

Файл qq.rle (сжатый)

Сжатие в 50 раз!

4 байта

100

A

100

B

29

30 Ааааааааааааааабв

Ааааааааааааааабв

Алгоритм RLE

100011112

110000002

000000102

110000012

110000102

Повтор 15

A (код 192)

2

Б (код 193)

В (код 194)

Распаковка:

15

2

Применение: сжатие рисунков *.bmp (с палитрой) один из этапов сжатия рисунков *.jpg

30

31 Неравномерные коды

Неравномерные коды

Идея: кодировать часто встречающиеся символы более короткими кодовыми словами.

Азбука Морзе:

31

32 Префиксные коды

Префиксные коды

Префиксный код – это код, в котором ни одно кодовое слово не является началом другого кодового слова (условие Фано).

Не все символы в листьях!

32

33 Код Шеннона-Фано

Код Шеннона-Фано

Количество символов в сообщении:

На 2 группы с примерно равным числом символов:

Начинаются с 0

Начинаются с 1

Начинаются с 11

33

34 01

01

10

01

10

00

110

111

10

01

01100110001101111001

Код Шеннона-Фано

Декодирование:

Т

O

Т

O

Е

Н

О

Т

34

35 Код Шеннона-Фано

Код Шеннона-Фано

Учитывается частота символов не нужен символ-разделитель код префиксный – можно декодировать по мере поступления данных

Нужно заранее знать частоты символов код неоптимален при ошибке в передаче сложно восстановить «хвост» не учитывает повторяющиеся последовательности символов

35

36 Алгоритм Хаффмана

Алгоритм Хаффмана

По увеличению частоты:

36

37 Алгоритм Хаффмана

Алгоритм Хаффмана

Код Хаффмана:

101

100

0

Н

Т

111

110

О

Е

37

38 Сравнение алгоритмов

Сравнение алгоритмов

Количество символов в сообщении:

Равномерное кодирование (8-битный код):

(179 + 89 + 72 + 53 + 50) ? 8 = 3544 бита

Равномерное кодирование (3-битный код):

(179 + 89 + 72 + 53 + 50) ? 3 = 1329 битов

+ Словарь!

38

39 Сравнение алгоритмов

Сравнение алгоритмов

Количество символов в сообщении:

(179 + 89 + 50) ? 2 + (72 + 53) ? 3 = 1011 битов

179 + (89 + 72 + 53 + 50) ? 3 = 971 бит

39

40 Алгоритм Хаффмана

Алгоритм Хаффмана

Код оптимальный среди алфавитных кодов

Нужно заранее знать частоты символов при ошибке в передаче сложно восстановить «хвост» не учитывает повторяющиеся последовательности символов

40

41 Алгоритм LZW

Алгоритм LZW

1977: А. Лемпел и Я. Зив, 1984: Т. Велч

Идеи: кодировать не отдельные символы, а блоки последовательностям символов присваиваются числовые коды новая цепочка ? занесение в словарь с новым кодом

Словарь строится по мере получения данных не нужны частоты символов ? за один проход!

Применение: сжатие рисунков *.gif, *.tif сжатие документов *.pdf

41

42 Сжатие с потерями

Сжатие с потерями

Сжатие с потерями – это такое уменьшение объема закодированных данных, при которых распакованный файл может отличаться от оригинала.

Идея: «отбросить» часть данных, которые не влияют на восприятие информации человеком (доп. размытие фотографий, частоты выше 20 кГц, …)

Применение: сжатие рисунков *.jpg, *.jpeg сжатие звука *.mp3, *.aac, *.ogg, … сжатие видео *.mpg, *.wmv, *.mov, …

42

43 Снижение глубины цвета

Снижение глубины цвета

Размер ?

Качество ?

43

44 Сжатие JPEG

Сжатие JPEG

Глаз чувствительнее к зелёному!

Y = 0,299?R + 0,587?G + 0,114?B Cb = 128 – 0,1687?R – 0,3313?G + 0,5?B Cr = 128 + 0,5?R – 0,4187?G – 0,0813?B

Cb = Cr = 128

44

45 Сжатие JPEG

Сжатие JPEG

Идея: глаз наиболее чувствителен к яркости

Y1, Cb1, Cr1

Y2, Cb2, Cr2

Y3, Cb3, Cr3

Y4, Cb4, Cr4

Потери!

+ дискретное косинусное преобразование, алгоритмы RLE и Хаффмана

12 чисел

45

46 Сжатие JPEG

Сжатие JPEG

Артефакты – заметные искажения из-за сжатия с потерями

46

47 Сжатие рисунков с потерями и без

Сжатие рисунков с потерями и без

47

48 Сжатие звука (MP3)

Сжатие звука (MP3)

MP3 = MPEG-1 layer 3, кодирование восприятия

Битрейт – это число бит, используемых для кодирования 1 секунды звука.

MP3: от 8 до 320 кбит/c

Без сжатия на CD (1 сек, 44 кГц, 16 бит, стерео): 2?88000 = 176 000 байт = 1 408000 бит = 1408 кбит

Cжатие MP3 (256 кбит/с):

48

49 Сжатие видео

Сжатие видео

Видео = изображения + звук

Кодек (кодировщик/декодировщик) – это программа для сжатия данных и восстановления сжатых данных.

MJPEG, MPEG-4, DivX, Xvid, H.264, …

Артефакты – заметные искажения из-за сжатия с потерями

49

50 Сжатие: итоги

Сжатие: итоги

Хорошо сжимаются: тексты (*.txt) документы (*.doc) несжатые рисунки (*.bmp) несжатый звук (*.wav) несжатое видео (*.avi) Плохо сжимаются: случайные данные сжатые данные в архивах (*.zip, *.rar, *.7z) сжатые рисунки (*.jpg, *.gif, *.png) сжатый звук (*.mp3, *.aac) сжатое видео (*.mpg, *.mp4, *.mov)

50

51 Информация и информационные процессы

Информация и информационные процессы

§ 4. Информация и управление

51

52 Кибернетика

Кибернетика

Кибернетика – это наука, изучающая общие закономерности процессов управления и передачи информации в машинах, живых организмах и обществе.

Идеи: управление в любых системах подчиняется одним и тем же законам управление связано с обменом информацией

52

53 Что такое система

Что такое система

Система – это группа объектов и связей между ними, выделенных из среды и рассматриваемых как одно целое.

Примеры: общество семья экологическая система компьютер файловая система операционная система

Системный эффект: свойства системы нельзя свести к «сумме» свойств ее компонентов.

Самолёт летает!

Среда

53

54 Что такое система

Что такое система

Свойства системы: компоненты + связи (алмаз, графит)

Подсистема: компонент-система.

Элемент

Подсистема

Надсистема: система более высокого уровня.

Системный анализ: изучение сложных систем на основе теории управления и теории информации.

54

55 Системы управления

Системы управления

Разомкнутая система – регулятор не получает информации о состоянии объекта (программное управление).

Примеры: водитель с завязанными глазами начальник, не проверяющий рабочих информационное табло на вокзале светофор

Простота – не нужно датчиков

Нужна точная модель объекта нельзя учесть влияние среды

55

56 Системы с обратной связью

Системы с обратной связью

Замкнутая система – регулятор получает информации о состоянии объекта по каналу обратной связи.

Отрицательная ОС – регулятор уменьшает разницу между целью и состоянием объекта.

Модель объекта может быть неточной можно учесть влияние среды

Усложнение системы (датчики)

56

57 Типы систем управления

Типы систем управления

Автоматические – работают без участия человека.

Автоматизированные – собирают и обрабатывают информацию, а решения принимает человек.

Адаптивные – «подстраиваются» под изменение внешних условия или свойств объекта.

57

58 Информация и информационные процессы

Информация и информационные процессы

§ 5. Информационное общество

58

59 Что такое информационное общество

Что такое информационное общество

Прогресс в обработке информации: письменность (около 3000 лет до н.э., Египет) книгопечатание (X век – Китай, XV век – Европа) средства связи (телеграф, телефон, радио, телевидение; конец XIX – начало XX века); компьютеры (вторая половина XX века).

Информационное общество – это такая ступень развития цивилизации, на которой главными продуктами производства становятся информация и знания.

59

60 Информатизация

Информатизация

Информатизация – переход к информационному обществу: внедрение информационных технологий во все сферы жизни развитие компьютерных сетей, сотовой связи и т.п. необходимость компьютерной грамотности для всех свобода доступа к информации; доступность образования, в том числе дистанционного (через Интернет) изменение структуры экономики изменение уклада жизни людей

60

61 Информатизация

Информатизация

Негативные последствия: усиление влияния СМИ разрушается частная жизнь людей сложно выбрать качественные и достоверные данные личное общение людей заменяется общением в Интернете людям старшего поколения очень сложно приспособиться

61

62 Информационные ресурсы

Информационные ресурсы

Ресурсы – условия, позволяющие после некоторой «обработки» получить желаемый результат. Информационные ресурсы – документы в библиотеках, архивах, банках данных, информационных системах.

Товар!

Информационные услуги: поиск и подбор информации подбор персонала (кадровые агентства) обучение (учебные центры) рекламные агентства консультации, услуги по оптимизации бизнеса разработка программ и веб-сайтов

62

63 Информационные технологии

Информационные технологии

Технология – это способ сделать «продукт» из исходных материалов (с гарантированным результатом!).

Новые информационные технологии – это технологии, связанные с использованием компьютеров для хранения, защиты, обработки и передачи информации.

подготовка документов в электронном виде поиск информации телекоммуникации (сети, Интернет, e-mail) автоматизированные системы управления (АСУ) системы автоматизированного проектирования (САПР) геоинформационные системы обучение (электронные учебники, компьютерные тренажеры, дистанционное обучение).

63

64 Автоматизированные системы управления

Автоматизированные системы управления

Ресторан+

64

65 Автоматизированные системы управления

Автоматизированные системы управления

… технологическими процессами (АСУ ТП)

Локальная сеть

Датчики

Рабочее место оператора

Блок сбора информации

Блок управления

65

66 Сапр

Сапр

САПР – системы автоматизированного проектирования

66

67 Геоинформационные системы (ГИС)

Геоинформационные системы (ГИС)

67

68 Дистанционное обучение

Дистанционное обучение

видеолекции самостоятельная работа письменные задания работа с тьютором (наставником) консультации по Интернету

Тьютор

68

69 Дистанционное обучение

Дистанционное обучение

www.intuit.ru

Гарвардский университет Массачусетский технологический институт

www.edx.org

www.coursera.org

33 университета

Стэнфорский университет Университет Виргиния

www.udacity.com

www.khanacademy.org

Академия Хана

69

70 Компьютерные тренажёры

Компьютерные тренажёры

70

71 Информационная культура

Информационная культура

Для общества – способность общества эффективно использовать информационные ресурсы и средства обмена информацией применять передовые достижения в области информационных технологий

Для человека – умение формулировать потребность в информации находить нужную информацию отбирать и анализировать информацию представлять информацию в разных видах; обрабатывать информацию использовать информацию для принятия решений

71

72 Конец фильма

Конец фильма

ПОЛЯКОВ Константин Юрьевич д.т.н., учитель информатики ГБОУ СОШ № 163, г. Санкт-Петербург kpolyakov@mail.ru ЕРЕМИН Евгений Александрович к.ф.-м.н., доцент кафедры мультимедийной дидактики и ИТО ПГГПУ, г. Пермь eremin@pspu.ac.ru

72

73 Источники иллюстраций

Источники иллюстраций

www.newbeanbag.ru compression.ru maps.yandex.ru ixbt.com www.dinamika-avia.ru www.transas.ru crazypiter.ru www.fotosearch.com www.notebookcheck.net www.energy2.ru www.wlangdesign.com www.1himplast.ru www.applecad.com gprs-modem.ru en.wikipedia.org nivo.co.za иллюстрации художников издательства «Бином» авторские материалы

73

«Информация и информационные процессы»
http://900igr.net/prezentacija/informatika/informatsija-i-informatsionnye-protsessy-255710.html
cсылка на страницу

Информационные процессы

13 презентаций об информационных процессах
Урок

Информатика

130 тем
Слайды
900igr.net > Презентации по информатике > Информационные процессы > Информация и информационные процессы