Глава 1. Информации. Понятие, виды информации
1.1. Понятие информации
С начала 1950-х годов предпринимаются попытки использовать понятие информации (не имеющее пока единого определения) для объяснения и описания самых разнообразных явлений и процессов.
В некоторых учебниках дается следующее определение информации:
Информация – это совокупность сведений, подлежащих хранению, передаче, обработке и использованию в человеческой деятельности.
Такое определение не является полностью бесполезным, т.к. оно помогает хотя бы смутно представить, о чем идет речь. Но с точки зрения логики оно бессмысленно. Определяемое понятие (информация) здесь подменяется другим понятием (совокупность сведений), которое само нуждается в определении.
При всех различиях в трактовке понятия «информации» бесспорно то, что проявляется информация всегда в материально-энергетической форме в виде сигналов.
Информацию, представленную в формализованном виде, позволяющем осуществлять ее обработку с помощью технических средств, называют данными.
Так как материальным носителем информации является сигнал, то можно выделить следующие этапы обращения и преобразования сигналов:
1. восприятие информации;
2. подготовка информации;
3. передача и хранение информации;
4. обработка информации;
5. отображение информации;
6. воздействие информации.
На этапе восприятия информации осуществляется целенаправленное извлечение и анализ информации о каком-либо объекте (процессе), в результате чего формируется образ объекта, проводится его опознание и оценка. При этом отделяют интересующую информацию от мешающей (шумов).
На этапе подготовки информации получают сигнал в форме, удобной для передачи или обработки (нормализация, аналого-цифровое преобразование и т.д.).
На этапе передачи и хранения информация пересылается либо из одного места в другое, либо от одного момента времени до другого.
На этапе обработки информации выделяются ее общие и существенные взаимозависимости для выбора управляющим воздействием (принятие решений).
750 руб.
Введение 3
Глава 1. Информации. Понятие, виды информации 5
1.1. Понятие информации 5
1.2. Виды информации 6
Глава 2. Измерение информации. Количественная мера информации 8
2.1. Мера информации 8
2.2. Синтаксические меры информации. Структурная теория. Мера Хартли. 9
Геометрическая мера 9
Комбинаторная мера 10
Аддитивная мера Хартли 10
2.3. Синтаксические меры информации. Статистическая теория. Мера Шеннона. 13
Понятие энтропии 13
Мера Шеннона 15
Количество информации. 17
Заключение 18
Литература 19
Введение
Возникновение теории информации как самостоятельной науки связано с идеями кибернетики. Кибернетика изучает в самом общем виде процессы управления, а рациональное управление требует определенной информации, ее получения, хранения, передачи по каналам связи и переработки.
Теория информации тесно связана с такими разделами математики как теория вероятностей и математическая статистика, а также прикладная алгебра, которые предоставляют для нее математический фундамент. С другой стороны теория информации исторически и практически представляет собой математический фундамент теории связи. Часто теорию информации вообще рассматривают как одну из ветвей теории вероятностей или как часть теории связи. Таким образом, предмет «Теория информации» весьма узок, т.к. зажат между «чистой» математикой и прикладными (техническими) аспектами теории связи.
Теория информации представляет собой математическую теорию, посвященную измерению информации, ее потока, «размеров» канала связи и т.п., особенно применительно к радио, телеграфии, телевидению и к другим средствам связи. Первоначально теория была посвящена каналу связи, определяемому длиной волны и частотой, реализация которого была связана с колебаниями воздуха или электромагнитным излучением. Обычно соответствующий процесс был непрерывным, но мог быть и дискретным, когда информация кодировалась, а затем декодировалась. Кроме того, теория информации изучает методы построения кодов, обладающих полезными свойствами.
Основополагающими понятиями теории информации являются информация и мера информации. Подходов к измерению информации существует несколько. Наиболее часто в измерении информации используют синтаксический подход.
Именно поэтому темой нашей работы является количественная мера информации, формулы Хартли и Шеннона.
Объект работы: мера информации.
Предмет – количественная мера информации.
Целью нашей работы является изучение подходов и правил измерения информации, в частности синтаксической меры, формул Хартли и Шеннона.
Задачи:
1. сделать анализ литературы по проблеме исследования.
2. изучить подходы и правила измерения информации, в частности синтаксическую меру, формулы Хартли и Шеннона.
750 руб.
Литература
1. Закорюкин В.Б. Теория и средства передачи информации. Методы и средства обеспечения достоверности передачи информации: Учеб. пособие для студ. вузов, обуч. по направлению подготовки дипломированного специалиста "Информатика и вычислительная техника" / Московский гос. ин-т радиотехники, электроники и автоматики (технический ун-т). — М., 2001. — 83с. : рис.
2. Левин М.Г., Дружинина А.Г. Основы теории информации. Учебное пособие – Кострома: КГТУ, 2005. – 110 с.
3. Лидовский В.В. Теория информации: Уч. пособие. – М.: МАТИ, 2002. – 120 с.
4. Мишулина О.А. Основные понятия статистической теории информации. Учебное пособие – Москва: МИФИ, 2000. – 92 с.
5. Спиричева Н.Р. Теория информации: конспект лекций по дисциплине «Теория информации» для студентов дистанц. формы обучения специальности 220200 – Автоматизир. системы обраб. информ. и упр. Ч. 1/ Н.Р. Спиричева; науч. ред. Л.Г. Доросинский; УГТУ-УПИ. – Екатеринбург: УМЦ УПИ, 2001.
6. Спиричева Н.Р. Теория информации: конспект лекций. Ч.1/ Н.Р. Спиричева; науч. ред. Л.Г. Доросинский ; Урал. гос. техн. ун-т – УПИ, Ин-т образоват. информ. технологий. – Екатеринбург: [УГТУ-УПИ], 2005.
7. Стариченко Б.Е. Теоретические основы информатики: Учеб. пособие/ Б.Е. Стариченко; Урал. гос. пед. ун-т. Каф. информатики и ВТ. – Екатеринбург: Б. и., 2000. – Библиогр.: с. 200.
8. Теория информации и кодирование/ Б.Б. Самсонов, Е.М. Плохов, А.И. Филоненков, Т.В. Кречет. – Ростов н/Д: Феникс, 2002.
750 руб.
