энтропия шеннона
Автор ••• iRishKA ••• задал вопрос в разделе Прочее компьютерное
Что такое "энтропия" в информатике? и получил лучший ответ
Ответ от Ёоколова Ирина[эксперт]
Информационная энтропи́я — мера хаотичности информации, неопределённость появления какого-либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ передаваемого сообщения.
Например, в последовательности букв, составляющих какое-либо предложение на русском языке, разные буквы появляются с разной частотой, поэтому неопределённость появления для некоторых букв меньше, чем для других. Если же учесть, что некоторые сочетания букв (в этом случае говорят об энтропии n-ого порядка, см. ниже) встречаются очень редко, то неопределённость ещё более уменьшается.
Информационная энтропия — мера неопределённости источника сообщений, определяемая вероятностями появления тех или иных символов при их передаче.
Что такое энтропия?
Ответы тяжелые, бронебойные. Но энтропия не мера беспорядка, а мера вероятности протекания
подробнее...
что означает термин "энтропия" с точки зрения теории информации?
Информационная энтропия, как определено Шенноном и добавлено другими физиками близко, соотносится с
подробнее...
что такое равномерный и неравномерный код в информатике?
В качестве примера равномерного кода можно назвать ASCII-таблицу, где каждому из 256 символов
подробнее...
Дайте мне определение бита и байта
Бит (англ. binary digit; также игра слов: англ. bit — немного) (один двоичный разряд в двоичной
подробнее...
Что такое "информация" с точки зрения информатики?
Информа́цией (от лат. informatio — «научение» , «сведение» , «оповещение» ) называется
подробнее...
Что такое бит?
Бит-музыка (англ. Beat music), также называемая мерсибит (англ. merseybeat) для групп из Ливерпуля
подробнее...
что такое бит, байт
это размеры файлов например есть бит это самое меленькое потом идет байт килобайт мегабайт и т. д
подробнее...
что такое информация?
Информация - эта некая нематериальная субстанция, передающаяся от субъекта к субъекту и
подробнее...
Подскажите Как "Бит" стал называться Битом)
Бит (англ. binary digit; также игра слов: англ. bit —
подробнее...