Äëÿ òåîðåòè÷åñêîé èíôîðìàòèêè èíôîðìàöèÿ èãðàåò òàêóþ æå ðîëü, êàê è âåùåñòâî â ôèçèêå. È ïîäîáíî òîìó, êàê âåùåñòâó ìîæíî ïðèïèñûâàòü äîâîëüíî áîëüøîå êîëè÷åñòâî õàðàêòåðèñòèê: ìàññó, çàðÿä, îáúåì è ò. ä., òàê è äëÿ èíôîðìàöèè èìååòñÿ ïóñòü è íå ñòîëü áîëüøîé, íî äîñòàòî÷íî ïðåäñòàâèòåëüíûé íàáîð õàðàêòåðèñòèê. Êàê è äëÿ õàðàêòåðèñòèê âåùåñòâà, òàê è äëÿ õàðàêòåðèñòèê èíôîðìàöèè èìåþòñÿ åäèíèöû èçìåðåíèÿ, ÷òî ïîçâîëÿåò íåêîòîðîé ïîðöèè èíôîðìàöèè ïðèïèñûâàòü ÷èñëà — êîëè÷åñòâåííûå õàðàêòåðèñòèê! èíôîðìàöèè.
Íà ñåãîäíÿøíèé äåíü íàèáîëåå èçâåñòíû ñëåäóþùèå ñïîñîá èçìåðåíèÿ èíôîðìàöèè: îáúåìíûé, ýíòðîïèéíûé, àëãîðèòìè÷åñêèé.
Îáúåìíûé ÿâëÿåòñÿ ñàìûì ïðîñòûì è ãðóáûì ñïîñîáîì èçìåðåíèÿ èíôîðìàöèè. Ñîîòâåòñòâóþùóþ êîëè÷åñòâåííóþ îöåíêó? èíôîðìàöèè åñòåñòâåííî íàçâàòü îáúåìîì èíôîðìàöèè.
Îáúåì èíôîðìàöèè â ñîîáùåíèè — ýòî êîëè÷åñòâî ñèìâîëîâ â ñîîáùåíèè.
 âû÷èñëèòåëüíîé òåõíèêå âñÿ îáðàáàòûâàåìàÿ è õðàíèìàÿ èíôîðìàöèÿ âíå çàâèñèìîñòè îò åå ïðèðîäû (÷èñëî, òåêñò, îòîáðàæåíèå) ïðåäñòàâëåíà â äâîè÷íîé ôîðìå (ñ èñïîëüçîâàíèåì àëôàâèòà, ñîñòîÿùåãî âñåãî èç äâóõ ñèìâîëîâ 0 è 1). Òàêàÿ ñòàíäàðòèçàöèÿ ïîçâîëèëà ââåñòè äâå ñòàíäàðòíûå åäèíèöû èçìåðåíèÿ: áèò è áàéò. Áàéò — ýòî âîñåìü áèò. Áîëåå ïîäðîáíî ýòè åäèíèöû èçìåðåíèÿ áóäóò ðàññìîòðåíû â ðàçäåëå «Ôîðìû ïðåäñòàâëåíèÿ è ïðåîáðàçîâàíèÿ èíôîðìàöèè».
 òåîðèè èíôîðìàöèè è êîäèðîâàíèÿ ïðèíÿò ýíòðîïèéíûé ïîäõîä ê èçìåðåíèþ èíôîðìàöèè. Ýòîò ñïîñîá èçìåðåíèÿ èñõîäèò èç ñëåäóþùåé ìîäåëè. Ïîëó÷àòåëü èíôîðìàöèè (ñîîáùåíèÿ) èìååò îïðåäåëåííûå ïðåäñòàâëåíèÿ î âîçìîæíûõ íàñòóïëåíèÿõ íåêîòîðûõ ñîáûòèé. Ýòè ïðåäñòàâëåíèÿ â îáùåì ñëó÷àå íåäîñòîâåðíû íè âûðàæàþòñÿ âåðîÿòíîñòÿìè, ñ êîòîðûìè îí îæèäàåò òî èëè èíîå ñîáûòèå. Îáùàÿ ìåðà íåîïðåäåëåííîñòè (ýíòðîïèÿ) õàðàêòåðèçóåòñÿ íåêîòîðîé ìàòåìàòè÷åñêîé çàâèñèìîñòüþ îò ñîâîêóïíîñòè ýòèõ âåðîÿòíîñòåé. Êîëè÷åñòâî èíôîðìàöèè â ñîîáùåíèè îïðåäåëÿåòñÿ òåì, íàñêîëüêî óìåíüøèòñÿ ýòà ìåðà ïîñëå ïîëó÷åíèÿ ñîîáùåíèÿ.
Ïîÿñíèì ýòó èäåþ íà ïðîñòîì ïðèìåðå. Ïóñòü èìååòñÿ êîëîäà êàðò, ñîäåðæàùàÿ 32 ðàçëè÷íûå êàðòû. Âåðîÿòíîñòü âûáîðà îäíîé êàðòû èç êîëîäû ðàâíà 1/32. Àïðèîðè (äîîïûòíî, äî ïðîèçâåäåíèÿ âûáîðà) åñòåñòâåííî ïðåäïîëîæèòü, ÷òî íàøè øàíñû âûáðàòü íåêîòîðóþ îïðåäåëåííóþ êàðòó îäèíàêîâû äëÿ âñåõ êàðò êîëîäû. Ïðîèçâåäÿ âûáîð, ìû óñòðàíÿåì ýòó àïðèîðíóþ íåîïðåäåëåííîñòü. Íàøó àïðèîðíóþ íåîïðåäåëåííîñòü ìîæíî áûëî áû îõàðàêòåðèçîâàòü êîëè÷åñòâîì âîçìîæíûõ ðàâíîâåðîÿòíîñòíûõ âûáîðîâ. Åñëè òåïåðü îïðåäåëèòü êîëè÷åñòâî èíôîðìàöèè êàê ìåðó óñòðàíåííîé íåîïðåäåëåííîñòè, òî è ïîëó÷åííóþ â ðåçóëüòàòå âûáîðà èíôîðìàöèþ ìîæíî îõàðàêòåðèçîâàòü ÷èñëîì 32.
|