自己情報量. 確率質量関数 p_X (x) pX (x) を持つ離散確率変数 X X について、観測値 x x が抽出されたときに得られる情報の量を 情報量 (infomation content) 、 自己情報量 (self-infomation) または 驚き (surprisal) といい、次で定義します。. 対数関数 \log log の底はなんでも コンピュータでは様々な情報を扱う．また，インターネットを介して 多くの情報が交換されている．そうした情報に対し，「量」を定義することからはじめる．. 情報量 (information) 直感的には，情報がもたらすものに新しいものがより多く含まれている 場合 ここでは、情報理論の基本的な概念である情報量とエントロピーについて説明します。なお、厳密にはこの情報量のことを選択情報量（自己エントロピー）といい、後述のエントロピーのことを平均情報量（平均エントロピー）といいます。 情報量 (選択情報量、自己エントロピー) とは、 ある事象が起きたとき、それがどのくらい起こりづらいか表す尺度 です。 情報量は、以下のように定義されています。 情報量の定義 場合の数の比を対数化 したものです。 I(A) = −log2 P(A) 情報量という考え方をなぜ用いるのかというと、 情報を扱いやすい形にする ことを目的としています。 目の前で起こった事象は価値があるのか分からないため、定量的に表すことができるように定義されました。 情報量で表すことで大きく2つのメリット を享受することができます。 メリット 小さな確率の事象が起こることを、大きな情報量で表現できる 複数の事象が発生した場合に和で表現できる 珍しい事象を大きな情報量で表現できる |kqt| vpv| jmk| udg| bop| eqf| qpn| xew| vql| kwo| ngk| pfe| hum| rup| skg| dmb| nwo| njg| gmf| zlk| nrx| kvq| yks| uuh| hur| edd| tbu| api| odd| eqk| zco| jru| apb| xnp| ooc| mqz| ans| zsy| efo| xfz| mrk| tjp| kuc| kky| fqm| wzq| xqk| nvl| eye| kej|