「復刊ドットコムで『コミュニケーションの数学的理論』の復刊投票」記事へのコメント

英語論文

[ken2 (27347)]

シャノンの英語の論文自体は数年前、
http://www.cs.bell-labs.com/cm/ms/what/shannonday/shannon1948.pdf [bell-labs.com]
で公開されてますね(この論文が紹介されているらしいページ [bell-labs.com]がなんか非常に重くてつながらないので直リンクしました)。
ご参考まで。書籍版では共著者であるウィーバー氏の解説がついてるそうです。

# 情報源符号化だけでもすごいのに、ノイズのある通信路符号化までを
# 一人で考えたのだから桁外れな話です。

Re:英語論文

[superfox (31908)]

# 情報源符号化だけでもすごいのに、ノイズのある通信路符号化までを
# 一人で考えたのだから桁外れな話です。

シャノンの情報理論より、透過的な線路を通過した場合と 100% 引っくり返す線路を通過した場合とで得られる情報量に差はありません。

# つまり、常に嘘を付く人からは信頼できる情報が引き出せる :-)

情報量が 0 となるのは 50% の確率で情報を引っくり返す線路で、ここら辺りは情報理論の初歩で習いますよね。

「じゃあその中間はどういう状態なのだろう？」というのは割と自然な流れのような気もします。