| 授業科目名（和文） ［Course］ |
情報理論 |
| 授業科目名（英文） ［Course］ |
Information Theory |
| 学部（研究科） ［Faculty］ |
情報工学部 |
| 学科（専攻） ［Department］ |
情報通信工学科 |
| 担当教員（○：代表教員） [Principle Instructor(○) and Instructors] |
○稲井 寛 自室番号（2516）、電子メール（inai**c.oka-pu.ac.jp） ※利用の際は,** を @に置き換えてください |
| 単位数 ［Point(Credit)］ |
2単位 |
| 対象学生 ［Eligible students］ |
2年次生 |
| 授業概略と目標 ［Course description and Objects］ |
情報理論は，情報の表現や伝送に関する基礎理論であり，確率論を基盤としている．本講義では，情報をある確率で発生する事象として捉え，その情報の量を定義する．そして，0と1の系列である符号を用いて情報を表現する． 講義の前半では，ある情報をその意味を変えることなく可能な限り短い符号系列で表現する手法（圧縮の原理）について考察する．これに対して，後半では，冗長な符号系列を付加することにより，伝送中に発生するビット誤りの検出?訂正が可能となることを示す． |
| 到達目標 ［Learning Goal］ |
1 情報量の表現方法を理解する． 2 情報源から発せられる情報量について理解する． 3 可逆な情報圧縮の原理を理解する． 4 通信路が運ぶ情報量について理解する． 5 通信路符号化によるビット誤りの検出?訂正の原理を理解する． |
| 履修上の注意 ［Notes］ |
確率論の基礎的な知識が必要となるので，「確率統計」を修得していることが望ましい． |
| 授業計画とスケジュール ［Course schedule］ |
1. 概要説明 2. 情報量(1) 情報量，エントロピー 3. 情報量(2) 結合エントロピー，条件付エントロピー 4. 情報源(1) 情報源のモデル化，無記憶情報源 5. 情報源(2) マルコフ情報源 6. 情報源符号化(1) 瞬時に復号可能な符号 7. 情報源符号化(2) クラフトの不等式 8. 情報源符号化(3) 平均符号長，情報源符号化定理 9. 情報源符号化(4) 符号の例 10. 通信路(1) 通信路のモデル化 11. 通信路(2) 相互情報量 12. 通信路(3) 通信路容量 13. 通信路符号化(1) 最大尤度判定規則，平均誤り率 14. 通信路符号化(2) 通信路符号化，ハミング距離 15. 通信路符号化(3) 誤り訂正の原理，通信路符号化定理 |
| 成績評価方法と基準 ［Grading policy (Evaluation)］ |
試験およびレポートにより総合的に評価する． |
| 教科書 ［Textbook］ |
教科書： 「はじめての情報理論」 （稲井 寛） 森北出版 |
| 自主学習ガイド及び キーワード ［Self learning］ |
他科目との関連を常に意識することを心掛けると理解の助けとなると共に視野が拡がる．例えば，アナログ情報のディジタル化やデジタル情報伝送の具体的な方法については「通信方式」や「信号処理」で学ぶ．また，ビット誤りの検出?訂正の具体的な方法については「符号理論」で学ぶ． |
| 開講年度 ［Year of the course］ |
26 |