蒋瑞祥
（安徽省合肥市新华学院国际教育学院，安徽 合肥 230088）
引言
对于人们来说，信息利用价值非常巨大，直至1940年才逐渐开始将信息以一种科学概念进行研究和分析，随后才逐渐开始大规模的运用科学信息。处在当前信息化社会中，信息技术有着极快的发展及更新速度，面对数量庞大、类型众多的信息，有效利用信息成为关键所在。当前不同领域已经将信息利用放在首要位置，而且伴随着统计学、概率论的逐步发展，利用好信息论方法可以极大地推动社会的进步。目前产业规模最大的就属信息产业，要想不断促进社会经济的发展，就必须要充分发挥信息论方法在概率论及统计学方面的作用及优势。
一、信息论概念和分类
克劳德·艾尔伍·申农将社会推动到信息化发展的时代，其构建了信息论，被人们誉为数字时代之父[1]。在20世纪四十年代末期克劳德·申农对闻名于世的《通信的数学原理》进行了发表，随着论文的发表人们开始进入到现代信息论研究的浪潮中。
（一）定义
首先在克劳德·申农看来，信息论的核心问题即为，一端对另一端选取信号的复现，包括近似复现以及精确化的复现；
其次，作为基础科学理论，信息论探究的是信息本质及其传递规律，属于新兴学科，能够对存储信息、计量信息、交换信息、接收信息和传递信息等内容进行分析[2]。
（二）分类
基于狭义信息论角度来看，针对通信系统下信息处理、传递的科学规律进行研究时，需要借助统计学方法；
基于广义信息论的角度来看，对于现实系统下有关信息运用、信息处理识别和信息传递的共性科学规律，应利用数学方法及相关科学方法进行研究。
二、信息论方法在概率上的应用
（一）二分度量法
（二）差异度量法
（三）集中度量法
当前概率论中运用极为广泛的就是集中度量法，其在一般性描述概率问题的过程中，能够对概率论的探究进行进一步的延伸，然而信息论研究人员能够简便化的进行分析。
基于信息论方法下，最初运用过程中仅将其作为数学工具，然而当前已经发展为构成信息论方法的系统内容。目前，MaIton以一种更深层次的视角，详细谈久了集中度量法结果，证明了其运用的高效性。
三、信息论在统计中的应用
基于统计学领域，在运用信息论方法的时候，通常都指的是统计下信息量的运用状况，也包括统计运用下的码结构、编码定理等。因为统计学涉及大量的研究内容，而且呈现不断复杂的趋势，包括统计混合分布、非线性统计模型等，所以应将基本度量设定成信息量，这样才能有效解决统计学问题。
