统计语言模型:从中文拼音到文本

点击量:3600

前言:

自然语言是信息的载体,记录和传播着信息,信息论之父香农对信息的定义是“信息是用于消除随机不确定性的东西”。信息通过编码,经过一定的信道传输,然后传递到接收者,再解码成对应的可被人理解感知的东西,就完成了一次信息的传递。原始人的通信方式就是说话,而说话是先将信息编码为对应的语言信号,可以是文本,可以是声音,也可以就是中文拼音,然后接收者再将收到的信号进行解码。而我们人类对自然语言的处理经历了从基于规则的算法到基于统计的算法,显然基于统计的方法比规则更有效,下面我将介绍一种基于统计的语言模型,可以实现从拼音转为文本。

继续阅读“统计语言模型:从中文拼音到文本”

博客创建三个月的二三事

点击量:128

我的博客是大约三个月前正式开始写作的,从一开始就是带着一种激情去做的,写博客也纯粹出于公益,主题就是我爱好的科技和人工智能方面的。最初的时候我在网上搜了一些关于建立个人博客方面的事情,看到一些人想利用博客赚钱,不过,这都是很多年前的了,现在时代不同了,现在博客的热已经消退,而回归到了其本质。这样才能体现博客的真正意义。

继续阅读“博客创建三个月的二三事”

业界:谷歌发布会宣布AlphaGo 5月将决战柯洁

点击量:84

最新消息,Google中国今天(北京时间4月10日)下午15:00在北京的中国棋院召开新闻发布会,正式宣布 AlphaGo 将于今年 5 月 23 日在浙江乌镇对决包括柯洁在内的中国顶尖棋手,展开三番棋大战,同时还有团队赛和人机搭配的形式。此次比赛的奖金为150万美元,用来奖赏获胜者。

继续阅读“业界:谷歌发布会宣布AlphaGo 5月将决战柯洁”

为声音文件添加白噪音

点击量:324

在数字信号的处理中,我们在研究一些问题的时候,经常会用到噪音,甚至有时候专门产生噪音并添加到某些信号中来研究一些问题。比如,图像和语音识别等任务中添加一些不同的噪音来测试机器学习模型在有噪音环境下的识别率。我们就需要使用一些方法来产生噪音并且添加到原信号中去。

噪声从物理角度上看,是声波的频率、强弱变化无规律、杂乱无章的声音。[1] 白噪声,是一种功率谱密度为常数的随机信号或随机过程。“白色”仅意味着信号是不相关的,白噪声定义要求其均值为零,但没有对信号应当服从哪种概率分布作出任何假设。如果某白噪声过程服从高斯分布,则它是“高斯白噪声”。类似的,还有泊松白噪声、柯西白噪声等。[2]
继续阅读“为声音文件添加白噪音”

基于字典的简单中文分词算法

点击量:329

做自然语言处理,尤其是中文自然语言处理,文本分词是必不可少的过程。其实不仅仅是中文,大多数亚洲的语言文字在计算机做处理时,都需要进行分词,甚至英文在识别短语时也要进行类似中文分词的过程。所以,我们需要一种有效的分词算法,这里我仅以中文做实例,其他语言可以参考,介绍一种简单的中文分词算法,并附上一个C#版的示例代码。

继续阅读“基于字典的简单中文分词算法”

某技术讲座:机器学习基础入门

点击量:254

在最近某次技术讲座上,我为大家讲解了机器学习的一些基础知识,算是对帮助新人入门尽一点微薄之力。我尽量用最简洁易懂的话语,面向对机器学习知之甚少的同学,讲一讲机器学习的基础内容。

正文:

继续阅读“某技术讲座:机器学习基础入门”

机器学习:神经网络模型样例

点击量:518

神经网络有着强大的函数表示能力,只要它具有合适的层数。神经网络可以拟合任何线性或者非线性的函数,而且可以通过学习或者自身一系列所需的参数。我们都知道,神经网络的输入层输入的是数据的原始特征,经过中间隐藏层一系列的近似于“黑盒”的计算,其中每一层都是利用前一层的特征进行计算得到新的特征,最终我们在输出层可以得到对应的结果。我们可以用几个简单例子来更好的理解神经网络的一些工作原理。

继续阅读“机器学习:神经网络模型样例”

彩色图转为灰度图和黑白图方法

点击量:379

在图像处理中,我们通常把彩色图像转为灰度图像,或者黑白图,然后再实现一些相关的计算和识别,比如图像识别等,是计算机视觉方面最常用的一种基本方法。进行了转换之后,很多事情就变得简单方便起来。
继续阅读“彩色图转为灰度图和黑白图方法”

机器学习:神经网络模型

点击量:748

不论是线性回归还是对数几率回归,都有一个缺点,那就是,当特征太多的时候,计算量会变得非常的大。假如我们有100个特征,如果仅仅考虑多项式函数中两两组合的二次交叉项的时候,那么我们会得到组合数C2100 的数量,即4950个二次交叉项,这对于一般的统计回归来说徐要计算的特征数太多了。我们需要一种既简单又强大的模型,神经网络(Neutral Network)就是这样。神经网络是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似[参考资料1]。其实,简单来说,神经网络就是一个分层的有向图,每一层的节点称为一个神经元。

继续阅读“机器学习:神经网络模型”

机器学习:过拟合与欠拟合问题

点击量:14716

过拟合(overfitting)与欠拟合(underfitting)是统计学中的一组现象。过拟合是在统计模型中,由于使用的参数过多而导致模型对观测数据(训练数据)过度拟合,以至于用该模型来预测其他测试样本输出的时候与实际输出或者期望值相差很大的现象,。欠拟合则刚好相反,是由于统计模型使用的参数过少,以至于得到的模型难以拟合观测数据(训练数据)的现象。

继续阅读“机器学习:过拟合与欠拟合问题”