字体:大 中 小
护眼
关灯
上一章
目录
下一章
第158章 查岗? (第1/1页)
如果说“感知机”是单个的神经元,那么“多层感知机”就是将分散的神经元,连接成了网络。 在输入层和输出层之间,再加入若干层,每层若干个神经元。 然后每一层的每个神经元,与下一层的每个神经元,都通过权重参数建立起连接…… 层与层之间,完全连接。 也就是说,第i层的任意一个神经元,一定与第i 1层的任意一个神经元相连。 这就是多层感知机,简称MLP。 但仅仅简单组合在一起,还不算真正的“人工神经网络”,必须对“感知机”的基本结构,做出一定的改进。 首先,必须加入隐藏层,以增强模型的表达能力。 隐藏层可以有多层,层数越多,表达能力越强,但与此同时,也会增加模型的复杂度,导致计算量急遽增长。 其次,输出层的神经元允许拥有多个输出。 这样模型就可以灵活地应用于各种分类回归,以及其他的机器学习领域,比如降维、聚类等。 此外,还要对激活函数做出扩展…… 前一篇“感知机”论文中,主要使用的是阶跃函数sign,虽然简单易用,但是处理能力有限。 因此神经网络的激活函数,一般使用其他的非线性函数。 备选的函数有很多:sigmoid函数,tanh函数,ReLU函数…… 江寒逐一进行了分析。 通过使用多种性能各异的激活函数,可以进一步增强神经网络的表达能力。 对于二分类问题,只需要一个输出神经元就够了。 使用sigmoid作为激活函数,来输出一个0到1之间的数值,用来表示结果为1的概率。 对于多类分类问题,一般在输出层中,安排多个神经元,每个分类一个。 然后用softmax函数来预测每个分类的概率…… 描述完结构之后,就可以讨论一下“多层感知机”的训练了。 首先是MLP的训练中,经典的前向传播算法。 顾名思义,前向传播就是从输入层开始,逐层计算加权和,直到算出输出值。 每调整一次参数值,就需要重头到尾重新计算一次。 这样运算量是非常大的,如果没有强大的硬件基础,根本无法支撑这种强度的训练。 好在现在已经是2012年,计算机性能已经足够强悍。 前向传播无疑是符合直觉的,缺陷就是运算量很大,训练起来效率比较差。 与“感知机”的训练相比,MLP的训练需要引入损失函数和梯度的概念。 神经网络的训练,本质上是损失函数最小化的过程。 损失函数有许多种选择,经典的方法有均方误差、交叉熵误差等,各有特性和利弊。 整个训练过程是很清晰的。 先随机初始化各层的权重和偏置,再以损失函数为指针,通过数值微分求偏导的办法,来计算各个参数的梯度。 然后沿着梯度方向,以预设的学习率,逐步调整权重和偏置,就能求得最优化的模型…… 写完这些就足够了,再多的内容,可以安排在下一篇文章里。 不过,江寒想了想,觉得这篇论文的内容,还是有点过于充实。 仔细琢磨了一下,干脆将其一分为二。 多层感知机的结构和前向传播的概述部分,单独成篇。 神经网络训练中,关于激活函数和损失函数讨论的部分,再来一篇。 然后分开投稿,这样不就可以多拿1个学术点了? 反正学术点又不看字数…… 当然,这两篇论文都必须以前一篇的感知机为基础,分别进行阐述,而不能互为前提、互相引用。 这样就需要多动点脑筋了。 江寒又花了一个多小时,才将它们全都补充完整,并丰满起来。 接下来校队、润色一番后,翻译成英文,转换PDF…… 投稿的时候,江寒仔细琢磨了一下,在三区里选了两家方向对口的期刊,投了出去。 没有选择影响因子更大的二区或一区期刊。 因为二区以上的期刊,虽然影响因子更高,发表后收获的学术点也多。 但发表难度太大,万一被打回来,再重新投递…… 时间耽搁不起。 要知道,江寒只有三个月的时间。 一系列cao作下来,差不多就到了10点半。 江寒脱掉外衣,去洗了个澡,然后换上睡衣。 忙了一下午带一晚上,直到这时才闲了下来。 然后他就想起了夏雨菲,也不知道她下午过得好不好,开不开心? 一股深切的思念,从心底涌出。 拿过手机,指纹解锁。 这才发现,有好几条未读微信。 夏雨菲发来的。 “在哪呢?” “终于写完作业了,好累啊。” “你在忙什么?” “看来真的很忙,都没时间看微信了。” “先睡了,明天还要上学……” …… 除了第一条是放学时间发来的,后面几条都来自10点之后,差不多5分钟一条。 “这傻姑娘,我没回复微信,也不说拨个电话或者语音通话……” 江寒叹了口气,发了个表情图过去。 夏雨菲很快就回复:“忙完了吗?” 江寒微微一笑。 这个时间她还没睡,莫非在一直等着我回复? 前一阵天天哄她上床,不会已经养成了习惯吧? 一天不哄,就睡不着…… “嗯,正准备休息,刚上床。”江寒回复。 夏雨菲:“那你赶紧休息吧,别太劳累了。” 江寒笑了笑,拨了个语音通话。 “喂?”夏雨菲秒接。 江寒声音温和:“想我了没?” “没有。” 江寒微微一笑。 否认得这么干脆? 那就是想了。 女孩子的话,有时候就得反着听…… “想我你就打个电话,要不拨个语音通话,微信我有时不能及时看到。”江寒温和地嘱咐。 夏雨菲沉默了一小会儿,低声说:“我怕你在忙,不想耽误你的正事。” 江寒笑了笑:“你要是一直都这么懂事,我可就有点舍不得欺负你了啊。” 夏雨菲脸一红。 他所说的“欺负”,不知道到底是哪种“欺负”? 自己以后到底是应该始终这么“懂事”,还是偶尔也“不懂事”一次…… “你在哪了?”夏雨菲没话找话。 “酒店里。”江寒实话实说。 “嗯?”夏雨菲有点意外,“怎么没回寝室?” “寝室里有点闹,我想专心研究点东西。”江寒回答。 “哪家酒店?”夏雨菲问。 “星河。” “条件怎么样?”夏雨菲又问。 “还行。”江寒回答。 “你刚才说什么?”夏雨菲好像没听清楚。 “我说还行。”江寒稍微提高音量。 “什么?”夏雨菲仍然没有听清。 “信号怎么忽然变差了……” 那边嘀咕了一声,然后通话就突然中断了。 江寒正打算重拨,一个视频通话的邀请,忽然跳了出来。
上一章
目录
下一章