魔爪文学

手机浏览器扫描二维码访问

第583章 激活函数(第1页)

激活函数是什么?——用故事和比喻讲解

故事比喻:门卫老张的筛选机制

想象一个大型科技公司的总部大楼,每天有很多人想进公司。但并不是所有人都能进去,只有符合某些条件的员工才能进入工作,而其他人要被拦在门外。

这座大楼的门口站着一个门卫——老张。他的任务是检查进来的人,决定谁能进,谁不能进。他的决策规则就像神经网络中的“激活函数”!

第一种情况:老张完全放行(恒等函数)

有一天,老张心情很好,他决定:“今天所有人都能进!”

?不管是正式员工、游客,还是快递小哥,只要有人过来,老张就让他们进大楼。

?这就像是**“线性函数”或“恒等函数”**(IdentityFunnet),没有任何筛选,数据怎么进来,就怎么传递出去。

问题:

?如果门口有太多人,会导致办公楼人满为患,甚至干扰员工工作(信息过载)。

?这种情况下,神经网络可能无法学习复杂的特征,因为它没有任何“过滤”或“激活”机制。

第二种情况:老张只让合格员工进(ReLu激活函数)

第二天,公司老板告诉老张:“从现在开始,只有正式员工能进,其他人一律不准进!”

?于是,如果有人出示正式员工证,老张就让他进去。

?但如果是游客、闲杂人等,老张直接摇头:“不行,回去吧!”

这就像ReLu(修正线性单元)激活函数:

?如果输入是正数(正式员工),就直接通过,传递给下一层神经网络。

?如果输入是负数(闲杂人等),直接变成o,相当于拒绝进入。

优点:

?过滤掉无用信息(负数变成o,相当于屏蔽了一些干扰)。

?计算简单,度快,不会引入复杂的计算。

问题:

?万一是一个优秀但没证件的实习生呢?他可能也被老张拦在门外了(ReLu会把所有负数信息直接清零)。

第三种情况:老张有点犹豫(sigmoid激活函数)

有一天,老张觉得:“或许我不该这么绝对,可能有些游客也是未来的潜在客户,不该完全拒之门外。”

于是,他制定了一套打分系统:

?正式员工(高分):直接进!

?游客(中等分):可以进去看看,但不能随意走动。

?陌生人(低分):抱歉,不能进!

这就像sigmoid激活函数,它的输出介于o到1之间,相当于一种概率衡量:

?高于o.5的人(高分):大概率被接受。

请关闭浏览器阅读模式后查看本章节,否则将出现无法翻页或章节内容丢失等现象。

最新更新
热门小说推荐
不小心混成传说

不小心混成传说

新文来到书中与你相会已开,求收藏本文文案钟离月重生到了五十年後成了一个小乞丐。她被师父带回了家,传授她武功绝学。可是大师兄游阳和二师兄叶子青却选择孤立了她。但没关系她脸皮厚,她说二师兄快来一起睡觉呀。一次传人比试,让游阳和叶子青离开了一线天,这让钟离月悔恨不已。她永远记得叶子青哭着对她吼道钟离月,你害我没有家了。六年後,当她一手教出来的师弟问她,师姐,你会不会和大师兄丶二师兄一样永远不会回来了?钟离月回答他,她会回来。可她知道她永远都回不来了。而在山下,有一个人已经等了钟离月很久很久游阳,叶子青,燕离光,宿杀,褚星月,慕天笑,慕静瑶越来越多的人聚在钟离月的身边,几代人的爱恨情仇造就了一场瑰丽的江湖画卷。而钟离月蓦然回首才发现,五十年前的钟离月可望不可及的东西,如今的自己已经全部都拥有了。内容标签江湖情有独钟穿越时空女强正剧群像...

漂亮炮灰是邪神[快穿]

漂亮炮灰是邪神[快穿]

好消息!好消息!死对头终于快死了!洛西早就已经受够了当邪神届的万年老二。一直以来,他都对万恶之首的位置蠢蠢欲动,等了这么久,终于被他等到了机会。那个压在他头上的家伙,不知道因为什么原因,离...

(云之羽同人)云之羽:宫远徵我可以是你的新娘+番外

(云之羽同人)云之羽:宫远徵我可以是你的新娘+番外

小说简介云之羽宫远徵我可以是你的新娘作者柒玖玖柒捌简介宫远徵,月苏温柔强大女主,桀骜不羁修狗。不是无锋,不是剧中人,单纯穿越人。你不在只有哥哥,而我会永远站在你的身边。救赎弟弟,拯救哥哥。不拆CP,除了宫尚角,上官浅,不要喷。第一章剧情开始月苏看着窗外飘落的雪花,有些发怔。距她穿越到云之羽宫家已经一年多了。她并没有穿越...

喝醉後,村花让我忘掉那一天!

喝醉後,村花让我忘掉那一天!

弃婴王小帅打小被老神棍收养,长大後成了万民村头号村民的他,却,带领着村民们发家致富,成就了一生传奇!...

每日热搜小说推荐