魔爪文学

手机浏览器扫描二维码访问

第583章 激活函数(第2页)

?低于o.5的人(低分):大概率被拒绝。

优点:

?可以平滑地过滤数据,避免“全进或全不进”这样极端的情况。

?适用于二分类问题(比如邮件是垃圾邮件还是正常邮件)。

问题:

?计算比较复杂,不像ReLu那么直接。

?当数据过大或过小时,变化很小,容易导致梯度消失(学习度变慢)。

第四种情况:老张更加智能(softmax激活函数)

有一天,老板告诉老张:“我们公司不仅有正式员工,还有不同的部门,比如工程部、市场部、财务部。你不能只区分‘进’或‘不进’,而是要把人分到不同的部门。”

于是,老张开了一套更加高级的评分系统,不仅判断某人是否能进,还会计算他属于哪个部门的概率。

?如果一个人穿着工程师制服,9o%可能属于工程部,1o%可能属于市场部。

?如果一个人拿着营销资料,8o%可能属于市场部,2o%可能属于工程部。

?每个人都按照最高概率归类到相应部门。

这就像softmax激活函数,它的作用是:

?把所有的可能性转换成概率分布(所有概率加起来是1)。

?适用于多分类问题(比如识别一张图片是“猫”、“狗”还是“兔子”)。

优点:

?适合多类别分类,可以告诉你**“最有可能”是哪一类**。

问题:

?计算量比ReLu大一点,但在分类任务中是最合适的。

总结:不同激活函数的角色

激活函数比喻适用场景优点问题

恒等函数(Identity)老张不筛选,所有人都能进线性回归简单直接不能处理复杂问题

ReLu老张只让正式员工进,其他人全拒深度学习、net计算简单,效率高负数全部变o,信息可能丢失

sigmoid老张给每个人打分,决定能不能进二分类问题(垃圾邮件分类)平滑过渡,输出o-1概率容易梯度消失

softmax老张不但决定谁进,还要分部门多分类问题(图像识别)适合多分类问题计算比ReLu复杂

结论:激活函数=智能筛选机制

?激活函数的作用就像门卫老张,决定哪些信息能进入下一层,哪些要被拒绝。

?不同的激活函数适用于不同的任务,ReLu、sigmoid、softmax各有千秋。

?深度学习的关键就是如何聪明地使用这些筛选机制,让神经网络学得更快、更准确!

你更喜欢哪个“门卫策略”呢?如果你是老张,你会怎么设计你的筛选规则?

请关闭浏览器阅读模式后查看本章节,否则将出现无法翻页或章节内容丢失等现象。

热门小说推荐
鹈鹕浅尝人类[娱乐圈]

鹈鹕浅尝人类[娱乐圈]

鹈鹕浅尝人类娱乐圈作者草莓菠萝蜜完结  简介  洗白自己第一步,就是参加一个讨喜的观鸟综艺。  但商晚硕发现,自己竟然被一只鹈鹕给缠上了?!  鹈鹕,万物皆可夹,吃不了也要兜着走!...

穿书後发现狗血文女配竟是我前世

穿书後发现狗血文女配竟是我前世

作为星际时代整个帝国数一数二的机械师,陆渺没有想到某一天看完好友借给她的古董女强修仙爽文就穿进了那书中世界。而且穿就穿了,竟然还穿成了那声名狼藉的恶毒女配陆渺渺?这恶毒女配不仅嚣张跋扈到处惹是生非,还和女主陆珈棠抢男人丶抢机缘,最後落得一个家破人亡,跳崖自尽的下场。陆渺正疑惑自己为何会穿进这狗血文,又如何离开?脑海中突然出现一个自称为系统的声音,给她发布了帮助原主洗白,打脸所有看不起她的配角的任务。为了系统答应她的那个最终奖励,她只好任劳任怨为其打工,只是为何她越是了解原主的记忆,越发觉得自己好似经历过一般呢?作品又名渺渺兮予怀超强剑道炼器双修大女主×绿茶装弱魔族卧底小师弟(bg文,把女主放前面只是因为我宠女主,什麽都要女主优先)阅读指南1女主很强,非常强,虽然在成长过程中也有受挫折的时候,但都凭实力解决了,同境界无敌,越阶挑战轻轻松松2男主提供的情绪价值居多,打架场面比较少3男配很多,但男主从头到尾只有一个4少量狗血剧情,但反派不会洗白,不会强行降智5总之是个一边升级打怪一边复仇一边谈恋爱顺带一边拯救世界的故事最後,新人作者,创作不易,还请多多支持~点点收藏不迷路~内容标签强强仙侠修真系统穿书爽文反套路其它穿书,女强,爽文,HE,救赎...

吞针恋人

吞针恋人

于是,她在深夜的久安街道,骑着一辆系着风铃的单车,慢悠悠地往前晃去。一路驶过冷清的冬泉北路,再到嘈杂的关户夜市,最终穿过偶尔传出一两声吱嘎作响的筒子楼。她回头望去,那些晾在廊道的陈旧衣物在昏暗的路灯...

哦莫,我头呢

哦莫,我头呢

高冷腹黑冥王vs软萌笨蛋可爱鬼第一次见面,南噜噜正在满地找头,还把鼻涕悄咪咪蹭到了江宴身上。第二次见面,江宴在正在拍戏,南噜噜跳到江宴身上,一个劲儿叨叨救救我救救我救救我第三次见面,南噜噜给江宴来了个鬼压床。江宴忍住了,左右鬼门来了小鬼就会走。然而没想到南噜噜睡过头了,错过了鬼门开的时间。从此,江宴家多了一个牛皮糖似的赖着不走的小鬼,江宴每天都在想方设法把小鬼送走。他把小鬼收进盒子放在草丛里,第二天小鬼依旧乐呵呵地叼着棒棒糖跟在他屁股后头。他拍完戏故意把小鬼丢在外面,第二天小鬼还会坐在他旁边咔嚓咔嚓吃小饼干。最后他决定把小鬼送到冥兵手里,让他们把小鬼带回地府,结果没多久小鬼伤痕累累哭着找到他,怀里护着为他准备的生日蛋糕。小鬼哭的可怜宴宴,你差点把我弄丢了江宴颤抖着手,心一瞬间疼的无以复加。他把南噜噜抱进怀里对不起,以后再也不弄丢你了人们知道影帝江宴家养了个漂亮的男生,江宴简直把人宠上了天,男生在家摔了一跤,江宴都会紧张地放下工作跑回去看。再后来,江宴把男生带在身边,形影不离。但是南噜噜要走了,鬼门开的时间再次到了。南噜噜知道自己是鬼,迟早要回地府的,他偷偷离开了江宴,回到地府。可是刚回去不久,冥兵突然把他绑了起来,说他惹怒了冥王。南噜噜惊恐的以为自己小命不保,可当他看到面前的王座上那个熟悉的俊美男人时,脑袋轰的一声江宴居然是自己的大boss!你想跑哪儿去?男人钳住南噜噜的下巴,强迫他抬起头。南噜噜揪紧了衣服,颤抖着声音狗腿似的笑跑跑到你心里去你信不信这是你说的,不许反悔。几天后南噜噜不知道自己为什么要犯蠢讲那种话,导致自己现在连床都下不了...

周乐

周乐

我叫周越,一个普普通通,简简单单的高中生。我没有什么特长,也没有什么太大的缺点。就是很普通,很正常。对,就是正常。和作者的其他作品里的人公相比,我就是两个字,正常。若是说我唯一的特点,我自己认为,是脾气好吧。我都没怎么生气过,待人接物也特别好。也许,我就是人们所说的那种烂好人吧。今天,也是个普通的早晨,我像往常一样,准备着早餐。...

[琉璃同人]捕风

[琉璃同人]捕风

十三戒炼狱塔中,心魔杀死了真正的司凤,戴上情人咒面具回到离泽宫。他融入禹司凤原本的生活,却也不想踏上禹司凤本该有的轨迹。亦真亦假,虚虚实实,他想获得自由,他定能获得自由。内容标签灵异神怪仙侠修真替身救赎...

每日热搜小说推荐