激活函数包括阶跃函数,但也有其他函数,就像除了应急预案,还有日常处理程序。
故事比喻:魔法门与激活函数
在一个魔法世界里,有一座魔法学院,每位魔法师都要经过一道神秘的魔法门,才能进入更高级的修炼殿堂。
但这扇门不会让所有人随便通过,它会根据魔法师的魔力值来决定:
?如果魔力值太低,门不会打开(相当于激活函数抑制无用信息)。
?如果魔力值很高,门会全力打开(相当于激活函数放大有用信息)。
?如果魔力值一般,门可能会半开半闭,让魔法师勉强通过(相当于某些平滑的激活函数)。
这个魔法门的决策过程,就像AI里的激活函数,它决定哪些信息能进入下一层,哪些要被过滤掉!
激活函数的作用:筛选、放大、非线性化
想象AI神经网络是一个“魔法训练过程”,每一层都需要做决策,而激活函数就像这个**“魔法门”**,决定哪些信息能继续往下走。
1.魔力值的计算(输入信号加权求和)
?每个魔法师的天赋不同,有些擅长火系魔法,有些擅长治愈术。
?在进入魔法门之前,考官会给每个魔法师打分(相当于神经网络的加权求和)。
?但这些分数本身没有用,必须经过魔法门筛选,才能决定是否晋级。
比喻:这就像神经网络中的线性计算,只是单纯地累加输入信息,但还没有做真正的决策。
2.通过魔法门(激活函数的选择)
不同的魔法门有不同的规则,对应不同的激活函数:
ReLU魔法门(ReLU激活函数):
?如果魔力值≥0,门会打开,让魔法师进入。
?如果魔力值<0,门会彻底关闭,不让任何人进入。
比喻:这就像一个严格的守卫,没有天赋的魔法师(负值输入)直接被拒绝,只允许优秀的魔法师进入。
Sigmoid魔法门(Sigmoid激活函数):
?如果魔力值很高,门会完全打开(接近1)。
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
相邻推荐:搜异录 厉鬼求饶!对不起,贫道只灭不渡 纵横与连横 地狱往生 书魂世事录之诛神 我与美女搭档的阴差生活 法师手札 王爷重生不撞南墙只撞我! 雷奥尼克斯游记 神魔在世,我提刀弑神 快穿:每个世界都累到吐血 做游戏的女王 装神一直爽,一直装神一直爽 壹佰章 蜡笔小新:我是美伢的弟弟 盗墓:得万人迷体质后,他躺麻了 太古玄幻神王 法师怎么就不能近战了? 重生刘辩,掌汉末英豪 世界,去死
好书推荐:揉碎温柔为夫体弱多病和情敌在古代种田搞基建我有了首都户口暗恋指南星际双修指南我只是一朵云瑜伽老师花样多妈宝女她躺平爆红了你不能这么对我带着战略仓库回大唐背叛宗门,你们后悔什么?重生之护花痞少许你三世民国重生回到古代当夫子太子殿下躺平日常我的外甥是雍正公主 驸马 重生重生宠妻时光盗不走的爱人古穿今之甜妻混世小术士高手她带着全家翻身借一缕阳光路过爸爸偷了我的女朋友的东西后妈卷走40万失踪后续