如何从0开始设计一个MLP
如何从0开始设计一个MLP
平常我们在复现论文、搭建模型时,经常会遇到多层感知机(MLP)。很多时候我们只是照搬代码,却很少思考:MLP的结构是怎么设计的?各层顺序有什么讲究?超参数该如何确定?又该如何根据自身任务场景优化模型、判断某一层是否必要?今天就结合一个具体的PyTorch MLP示例,一步步拆解从设计、调参到优化的全流程。
机器学习常用激活函数及其选型
机器学习常用激活函数及其选型
本文按照激活函数的发展脉络,对深度学习中常用的激活函数进行了系统整理,涵盖其数学公式、取值范围、核心特点、PyTorch公式级实现代码、适用场景、出现背景(解决的具体问题)以及计算复杂度和参数情况等信息。通过这种方式,可以从工程和理论两个角度快速理解不同激活函数的设计动机与应用差异,帮助在实际模型设计(如推荐系统、CV、LLM 等)中进行合理选型。
机器学习常用损失函数及其选型
机器学习常用损失函数及其选型
在机器学习与深度学习实践中,损失函数(Loss Function)是连接模型预测与优化目标的核心组件,它定义了模型“什么样的预测是好的”。不同任务(如回归、分类、排序或表征学习)对应的损失函数形式和优化目标也各不相同,因此合理选择损失函数往往对模型效果具有决定性影响。本文整理了工程与论文中常见的损失函数,并按照回归、分类(Pointwise)、排序(Pairwise/Listwise)以及表征学习等典型任务场景进行分类,总结其数学形式、核心思想和适用条件,帮助读者在实际建模与系统设计中快速理解各类损失函数的作用及选型依据。
营销算法-增益模型(Uplift Model)
营销算法-增益模型(Uplift Model)
在推荐系统领域,我们长期围绕 CTR、CVR、GMV 等目标优化排序与召回,但在广告、优惠券、Push 等营销干预场景中,传统预测模型只能判断用户是否会转化,无法区分「自然转化」与「干预带来的增量转化」,容易造成预算浪费与用户体验损耗。Uplift 建模(增益模型)作为「因果推断」在营销算法的核心落地方向,精准聚焦个体干预增量效应,帮我们定位仅因营销触达才转化的高价值用户、规避反效果人群,实现从「相关性预测」到「因果决策」的能力升级,也是推荐算法工程师拓展营销广告赛道、提升业务 ROI 的必备核心技术。