靠这几个推荐系统项目经历,进入了梦寐以求的大厂!

由于近些年深度学习技术的飞速发展,大力加速推动了AI在互联网以及传统各个行业的商业化落地,其中,推荐系统、计算广告等领域彰显的尤为明显。由于推荐系统与提升用户量以及商业化变现有着密不可分的联系,各大公司都放出了众多推荐系统相关职位,且薪水不菲,目前发展势头很猛。
但是,这里存在几个问题,很多欲从事推荐系统的同学大多数学习的方式是自学,1、往往是学了很多的推荐算法模型,了解些推荐里常用的算法,如:协同过滤、FM、deepFM等,但是却不清楚这些模型在工业界推荐系统中是如何串联、如何配合、有哪些坑,哪些trick的,导致无论面试还是真正去业界做推荐系统,都会被推荐领域的”老枪老炮“们一眼识别出小白属性。2、对于算法原理理解不深刻,这就会导致实际应用时不能很好地将模型的性能发挥出来,另外面试时对于大厂面试官的刨根问底,只能是眼睁睁的丢掉offer。
CF、FM、DSSM、DeepFM等这些推荐业界明星模型,你真的清楚他们的内部运行原理以及使用场景吗?真的了解FM模型与SVM有什么相似之处吗?FM固然可以用作为打分模型,但它可以用来做matching吗,如果可以,如何做?item2Vec模型在业界是如何缓解冷启动的问题的?双塔模型优势在哪?深度模型到底是如何做matching的,是离线计算好结果还是实时的对网络进行前向计算?DeepFM具体实现时,wide端和deep端的优化方式是一样的吗?基于Graph的推荐方法在业界的应用目前是怎样的?基于上述的目的,贪心学院推出了《推荐系统工程师培养计划2期》,由一线的推荐系统负责人亲自全程直播讲解。 
01 课程大纲
第一部分:推荐系统之内容理解与画像构建
Week1:机器学习基础
  • 逻辑回归模型

  • 梯度下降法

  • 神经网络模型

  • 过拟合与正则

  • 常用的评价指标

  • 常用的优化算法

  • 向量、矩阵基础

Week2:推荐系统基础
  • 推荐系统概述、架构设计

  • 推荐系统后台数据流设计

  • 常用的技术栈

  • 推荐系统中的评价指标

  • 简单的用户协同

  • 环境搭建

Week3:内容画像的构建以及NLP技术
  • 内容画像的搭建基础

  • 关键词提取技术tf-idf, textRank

  • LSTM与注意力机制

  • Attention的几种常用方式

  • Self-Attention

  • Multi-head Attention

  • 双线性Attention

  • NLP工具的使用

  • MySQL数据库的搭建与内容画像存储

Week4:用户画像的构建
  • 用户画像与内容画像的关系

  • 用户画像的架构

  • 用户画像的扩展

  • 用户画像与排序特征

  • 用途:基于标签的用户画像

  • 标签权重的计算方法(贝叶斯平滑、时间衰减)

  • 基于用户画像的召回方法

  • Redis的搭建与使用

  • 基于Redis的用户画像存储

  • Hadoop, Hive, Spark等工具使用

第二部分:召回模型与策略、数据与采样的学问
Week5:传统Matching方法
  • MF召回法以及求解

  • 特征值分解

  • 传统奇异值分解之SVM

  • FunkSVD

  • ALS方法

  • SVD++

  • 基于物品的协同Item-CF

Week6:深度 Matching方法
  • MF召回法以及求解

  • 理解Embedding技术

  • Embedding为什么有效

  • Embedding与稀疏ID类特征的关系

  • Item-CF召回与Item2Vec

  • Airbnb序列召回与冷启动缓解思路

  • NCF召回以及变种

  • YouTube召回方法

  • 从DSSM到双塔模型

  • 双塔模型工业界的部署方法

  • 多兴趣召回

  • MIND召回

  • Faiss工具介绍

  • KD树,LSH,Simhash

 
Week7: Graph Embedding与用户行为构建图
  • MIND召回

  • 随机游走于传统协同方法

  • Deepwalk

  • Node2Vec及其同质性与结构性

  • LINE

  • 随机游走的实现

  • Alias采样方法

  • Neo4j讲解

  • Graph Embedding的实现

  • Node2Vec的实现

Week8: 图推荐、图神经网络、采样与热度打压
  • MIND召回

  • Graph Embedding优化

  • EGS,注意力机制及其变种

  • Ripple网络方法

  • 召回层采样的坑与技巧

  • 热度抑制

  • EGES的实现

  • GCN和GAT

  • GraphSage

第三部分:排序模型、重排序与多目标
Week9: 经典Ranking模型方法
  • MIND召回

  • Ranking与用户画像

  • 物品画像

  • LR模型

  • GBDT+ LR

  • FM模型详解、业界使用方法与坑

  • FFM模型

  • AUC与GAUC

  • 增量学习与Online Learning

  • 从L1稀疏化、FOBOS到FTRL算法

  • 基于FM实现Ranking精排序

 
Week10: 深度Ranking模型与工业采样技巧
  • 粗排与精排及其意义

  • 主流深度推荐模型的集中范式

  • 特征自动组合:Deep&Cross, XDeepFM, PNN

  • 特征重要度提取以及无用特征去噪:AFM, DeepFFM

  • 序列推荐模型:DIN,DIEN, AttRes,Stamp

  • 独辟蹊径之序列推荐的优化思路

  • 深度模型工具的介绍与使用

  • MLSQL

  • DeepCTR等与工业界采样方法

Week11: 重排序与多目标学习
  • 多目标学习的几种范式

  • 范式一:样本加权

  • 范式二:多模型融合

  • 范式三:联合训练、ESMM,MMOE框架,ESM2等

  • ESMM的实现

第四部分:实时召回策略与前沿推荐技术
Week12-13: 工业界新闻推荐系统中冷启动与热点文章实时召回
  • 人群分桶

  • 实时交互正反馈

  • 实时召回与实时画像技术

  • 人群投票

  • 人群等级投票

  • 降维分发

  • 后验与先验的结合

  • 引入注意力机制的优化兴趣增加和衰减

  • 热点文章召回策略

  • 本地文章召回策略

  • 算法策略与运营配合协作

Week14: 强化学习与推荐系统、AutoML与推荐系统
  • 强化学习概念、以及在推荐系统中的对应

  • DP算法本质思想

  • 马尔科夫决策

  • 蒙特卡洛搜索所树(MCTS)

  • UCB及其在推荐系统中的应用

  • 汤普森采样法

  • Q-Learning、DRN、策略梯度

  • 强化学习在推荐场景中的应用

Week15: 项目总结,部署以职业规划
  • 工业界项目的部署

  • 推荐系统岗位的面试要点

  • 大厂的面试攻略

  • 如何准备简历、包装自己

  • 职业规划

课程其他的细节可以联系课程顾问来获取
添加课程顾问微信
报名、课程咨询
👇👇👇
02 课程中的部分案例和作业
    
1. 基于画像的推荐项目
推荐系统主要分为两个环节:召回和排序。这两个阶段,都离不开用户画像的支持,而用户画像又是在内容画像基础之上不断累积用户行为而来,故首先需要有内容画像,构建文本物品的内容画像需要nlp技术的支持,存储内容和用户画像依赖常用数据库以及贝叶斯平滑、威尔逊置信区间等技术;学习本项目后,你将了解到如何使用nlp技术抽取物品信息形成内容标签,依托mysql、Redis等数据库存储内容画像,并基于内容画像和用户行为形成用户画像,在此基础之上建立基于画像的推荐系统。
2. 新闻推荐项目
目前业界最主流的推荐系统使用 “多路召回  +  精排” 的方式,本项目中,带你掌握这种工业界最流行的推荐方式,你将使用MF、双塔等深度网络进算法对用户和物品进行表达,并基于ANN检索的方式实现召回,最后使用精排,对每个候选物品进行打分并排序,最后按照得分对用户进行物品展示。
3. 基于图和深度网络的新闻推荐项目
目前业界有个趋势:“ 将图方法引入推荐系统 ”,那么具体要如何操作呢,有哪些图的推荐算法是目前业界比较流行的?这些方法是如何嵌入到推荐系统中的?哪些方法是基于用户行为的?哪些方法是同时引入先验的知识图谱信息与用户行为的?本项目带你掌握这些图方法,基于图方法对用户进行兴趣建模,从而实现召回目的;在精排打分阶段,目前业界各大厂也已经由传统模型全面替换成深度网络及其各种变种了,本项目将在排序阶段带你掌握深度网络的排序玩儿法。
4. 实时召回推荐项目
目前业界流行的 “ 召回 + 精排 ” 模式的推荐方式有没有弊端呢?仔细想想,如果只基于这种方式来为用户展示物品,很多时候模型很难及时响应用户的实时交互需求,在本项目中,将带你实现推荐领域的实时交互策略、以及热点文章推荐的实时交互技术;让你了解如何计算实时收益、实现实时画像、增加推荐系统的实时交互性。
5. 实现基于用户协同的文本推荐
在深度学习盛行的时代,经典的协同过滤方法是否还在各大公司的推荐引擎中使用呢?答案是肯定的,协同算法在推荐领域中有这不可磨灭的基因,作为分发和传播能力极强的方法,至今,协同过滤方法仍然在工业界有这广泛的应用。此案例中,同学们将亲手实践协同算法的威力。
6. 基于NLP技术、Redis构建与存储内容画像
用户画像在推荐领域有着至关重要的作用,主流的协同以及今天大火的深度召回方法,如双塔、YouToBe召回方法等的情况下,基于用户画像的召回方法仍然适用,因其极具可控性与解释性,推荐领域,因其有这天然的业务性,导致推荐系统对可解释性要求极高,当出现推荐的bad case时,基于用户画像的召回策略是查找bad case的重要手段。
7. Item2Vec的实现
推荐业务领域常常有如下场景,相关推荐、猜你还喜欢等,熟悉吧?背后支持的算法和系统策略逻辑是什么呢?答案就在此案例中,类似的相关推荐场景,即为:根据现有物品推荐另一相关的物品或者商品,借助于用户行为与word2vec思路,将item Embedding引入此场景,并适当引入side info信息来做商品的相关推荐方法,此案例将为你揭晓其中的秘密。
8. FM方法的实现
MF(矩阵分解)算法作为推荐算法经典代表作之一,其是最早体现出Embedding泛化扩展思想的雏形;之后,FM(因子分解机)算法在MF(矩阵分解)基础之上发扬光大,将Embedding思想进一步引入传统的机器学习做推荐,FM算法看成推荐领域的万金油,召回、粗排、精排均可用FM实现,在深度学习上线资源较困难的情况下,可视为推荐领域的baseline的不二法门,此案例中,你将亲自感受FM算法的魅力。
9. Wide&Deep算法实现
推荐算法本质上就是在解决两个问题:记忆和泛化,传统的LR等模型,将大量的ID类稀疏特征直接喂给模型,再由广义线性模型直接学习这些ID类特征的权重,本质上就是模型对特征的简单粗暴的记忆,因此,泛化扩展性得不到保证,从未出现过的特征(如很重要的交叉特征等),模型无法学习该特征权重,故特征的指征能力无法体现;因此,深度学习模型引入Embedding稠密向量概念,将不同特征之间的一部分共性抽象出,放入Embedding空间进行学习,这样的操作可以近乎看作是模糊查找,具有较强的泛化能力,但记忆性显然不如LR等模型,wide&&deep的提出是兼容记忆性与泛化性的考虑,在此基础上,后续的DeepFM等模型,也只是在wide端加强了模型对特征的显式交叉,但架构本质与wide&&deep模型是一样的。此案例就来带大家实操WDL方法。
(0)

相关推荐

  • 王喆:深度学习推荐系统实战

    推荐系统从来没像现在这样,影响着我们的生活.当你上网购物时,天猫.京东会为你推荐商品:想了解资讯,头条.知乎会为你准备感兴趣的新闻和知识:想消遣放松,抖音.快手会为你奉上让你欲罢不能的短视频. 而驱动 ...

  • 小白都能懂的推荐算法入门(三),FM、类别特征以及Embedding

    大家好,上一期文章我们聊了FM模型在推荐系统当中起到的作用,以及它的一些缺点. 今天我们继续来聊FM,不过不是单纯聊FM的原理了,而是聊聊更深层次的方法论,以及FM家族的一些改进策略. Embeddi ...

  • 前有LR,后有神经网络,树模型是怎么退出江湖的?

    大家好,我是梁唐. 今天这篇文章和大家聊聊机器学习中的树模型,树模型相关的原理网上到处都是,之前也写过相关的文章,这次就不过多赘述了.咱们主要是结合场景做一些探讨,简单分析一下树模型的问题. 略显尴尬 ...

  • 深度学习尝鲜-DeepFM模型原理

    一.背景 精排模型是推荐系统中效果产出最重要的模块,深度排序模型是推荐领域应用最广迭代最快的技术领域.近年来各大公司纷纷抛弃了原有的传统机器学习模型转向深度排序模型的研究和应用,提出了非常多结合工业应 ...

  • 当Top-k遇到深度学习

    AI TIME欢迎每一位AI爱好者的加入! top-k操作(即从分数集合中找到k个最大或最小元素)是一个重要的机器学习模型组件,被广泛用于信息检索和数据挖掘中.但是,如果top-k操作是通过算法方式( ...

  • 深度学习技术在美图个性化推荐的应用实践

    作者:陈文强.白杨.黄海勇 出品社区:DataFunTalk 导读:美图秀秀社交化的推进过程中,沉淀了海量的优质内容和丰富的用户行为.推荐算法连接内容消费者和生产者,在促进平台的繁荣方面有着非常大的价 ...

  • AI | 推荐系统之协同过滤的前世今生

    『运筹OR帷幄』转载 作者:海边的拾遗者 编者按 小编对推荐系统的认知之前一直停留在其实际应用层面,看到这篇推荐系统文章后,羞愧地认识到自己的见识短浅.推荐系统的价值不仅在于它产生有形的利益,其背后的 ...

  • FM: 推荐算法中的瑞士军刀

    前言 自从我上次在知乎回答了问题<机器学习中较为简单的算法有哪些?>,很多同学私信我询问我FM算法在推荐系统中的应用细节,索性今天就专门写一篇文章,仔细聊一聊FM这把"推荐算法中 ...

  • 从矩阵分解到FM的演进、FM如何用于召回和排序以及实现说明

    本文主要包含以下内容: 1.背景 2.矩阵分解类算法 2.1 协同过滤 CF 2.2 矩阵分解 MF 2.3 逻辑回归 LR 2.4 因子分解机FM 2.5 组合模型 3.FM深入介绍 3.1 FM特 ...

  • 谈谈工业界落地能力最强的机器学习算法

    尽管BERT为代表的预训练模型大肆流行,但是身处工业界才会知道它落地有多难,尤其是QPS动辄几百的在线推荐.搜索系统,哪怕在大厂也很难在线上系统见到它们. 今天就想反其道而行之,谈谈工业界搜索.推荐. ...