ITPub博客

首页 > 人工智能 > 人工智能 > 工程师访谈 | 在这6年里,我们为用户做了一件有意义的事

工程师访谈 | 在这6年里,我们为用户做了一件有意义的事

原创 人工智能 作者:爱奇艺技术产品团队 时间:2020-07-15 16:06:47 0 删除 编辑

在爱奇艺业务生态里,“用户”和“内容”是两个核心词汇,虹吸了我们大量的时间和精力。查同学所在的推荐团队,就是利用机器学习技术为用户找到其感兴趣的内容,为内容找到可能对其感兴趣的用户。这简单的原理背后却是极复杂的算法计算和海量的数据处理,是使命中的“让快乐简单”。

接下来,就让我们听听查同学和他推荐算法的故事吧。


查同学2014年加入爱奇艺推荐团队,这6年来一直在做推荐算法工作,做推荐算法,就是要设计大量高效、优雅和奇妙的算法,并利用算法更快更准确地计算出视频的属性、用户的属性,并在特定的环境下从海量信息中筛选和推荐出用户感兴趣的内容。

(图为:推荐算法演示图)

从离线推荐到在线推荐,让用户快乐更简单
“快”是推荐算法所追求的,早期时我们使用的还是离线推荐框架与业务刚刚兴起的信息流模式下的在线推荐相比,相当于自行车遇到了汽车,速度不是一个量级的。于是,我们开始研究升级我们的技术架构当时业界还没有特别成熟的实践案例做参考,我们只能一步步地摸索
记得上线初期,由于QPS(Queries-per-second,每秒查询率)高、更新频繁,线上接口访问数据库,在高峰期时有大约4%的超时率,这对我们线上服务造成非常大的压力。我们当时从各种维度去分析性能的瓶颈,从数据源头做预处理、数据库分库、主从备份、引入二级缓存、用户ID hash分流等各个维度去尝试优化。最终将线上服务的高峰期超时率控制在0.3%以下。
当时,只有3个同学在线推荐,但最终通过大家的努力和公司各部门支持,我们几经迭代,将小时级别的推荐频率提高到十几秒,又提高到几秒,最后实现实时在线推荐。

这也就意味着,你随时可以刷新出当下最感兴趣的视频内容,而你每一次行为也直接影响着下一次刷新出的内容。当下这个进步还是非常明显的

(图为:推荐框架简图)
用户在线实时刷新的背后,是我们实时地采集、清洗、存储海量的数据的努力我们需要对用户观看的视频内容进行实时分析,也需要给用户实时打上更多标签以识别用户偏好,然后对用户和内容进行实时匹配。
要求我们有足够强大的底层技术框架、数据管理和运算能力为此,我们的数据分析从线下手动模式转化为线上自动模式,又升级为单独的数据中台,架构也从传统的MR陆续升级为实时的kafka、spark-streaming、flink

目前我们已经能支持每秒处理几十万条数据的需求,实现了让用户兴趣实时更新向用户推荐内容精准,也就是说我们更懂用户了。

图为:用户画像演示
内容推荐不仅个性化,更要多样化
努力避免用户对特定内容的过度沉浸,这是我们对用户负责任的体现之一
用户喜欢看什么,我们就推荐什么,这是个性化推荐,用户可能喜欢什么,我们推荐什么,这是多样化的推荐。我们会基于对用户理解,推荐给用户那些可能感兴趣的内容,帮助用户探索多元化的兴趣,让生活更精彩

当你偶尔疑惑,为什么推荐给我某个内容时,你的兴趣或许会因此而更加多元了哦

(图为:在线推荐交互示意图
私域流量:让UP主和粉丝“一家亲”

社区化是随刻发展的重要方向,我们不单纯地追求高流量,也会追求打造UP主与用户之间的生态平衡。为此,我们尝试利用推荐算法把粉丝与UP主更紧密的连接起来,促进社区互动,提高私域流量。

在个性化推进时,如果你关注了某个UP主,我们会推荐同类型的UP给你UP主发布内容,我们会新内容推送给你的观看、点赞评论、转发让UP更有创作动力,同时也会丰富你的社交圈,打造良好的社区生态

当然,我们会重点推荐高品质、正能量的内容给用户,这也是爱奇艺愿景中“伟大”内涵在算法上的具体体现。

(图为:随刻UP主页界面)
在一个季度的私域流量的优化之后,随刻信息流的私域流量曝光占比提升了127%,私域的消费时长也提升了37%满足用户的私域需求同时,也提升了创作者的创作动力。
推荐技术的持续迭代中,我在工作上也从技术小白到了技术大白,感谢公司给我不断学习试错和持续积累的机会在这一过程中,我有两个重要感悟分享给大家。
做事情之前,多问为什么

不管做什么工作我都习惯性为什么?背景是什么?目标是什么?很多时候捋清楚做什么,我们才知道怎么去做

现在带领几个同学一起工作,在和大家讨论工作时,我也努力让团队同学知道,他做每一件事情的原因、接的每一个需求的预期,同时让合适的人做合适的事。希望大家可以干的开心,有所成长

(图为:团队合影)

技术不掉队,管理不纯粹

做技术工作的,必须保持好奇心,追求新鲜感需要紧跟技术前沿,确保技术不掉队。在信息获取相对容易的今天,平时喜欢看看论文,逛逛技术论坛,保持专业技术上的持续学习

对于技术管理者而言,也要紧跟技术发展,不做纯粹的管理长久脱离一线很难把握技术团队的方向这也是我个人的经验总结。

六年前,爱奇艺还是行业追随者六年后,我们已经在一些方向上引领这个行业,这是一件令人自豪的事情期待公司未来发展越来越好

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/69945252/viewspace-2704724/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-08-13

  • 博文量
    42
  • 访问量
    22386