taobao图推荐算法论文学习笔记
找时间学习了一下论文:Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba该论文根据用户的行为在 item与item之间建立图。再根据Graph,使用random walk 算法生成sequence。总共分为三个步骤:1. 根据用户的行为在 item与item之间建立图,(需要提出一些over active user...
fastText 的negative sample 的理论与实践
为什么word2vec需要negative sampling?因为在训练word2vec的时候采用了浅层神经网络方法,对所有的vocabulary 进行 one-hot 编码,这样输出层就是一层softmax layer。而计算softmax layer,必须要将该数据与其他的vocabulary的embedding进行重算,这样非常的耗时。(因为one-hot 的维度有可能是上百万的,计算量太大)所...