数据分析师的生存手记
本篇关键内容(2049字,阅读约15分钟):分析师的职责范围重定义:数据科学合作伙伴数据需求的标准流程工欲善其事,必先利其器-tapd为什么写这篇文章?起因是分析师团队的leader离职了,作为大老板,我只能选择暂代管理一段时间(插播广告:招聘中)。在帮团队成员梳理工作内容的过程,我抽象了其中一些关
你为什么可以被晋升?
本篇文章3100字,预计阅读时间为12分钟,建议找一个安静的时间阅读,以及隔一段时间翻出来再看。在任何一家公司,每一个对自己职业生涯有规划的员工都希望在更短的时间内晋升,这意味着更多的关注和资源倾斜,更大的责任和职责范围。当然,与之匹配的收益必然也是同步提高的。对于晋升这件事情本身,我们应该怎样理解
你为什么可以被晋升?
本篇文章2900字,预计阅读时间为12分钟,建议找一个安静的时间阅读,以及隔一段时间翻出来再看。在任何一家公司,每一个对自己职业生涯有规划的员工都希望在更短的时间内晋升,这意味着更多的关注和资源倾斜,更大的责任和职责范围。当然,与之匹配的收益必然也是同步提高的。对于晋升这件事情本身,我们应该怎样理解
数据分析师的生存手记
本篇关键内容(阅读需要约15分钟):分析师的职责范围重定义:数据科学合作伙伴数据需求的标准流程工欲善其事,必先利其器-tapd为什么写这篇文章?起因是分析师团队的leader离职了,作为大老板,我只能选择暂代管理一段时间。在帮团队成员梳理工作内容的过程,我抽象了其中一些关键的要素,以及需要澄清的认知
在 R 中各种码的转换
各位看官在平时用R处理网页的过程中,一定会被各种乱码、转码所困扰,这里做一些小型的总结,会涉及到:encode和decodemd5加密字符集转换繁体转化为简体字体的指定逐个解释如何处理:Encode和Decode处理最为简单,因为在R中自带的utils就存在方法,具体函数是URLencode和URL
2019 年建议阅读书目
国庆期间闲逛知乎,恰巧碰到一则问题2019年你的书单有什么书?,这个问题有988个回答,18326个关注者,284万的浏览量接近1000个回答,全部翻完且不说时间会爆炸,脑子里能不能记住这些信息更是问题。如果能抓取每个回答列出来的书名,汇总以后便是这988个回答者的书目投票。方法虽说暴力,但也算是变
建国以来人均 GDP 增长情况
拜川普总统所赐,今年的国庆节国人过的非常振奋。此生无悔入华夏,来世愿在种花家这句话说出了很多人的心声。情怀归情怀,我们从建国以来到底成长的怎样呢?闲话不说,直接上图,数据来源这里。改革开放40年我们取得了非常傲人的经济成就,作为80后亲历者,图形化的结果还是震撼了我。从04年附近,人均GDP的增幅突
利用 R 函数生成差异化密码
随着我们注册的网站和App越来越多,有一个问题一直困扰着我:我的密码真心不够用!以及还有一个更为可怕的风险:如果所有的网站如果使用同样的密码,任意一个网站只要发生安全泄露,那基本你在其他网站就属于裸奔了,其他人可以利用你的共用密码作出一系列你不能想象的行为。1Password给我了一些启发,它可以保
在sharingan使用自定义CSS特效
sharingan是非常优秀的幻灯片演示工具,作为一款网页工具,它本身也支持各种CSS的特效,这里罗列几种CSS特效,供读者参考。(本篇博客基本照抄yalei的原创,我只是知识的搬运工,笑)放大图片的特效我们在使用写轮眼些幻灯片时,会遇到展示庞大网络图或者架构图,比如全力的游戏的人物图谱可以想象,当
数据科学的时间轴
十月份在公司的技术中心分享了《数据思维、技术到商业价值》,从数据科学的重要基石之一统计学开讲,帮大家串了一下数据科学到底是什么东西。其中有一页幻灯片,讲到我心目中数据科学milestone的时间轴,这里分享给大家,以及怎么使用R包绘制。啥也不说,先看图:Informationentropy,1948
贝叶斯个性化排序
BayesianPersonalizedRanking是基于隐式反馈数据的非常通用的个性化模型,一般实现使用的是matrixfactorization机制,利用随机梯度下降来求解。假设用来表达训练集的三元组为(u,i,j),只需要找到“最优化”的用户的f维向量表征w_{uf},positiveite
写轮眼(sharingan)奇淫技巧
本片文章直接拷贝于部门wiki,作者还有renwanfeng、duyalei写轮眼是谢益辉开发的,利用markdown语法完成的slides的工具,排版非常考究,书写速度极快。非常适合工程师序列的工作人员。不过因为GFW的存在,sharingan调用的js和font不能加载,会导致slides不能被
饭桌上的闲聊
六月的最后一周,在厦门大学统计系做了一份小学期课程的分享。午餐期间,胡帆同学整理并提问了一些问题。感谢WiseRClub的文字整理。以下为谈话内容胡帆:您是正儿八经的统计学专业出身,但是现在统计学出身的人大部分都在做机器学习,请问您认为统计学和机器学习的联系和区别是什么?刘思喆:其实没有什么大的区别
R的高性能 http 服务 fiery
前文说到使用opencpu来搭建http服务,opencpu可以很快速的通过构建R包的方式来搭建http服务,很快捷,而且支持各种响应机制。但我们在搭建线上服务时,经常有需求将请求响应的时间控制在100ms以内,opencpu的框架就存在问题了。这里再介绍R的另外一个包:fiery,部署更加方便且响
利用R和opencpu搭建高可用的HTTP服务
使用R提供一个高可用的服务一直对R来说都是弱点,比如JRI(Java)或Rserve这些都不是太友好。OpenCPU的出现彻底解决了这个问题,援引OpenCPU介绍:InteroperableHTTPfordataanalysisRPCandobjectmanagementI/O:JSON,Prot
利用 JDBC 驱动连接 R 和 Hive
一次更新几年前写过一篇简单的博客来讲如何利用RHive协同操作Hive和R。这个包貌似很久未做维护,不是太好用,其实RHive包底层通过JDBC调用数据,所以通过RJDBC其实是更简单的方式。废话少说,直接贴代码:library("DBI")library("rJava")library("RJDB
使用R原生函数来做文本挖掘
最近有几位同学问到我如何利用tm包做文本挖掘,比较抱歉的是时间不太充足,不能完整更新文档。在这里只好给大家一些tips,来利用R的原生函数来完成文本挖掘的核心步骤。setwd('C:/Users/Administrator/Downloads')options(width=150)library(d
唯一化词向量
最近duoshuo社会化评论崩溃了,上千条评论就这么没了,各种手段恢复无果。只能怪我太懒,不爱经常做备份。果断将博客评论迅速转移到disqus,希望以后不会有事。言归正传,最近和工程师讨论词向量表征商品特征的思路时,遇到一个很有意思的现象:一个商品很可能标记了维达纸巾纸巾维达这两个特征的意义实际一致
Spark or R
前天下班浏览朋友圈,雪晴数据网转发了一篇译文,大数据工具比较:R语言和Spark谁更胜一筹?,原作者测试了在限定为单机环境下,使用Kaggle提供的手写识别的数据在R和Spark平台运行不同算法的对比速度,结论有一下几个:主成分分析R要4小时,Spark要10秒逻辑回归:R运行7小时,Spark约5
不务正业之使用R做人工审核图片的小工具
好久不写博客,文债太多。其实写了好几篇,不过没润色好,暂时没有放出来。这两天搞了搞深度神经网络,顺带玩了玩公司的晒单图片,不过需要人工审核每个文件夹(对应一个sku)下面的图片是否可以用于模型。人工审核的意思就是自己一张一张图片的看,然后删……真是对人性的折磨啊~~为了加快效率,所以又让R不务正业了