20项任务全面碾压BERT,CMU全新XLNet预训练模型屠榜(已开源)
机器之心报道,机器之心编辑部。 2018 年,谷歌发布了基于双向 Transformer 的大规模预训练语言模型 BERT,刷新了 11 项 NLP 任务的最优性能记录,为 NLP 领域带来了极大的惊喜。很快,BERT 就在圈内普及开来,也陆续出现了很多与它相关的新工作。 BE…
想做前端开发?推荐几个必备珍品组件库
前端是一个一直在发展的名词,从最初刀耕火种时代的页面仔到文艺复兴时期的前端工程化再到如今新时代的大前端,前端技术在某种程度上似乎可以为所欲为了。但是我们这次讨论的是前端技术中的一部分—组件库。 组件是组成页面中最基本的元素,按钮,输入框,下拉选择都是组件,组件和组件组合就变成了…
如何科学交换信息?这篇ICML论文教你如何降低95%的通讯成本
机器之心原创,作者:思源。 分布式计算有很多研究问题:如何高效地为工作站分配计算任务;如何有效降低工作站间的通讯成本;如何确保单机和多机训练的收敛具有一致性等等。在 2016 年 TensorFlow 第一次支持分布式训练时,相比单 GPU 训练,其 100 块 GPU 只能提…
我和 HelloGitHub
我是一个本科学历、无大厂经历,普通的 Python 程序员。 虽然是计算机专业,但是大学玩了四年(Dota)后,发现自己无一技能傍身,要饿死啦!偶然间接触了 Python 这门编程语言,发现编程还能这么简单!自学了几个月,然后就光荣的成为了一名 Pythoner,终于能开始自己…
猫主子总往家里带老鼠?那就用深度学习打造一个「猫门」吧
机器之心报道,作者:路、李亚洲。 怎么解决这个问题呢?坐标美国西雅图的猫主人 Ben Hamm 利用 AI 创造了一个神器——「猫门」,防止衔着猎物的主子进门。这扇门可以判断猫嘴里是否衔着猎物,如果嘴里干干净净,猫门打开,主子进来;如果嘴里有老鼠或鸟类等动物,「猫门」自动上锁 …
分享 10 道 Nodejs 进程相关面试题
关于线程和进程是服务端一个很基础的概念,在文章 Node.js进阶之进程与线程 中介绍了进程与线程的概念之后又给出了在 Node.js 中的进程和线程的实际应用,对于这块不是很理解的建议先看下。 父进程创建子进程之后,父进程退出了,但是父进程对应的一个或多个子进程还在运行,这些…
一个理想主义的程序员
9 年前,我从象牙塔里走出来,正式踏入社会,懵懵懂懂地在一家日企开始了职业生涯。那时候,技术功底非常差,因为在学校的时候每天就一副吊儿郎当的样子,编程自然也没有好好学。 和我同一时间入职的新人有 19 个,大家都怀着一颗敬畏的心,因为生怕自己被淘汰出局。毕竟是实习期,如果工作表…
每周分享五个 PyCharm 使用技巧(四)
大家好,这是本系列 PyCharm 的高效使用技巧的第四篇。按照惯例,本次还是分享 5 个。 16. 快速定位到错误行 前几天打开 PyCharm,发现在导航栏这里出现了很多波浪线,有过 PyCharm 使用经验的同学,就会知道,这是代码中出现了错误。 顺着波浪线,我一层一层地…
高考完?入门级的开源项目带你开启编程之旅
记得我刚高考结束时,并没有想象中的狂欢,反而是一种处于一种坐立不安的焦虑中,因为那时单纯地认为:这张试卷,将决定我的一生。对于将信仰寄托于高考的学生来说,当网页上高考成绩弹出的一瞬间,世界要么明亮要么崩塌,不幸的是,我是后者。 填志愿则更加残酷,我将要去哪儿?我将从事什么?未来…
注意力机制可解释吗?这篇ACL 2019论文说……
选自arXiv,作者:Sofia Serrano、Noah A. Smith,机器之心编译。 此外,相比之前机器之心报道的注意力能否提高模型可解释性的文章,本文更多的从语境词语级别(contextualized word level),探讨注意力机制是否可以被解释。遗憾的是,本…
Node.js进阶之进程与线程
进程与线程在服务端研发中是一个非常重要的概念,如果您在学习的时候对这一块感到混乱或者不是太理解,可以阅读下本篇内容,本篇在介绍进程和线程的概念之外,列举了很多 Demo 希望能从实战角度帮助您更好的去理解。 进程(Process)是计算机中的程序关于某数据集合上的一次运行活动,…
教妹学 Java:动态伴侣 Groovy
“二哥,听说上一篇《多线程》被 CSDN 创始人蒋涛点赞了?”三妹对她提议的《教妹学 Java》专栏一直很关心。 “嗯,有点激动。刚开始还以为是个马甲,没想到是真人!” “其实蒋涛点赞的文章很多很多了,二哥的只是其中一篇而已。”三妹出乎意料地泼起了冷水。 “你说得没错。但这的确…
一个Java方法能有多少个参数类型?这个好奇coder做了个实验
选自 justinblank,机器之心编译,参与:李志伟、张倩。 让我好奇的是这个方法能有多少个类型参数。到目前为止,我敢说,Java 语言规范并没有谈及这个问题。 编译器会设置一个可预测的限制,如 255 或 65535。 编译器的紧急行为会由于实现细节(堆栈溢出或同样不可预…
花了两个星期,我终于把 WSGI 整明白了
在 三百六十行,行行转 IT 的现状下,很多来自各行各业的同学,都选择 Python 这门胶水语言做为踏入互联网大门的第一块敲门砖,在这些人里,又有相当大比例的同学选择了 Web 开发这个方向(包括我)。而从事 web 开发,绕不过一个知识点,就是 WSGI。 不管你是否是这些…
文本也有攻防战:清华大学开源对抗样本必读论文列表
自然语言处理方面的研究在近几年取得了惊人的进步,深度神经网络模型已经取代了许多传统的方法。但是,当前提出的许多自然语言处理模型并不能够反映文本的多样特征。因此,许多研究者认为应该开辟新的研究方法,特别是利用近几年较为流行的对抗样本生成和防御的相关研究方法。 使用对抗样本生成和防…
你还记得当年高考时的样子吗?
说实话,我高考的时候内心毫无波澜,因为自己啥水平能掂量出来的,想着就是考多少分都无所谓,反正开心就好,所以高考前几天也没复习,该玩玩、该吃吃、该喝喝。 父母很看不惯我当时一幅“漫不经心”的姿态,威胁我说如果考砸了,就辜负了他们十几年的心血。 考试的过程里确实也没解出让自己兴奋的…
教妹学 Java:难以驾驭的多线程
“二哥,上一篇《集合》的反响效果怎么样啊?”三妹对她提议的《教妹学 Java》专栏很关心。 “这篇文章的浏览量要比第一篇《泛型》好得多。” “这是个好消息啊,说明更多人接受了二哥的创作。”三妹心花怒放了起来。 “也许没什么对比性。” “没有对比性?我翻看了一下二哥 7 个月前写…
二十九岁,刚读完了财富启蒙读物《小狗钱钱》
直白点说吧,我读《小狗钱钱》最主要目的是,不能在创造财富方面拖了女儿的后腿——假如女儿像这本书的小女主一样要理财,做为父母,咱不能嘲笑、不能阻拦。 之前已经读过了《小狗钱钱》的作者博多·舍费尔的《财务自由之路》,但很遗憾的是,我并没有因为读了这本书就走上财务自由之路——读一本书…
基于Egg框架的日志链路追踪实践分享
实现全链路日志追踪,便于日志监控、问题排查、接口响应耗时数据统计等,首先 API 接口服务接收到调用方请求,根据调用方传的 traceId,在该次调用链中处理业务时,如需打印日志的,日志信息按照约定的规范进行打印,并记录 traceId,实现日志链路追踪。 采用 Egg.js …
如何入手卷积神经网络
选自medium,作者:Tirmidzi Faizal Aflahi,参与:韩放、王淑婷。 这不是一张真实的照片,你可以新建一个窗口来打开它,放大看看,可以看到马赛克。 从 Alex Krizhevsky 及其朋友通过 ImageNet 公布这项技术至今,不过才七年。Image…