ITPub博客

K-最近邻法(K-Nearest Neighbor, KNN)最初由Cover和Hart于1968年提出，是一个在理论上比较成熟的分类算法。 KNN是一类可用于分类或回归的技术。作为一个非参数学习算法，K-最近邻并不局限于固定数目的参数。我们通常认为K-最近邻算法没有任何参数，而且使用训练数据的简单函数。事实上，它甚至也没有一个真正的训练阶段或学习过程。反之，在测试阶段我们希望在新的测试输入x上产

通常情况下，当我们训练机器学习模型时，我们可以使用某个训练集，在训练集上计算一些被称为训练误差(training error)的度量误差，目标是降低训练误差。机器学习和优化不同的地方在于，我们也希望泛化误差(generalization error)(也被称为测试误差(test error))很低。泛化误差被定义为新输入的误差期望。这里，期望的计算基于不同的可能输入，这些输入采自于系统在现实中遇到

英国科学协会新负责人近期发出警告：相比抗生素耐药性、气候变化和恐怖主义，对于英国的未来，最值得人们恐慌的是人工智能！萨里大学（University of Surrey）物理学教授Jim Al-Khalili表示，人工智能发展速度太快，缺少适当的审查和监管。目前，对人工智能威胁论的说法还不能直接给定结论，但相关的监管政策也应该提上议程。 Jim Al-Khalili教授在英国科学节之前的一

视频操纵中的新AI技术为“talking head”这一表达赋予了新的含义。在今年的美国SIGGRAPH盛会上，一个国际研究小组展示了一项名为Deep Video Portraits（深度视频肖像）的新项目，向我们展示了面部表情合成的最新进展。Deep Video Portraits项目依靠一种被称为生成式对抗网络（GAN）的AI技术，可以实现目标视频在源视频的基础上重新动画。与仅限于面部表情操作

Toby Walsh是澳大利亚新南威尔士大学（CSIRO）的教授，Data61 (CSIRO)研究小组组长，人工智能方面的专家。Walsh教授在悉尼首席信息官峰会上发表主题演讲时说道：CIO（首席信息官）们其实不需要担心人工智能会对未来造成威胁，我们距离生产出与人类大脑高度匹配的机器人还有很远的路程。Walsh教授认为，我们目前造出的机器人虽然执行任务的水平超过人类，但它们只会按照我们的要求去执行

有人说来自语言的数据是“非结构化数据”，事实证明这是一个错误的说法。如果没有特定的语言结构，人们可能无法用语音或者书面语言进行正确交流。语法是语言的结构，它有助于定义语言的含义。大家学习任何一门语言，都要学习该门语言的语法结构。要想推动计算机的快速发展，就要摆脱传统处理计算机的思维，推陈出新，理解自然语言的结构。从平面文件数据库结构到关系型数据库(RDBMS)，这之中经历了数十年的结构化数据发展历

张志华教授：机器学习——统计与计算之恋COS访谈第十九期：张志华教授张志华老师教学之感悟部分共享资料见链接: https://pan.baidu.com/s/1bpGc0nP 密码: 49ei张志华北京大学数学学院教授，北京大数据研究院高级研究员。曾在浙江大学和上海交通大学计算机系任教。主要从事机器学习与应用统计等领域的教学与科研工作。张志华老师主页张志华老师实验室近年来，人工智能的强势崛起，特别

作为一个经常向非专业人士解释机器学习的人，我整理了以下十点内容作为对机器学习的一些解释说明。机器学习意味着从数据中学习；而AI则是一个时髦的词。机器学习并不像天花乱坠的宣传那样：通过向适当的学习算法提供适当的训练数据，你可以解决无数的难题。把它称之为AI吧，如果这有助于销售你的AI系统的话。但你要知道，AI只是一个时髦的词，这只代表了人们对它的期望而已。机器学习主要涉及到数据和算法，但最主要的还是

数据科学家需要掌握的十大统计技术详解 https://mp.weixin.qq.com/s/eRBYjneWBTu6ep4UNGNUuw 作者  James Le编译   路雪、刘晓坤、蒋思源本文转自机器之心（almosthuman2014），转载需授权 「数据科学家比程序员擅长统计，比统计学家擅长编程。」本文介绍了数据科学家需要掌握的十

数据科学家最常用的十种算法  数据科学家最常用的十种算法来源：数据挖掘编辑：Gemini   最新一期的 KDnuggets 调查展示了一份数据科学家使用度最高的算法列表，这份列表中包含了很多惊喜，包括最学术的算法和面向产业化的算法。哪些方法/算法是您在过去 12 个月中运用到一个实际的数据科学相关的应用程序中的？这是基于 844 个投票者的结果排

图像识别的原理、过程、应用前景，精华篇！ https://mp.weixin.qq.com/s/THE5B77C_AJa5y6sfOXpaA 图像识别技术是信息时代的一门重要的技术，其产生目的是为了让计算机代替人类去处理大量的物理信息。随着计算机技术的发展，人类对图像识别技术的认识越来越深刻。图像识别技术的过程分为信息的获取、预处理、特征抽取和选择、分类器设计和分类决策。简单分

一文读懂AI简史：当年各国烧钱许下的愿，有些至今仍未实现  导读：近日，马云、马化腾、李彦宏等互联网大佬纷纷亮相2018世界人工智能大会，并登台演讲。关于人工智能的现状与未来，他们提出了各自的观点，也引发网友热议。有人认为大佬们的分享干货满满，也有人有不同观点，认为我们并没有真正搞懂人工智能，更无法预测未来。如果回溯历史，你会发现，人工智能一直是国内外计算机、互联网大佬们喜欢的

AI工程师面试知识点：深度学习入门

「AlphaGo 之父」David Silver最新演讲，传授强化学习的十大原则 https://blog.csdn.net/weixin_42137700/article/details/82847988  演讲课件地址：http://www.deeplearningindaba.com/uploads/1/0/2/6/102657286/principles_of

NLP&深度学习：近期趋势概述https://blog.csdn.net/weixin_42137700/article/details/82800371 摘要：当NLP遇上深度学习，到底发生了什么样的变化呢？ 在最近发表的论文中，Young及其同事汇总了基于深度学习的自然语言处理（NLP）系统和应用程序的一些最新趋势。本文的重点介绍是对各种NLP任务（如视觉问答（QA

2018年度10大新兴技术：人工智能、量子计算、增强现实等 https://mp.weixin.qq.com/s/FEhGUixl00knNOu14sdbTg 9月19日，世界经济论坛和《科学美国人》联合发布了2018年度十大新兴技术榜单，人工智能及生物医药、新材料领域的技术入围，其中多项技术有望为治疗癌症带来新的解决办法。这些技术被认为在未来3~5年会对社会与经济产生重要影响

一句话总结卷积神经网络核心：一个共享权重的多层复合函数。卷积神经网络在本质上也是一个多层复合函数，但和普通神经网络不同的是它的某些权重参数是共享的，另外一个特点是它使用了池化层。训练时依然采用了反向传播算法，求解的问题不是凸优化问题。和全连接神经网络一样，卷积神经网络是一个判别模型，它既可以用于分类问题，也可以用用于回归问题，并且支持多分类问题。

一句话总结K均值算法核心：把样本分配到离它最近的类中心所属的类，类中心由属于这个类的所有样本确定。k均值算法是一种无监督的聚类算法。算法将每个样本分配到离它最近的那个类中心所代表的类，而类中心的确定又依赖于样本的分配方案。这是一个先有鸡还是先有蛋的问题。在实现时，先随机初始化每个类的类中心，然后计算样本与每个类的中心的距离，将其分配到最近的那个类，然后根据这种分配方案重新计算每个类的中心。这也是一

一句话总结随机森林 核心：用有放回采样的样本训练多棵决策树，训练决策树的每个节点是只用了无放回抽样的部分特征，预测时用这些树的预测结果进行投票。随机森林是一种集成学习算法，它由多棵决策树组成。这些决策树用对训练样本集随机抽样构造出样本集训练得到。随机森林不仅对训练样本进行抽样，还对特征向量的分量随机抽样，在训练决策树时，每次分裂时只使用一部分抽样的特征分量作为候选特征进行分裂。&nbsp

一句话总结人工神经网络核心：一个多层的复合函数。人工神经网络在本质上是一个多层的复合函数：它实现了从向量x到向量y的映射。由于使用了非线性的激活函数f，这个函数是一个非线性函数。神经网络训练时求解的问题不是凸优化问题。反向传播算法由多元复合函数求导的链式法则导出。标准的神经网络是一种有监督的学习算法，是一种非线性模型，它既可以用于分类问题，也可以用于回归问题，天然的支持多分类问题。