使用Scala开发Apache Kafka的TOP 20大最佳实践!
本文作者是一位软件工程师,他对20位开发人员和数据科学家使用Apache Kafka的方式进行了最大限度得深入研究,最终将生产实践环节需要注意的问题总结为本文所列的20条建议。
今日头条屏幕适配方案终极版:极低成本 Android 适配方案!
今日头条屏幕适配方案终极版:极低成本 Android 适配方案!
互联网行业数据库相关中间件介绍与实践!
应用层通过分表分库中间件访问数据库,包括读操作(Select)和写操作(update, insert和delete等,DDL, DCL)。写操作会在数据库上产生变更记录,MySQL的变更记录叫binlog, Oracle的称之为redolog, 增量数据订阅与消费中间件解析这些变更,并以统一的格式保存起来,下层应用根据这些数据进行消费应用。当然,在数据库与数据库本身之间也会有数据库迁移的操作,这种操作可以不需要增量数据订阅与消费中间件的数据,而可以自行处理。
数据库分布式事务的实现原理!
事务是数据库系统中非常有趣也非常重要的概念,它是数据库管理系统执行过程中的一个逻辑单元,它能够保证一个事务中的所有操作要么全部执行,要么全不执行;在 SOA 与微服务架构大行其道的今天,在分布式的多个服务中保证业务的一致性就需要我们实现分布式事务。
阿里吴永明:高可用大数据计算服务如何持续发布和演进!
服务化是大数据计算平台的发展趋势,其有效地降低了用户使用大数据的门槛和成本。但服务化一方面要求大数据计算平台要7x24小时高可靠、高可用、不间断地服务用户;另一方面随着大数据计算平台业务的增长,对于计算平台会不停地有新的需求,要计算平台跟着发展,从而能够去匹配业务的成长,这就要求服务持续迭代发布和演进提供更丰富的功能、更好的性能等。
青云“蓄谋”终成真,Kubernetes主导的容器市场这下热闹了!
早在两年前,笔者就曾见过青云对于容器和Kubernetes观点解读的文章,显然青云在容器领域“蓄谋”已久。近日,青云在自家Cloud Insight 2018云计算峰会上发布了其构建在Kubernetes之上的企业级分布式多租户容器管理平台KubeSphere,笔者的第一感受就是:青云的“蓄谋”终于成真!
SaaS企业频融资背后是疯狂烧钱?为什么有的却已盈利?
从2014年至今,每年几乎都会被冠以“SaaS元年”的称号,一大批宣称做SaaS的企业混得“如鱼得水”,融资喜报发得让人眼晕。如今,虽然SaaS依旧是创投的风口之一,不过公众对它的未来越来越捉摸不透。相较于往年,今年的市场似乎没那么热闹,不乏热衷于做PR的SaaS企业今年却发声甚少,不乏曾经春风得意如今却烧钱烧得迷茫,做SaaS烧钱到什么时候是个头?到底赚不赚钱?怎么赚?
InnoDB并发插入,居然使用意向锁?
今天,将要介绍InnoDB另外三种:共享/排他锁,意向锁,插入意向锁。
MySQL并发时经典常见的死锁原因及解决方法
mysql都有什么锁?MySQL有三种锁的级别:页级、表级、行级。表级锁:开销小,加锁快;不会出现死锁;锁定粒度大,发生锁冲突的概率最高,并发度最低。行级锁:开销大,加锁慢;会出现死锁;锁定粒度最小,发生锁冲突的概率最低,并发度也最高。
今日头条架构演进之路——高压下的架构演进专题
今天给大家分享今日头条架构演进,前面几位讲师讲了很多具体的干货,我的分享偏重基础设施及架构思路的介绍,我们想法是通过提供更好的基础设施,帮助架构做更好的迭代。
什么是基因测序,为什么要跑在云上?
本文带你领略过去这100年中人类对基因的认识从无到有,并到当下即将进入寻常百姓家的发展历程,以及说明为什么基因测序和云计算会扯上关系。另,本文定位只是科普类文章,目的是带你入门基因测序技术,所以内容篇幅都不会很长。如果你对某个环节的细节感兴趣,你可以继续查找相关的资料深入学习。
Uber永久定位系统实时数据分析过程实践!
根据Gartner所言,到2020年,每个智慧城市将使用约13.9亿辆联网汽车,这些汽车配备物联网传感器和其他设备。城市中的车辆定位和行为模式分析将有助于优化流量,更好的规划决策和进行更智能的广告投放。例如,对GPS汽车数据分析可以允许城市基于实时交通信息来优化交通流量。电信公司正在使用移动电话定位数据,识别和预测城市人口的位置活动趋势和生存区域。
实时工业大数据产品实践——上汽集团数据湖
立足于汽车制造与服务为代表的制造行业,服务于车联网与工业大数据相融合的应用场景,采用开源软件架构,自研发实时大数据集成平台。降低企业使用大数据技术的成本,为数据分析师、业务分析师提供更高效易用的工具,加速数据应用的建设和推广,并提供全字段金融等级3DES加密,自动无感知的密钥更新,防止密钥泄露。单元格级别权限控制和数据脱敏访问。
在Ubuntu 18.04.1上安装Hadoop集群
本文将介绍如何在基于Ubuntu的系统上安装多节点Hadoop 3.1.1集群,作者将在Ubuntu 18.04.1上安装一个包含HDFS的三节点Hadoop集群。
非易失性内存在阿里生产环境的首次应用:Tair NVM最佳实践总结
本文介绍了非易失性内存在阿里巴巴集团生产环境的首次应用:线上运行的情况;使用NVM遇到的问题和优化的过程;最后,总结性地给出了基于NVM构建缓存服务的设计要点,希望这些实践总结能对大家的工作有所启发。
写给工程师的十条精进原则!
时间回到8年前,我人生中的第一份实习工作,是在某互联网公司的无线搜索部做一个C++工程师。当时的我可谓意气风发,想要大干一场,结果第一次上线就写了人生中第一个Casestudy。由于对部署环境的不了解,把SVN库里的配置文件错误地发到线上,并且上完线就去吃晚饭了,等吃饭回来发现师傅在焦头烂额地回滚配置。那次故障造成了一个核心服务20分钟不可用,影响了几百万的用户。
美团O2O广告营销中的机器学习技术
AI(人工智能)技术已经广泛应用于美团的众多业务,从美团App到大众点评App,从外卖到打车出行,从旅游到婚庆亲子,美团数百名最优秀的算法工程师正致力于将AI技术应用于搜索、推荐、广告、风控、智能调度、语音识别、机器人、无人配送等多个领域,帮助美团数亿消费者和数百万商户改善服务和体验,帮大家吃得更好,生活更好。基于AI技术,美团搭建了世界上规模最大,复杂度最高的多人、多点实时智能配送调度系统;基于
洪增林:网易游戏统一数据流平台架构与实践
1. 网易游戏的数据业务特点和数据流的挑战 2. 数据流采集架构和实践 (1). 数据流平台架构 (2). 服务器日志采集的设计与实现 (3). 客户端数据提交入口设计 (4). 后续迭代计划 3. 基于数据流支撑的业务介绍 (1). 游戏数据集成 (2). 程序/运维类日志归集与应用 (3). 通用数据处理和转换 4. 总结展望 技术点:日志归集、数据集成、数据流平台、golang、高并发、性能优化 面向人群:大数据平台设计和开发人员
为什么结束了十年的编程生涯?
用过几种编程语言写代码主要还是和自己的职业经历密切相关,不知不觉从业已经有十几年的样子,中间经历过三家公司,在每家公司有大的项目经历,也涉及到许多编程语言的编写,现在简单做过几个项目涉及到的编程语言,在这做个简单的分享。
数据分析的三大时间轴:过去、现在和未来
很多人用不同的定义解释“数据科学”,貌似都很合理,对数据科学这个问题的思考可以联想到与之相关的其他领域,例如业务分析、数据分析、商业智能、高级分析、机器学习,还有人工智能。