谈一谈阻碍数据建模的5大借口
随着大数据和数据湖的发展,数据建模似乎濒临灭亡。数据湖的开发者留下了大量数据沼泽,所以建模活动还是必须的。那么为什么仍然存在关于数据建模的问题呢?当然有各种各样的原因。有些问题至少已有 30 年历史,而最近人们更加认为使用云数据平台和分析数据架构的 ELT 方法所致。下面我们看看常见的阻碍数据建模的原因:
携程Alchemy代码质量平台:提前在开发阶段暴露代码问题
随着敏捷开发,DevOps开发模式的流行,代码质量分析作为研发质量保证体系的重要组成部分,不仅能有效的降低因频繁迭代带来的故障风险,而且对整个工程团队的效能提升有着巨大的价值。
万亿数据秒级响应,Doris在360数科实时数仓中的优秀实践
随着业务的不断发展,360数科对数据的安全性、准确性、实时性提出了更严格的要求,亟需对实时数仓架构做出优化和重构。基于此,2022年3月正式对 Apache Doris 调研并投入使用,当前已稳定支持多条业务线,支持万亿级别数据量实现秒级实时分析。360数科将通过本文与大家分享在数仓优化重构过程中应用、优化经验,希望对大家有所帮助。
网易互娱数据成本优化治理实践
我们团队为网易互娱大量游戏产品提供了常规概况、经济分析、留存分析、回流分析、付费分析、服务器分析、渠道分析、定制专题、社交分析、全球分析、问卷分析、全球设备等多种游戏分析专题服务,也支持自定义指标展示的BI看板分析。
一月一盘点:11月,那些您错过的服务器领域新鲜事儿
数字化转型趋势下,各行业领域的信息数据呈爆发式增长。随着人工智能、云计算、物联网、大数据等前端科技的不断发展和延伸,各科技产业呈现良好发展态势。无论是企业还是个人,在新时代的环境下,都应紧跟数字化转型的脚本,在未来的变局中赢得先机。基于此,IT168企业计算领域为大家奉上每月精选服务器、存储、数据中心等热点事件。接下来让我们看看11月企业计算领域都发生了哪些新鲜事儿。
Node 系统中定时任务的演化
北斗前端监控系统是 58 内部的一个线上质量监控排查解决方案,用于帮助用户大幅提升定位问题和优化项目的效率。系统共分为数据收集(SDK)、数据处理(Java)、数据存储(Druid、……)、数据分析(Node.js)、数据展示(React) 5 层模型。Node.js 作为系统中的数据分析层,提供各种数据分析和应用的方式。
为什么要用Tair来服务低延时场景-从购物车升级说起
作为今年支撑购物车升级的核心产品,Tair 使用的内存/SCM 混合存储、水平扩展分区无锁和 SQL 引擎等技术是在支撑十四次双十一的过程中逐渐打磨完善的,在这些技术的基础上 Tair 使用 Fast Path 执行 SQL 、执行器模式及算子适配等技术持续进行服务端优化。本文将围绕 Tair 低延时这一本质特征在构建时所采用的系统手段,藉此提出更多问题来探讨,进一步打造更强大的内存数据库。
一个漏测Bug能让你想到多少?|得物技术
漏测Bug是指产品逻辑缺陷在测试过程中没有被发现(尤其是测试环境可以重现的缺陷),上线版本发布后或者在用户使用体验后发现并反馈回来的缺陷。可能造成线上故障或者资损,在对产品测试过程中,自己也难免出现一些Bug的漏测,因此对Bug漏测进行一些思考,并进行总结。
直播营收场景技术保障实践
B站在本次直播为了提升用户体验,开启了送礼特效。以送礼为核心的营收场景是业务主推的方向之一。为此团队的小伙伴们在业务需求繁忙的情况下,同时做了大量的准备和优化。本文我们聚焦于以写为主的送礼场景,对我们的技术保障思路做个简单的总结。聚焦到一个问题,那就是:高写场景该如何做技术保障?
抵御网络攻击的背后——成熟创新的技术是关键
当前,针对信息和关键基础设施的攻击日益复杂,数字信息和技术已大量融入到人们的日常工作中,企业机构更易受到网络威胁。就此趋势,Gartner于近日发布了《2022中国网络安全技术成熟度曲线》。
货拉拉自助数据分析平台实践
BI产品对于绝大部分公司来说是不可或缺的数据分析和商业决策产品之一,因为在企业发展的过程中会涉及到大量的数据分析和商业决策等工作,如何快速完成信息流转消除信息不对称,对于企业管理层进行市场研判起到了决定性的作用。而从技术角度来看,如何及时满足业务数据分析需求,将大量数据得到有效转化则显得格外紧迫,对于技术部门和业务部门的合力协作,BI产品起到了至关重要的承上启下作用。
百亿数据个性化推荐:弹幕工程架构演进
为什么要做个性化推荐?回顾弹幕工程建设的发展历程,大致可以分几个阶段:1. 基础能力:在高并发、热点场景下,保证弹幕服务的稳定和高可用;2. 负向治理:以管控为目标,通过删除、自见、打薄等手段过滤低质弹幕内容;3. 正向推荐:以优化视频消费体验为目标,筛选优质弹幕内容上屏展示。
每周要闻速递|英特尔、昇腾助力AI生态建设;浪潮、戴尔发布服务器新品
数字化转型趋势下,各行业领域的信息数据呈爆发式增长。随着人工智能、云计算、物联网、大数据等前端科技的不断发展和延伸,各科技产业呈现良好发展态势。无论是企业还是个人,在新时代的环境下,都应紧跟数字化转型的脚本,在未来的变局中赢得先机。基于此,IT168企业计算领域为大家奉上每周精选服务器、存储、数据中心等热点事件。接下来让我们看看本周企业计算领域都发生了哪些新鲜事儿。
突破etcd限制 字节自研K8s存储KubeBrain
KubeBrain 是字节跳动针对 Kubernetes 元信息存储的使用需求,基于分布式 KV 存储引擎设计并实现的取代 etcd 的元信息存储系统,支撑线上超过 20,000 节点的超大规模 Kubernetes 集群的稳定运行。
B站万亿级数据库选型与架构设计实践
在开始讲解之前,我先为大家介绍一下B站的业务场景。B站的业务大体上可以分为以下几类:点播类业务。点播类业务就是大家经常看的视频以及稿件之类相关的业务,这类数据使用场景的特点有:数据一致性要求较高、耗时敏感、流量大、可用性要求高。直播类业务。直播类业务对应B站的S12、跨晚、拜年祭等,有以下几个特点
美团高性能终端实时日志系统建设,根除丢失和写满问题
你是否经常遇到线上需要日志排查问题但迟迟联系不上用户上报日志的情况?或者是否经常陷入由于存储空间不足而导致日志写不进去的囧境?本文介绍了美团是如何从0到1搭建高性能终端实时日志系统,从此彻底解决日志丢失和写满问题的。希望能为大家带来一些帮助和启发。
字节跳动数据中台的Data Catalog系统搜索实践
Data Catalog 能够帮助大公司更好地梳理和管理自己的资产,是 Data-drvien 公司的重要平台。一个通用的 Data Catalog 平台通常包含元数据管理,搜索,血缘,标签,术语等功能。其中,搜索是 Data Catalog 的入口功能,承担着让用户“找到数”的主要能力。在字节跳动数据中台的 Data Catalog 系统中,每天有 70% 以上的用户会使用搜索功能。
网易云音乐数据治理实践
本篇是第二届网易数据治理大赛一等奖作品分享,来自于网易云音乐数仓团队。将分享他们近一年在数据治理上的实践,具体内容将从数据背景、治理思路,项目方案、治理实践、项目成果及未来展望几个方面展开。
直播混沌工程之故障演练实践总结
近年来,随着系统架构逐渐向微服务架构演进,开发效率以及系统扩展性大幅提高,服务之间的依赖所带来的不确定性也成指数级增长,在这样的服务调用网中,任何一环出现的正常或者异常的变化,都有可能对其他服务造成类似蝴蝶效应一般的影响。
HTTP框架Hertz实践入门:性能测试指南
本文旨在分享开发者在压测 Hertz 时需要了解的场景和技术问题。这些建议有助于用户更好地结合真实 HTTP 场景对 Hertz 进行调优,使之更贴合业务需要、发挥较高性能。用户也可以参考官方提供的压测项目 hertz-benchmark 了解更多细节。