最最最全数据仓库建设指南,速速收藏 | 数澜科技
开讲之前,我们先来回顾一下数据仓库的定义。数据仓库(Data Warehouse)是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。这个概念最早由数据仓库之父比尔·恩门(Bill Inmon)于1990年在《建立数据仓库》一书中提出,近年来却被愈发广泛的提及和应用,不信看下图:到底是什么,让一个从上世纪90年代提出的概念,在近几年确越来越热?带着这个问题,我们来了解一
什么是数据中台?什么是数栖平台?二者到底有什么关系?
简单的来说,数据中台是一种让企业的数据用起来的机制,它并不是一个产品,而是一种方法论;而数栖平台是数澜提供的,能够帮助企业快速构建数据中台的工具。
ETL调度系统及常见工具对比:Azkaban、Oozie、数栖云
调度系统对于复杂 ETL 工作的重要性相信每位同学都有所感知,今天我们就拿常见的几种调度系统工具为大家做一个小测评!方便大家找到更适合自己的工具。
数澜科技发布2020深耕行动,助力企业数字化建设
DT时代数据中台的使命就是「持续让数据用起来」,它的一个根本性创新就是把“数据资产”作为一个基础要素独立出来,让成为资产的数据作为生产资料融入业务价值创造过程中,成为推动企业发展源源不断的生产力。—— 数澜科技CEO风剑
「数据治理那点事」系列之四 | 书同文车同轨:数据治理之数据标准管理
这篇文章主要从数据治理中的重要基础内容:数据标准入手,从以下几个角度展开具体讲解: 对数据标准的认识误区 数据标准的定义 企业如何制定数据标准 数据标准化过程中出现难题的原因以及解决方案 一、大数据治理标准体系根据全国信息技术标准化技术委员会大数据标准工作组制定的大数据标准体系,大数据的标准体系框架共由七个类别的标准组成,分别为:基础标准、数据标准、技术标准、平台和工具标准、管理
一根飞线的故事-SVG篇
作者|数澜UED团队 没有飞线的地图就像一个发际线上移的中年人一样平淡无奇。 —— By 胖子 每年春运和双十一的统计图都因为有飞线动效才更加吸引眼球,今天要为大家带来一根漂亮飞线要用什么姿势生成才能。 SVG本篇是主讲SVG来绘制飞线的,所以强大的SVG必定能完成我们绘制飞线效果的各种需求。首先我先为各位介绍下完成这根线需要用到的一些小知识点。 Path元素 path元素是SV
地球如果流浪,大数据究竟能做什么?
每条大街小巷,每个人的嘴里,见面第一句话,就是:「道路千万条,安全第一条,行车不规范,亲人两行泪」。 过了个春节,一眨眼的功夫,当初不太被人看好的《流浪地球》就悄然脱颖而出,蜕变成了「流量地球」? 不得不说,这部电影从剧情、特效到配乐演员几乎都全部在线,口碑也一直蹭蹭蹭往上涨。但有那么一些细节,我看完总觉得非常不服气!比如:好好的杭州城,一个镜头都没出现,一群人冒着生命危险去救了半天,却突
零售数据观(二):如何理解会员ID打通
序言:传统的零售业务进入了瓶颈期,“新零售”的概念层出不穷,看的眼花缭乱:全渠道/无人门店/无人货柜/新生态(盒马鲜生/小米之家/天猫小店)等;各类技术概念更是看的一头雾水:OneID、数据中台、用户中心、统一会员平台和IDMapping等。本文主要内容是理清什么是“会员ID打通”及应用场景,帮助企业更好的完成全渠道会员统一,多品牌的会员统一和用户运营的精准化。 备注:本文提到的“会员”指泛
零售数据观(一):如何花30分钟成为一个标签设计“达人”
作者简介:铁叫兽,10年+数据相关经验,曾在电信、阿里从事过DBA,数仓,解决方案,目前从事零售行业的解决方案。 序言:是否碰到大量的人力投入基于流程管理的信息化系统建设,也运行了好几年了,同时大数据也热了好几年了,但企业IT部门还是无从下手,既不确信大数据是否可以真的带来业务价值也不清楚从哪着手更容易推动大数据项目落地,本文就是通过“标签”,一种基于具体业务场景但同时又是业务人员看的懂的数据的
JS源码分析│简易mvvm库的设计实现
作者:刀哥(朱建) 前言:mvvm模式即model-view-viewmodel模式简称,单项/双向数据绑定的实现,让前端开发者们从繁杂的dom事件中解脱出来,很方便的处理数据和ui之间的联动。本文将从vue的双向数据绑定入手,剖析mvvm库设计的核心代码与思路。 1、需求整理与分析 需求: 数据一旦改变则更新数据对应的ui ui改变则触发事件改变ui对应的数据 分析:
白皮书首发:173位大数据决策者眼中的数据中台是长这样的
数字化浪潮席卷全球,颠覆性创新正在加速,企业面临着前所未有的挑战和机遇,必须不断加速数字化转型才能生存和领先。在数字化转型过程中,企业需要更为深入地理解客户和市场,以数据洞察来驱动企业的行动,从而更好地获取、服务以及留存客户,实现业务增长。 而作为洞察经济的核心引擎,数据中台显得尤为关键。2019年6月Forrester咨询公司对国内数据中台进行了研究,访问了173位大中型企业中对数据洞察实践有
当餐饮遇上大数据,嗯真香!
之前去开了一场会,主题是「餐饮领袖新零售峰会」。认真听完了餐饮前辈和新秀们的分享,觉得获益匪浅,把脑子里的核心纪要整理了一下,今天和大家做一个简单的分享,欢迎感兴趣的小伙伴一起交流! 先简单说一下结论: 餐饮和零售的边界在新零售的冲击下,正在模糊边界,打破时空的限制; 传统零售 KPI 是「坪效」,新零售则是「复购率」,这中间最核心的是「会员数据化运营」以及「复购频次」问题。 接下
风剑分享 | 只有数据最懂公司的痛点,指导企业决策走向
只有数据最懂公司的痛点,指导企业决策走向 在2018中国大数据高峰论坛上,数澜科技)CEO风剑分享了对数据资产化的理解、大数据平台的建设、大数据落地过程中的挑战,以及数据应用在未来的机遇与挑战。具体全文摘录如下: 一、什么是数据资产化“数据资产化是数澜一直秉持的概念并持续在做的事情”。 风剑曾经在负责阿里巴巴集团大数据业务的时候,见过很多应用场景。他觉得目前大多数的人对数据的认知并不够
Giraph源码分析(八)—— 统计每个SuperStep中参与计算的顶点数目
作者|白松 目的:科研中,需要分析在每次迭代过程中 参与计算的顶点数目,来进一步优化系统。比如,在SSSP的compute()方法最后一行,都会把当前顶点voteToHalt,即变为InActive状态。所以每次迭代完成后,所有顶点都是InActive状态。在大同步后,收到消息的顶点会被激活,变为Active状态,然后调用顶点的compute()方法。本文的目的就是统计每次迭代过程中,参与计算的
Giraph源码分析(七)—— 添加消息统计功能
作者|白松 1、 添加类,把每个超步发送的消息量大小写入Hadoop的Counter中。在org.apache.giraph.counters包下新建GiraphMessages类,来统计消息量。 源代码如下: package org.apache.giraph.counters; import java.util.Iterator; import java.util.Map;
史上最强攻略!手把手教你建「数据中台」!
从数据中台的角度来说,我们把业务系统中沉淀的数据矿产,通过新的技术,如大数据建模、机器学习等能力,对其进行价值提炼,从而形成最后的企业数据资产,然后通过服务化能力,赋能现有业务系统,如推销商品、个性化推荐等。这种结果通过业务系统记录下来后,进而回馈到数据中台中,数据中台再基于这些结果数据进行建模型分析,逐步优化业务策略
从零开始实现一个IDL+RPC框架
一、RPC是什么在很久之前的单机时代,一台电脑中跑着多个进程,进程之间没有交流各干各的,就这样过了很多年。突然有一天有了新需求,A进程需要实现一个画图的功能,恰好邻居B进程已经有了这个功能,偷懒的程序员C想出了一个办法:A进程调B进程的画图功能。于是出现了IPC(Inter-process communication,进程间通信)。就这样程序员C愉快的去吃早餐去了! 又过了几年,到了互联网时代,
惊! 大屏还能长这样!
数据可视化最吸引人的地方在于,通过科学和艺术的完美结合,让隐藏在数据中可预测的和出人意料的故事都变得一目了然。 一个优秀的数据可视化方案,应该同时具备精确度和精美度。 精确度,即使用基本视觉元素的形状、尺寸、颜色和位置来呈现数据的多少和关联关系,让受众快速且正确地阅读数据中隐含的故事,是数据可视化的最基本要求。 精美度,是在精确度的基础之上,为作品注入视觉审美元素,如图形尺寸对比的强
科技赋能零售,最终还是要消失于无形中
导读: 8月23日,“新零售论坛:零售业的再革命” 由数澜科技与华院数据在上海百联创业空间成功举办。数澜科技参谋长武凯(行竹)就“零售数据中台实践”进行了分享,并在“新零售创业的机遇与挑战”圆桌论坛中发表了独特的见解。 过去的一年里,零售行业正在发生巨变。“新零售”可以说是近年来最热的词汇之一。技术的量变已经开始引发“质变”,对技术的角逐也成为零售企业提升核心竞争力的关键。 2018年8月23
Giraph源码分析(六)——Edge 分析
1.在Vertex类中,顶点的存储方式采用邻接表形式。每个顶点有 VertexId、VertexValue、OutgoingEdges和Halt,boolean型的halt变量用于记录顶点的状态,false时表示active,true表示inactive状态。 片段代码如下。 2.org.apache.giraph.edge.Edge 接口,用于存储顶点的边,每条边包含targetVertexI