KWDB初体验
去年在我的签售会让认识了KWDB的运营,以及在后来墨天轮的一些会议上也遇到过。多次接触下来KWDB希望我给产品提一些意见。对于这样的我是比较愿意的。厂家态度是诚恳的。通常这种我是愿意给出一些我认为对产品有帮助的建议的。现如今的数据库推广中除了忌讳PPT吹牛,就是安装劝退。所以在活动之初我问有没有一键安装,回答没有。但是有容器化的。我之所以要求一键安装(其实几键也不是不可以),是希望最大程度上减轻D
震惊!一次小时级到秒级的优化--原因实在不敢恭维
接到别人求助,背景是业务向开发投诉某个功能太慢。开发找支持人员,支持人员找到我。向我诉说了他们系统的背景。是一个国内知名大数据供应商,给业务做了一个功能。该功能其实是上传一个excel(又说到这个的数据库了)。 现象是上传上千条数据库很慢,如果更多的数据就更加慢。总之越多越慢,当然少的时候也不快,但是能等。不过在100
从starrocks安装说起和Oracle的OLAP殊途同归
StarRocks是一款分析型数据库(他的定语也很多,分布式存算分离等等)。作为数据库他的运行和维护迟早也是落在我这里的。对于做数据库的人都知道什么是交易型数据库,什么是分析型数据库。以及什么是事务分析混合型数据库。但是对于非这块领域的人根本不知道为什么选择某个产品。某些产品是好,但是为什么好不知道。只是傻子过年看街坊,别人这样用了,那我也这样用。至于为什么不知道。其实行式存储对交易友好,因为写入
用数字化说一下为什么很多时候报表其实不用大数据
之前我写过一篇《你没有大数据》那一篇被阅读的也很多。我这里说的是大部分企业,少数公司有这个场景的可以使用。不过即使大数据为未必使用Hadoop。 Oracle和PG都有组件或者衍生途径去实现列式存储,那么对数据分析是有利的。MySQL当然也有只是目前在企业版中,在云上有。所以他相比较其他不太适合做分析。但是今天我就用这个不太适合做分析的数据来说一下为什么一般企业不用大数据
从一个段子说起
前几天遇到一位做数据库投资的朋友,他和我聊完之后说了一句,概况说我是HTAP的坚定支持者。我说其实这是经历过太多以后发现,这个代价最小,稳定程度最高。我这里并不否认依然会有些问题,也存在不稳定的场景。但是各方面综合来说是目前最优,性价比最高。为什么这么说?来看这个段子。 可以这样算吗?可以,但是没有必要。 有人可以考清华,但是不去,随
数据库与动态规划
前几天在处理一个具体问题时候,我被问到有个需求查活跃用户。比如一个月内登录过,或者一年内登录过。(这个时间可以自己定义,有些平台可能按周算,比如腾讯。也有些平台按照年算。这个都可以商量)。那么判断用户登录的依据就是数据库中用户登录日志。也只有这样获取我认为才是最为合理的。至于通过文本文件解析(开发工作量大不说,还不能进行比较和运算,为什么要比较,我们随后说)。通过had
TDengine的实践场景
前几日我们在讨论一个物联网场景时候,负责该项目的博士提出了一个他的想法--将各个采集的数据关联用以发现问题。我觉得这个思路不错,至于能不能做呢?我下来模拟了一下。我们这里使用的是Tdengine,我这里有d1表和d2表两个表。d1和d2是两个物联网的检测器对应的数据表。 那么我按照车牌号码去关联,数据库提示我不支持。这个结果其实也在我意料之中,毕竟时序数据库不属于RDB
一个有争议的话题--HATP
好几天没写了,这个问题前几天在群里大家争论过,仅我们小范围大家看法也多少有点不同。(有不同也很正常,这种本来也没有标准定义)。对于HATP是不是一定有用或者说100%做得到。大家还是能达成一致的,就是不可能100%做得到。但是也不是一点也做不到。 TiDB的TiFlash和MySQL的HeatWave都是主从架构来实现行列转换来打通
由一次优化联想到认知和实时数仓的问题
好几天没写了,最近忙,今天告一段落。再不写本周就没产出了,这不是我风格啊。 今天帮一个开发看了一个场景,一个报表场景,一个SQLIO几乎用尽。5分钟一次,一次2分钟。可能大家认知中报表就应该这样。或者在hadoop中经历涅槃最后展现一个结果(后台服务器累的要死)。其实这是不对的,但是大家认知是这样很难改变。以前我也认为这
数据量与数据库选型
先来一个数据量运算关系。1 kilobyte kB = 1000 (103) byte1 megabyte MB = 1 000 000 (106) byte1 gigabyte GB = 1 000 000 000 (109) byte1 terabyte TB = 1 000 000 000 000 (1012) byte1 petabyte PB = 1 000 000 000 000 00
肉眼可以识别的差SQL
我自己公众号原文:https://mp.weixin.qq.com/s/P-hOuC6fWEauGflF0GAgTg 有时候别人问我,你能一眼看出SQL的好坏吗?我不敢说100%能确定,但是能确定的都是100%的不好。那么靠的是什么?根据经验来说符合下面的规则的,通常来说是不好的。1、没有where 条件2、Select的列超过50列3、SQL中存在标量子查询4、SQL谓词过滤中仅含有!=或<
消息队列的使用场景之RabbitMQ
自己原文公众号:https://mp.weixin.qq.com/s/gjZk3vXvrJIYghDjYDYzuw 安装Rabbitmq的步骤不详细说了。但是主要的要说说。第一步安装erlang,没有这个不行。而且这个erlang和rabbitmq的版本有对应关系。最重要一点网上很多帖子资料要去rabbitmq官网下载,会发现官网的那些页面都没有了。所以安装变成了一个问题。想当年谁在linux上安
消息队列的使用场景之kafka
自己原文公众号:https://mp.weixin.qq.com/s/21VyBQtwIlNORZmVjQvdhw kafka安装和使用其实比rabbitMQ要容易些,也舒服些。1、防火墙关闭2、java环境安装完毕3、3台主机名修改规划完毕每台机器mkdir -p /zookeeper/datatar -zxvf apache-zookeeper-3.7.0-bin.tar.gzmv