ElasticSearch初探
初探ElasticSearch实验环境版本:2.3.2五节点:192.168.1.105192.168.1.106192.168.1.108192.168.1.109192.168.1.110解压elasticsearch-2.3.2.zip文件之后,修改配置elasticsearch.yml:cluster.name: es_clusternode.name: node_105index.refresh_interval: 10snetwork.host: 192.168.1.105discovery.zen.pin...
2016展望
人无远虑必有近忧.数据库维护工作已经进入平滑期,也就是说,平时没啥事儿了.如果说第一年凭借SQL优化拿了优秀员工,第二年凭借小花狸集中监控,集中备份,集中复制工具和揽下hadoop,Solr/Lucene搜索等工作,也算勉强获取了优秀员工称号,第三年就要好好琢磨琢磨了...我押注ELK,公司确有需要却无人牵头.窥此良机,岂能轻易放过?...
Screen命令
操作远程服务器,最怕网络不好.有时候执行一个作业,由于网络闪断,前功尽弃.前几天发现了Linux Screen这个命令,很好很强大啊.安装yum install screen -y screen命令创建的终端,父进程不是sshd登录会话,所以sshd连接断了,并不影响screen会话.首先,创建一个Screen会话,然后进入创建的终端.[report@localhost ~]...
percentile_approx计算方法
参考:http://blog.sina.com.cn/s/blog_72e6be570101w731.htmlpercentile(array,p)算法一般是:将数组array从小到大排序,计算(n-1)*p的整数部分为i,小数部分为j,其中n为数组大小,则percentile的值是:(1-j)*array第i+1个数+j*array第i+2个数。(10-1)*0.8=7.2那么i=7,j=0.2(1-0.2)*8+0.2*9=8.2在Oracle里面是...
MySQL订单分库分表多维度查询
MySQL分库分表,一般只能按照一个维度进行查询.以订单表为例, 按照用户ID mod 64 分成 64个数据库.按照用户的维度查询很快,因为最终的查询落在一台服务器上.但是如果按照商户的维度查询,则代价非常高.需要查询全部64台服务器.在分页的情况下,更加恶化.比如某个商户查询第10页的数据(按照订单的创建时间).需要在每...
赫曼米勒
入职公司2年了. 这个公司各种好,唯一的缺点就是配的椅子太差了.各种腰酸背痛. 为了老花狸自己的腰,自此开始了漫漫换椅子的路. 在赫曼米勒之前,已经自掏腰包买了四把椅子了,但还是感觉不舒服. 正好水友云远推荐赫曼米勒.这东西粗一看,加运费9300,却...
宁战而死,不默而亡
失败了就是失败了人得学会认栽十多年努力,白费了有时候心里真的很烦当年从一个留级生,走到现在.有了家庭,有了孩子,有了体面的工作,赢得了同事的尊重.一切本来那么平稳,我以为人生的路,也就可以慢慢走下去直到终点.但是还是脱轨了我知道自怨自艾没有用.人生不能像数据库一样闪回,发生的事情,说过的话,签下的字回...
系统调优,你所不知道的TIME_WAIT和CLOSE_WAIT
http://mp.weixin.qq.com/s?__biz=MzA3MzYwNjQ3NA==&mid=403319808&idx=1&sn=ddae082f5b844d040b9ab23c9c0eb778&scene=23&srcid=0311hhv2oaIbIdkiBjAsYXML#rd你遇到过TIME_WAIT的问题吗?我相信很多都遇到过这个问题。一旦有用户在喊:网络变慢了。第一件事情就是,netstat -a | grep TIME_WAIT | wc -l 一下...
Awk split
一台集中日志服务器,提供80端口的http服务,有大量的网络连接.查询连接的服务器和连接数量.netstat -an | grep 80 | awk '{split($5,data,":");print data[1]}' | sort | uniq -c | sort -n
网页搜索客户端
网站上一些用户自己上传的歌曲侵权了.编辑给我一个Excel,包含歌曲名称和歌手名称.比如最接近天堂的地方张杰最浪漫的事(改编版)张杰最美的太阳张杰括号里的内容需要去除之后再匹配.由于Excel的内容五花八门,...
MySQL追加注释或者大量修改注释
MySQL 5.6.14之前一个项目比较仓促,开发给的建表语句没有注释.现在要补全注释信息.但是MySQL后期追加注释比较麻烦需要使用modify语法。只要不小心写错一点,就可能导致表结构的变更,而不是注释的变更.实验表如下:create table t( c1 int prim...
Awk 百分比统计
AWK自己是会一点,但是拿来就写,还是火候不够.原始数据:[root@localhost/tmp]$cat test.txt 126988432254642713108585934314588353635116330751统计各项的百分比[root@localhost/tmp]$cat test.txt | awk '{arr[$1]=$2;sums+=$2} END {for (k in arr) print k,arr[k]/sums}' | sort -k11 0.5723782...
Linux获取某个单词的个数
不怕神一样的对手,就怕猪一样的队友.大黄,加油!!~~ -o, --only-matching show only the part of a line matching PATTERN
Linux查看网卡流量
http://jasonyong.blog.51cto.com/47753/174197-n参数很有用,他有6个不同的开关:DEV | EDEV | NFS | NFSD | SOCK | ALL 。DEV显示网络接口信息,EDEV显示关于网络错误的统计数据,NFS统计活动的NFS客户端的信息,NFSD统计NFS服务器的信息,SOCK显示套 接字信息,ALL显示所有5个开关。它们可以单独或者一起使用。我们现...
gitbook和Markdown
安装gitbookyum install npmnpm install -g gitbook-cli参考:http://www.jianshu.com/p/q81RERhttp://colobu.com/2014/10/09/gitbook-quickstart/http://leeluolee.github.io/2014/07/22/2014-07-22-gitbook-guide/https://chrisniael.gitbooks.io/gitbook-documentation/content/format/markdown.html
Awk和Sed格式化Hive的数据
单位日志,需要每天过滤之后上传到Hadoop,然后通过Hive分析.日志大致格式如下 2016-01-11 10:00:03,114.112.124.236,57280,10,1,-24576,vvlive,1.0.0.1026,6941c526245a6ec26ed5a4b32e1b2d72,avcore,3,401,21502,roomid=941404583 svr=122.226.185.23 port=8009 devicetype=1  ...
小花狸MyBatis慢查询监控插件
功能1.定期统计每个SQL的执行次数,平均执行时间和平均返回行数,并且打印在日志中2.如果有慢SQL或者返回行数很多的SQL,直接在日志中打印详细信息.maven依赖 ...
初探Lucene
学习地址:https://segmentfault.com/a/1190000003101607http://yijun1171.github.io/2014/12/06/Lucene%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/http://www.cnblogs.com/forfuture1978/archive/2009/12/14/1623594.html添加依赖: <dependency>&nb...
创建Maven模板项目
假如已经存在了一个项目,http://blog.itpub.net/29254281/viewspace-1974603/这个项目已经搭建好了springmvc,spring和MyBatis的环境把这个项目转为Maven模板,以后新建项目可以直接从模板生成,省去项目搭建的步骤.查看帮助信息E:\workspace\songod>mvn archetype:helparchetype:create-from-project Creates...
搭建SpingMVC,Spring,MyBatis项目环境
首先Eclipse创建一个Maven Web项目使用maven-archetype-webapp模板整体结构如下先看pom.xml