使用Spark和Cassandra进行数据处理(一)
最近在研究将Spark架设到Cassandra之上。发现这方面的信息比较少,在学习的过程中也遇到了不少问题,因此在此记录下,也和大家分享。此例为最经典的WordCount示例。 首先我先说下我所使用的各种环境和版本。由于Spark和Cassandra更新较快,如果之后版本有异可能运行不能成功需要一些微调。 暂时使用的是Windows 7, 之后会转到Linux平台,但是这个影响不大。使用的是Scala2.9.3,Spark 0.8, Cassandra 1.2.10,sbt 0.13.0,Java 7。 首先需要我们自己生成下Spark的jar包。这个需要我们运行sbt命令来得到。转到Spark所在的
oralce 常见小问题
1、ORA-12541:TNS:没有监听器 原因:没有启动监听器或者监听器损坏。如果是前者,使用命令net start OracleOraHome81TNSListener(名字可能有出入)即可; 如果是后者,则使用“Net8 Configuration Assistant”工...
DBMS_METADATE.GET_DDL获取对象DDL脚本
DBMS_METADATA.GET_DDL包可以得到数据库的对象的ddl脚本。如下(SQLPLUS中执行):1.得到一个表的ddl语句:SET SERVEROUTPUT ONSET LINESIZE 1000SET FEEDBACK OFFset long 999999 &n...
David的blog
不用索引的常见情况
外键是否应该加索引? 外键未加索引可能是导致死锁的主要原因:因为无论是更新父表主键,或者是删除一个父记录,都会在子表上加一个表锁,这就会不必要地锁定更多的行,而影响并发性。在使用能自动生成SQL来修...
王雪迎的Blog
ORACLE性能优化笔记
1. 查询正在执行语句的执行计划(也就是实际语句执行计划) select * from v$sql_plan where hash_value = (select sql_hash_value from v$session where sid = 1111); 其中id和p...
无文件备份、拥有所有归档的恢复
演示几种情况,不做过多说明.归档模式拥有所有归档文件,后增加文件无备份,丢失这个文件,拥有控制文件及所有其他文件,以下是一种恢复情况.1.启用归档模式,备份E:\sqlplus "sys/oracle as sysdba"SQL> s...
丢失所有文件、拥有全备份,缺少后增加的文件
演示几种情况,不做过多说明.归档模式拥有所有归档文件及日志文件,丢失所有数据文件及控制文件,后增加的文件无备份,丢失这个文件,拥有控制文件及所有其他文件的历史备份,以下是一种恢复情况.1.测试,移除当...
Statspack之十三-Enqueue
enqueue是一种保护共享资源的锁定机制。该锁定机制保护共享资源,如记录中的数据,以避免两个人在同一时间更新 同一数据。enqueue包括一个排队机制,即FIFO(先进先出)排队机制。 Enqueue等待常见的有ST、HW 、TX ...
tatspack之十二-db file scattered read-DB文件分散读取
这种情况通常显示与全表扫描相关的等待。当数据库进行全表扫时,基于性能的考虑,数据会分散(scattered)读入Buffer Cache。如果这个等待事件比较显著,可能说明对于某些全表扫描的表,没有创建索引或者没有创建合适...
Statspack之十一-Statspack报告各部分简要说明
第一部分 数据库概要信息 DB Name DB Id Instance Inst Num Release Cluster Host---------- ----------- ------------ -------- ----------- ------------GLOB ...
Statspack之十-调整STATSPACK的收集门限
Statspack有两种类型的收集选项:级别(level):控制收集数据的类型门限(threshold):设置收集的数据的阈值。 1.级别(level)Statspack共有三种快照级别,默认值是5a.level 0: 一般性能统计。包...
Statspack之九-其它重要脚本
1.通过导出保存及共享数据在诊断系统问题时,可能需要向专业人士提供原始数据,这时我们可以导出Statspack表数据,其中我们可能用到:spuexp.par其内容主要为: file=spuexp.dmp log=spuexp.log compr...
Statspack之八-删除历史数据
删除stats$snapshot数据表中的相应数据,其他表中的数据会相应的级连删除: SQL> select max(snap_id) from stats$snapshot; MAX(SNAP_ID)------------166 SQL> delete from stats$snaps...
Statspack之七-移除定时任务
移除一个定时任务,可以如下操作: SQL> select job,log_user,priv_user,last_date,next_date,interval from user_jobs; JOB LOG_USERLAST_DATENEXT_DATEINTERVAL ---------- -----...
Statspack之六-生成分析报告
Statspack之六-生成分析报告调用spreport.sql可以生成分析报告:SQL> @spreportDB Id DB Name Inst Num Instance----------- ------------ -------- ------------1277924236 EYGLE 1 eygleCompleted Snaps...
Statspack之五-规划自动任务
Statspack正确安装以后,我们就可以设置定时任务,开始收集数据了。可以使用spatuo.sql来定义自动任务。先来看看spauto.sql的关键内容: dbms_job.submit(:jobno, 'statspack.snap;',trunc(sysd...
Statspack之四-测试安装好的Statspack
运行statspack.snap可以产生系统快照,运行两次,然后执行spreport.sql就可以生成一个基于两个时间点的报告。如果一切正常,说明安装成功。 SQL>execute statspack.snapPL/SQL procedure successfully ...
Statspack之三-安装statspack
安装Statspack需要用internal身份登陆,或者拥有SYSDBA(connect / as sysdba)权限的用户登陆。需要在本地安装或者通过telnet登陆到服务器。在Oracle8.1.6版本中运行statscre.sql;在Oracle8.1.7版本中运行spcreate.s...