ITPub博客

首页 > 应用开发 > C/C++ > 【C/C++】数据库删除大表

【C/C++】数据库删除大表

原创 C/C++ 作者:风尘_NULL 时间:2019-02-19 22:21:36 0 删除 编辑

背景:数据库的IO压力非常大,如果在线上删除大表,对IO以及业务会造成很大的抖动;作为一名DBA的通用做法是,建立.frm 以及.ibd的硬连接,然后在drop table tablename;但是表文件依然存在于该机器上,如果直接用rm删除,会造成IO的until达到100%

问题:那么如何解决删除文件时,如果避免IO达到100%呢?

解决方案:通过ftruncate逐渐清除文件,下面本人提供自己写的slowrm来删除文件,测试io使用率10-20%之间,删除速度1个小时100多G(这里只是一个粗略的版本,各位看官可以自己修改下)

#include <iostream>
#include <sys/stat.h>
#include <fcntl.h>
#include <dirent.h>
#include <string>
#include <unistd.h>
//判读输入是否合法
int fileInputLegal(const char *pfile=nullptr);

int main(int argc,char *argv[]){
//利用stat获取文件的大小
//调用open打开文件获取文件描述符
//调用ftrucate缩减文件的大小,直到0为止
    int fd = -1;

    //这个参数经过调整过的

    int deleteBytes    = 1024700;
    //这个目的是获取文件长度
    struct stat buf;
    off_t fileSize = 0;
    if( argc !=2 ){
        std::cout<<"你传输的参数不正确"<<std::endl;
        return -1;

    }
    const char *filename=argv[1];

    if(fileInputLegal(filename) < 0){
        return -1;

    }
    
    if((fd = open(filename,O_RDWR)) < 0 ){
        std::cout<<"打开文件"<<filename<<"失败"<<std::endl;
        return -1;

    }
    if(lstat(filename,&buf) <0){
        std::cout<<"获取文件信息(大小失败)"<<std::endl;
        return -1;


    }
    fileSize = buf.st_size;
    while(fileSize > deleteBytes ){
        fileSize = fileSize - deleteBytes;
        if(ftruncate(fd,fileSize) < 0){
            std::cout<<"删除文件出错,请重新执行"<<std::endl;
            return -2;


        }

        //这里特别要注意,设置的时间越短,ftruncate调用越频繁,设置不当,适得其反

        usleep(20000);


    }    
    if(ftruncate(fd,0) < 0){
        std::cout<<"删除文件出错,请重新执行"<<std::endl;
        return -2;

    }
    close(fd);
    unlink(filename);
    return 0;


}

int fileInputLegal(const char *pfile){
    if(nullptr==pfile){
        return -1;

    }

    if(access(pfile,R_OK|W_OK)<0){
        std::cout<<"对文件没有读写权限"<<std::endl;
        return -1;


    }
    
    if(opendir(pfile) != NULL){
        std::cout<<"是一个目录"<<std::endl;
        return -1;

    }

    return 0;

}


编译方法:

g++ -std=gnu++11 -o slowrm slow_rm.cpp


使用方法:


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/30221425/viewspace-2636414/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
Not only a DBA(纸上读来终觉浅,绝知此事需躬行)

注册时间:2015-04-24

  • 博文量
    71
  • 访问量
    212121