ITPub博客

首页 > 数据库 > 数据库开发技术 > 利用Python去重合并文件

利用Python去重合并文件

原创 数据库开发技术 作者:逍遥子 时间:2022-11-06 20:13:09 0 删除 编辑

我们在前期对目标进行信息搜集时,有时候会利用多款工具进行收集。有时候每款工具扫描到的结果有相同的信息,也有不同的信息。怎样求同存异,才能让我们愉快的完成工作呢?因此我们可以借助脚本工具替我们去完成这一复杂的整理工作,提高渗透效率。

代码

#coding=utf-8
import os
import pandas as pd
import glob
 
outFileName = 'out_merged_result.csv'
 
def merge():
    txt_list = glob.glob('*.txt')
    print(u'共发现%s个txt文件!'% len(txt_list))
    print(u'开始合并:')
    for i in txt_list:
        fr = open(i,'r').read()
        with open(outFileName,'a') as f:
            f.write(fr)
    print(u'合并完毕!')
 
 
def unique(file):
    df = pd.read_csv(file, header=0, error_bad_lines=False, quotechar=None, quoting=3)
    dataList = df.drop_duplicates()
    dataList.to_csv(file)
 
 
if __name__ == '__main__':
    print(u'查找当前目录下的txt文件:')
    merge()
    print(u'开始去重:')
    unique(outFileName)
    print(u'去重完成!')

使用

将此文件保存文py文件。将a.txt和b.txt(文件中内容的差异)和py文件放在一起。执行代码。会进行去重和合并操作。并将结果导出为csv文件,方便我们进行“渗透”。

更多精彩文章 欢迎关注我们


原文作者:Kali笔记;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2021-01-22

  • 博文量
    760
  • 访问量
    444468