ITPub博客

首页 > 数据库 > 数据库开发技术 > Pandas数据处理 | 筛选与兼职打卡时间差异在一分钟内的全职打卡数据

Pandas数据处理 | 筛选与兼职打卡时间差异在一分钟内的全职打卡数据

原创 数据库开发技术 作者:可以叫我才哥 时间:2021-07-14 20:42:01 0 删除 编辑

关注可以叫我才哥,学习分享数据之美

我们的第91篇原创

作者:小明


☆

大家好,我是才哥。

今天我们分享一个实际案例需求,来自无处不在的小明操刀,具体见正文吧!

CSDN主页:(全是干货)
https://blog.csdn.net/as604049322

需求与背景

某公司旗下有很多便利店,但近期却发现个别门店存在全职帮兼职打卡的情况,为此总部领导决定对所有门店的打卡时间数据进行分析,将每一个门店,全职人员和兼职人员上班卡、下班卡其中之一相差1分钟以内的数据找出来,然后再具体调查。

下面我们的任务就是以兼职人员数据为基准,找出相同门店全职人员上班卡、下班卡其中之一相差1分钟以内的数据:

解决需求

首先读取数据(已脱敏):

import pandas as pd

excel = pd.ExcelFile("全职与兼职相差一分钟.xlsx")
df_fulltime = excel.parse("全职")
df_parttime = excel.parse("兼职")
display(df_fulltime.head())
print(df_fulltime.shape)
display(df_parttime.head())
print(df_parttime.shape)

由于两张表的数据列名一致,我们可以将两张表拼接起来,方便分组:

df_fulltime["类型"] = "全职"
df_parttime["类型"] = "兼职"
df = pd.concat([df_fulltime, df_parttime], ignore_index=True)
df

测试分组和拆分:

for (area, store, time), df_split in df.groupby(["区域", "门店", "日期"]):
    print(area, store, time)
    df_fulltime_split = df_split.query("类型=='全职'")
    df_parttime_split = df_split.query("类型=='兼职'")
    display(df_fulltime_split)
    display(df_parttime_split)
    break

不过上述数据并没有能够匹配的数据,我们选个有结果的分组进行测试:

g = df.groupby(["区域", "门店", "日期"])
df_split = g.get_group(("DB区域", "54mh5", "2020-08-04"))
df_fulltime_split = df_split.query("类型=='全职'")
df_parttime_split = df_split.query("类型=='兼职'")
display(df_fulltime_split)
display(df_parttime_split)

为了方便计算,获取上下班时间的分钟数:

def func(time_str):
    if not isinstance(time_str, str):
        return 0
    time_arr = time_str.split(":")
    return int(time_arr[0])*60+int(time_arr[1])


df_fulltime_time = df_fulltime_split[["上班卡", "下班卡"]].applymap(func)
df_parttime_time = df_parttime_split[["上班卡", "下班卡"]].applymap(func)

display(df_fulltime_time)
display(df_parttime_time)

测试数据筛选:

for (time1, time2), row in zip(df_parttime_time.values, df_parttime_split.values[:, :-1]):
    print(time1, time2)
    print(row)
    idx = df_fulltime_time.query(
        f"{time1-1}<=上班卡<={time1+1} or {time2-1}<=下班卡<={time2+1}").index
    display(df_fulltime_split.loc[idx])
    break

测试数据整理:

result = []
data = df_fulltime_split.loc[idx].values[:, 3:-1]
row = row.tolist()
row.extend(data)
result.append(row)
result = pd.DataFrame(result)
result.rename(columns=dict(
    enumerate(["区域", "门店", "日期", "工号", "姓名", "上班卡", "下班卡"])), inplace=True)
result.rename(columns=lambda x: x if isinstance(
    x, str) else f"全职打卡{x-1}", inplace=True)
result

整理一下完整代码:

完整代码

import pandas as pd

excel = pd.ExcelFile("全职与兼职相差一分钟.xlsx")
df_fulltime = excel.parse("全职")
df_parttime = excel.parse("兼职")
df_fulltime["类型"] = "全职"
df_parttime["类型"] = "兼职"
df = pd.concat([df_fulltime, df_parttime], ignore_index=True)


def func(time_str):
    if not isinstance(time_str, str):
        return 0
    time_arr = time_str.split(":")
    return int(time_arr[0])*60+int(time_arr[1])


result = []
for (area, store, time), df_split in df.groupby(["区域", "门店", "日期"]):
    df_fulltime_split = df_split.query("类型=='全职'")
    df_parttime_split = df_split.query("类型=='兼职'")
    df_fulltime_time = df_fulltime_split[["上班卡", "下班卡"]].applymap(func)
    df_parttime_time = df_parttime_split[["上班卡", "下班卡"]].applymap(func)
    for (time1, time2), row in zip(df_parttime_time.values, df_parttime_split.values[:, :-1]):
        idx = df_fulltime_time.query(
            f"{time1-1}<=上班卡<={time1+1} or {time2-1}<=下班卡<={time2+1}").index
        if len(idx) > 0:
            data = df_fulltime_split.loc[idx].values[:, 3:-1]
            row = row.tolist()
            row.extend(data)
            result.append(row)
result = pd.DataFrame(result)
result.rename(columns=dict(
    enumerate(["区域", "门店", "日期", "工号", "姓名", "上班卡", "下班卡"])), inplace=True)
result.rename(columns=lambda x: x if isinstance(
    x, str) else f"全职打卡{x-1}", inplace=True)
result

最终结果:

-->推荐阅读<--

『数据分析』pandas计算连续行为天数的几种思路

2021-04-27

[数据分析] 使用Python简单玩玩RFM用户价值模型

2021-04-13

学会这些好用的pandas函数,让你的数据处理更快人一步

2021-03-30

再推荐几个好用的pandas函数,继续加快你数据处理的速度

2021-04-03

邻近模糊匹配?你可能不知道的pandas骚操作,确实很好用!

2021-04-07

点击“阅读全文”前往小明主页,查看更多

原文作者:可以叫我才哥;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2020-03-18

  • 博文量
    161
  • 访问量
    69020