Duplicate Row Check
Documentsduplicate_row_checkDuplicate Row Check is an Agent Skill for documents published in the cas-bigdatalab/piflow repository on GitHub: a SKILL.md instruction file an AI agent can load to do this task.
结构化表格重复行检测工具。仅检查CSV/TSV/Excel等表格型数据中的完全重复记录或指定列子集重复， 标记后续重复行并保留首次出现；不处理文本片段清理、文档去重或其他字段质控。
QUICK START
How to use this skill
Bring this guide into your coding agent with a prompt tailored to the tool you use.
- Open your project in Codex.
- Copy and paste the prompt below.
- Review files and risks before approving any action.
Prompt to paste
Inspect the Agent Skill at https://github.com/cas-bigdatalab/piflow/blob/HEAD/workspace/skills/duplicate_row_check/SKILL.md and all supporting files. Report provenance, permissions, scripts, dependencies, and security risks. Propose an exact installation into .agents/skills/duplicate-row-check, but wait for my approval before writing files or running scripts.
Copying this prompt does not install or run the skill. Review third-party files before use.
Duplicate Row Check 重复行检测 Skill
功能概述
检测表格型结构化数据中的精确重复行。可指定列子集比较（如仅按 name+email 检测），首次出现的行标记为空（通过），后续重复行标记为质控标识。与去重类技能不同，duplicate_row_check 负责行级校验而不是删除重复行。
触发条件
当用户提到以下任务时，应使用此 skill：
- 重复行检测
- 完全重复记录检查
- 指定列重复校验
- 行级重复质控
核心参数说明
必需参数
| 参数 | 说明 |
|---|---|
--input_path | 输入文件路径 |
--output_path | 输出文件路径 |
--qc_mark | 质控标识 |
可选参数
| 参数 | 说明 | 默认值 |
|---|---|---|
--dup_columns | 检测列，逗号分隔；不指定则全列比较 | 全列比较 |
--mark_field_name | 质控标识字段名 | QC0000 |
输入文件格式
- CSV、TSV、Excel、SPSS 等结构化表格文件
使用方法
python scripts/duplicate_row_check.py \
--input_path data.csv \
--output_path checked.csv \
--dup_columns "name,email" \
--qc_mark QC0020
输出示例
[QC FAIL] 发现 1 行重复 (检测列: ['name'])
[OK] 结果已写入 -> output.csv
注意事项
- 不指定 dup_columns 时全列比较（包含所有字段）
- keep='first' 保留首次出现，后续重复标记
- 与去重类技能不同，duplicate_row_check 不删除重复行，仅标记