Fullwidth Halfwidth Normalizer

Documents

fullwidth_halfwidth_normalizer

Fullwidth Halfwidth Normalizer is an Agent Skill for documents published in the cas-bigdatalab/piflow repository on GitHub: a SKILL.md instruction file an AI agent can load to do this task.

全角/半角字符规范化工具。读取结构化数据文件，将文本中的全角ASCII字符（字母、数字、标点）转换为半角形式，并可按需执行指定 Unicode 正规化。适用于中日韩混排科研文本的统一预处理，不负责空白行删除、拼写纠错或重复标点合并。当用户提到全角转半角、半角规范化、全半角统一、全角字母数字转换等需求时使用此skill。

View on GitHub ↗

QUICK START

How to use this skill

Bring this guide into your coding agent with a prompt tailored to the tool you use.

Open your project in Codex.
Copy and paste the prompt below.
Review files and risks before approving any action.

Prompt to paste

Inspect the Agent Skill at https://github.com/cas-bigdatalab/piflow/blob/HEAD/workspace/skills/fullwidth_halfwidth_normalizer/SKILL.md and all supporting files. Report provenance, permissions, scripts, dependencies, and security risks. Propose an exact installation into .agents/skills/fullwidth-halfwidth-normalizer, but wait for my approval before writing files or running scripts.

Copying this prompt does not install or run the skill. Review third-party files before use.

fullwidth_halfwidth_normalizer 全角半角规范化Skill

功能概述

将文本中的全角 ASCII 字符（U+FF01-U+FF5E、U+3000）转换为半角形式，并支持可选的 Unicode 正规化处理。覆盖字母、数字、标点符号的全半角统一，中文专属标点（。、【】、《》等）不受影响。

触发条件

全角转半角
半角规范化
全半角统一
全角字母/数字/标点转换
Unicode 正规化
中日韩混排文本清洗

输入文件格式

CSV (.csv) / TSV (.tsv) / Excel (.xls, .xlsx) / SPSS (.sav)

使用方法

步骤1：获取用户输入输出路径

向用户确认：

输入文件路径（需要处理的文件）
输出文件路径（处理后的文件）
可选：指定处理的文本列
可选：Unicode正规化形式

步骤2：执行全角半角规范化脚本

在 scripts/ 目录下找到 fullwidth_halfwidth_normalizer.py，使用Python执行：

基本用法：

python scripts/fullwidth_halfwidth_normalizer.py \
    --input_path <输入文件> \
    --output_path <输出文件>

带可选参数：

python scripts/fullwidth_halfwidth_normalizer.py \
    --input_path <输入文件> \
    --output_path <输出文件> \
    --text_columns col1,col2 \
    --norm_form NFKC \
    --keep_newlines

步骤3：返回结果

脚本执行完成后，告知用户全角字符转换数量和输出文件路径。

核心参数说明

必需参数

参数	说明
`--input_path`	输入结构化文件路径
`--output_path`	输出规范化后文件路径

可选参数

--text_columns 指定规范化列，其他参数控制转换方向和字符范围。

参数说明

参数	必填	说明
`--input_path`	是	输入文件路径
`--output_path`	是	输出文件路径
`--text_columns`	否	处理的文本列，逗号分隔
`--norm_form`	否	NFC/NFD/NFKC/NFKD
`--keep_newlines`	否	保留换行符

输出示例

[OK] 全角/半角规范化完成 -> output.csv
   文本列: ['text']
   norm_form=无, keep_newlines=False

输入 ２０２４年，ＡＩ技术 → 输出 2024年,AI技术

环境要求

使用项目 Python 环境运行，依赖 pandas 和共享 data_io 读写工具。

注意事项

仅转换 U+FF01-U+FF5E 范围内的全角 ASCII 字符和 U+3000 全角空格
中文专属标点（。、【】、《》、——等）不受影响
NFKC 正规化会一并处理全角字符和其他兼容字符
默认折叠换行为空格，使用 --keep_newlines 可保留