复现完整项目
只有在带有命令、权限和输出复核的情况下,才允许智能体协助执行。
先决条件
第 13–14 天和一个干净的临时环境。
学习目标
从无关的工作目录运行真实的 text_tools CLI,重新生成统计、词表、分割和清单产物。
操作说明
必做:对 names.txt 或已记录的本地语料库运行 stats 和 split 命令,记录版本/种子,并比较输出。选做:再运行第二个语料库。
练习与预测
在执行前预测产物名称、分割计数和清单字段。解释哪个时间戳字段使清单无法逐字节一致,而分割文件仍可复现。
比较 train/val/test 的字节和清单的语义字段;不要把 created_at 误认为模型数据发生了变化。
一次干净的运行会生成 train.txt、val.txt、test.txt、stats.json、vocab.json 和 manifest.json。相同种子仅在相同原始输入字节、比例、解码/换行策略及同一实现/运行时/平台下复现分割文件字节(manifest 的 created_at 会变化,故比较语义来因而非 manifest 字节);源哈希、计数、比例、环境和泄漏证据仍可审计。
Learning Project Submission & Evidence
学习者能够复现公开命令,并能根据进程隔离的运行解释观察到的产物。
来源资源与出处
Text and Data Tools Learning Project
对应章节 / 时间戳: cli.py --stats/--split output artifacts: train.txt, val.txt, test.txt, stats.json, vocab.json, manifest.json
验证版本与日期: Verified against the checked-in implementation on 2026-10-30
Reproduction must target the actual project and its real artifact names so later tokenizer and model experiments can consume the same outputs.
Days 13–14 evidence: CLI usage and disposable Git workflows
A clean temporary corpus and output directory reproduce all artifacts offline.
对比候选资源与选型分析 (2)
A natural example corpus for the reproduction run; any documented local corpus also works, so it is not a required download.
Another natural local corpus for reproduction; any documented corpus satisfies the exercise.