雲端 GPU 訓練環境合規審計與硬體連通性校驗
Agent 輔助工程檢查
前置要求
第 56 天資源規劃數學計算與 SSH 公鑰基礎。
學習目標
在嚴禁將雲廠商憑據或密鑰硬編碼進代碼庫的原則下，全面校驗遠程主機 GPU 算力規格、CUDA 運行時及 PyTorch 設備就緒狀態。
操作指引
1. 遵循安全連接規範：使用標準 SSH 密鑰鑒權，嚴禁將私鑰、Access Key 或密碼寫入任何腳本或配置文件。
2. 執行 nvidia-smi 審查物理顯卡型號與顯存總量，防範雲服務商實際下發型號與計費規格不符。
3. 在隔離的 Python 虛擬環境中核驗 torch.cuda.is_available()、卡號與物理顯存量。
4. 檢驗底層算力卡對原生 bfloat16 算子的硬體支持度（torch.cuda.is_bf16_supported()）。
自主實作與記錄
編寫遠程環境校驗腳本 verify_env.py，自動核查 Python 版本、CUDA 可用性、顯存容量（>=15GB）及 BF16 支持，通過返回 0，不達標則返回 1 並輸出詳細診斷。
利用 torch.cuda.get_device_properties(0).total_memory 計算顯存容量。
import torch, sys
if not torch.cuda.is_available(): sys.exit(1)
vram = torch.cuda.get_device_properties(0).total_memory / (1024**3)
if vram < 15.0: sys.exit(1)
print(f'GPU Ready: {torch.cuda.get_device_name(0)}')
獨立編寫環境審計腳本，在不洩露憑據的前提下對遠程 GPU 規格達成 100% 自動核驗。
權威來源資源與權利證明
CS336 Assignment 1: Basics (Spring 2025 tagged release)
對應章節 / 時間戳: README setup; tests/adapters.py; tests/test_optimizer.py; tests/test_nn_utils.py; tests/test_serialization.py
驗證版本與日期: spring2025 tag; README, tests and MIT LICENSE checked 2026-11-01
Lead assignment-driven source for pretraining component practice and tests. nanoGPT remains a compact historical code-reading companion, not the current recommended training curriculum.
Fluent Python, PyTorch, and linear algebra
Local self-contained pretraining scripts run on standard local CPUs or budget GPUs without Stanford cluster dependency.
對比候選資源與選型分析 (2)
Simpler code layout, useful complementary reference for minimal PyTorch Transformer.
High-level API focus rather than building from raw tensor fundamentals.
nanoGPT: train.py pretraining loop
對應章節 / 時間戳: train.py: system settings (device, dtype bfloat16/float16 selection, compile) and DDP settings
驗證版本與日期: Git master commit 71c3905 (Verified: 2026-10-30)
Compact historical code reference for the named implementation functions; CS336 spring2025 provides the lead component exercises. Do not infer top-p, atomic persistence or cloud budget enforcement from nanoGPT.
Python, PyTorch, and Day 46-48 Transformer model architecture.
Runnable pretraining scripts and step-by-step tensor mechanics are fully self-contained in the curriculum lessons.
對比候選資源與選型分析 (2)
Heavy abstraction layer wrapping distributed training; nanoGPT exposes raw PyTorch loops without framework overhead.
High-performance enterprise distributed framework; unsuitable for local educational first-principles comprehension.