intradepartmental-diadem622/Text-LLM-Training-from-scratch

  • 类型:github
  • 标识:intradepartmental-diadem622/Text-LLM-Training-from-scratch
  • 链接:https://github.com/intradepartmental-diadem622/Text-LLM-Training-from-scratch
  • 主题:llm-infra, risk
  • 主分类:engineering
  • 形态:app
  • 分类:ai
  • Stars:0
  • 周增:+0
  • 语言:Python
  • 许可:MIT
  • 最近提交:2026-08-11
  • 简介:Build decoder-only Transformers from scratch in PyTorch, covering tokenization, pretraining, supervised fine-tuning, and alignment using core tensor operations.
  • 上次采集:2026-08-11
  • 首次采集:2026-08-11
  • 待LLM分类:否
  • 成熟度:experimental
  • 简介中文:从零开始在 PyTorch 中构建 decoder-only Transformer,涵盖分词、预训练、监督微调,以及基于核心张量操作的对齐。
  • 来源文件
  • [GitHub Search]