跳到主要内容
pemako
Developer
查看所有作者

AI 模型基础知识

· 阅读需 5 分钟
pemako
Developer

核心概念

权重(Weights)

模型通过海量训练数据,调整出数十亿个小数,这些数字就是"权重",记录了模型学到的所有知识(语法、常识、逻辑等)。

  • Qwen3-4B 中的 4B = 40亿个权重数字
  • 每个权重形如 0.3847291638...
  • 原始精度(FP16)下,40亿个数字需要约 8GB 存储空间