AI知识图谱｜读懂AI的语言与思考方式
[一]LLM是什么
Language：不止中英文，还包括表格、代码、Emoji等，核心是学习语言底层规律。
Large：千亿级数据、超大参数、强算力。
Model：不是资料库，而是压缩语言规律、用数学与概率生成内容的模型。
[二]Token分词
Token是模型可计数、可处理的最小语言单位。
流程：文本预处理 → 切Token → 分配ID → 输入模型。
分词无绝对标准，不同模型不同；分词合理与否影响信息密度和语义效率。
[三]词嵌入
把文字语义转成高维数字向量。
语义越近，向量距离越近；语义越远，距离越远。
[四]Transformer与自注意力
核心论文：《Attention is all you need》。
处理每个词元时，会关联全文所有词元，按重要性分配权重，动态更新向量，区分一词多义。
每个词元对应Query、Key、Value，输出下一个Token的概率分布。
局限：无法识别输入本身的语义歧义。
[五]核心能力与风险
能力：生成多语言/代码等内容；并行处理上下文；少样本学习；可控格式与风格。
风险：幻觉、数据偏见、算力能耗高、可解释性差、提示词注入。
[六]提示工程五要素
明确目标 → 补充背景 → 设定规则限制 → 指定输出格式 → 确定评估标准。
本质类似写议论文：目标清晰、约束明确、标准可评估。
LLM是基于Token、向量和自注意力的概率生成模型，不是资料库；提示工程的关键，是用明确目标和约束引导它输出合格结果。

洞察力 思维模型 香港硕士 香港留学 职业转型 知识图谱 ai 搭建个人知识体系