ChatGPT的技术基础分析主要讲解了chatgpt 的整体架构分析，包括训练语料的来源，微调算法与模型来源，预训练算法与模型。具体包括：基于Transformer的生成式预训练模型；基于对比预训练的Embedding模型；基于代码数据微调的Codex模型；基于指令微调的Insert&Edit模型；基于人类反馈的强化学习的Instruct模型。