ChatGPT 专题报告：GPT，大模型
多模态应用展望
1. ChatGPT 通过大模型突破 AI 瓶颈，GPT-4 多模态应用带动商业化加
速

概述：ChatGPT 为 NLP 下的 AI 大模型，性能和使用体验超预期

ChatGPT 是自然语言处理（NLP）下的 AI 大模型，通过大算力、大规
模训练数据突破 AI 瓶颈。2022 年 11 月，OpenAI 推 出 ChatGPT，
ChatGPT 基于 GPT-3.5，使用人类反馈强化学习技术，将人类偏好作
为奖励信号并微调模型，实现有逻辑 的对话能力。

ChatGPT 本质上是通过超大的统计语言模型，对词语序列的概率分布
进行建模，利用上下文信息预测后续词语出现的概 率分布，其表现的
超预期反映了在算力水平提升的情况下大语言模型技术路线的成功，通
          突破了 AI 发展的技术瓶颈。
过对大规模的未标注的文本数据 进行训练，
根据《瞭望》新闻周刊报道，OpenAI 为了让 ChatGPT 的语言合成结
果更自然流 畅，使用了 45TB 的数据、近 1 万亿个单词来训练模型，
训练一次的成本高达千万美元，一 ...