如何打造自己的大模型

1 新时代职场人应用AIGC的5重境界

• 第一、简单对话 + Ctrl-C/V 结果：人人都行
• 第二、Prompt Engineering：系统掌握 Prompt 提示词技能，赋能工作真正提效
• 第三、把AIGC融入业务流程，指挥AIGC做复杂任务：掌握好 AIGC 技能、真正懂业务领域知识
• 第四、拥有自己的大模型：懂大模型原理、基于开源大模型微调（Fine-tune）、有行业数据壁垒
• 第五、参与设计训练大模型：OpenAI等大模型公司

思考：自己处于哪种境界？

2 人人需要掌握的大模型原理

职场人都能听懂的大语音模型的训练过程

• 第一阶段：传统的有监督训练
• 第二阶段：奖励模型
• 第三阶段：运用奖励模型，一问一回答一打分，不断进行反馈迭代强化学习

职场人都能听得懂的大语言模型的Transformer推理过程

• Transformer：在 Transformer 之前，最大的问题就是遗忘（记不住上下文信息）

• Transformer：通过**注意力机制（Attention）**解决遗忘问题
  • The：第一个，前面没有关联
  • FBI：前面会关联 The
  • is：前面会关联 FBI
  • chasing：前面会关联 FBI、is
  • …

• Transformer：整个流程设计（大模型的核心）——2017年提出

• Transformer：Encoder 将输入“序列”中的信息提取出来

• Transformer：Encoder-Attention 将重要信息提取出来

• Transformer：Encoder-Attention 将重要信息提取出来，会有一些更复杂的计算细节

3 如何构建自己的大模型

需要具备三个方面的能力

• Prompt Engineer（提示词工程）
• LangChain（一个框架的名字）
• Fine-tuning（微调）

LangChain是什么？

• 面向大模型的开发框架
• 简单实现复杂功能的 AIGC 应用
• 多组件封装

• LangChain 推荐资料：https://wx.zsxq.com/dweb2/index/topic_detail/211842521158511

LangChain主要功能

LangChain核心组成

• 组件
• 封装
• 模块

• LangChain 核心组成：I/O模块
  • Prompts：主要管理、协助构建送入 Model 的输入
  • Language Modes：用何种 Model
  • Output parsers：解析输出结果

• LangChain 核心组成：I/O模块流程
  • Prompts：归一化
  • Language Modes：预测
  • Output parsers：归一化

• LangChain 核心组成：数据链路（Data Connection）模块
  • Source：支持各种异构数据源
  • Load：加载
  • Transform：变换
  • Embed：向量化
  • Store：存储向量数据库
  • Retrieve：检索

• LangChain 核心组成：数据链路（Data Connection）模块——Load

• LangChain 核心组成：数据链路（Data Connection）模块——Transform

• LangChain 核心组成：数据链路（Data Connection）模块——Embed

• LangChain 核心组成：数据链路（Data Connection）模块——Embed-相识度核心原理（“向量”距离）

• LangChain 核心组成：数据链路（Data Connection）模块——Vector Store

• LangChain 核心组成：记忆（Memory）模块，针对多轮对话强相关