NotionNext - null

🦜Langchain0.2: LLM框架和工程化的提升

type
status
date
slug
summary
tags
category
icon
password
🦜
langchain0.2的发布标志着这个LLM开发框架对自身定位的愈发清晰，同时一直被诟病的工程化问题也得到不少提升。
Langchain最新发布了大的0.2版本，正式标志着这款快速发展的LLM框架，对自身定位的愈发清晰。我们可以在官网看到完整的介绍：
notion image
 
从这个图里我们可以看到Langchain的野心和商业化的方向，该框架目前将自身定位为覆盖LLM应用开发全生命周期的框架。包含开发、部署、工程化三个大方向，在这三个大方向，都有专门的产品或产品集：
  • 开发阶段：主要是python和javascript两种语言的SDK，配合开放的社区组件模板，来便捷的实现跨LLM的APP开发
  • 工程化或产品化阶段：主要是以LangSmith为代表的产品，集监控、playground、评估等功能于一身
  • 部署阶段：主要是LangServer产品，基于fastapi封装的LLM API服务器。
基本的方向是开发员的SDK和组件来壮大社区，然后通过类似LangSmith等工具产品实现商业化。
 
🦜 0.2版本清晰了主要的包和开发平台：
  • langchain-core 主要的SDK依赖包，包括基本的抽象结构和LECL脚本语言
  • langchain-community 集成了所有的社区贡献的组件，包含专门为用户量较大的LLM开发的合作伙伴包，类似langchain-openai langchain-anthropic 这种。
  • langchain 核心依赖包，剥离后只有Chains、Agents、以及构成应用程序认知结构的检索策略。
  • langgraph Langchin的多角色应用开发包，类似多Agents框架的实现。
  • langServe Langchain+FastApi实现的服务器端。
  • langSmith Langchain官方的开发平台，功能很多包括提示词模板聚合、监控、调试、评测LLM等等，部分功能会收费。
 

如何迁移到0.2.x版本

  • 安装 0.2.x 版本的 langchain-core、langchain，并将可能使用的其他软件包升级到最新版本。(例如，langgraph、langchain-community、langchain-openai 等）。
  • 验证代码是否能在新软件包中正常运行（例如，单元测试通过）。
  • 安装最新版本的 langchain-cli，并使用该工具将代码中使用的旧导入替换为新导入。
  • 手动解决所有剩余的弃用警告。
  • 重新运行单元测试。
  • 如果正在使用 astream_events，请查看如何迁移到 astream events v2。
 

如何迁移到0.2.x - 升级依赖包

0.2版本对依赖包做了较大调整，详细参照下表：
notion image
 

如何迁移到0.2.x - 使用langchain-cli工具

安装该工具
🔔
注意，该工具并不完美，在迁移前你应该备份好你的代码。使用的时候您需要运行两次迁移脚本，因为每次运行只能应用一次导入替换。
lang-cli的其他命令：
💡
欢迎您在底部评论区留言，一起交流~
Loading...

No results found.