在本文中，我们将逐步介绍如何创建一个与 LangChain 集成的 Chainlit 应用程序。

前提条件

开始之前，请确保具备以下条件：

• 已安装并可正常使用的 Chainlit
• 安装了 LangChain 包
• OpenAI API 密钥
• 基本的 Python 编程知识

第 1 步：创建 Python 文件

在您的项目目录中创建一个名为 chainlit-app.py 的新 Python 文件。此文件将包含大型语言模型（LLM）应用程序的主要逻辑。

第 2 步：编写应用程序逻辑

在上述python文件中，导入必要的包，并定义一个函数来处理新的聊天会话，另一个函数来处理来自用户界面的消息。

使用 Langchain 表达式语言 (LCEL)，示例代码如下所示：

from langchain_openai import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.schema import StrOutputParser
from langchain.schema.runnable import Runnable
from langchain.schema.runnable.config import RunnableConfig
from typing import cast
from dotenv import load_dotenv
import chainlit as cl
import os

# 设置代理服务器的环境变量，以便通过代理进行网络请求
os.environ['HTTP_PROXY'] = 'http://127.0.0.1:8001' # 设置HTTP代理
os.environ['HTTPS_PROXY'] = 'http://127.0.0.1:8001' # 设置HTTPS代理

# 加载.env文件中的环境变量
load_dotenv()

# 在聊天开始时，创建一个模型实例和prompt模板
@cl.on_chat_start
async def on_chat_start():
 # 创建一个模型实例，启用流式输出
 model = ChatOpenAI(streaming=True)

 # 创建一个prompt模板
 prompt = ChatPromptTemplate.from_messages(
 [
 (
 "system",
 "你是一位知识渊博的历史学家，对历史问题提供了准确而雄辩的答案。",
 ),
 ("human", "{question}"),
 ]
 )
 # 创建一个Runnable对象，用于处理聊天请求
 runnable = prompt | model | StrOutputParser()
 # 将Runnable对象存储在用户会话中
 cl.user_session.set("runnable", runnable)

# 处理用户消息
@cl.on_message
async def on_message(message: cl.Message):
 # 从用户会话中获取Runnable对
 runnable = cast(Runnable, cl.user_session.get("runnable")) # type: Runnable
 # 创建一个空消息对象，用于流式输出
 msg = cl.Message(content="")
 # 异步处理聊天请求，并流式输出结果
 async for chunk in runnable.astream(
 {"question": message.content},
 config=RunnableConfig(callbacks=[cl.LangchainCallbackHandler()]),
 ):
 # 流式输出每个chunk
 await msg.stream_token(chunk)
 # 发送最终消息
 await msg.send()

这段代码为每个聊天会话设置了 Runnable 的一个实例，并为每个会话定制了一个 ChatPromptTemplate。每当用户发送消息时，就会调用 Runnable 来生成响应。

回调处理器负责监听链的中间步骤，并将它们发送到用户界面。

第 3 步：运行应用程序

要启动应用程序，请打开终端，导航到包含 chainlit-app.py 的目录。然后运行以下命令：

chainlit run chainlit-app.py -w

-w 标志告诉 Chainlit 启用自动重载，因此不需要每次对应用程序进行更改时都重新启动服务器。聊天机器人用户界面现在应该可以在 http://localhost:8000 上访问。

了解智能体开发更多细节，访问智能体Agent轻松入门专栏，内容包括：理解什么是智能体（AI Agent），基于LangChain开源框架从零开始实现简单的智能体开发，学习如何使用 LangSmith 监控工具监控和追踪智能体的内部运行，以及综合使用PyPDF2库、Qdrant 向量数据库、Agent智能体、OpenAI 大语言模型、Gradio库等技术来进行开发实践。

#头条创作游园会#