Skip to main content
使用 Graph API:
# 步骤 0:定义工具和模型

from langchain_core.tools import tool
from langchain.chat_models import init_chat_model

llm = init_chat_model(
    "anthropic:claude-3-7-sonnet-latest",
    temperature=0
)


# 定义工具
@tool
def multiply(a: int, b: int) -> int:
    """将 a 和 b 相乘。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a * b


@tool
def add(a: int, b: int) -> int:
    """将 a 和 b 相加。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a + b


@tool
def divide(a: int, b: int) -> float:
    """将 a 除以 b。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a / b


# 为 LLM 绑定工具
tools = [add, multiply, divide]
tools_by_name = {tool.name: tool for tool in tools}
llm_with_tools = llm.bind_tools(tools)

# 步骤 1:定义状态

from langchain_core.messages import AnyMessage
from typing_extensions import TypedDict, Annotated
import operator

class MessagesState(TypedDict):
    messages: Annotated[list[AnyMessage], operator.add]
    llm_calls: int

# 步骤 2:定义模型节点
from langchain_core.messages import SystemMessage
def llm_call(state: dict):
    """LLM 决定是否调用工具"""

    return {
        "messages": [
            llm_with_tools.invoke(
                [
                    SystemMessage(
                        content="你是一个乐于助人的助手,负责对一组输入执行算术运算。"
                    )
                ]
                + state["messages"]
            )
        ],
        "llm_calls": state.get('llm_calls', 0) + 1
    }


# 步骤 3:定义工具节点


from langchain_core.messages import ToolMessage

def tool_node(state: dict):
    """执行工具调用"""

    result = []
    for tool_call in state["messages"][-1].tool_calls:
        tool = tools_by_name[tool_call["name"]]
        observation = tool.invoke(tool_call["args"])
        result.append(ToolMessage(content=observation, tool_call_id=tool_call["id"]))
    return {"messages": result}

# 步骤 4:定义逻辑以决定是否结束

from typing import Literal
from langgraph.graph import StateGraph, START, END

# 条件边函数,根据 LLM 是否进行了工具调用路由到工具节点或结束
def should_continue(state: MessagesState) -> Literal["tool_node", END]:
    """根据 LLM 是否进行了工具调用,决定是否继续循环或停止"""

    messages = state["messages"]
    last_message = messages[-1]
    # 如果 LLM 进行了工具调用,则执行一个动作
    if last_message.tool_calls:
        return "tool_node"
    # 否则,我们停止(回复用户)
    return END

# 步骤 5:构建代理

# 构建工作流
agent_builder = StateGraph(MessagesState)

# 添加节点
agent_builder.add_node("llm_call", llm_call)
agent_builder.add_node("tool_node", tool_node)

# 添加边以连接节点
agent_builder.add_edge(START, "llm_call")
agent_builder.add_conditional_edges(
    "llm_call",
    should_continue,
    ["tool_node", END]
)
agent_builder.add_edge("tool_node", "llm_call")

# 编译代理
agent = agent_builder.compile()


from IPython.display import Image, display
# 显示代理
display(Image(agent.get_graph(xray=True).draw_mermaid_png()))

# 调用
from langchain_core.messages import HumanMessage
messages = [HumanMessage(content="3 加 4 等于多少?")]
messages = agent.invoke({"messages": messages})
for m in messages["messages"]:
    m.pretty_print()

使用函数式 API:
# 步骤 0:定义工具和模型

from langchain_core.tools import tool
from langchain.chat_models import init_chat_model

llm = init_chat_model(
    "anthropic:claude-3-7-sonnet-latest",
    temperature=0
)


# 定义工具
@tool
def multiply(a: int, b: int) -> int:
    """将 a 和 b 相乘。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a * b


@tool
def add(a: int, b: int) -> int:
    """将 a 和 b 相加。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a + b


@tool
def divide(a: int, b: int) -> float:
    """将 a 除以 b。

    参数:
        a: 第一个整数
        b: 第二个整数
    """
    return a / b


# 为 LLM 绑定工具
tools = [add, multiply, divide]
tools_by_name = {tool.name: tool for tool in tools}
llm_with_tools = llm.bind_tools(tools)

from langgraph.graph import add_messages
from langchain_core.messages import (
    SystemMessage,
    HumanMessage,
    BaseMessage,
    ToolCall,
)
from langgraph.func import entrypoint, task

# 步骤 1:定义模型节点
@task
def call_llm(messages: list[BaseMessage]):
    """LLM 决定是否调用工具"""
    return llm_with_tools.invoke(
        [
            SystemMessage(
                content="你是一个乐于助人的助手,负责对一组输入执行算术运算。"
            )
        ]
        + messages
    )


# 步骤 2:定义工具节点
@task
def call_tool(tool_call: ToolCall):
    """执行工具调用"""
    tool = tools_by_name[tool_call["name"]]
    return tool.invoke(tool_call)


# 步骤 3:定义代理
@entrypoint()
def agent(messages: list[BaseMessage]):
    llm_response = call_llm(messages).result()

    while True:
        if not llm_response.tool_calls:
            break

        # 执行工具
        tool_result_futures = [
            call_tool(tool_call) for tool_call in llm_response.tool_calls
        ]
        tool_results = [fut.result() for fut in tool_result_futures]
        messages = add_messages(messages, [llm_response, *tool_results])
        llm_response = call_llm(messages).result()

    messages = add_messages(messages, llm_response)
    return messages

# 调用
messages = [HumanMessage(content="3 加 4 等于多少?")]
for chunk in agent.stream(messages, stream_mode="updates"):
    print(chunk)
    print("\n")