Created
Aug 8, 2024 07:01 AM
Favorite
Favorite
Priority
URL
https://mp.weixin.qq.com/s/C2-SQID4oJCZ9wjnDJK9XA
备注
推荐
类型
在人工智能快速发展的今天，语言模型（LLM, Large Language Model）如GPT-4已经在多个领域展现出了强大的能力。它们不仅能生成自然语言，还能通过调用外部工具来执行复杂的任务。这篇文章将详细介绍如何利用LLM来调用工具，并通过具体的案例展示其应用。

一、什么是工具调用 (Call Tools)

工具调用是指通过语言模型生成的参数来触发外部工具的执行。这些工具可以是计算程序、数据库查询、API请求等。尽管工具调用这个名称暗示模型直接执行某些操作，但实际上，模型只是生成工具所需的参数，真正的工具执行仍然由用户或系统来完成。

案例分析

假设我们有一个需要频繁查询天气信息的应用，通过工具调用，我们可以实现如下的工作流程：
  1. 用户在聊天窗口输入查询天气的请求，例如“明天北京的天气怎么样？”。
  1. 语言模型解析用户的请求，并生成调用天气API所需的参数。
  1. 系统接收这些参数，并调用相应的API获取天气信息。
  1. 最后，将天气信息返回给用户。

二、如何设置工具调用

要利用LLM来调用工具，通常需要以下几个步骤：
  1. 定义工具接口：明确需要调用的工具及其接口。例如，如果需要查询天气信息，需要知道天气API的请求格式和参数。
  1. 训练语言模型：让模型学习如何解析用户输入并生成相应的工具调用参数。这通常通过大规模的数据训练来实现。
  1. 集成工具：将生成的参数与实际的工具接口集成，使得模型生成的参数能够触发工具的执行。
  1. 处理响应：接收工具的响应，并将结果反馈给用户。

案例：查询天气信息

我们以查询天气信息为例，来详细讲解上述步骤。

1. 定义工具接口

假设我们使用一个天气API，该API的请求格式如下：

2. 训练语言模型

通过大量的对话数据，训练模型解析用户的自然语言输入，并生成API请求所需的参数。例如：
  • 用户输入：“明天北京的天气怎么样？”
  • 模型解析后生成的参数：city=北京，date=2024-08-06

3. 集成工具

将生成的参数拼接成API请求：
然后通过HTTP请求调用天气API，获取天气信息。

4. 处理响应

假设API返回的数据如下：
将这些信息解析后，反馈给用户：

三、具体案例分析

接下来，我们通过一个更为具体的案例，展示如何利用LLM调用工具来解决实际问题。

案例：自动化客户支持

假设一家电商公司希望通过智能客服系统来处理客户的查询。客户可能会询问订单状态、产品信息等。我们可以通过LLM和工具调用来实现这一自动化流程。

1. 定义工具接口

我们需要定义几个API接口，例如查询订单状态、产品信息等。
  • 查询订单状态API：
  • 查询产品信息API：

2. 训练语言模型

训练模型解析客户的输入，并生成相应的API请求。例如：
  • 客户输入：“我想知道订单12345的状态。”
  • 模型解析后生成的参数：order_id=12345

3. 集成工具

将生成的参数拼接成API请求，调用相应的接口。例如：
获取订单状态信息。

4. 处理响应

假设API返回的数据如下：
将这些信息解析后，反馈给客户：

扩展功能

除了查询订单状态，还可以扩展其他功能，例如：
  • 查询产品库存
  • 提交售后服务请求
  • 获取最新促销信息
通过这种方式，我们可以大大提升客服系统的自动化程度和响应速度，提供更好的客户体验。

四、代码实战

如下是代码细节：
如下是对以上代码的解析：
  1. 导入必要的模块和类：
      • 从langchain_core.pydantic_v1中导入BaseModel和Field，用于定义数据模型。
      • 从langchain_groq.chat_models中导入ChatGroq，用于创建和管理LLM模型。
  1. 定义数据模型：
      • 定义了两个数据模型类add和multiply，它们分别表示加法和乘法操作。每个类都继承自BaseModel，并包含两个整数字段a和b，使用Field定义字段属性和描述。
  1. 创建工具列表：
      • 将定义好的add和multiply类放入一个名为tools的列表中。
  1. 实例化聊天模型：
      • 使用提供的API密钥和模型参数，实例化一个ChatGroq对象llm。参数包括模型名称、温度、最大token数量、超时时间和最大重试次数。
  1. 绑定工具到模型：
      • 将工具列表绑定到聊天模型上，创建一个新的对象llm_with_tools，使其能够调用工具。
  1. 处理查询：
      • 定义一个查询字符串query，例如“12乘以2是多少？”。
      • 调用llm_with_tools对象的invoke方法，传入查询字符串，执行查询并获取响应结果，存储在ai_res变量中。
  1. 打印结果：
      • 打印ai_res，显示模型的响应结果。
      • 打印ai_res.tool_calls，显示模型在处理查询时调用工具的详细信息。
以上代码的执行结果如下图，可以看出call tools是对LLM的应用的延伸，以及其功能强大之处。
notion image
利用LLM调用工具，可以实现许多自动化的功能，从简单的信息查询到复杂的业务流程处理。通过定义工具接口、训练语言模型、集成工具和处理响应，我们可以构建出强大的智能系统，提升工作效率和用户体验。希望这篇文章能够帮助您更好地理解如何利用LLM来调用工具，并在实际应用中取得成功。
大家有什么问题，可以留言讨论。
Loading...