AI全知道-如何利用LLM来调用工具 (Call Tools)

Created

Aug 8, 2024 07:01 AM

Favorite

Priority

URL

https://mp.weixin.qq.com/s/C2-SQID4oJCZ9wjnDJK9XA

备注

一、什么是工具调用 (Call Tools)

工具调用是指通过语言模型生成的参数来触发外部工具的执行。这些工具可以是计算程序、数据库查询、API请求等。尽管工具调用这个名称暗示模型直接执行某些操作，但实际上，模型只是生成工具所需的参数，真正的工具执行仍然由用户或系统来完成。

案例分析

假设我们有一个需要频繁查询天气信息的应用，通过工具调用，我们可以实现如下的工作流程：

用户在聊天窗口输入查询天气的请求，例如“明天北京的天气怎么样？”。

语言模型解析用户的请求，并生成调用天气API所需的参数。

系统接收这些参数，并调用相应的API获取天气信息。

最后，将天气信息返回给用户。

二、如何设置工具调用

要利用LLM来调用工具，通常需要以下几个步骤：

定义工具接口：明确需要调用的工具及其接口。例如，如果需要查询天气信息，需要知道天气API的请求格式和参数。

训练语言模型：让模型学习如何解析用户输入并生成相应的工具调用参数。这通常通过大规模的数据训练来实现。

集成工具：将生成的参数与实际的工具接口集成，使得模型生成的参数能够触发工具的执行。

处理响应：接收工具的响应，并将结果反馈给用户。

案例：查询天气信息

我们以查询天气信息为例，来详细讲解上述步骤。

1. 定义工具接口

假设我们使用一个天气API，该API的请求格式如下：

2. 训练语言模型

通过大量的对话数据，训练模型解析用户的自然语言输入，并生成API请求所需的参数。例如：

用户输入：“明天北京的天气怎么样？”

模型解析后生成的参数：city=北京，date=2024-08-06

3. 集成工具

将生成的参数拼接成API请求：

然后通过HTTP请求调用天气API，获取天气信息。

4. 处理响应

假设API返回的数据如下：

将这些信息解析后，反馈给用户：

三、具体案例分析

接下来，我们通过一个更为具体的案例，展示如何利用LLM调用工具来解决实际问题。

案例：自动化客户支持

假设一家电商公司希望通过智能客服系统来处理客户的查询。客户可能会询问订单状态、产品信息等。我们可以通过LLM和工具调用来实现这一自动化流程。

1. 定义工具接口

我们需要定义几个API接口，例如查询订单状态、产品信息等。

查询订单状态API：

查询产品信息API：

2. 训练语言模型

训练模型解析客户的输入，并生成相应的API请求。例如：

客户输入：“我想知道订单12345的状态。”

模型解析后生成的参数：order_id=12345

3. 集成工具

将生成的参数拼接成API请求，调用相应的接口。例如：

获取订单状态信息。

4. 处理响应

假设API返回的数据如下：

将这些信息解析后，反馈给客户：

扩展功能

除了查询订单状态，还可以扩展其他功能，例如：

查询产品库存

提交售后服务请求

获取最新促销信息

通过这种方式，我们可以大大提升客服系统的自动化程度和响应速度，提供更好的客户体验。

四、代码实战

如下是代码细节：

如下是对以上代码的解析：

导入必要的模块和类：

从langchain_core.pydantic_v1中导入BaseModel和Field，用于定义数据模型。

从langchain_groq.chat_models中导入ChatGroq，用于创建和管理LLM模型。

定义数据模型：

定义了两个数据模型类add和multiply，它们分别表示加法和乘法操作。每个类都继承自BaseModel，并包含两个整数字段a和b，使用Field定义字段属性和描述。

创建工具列表：

将定义好的add和multiply类放入一个名为tools的列表中。

实例化聊天模型：

使用提供的API密钥和模型参数，实例化一个ChatGroq对象llm。参数包括模型名称、温度、最大token数量、超时时间和最大重试次数。

绑定工具到模型：

将工具列表绑定到聊天模型上，创建一个新的对象llm_with_tools，使其能够调用工具。

处理查询：

定义一个查询字符串query，例如“12乘以2是多少？”。

调用llm_with_tools对象的invoke方法，传入查询字符串，执行查询并获取响应结果，存储在ai_res变量中。

打印结果：

打印ai_res，显示模型的响应结果。

打印ai_res.tool_calls，显示模型在处理查询时调用工具的详细信息。

以上代码的执行结果如下图，可以看出call tools是对LLM的应用的延伸，以及其功能强大之处。

利用LLM调用工具，可以实现许多自动化的功能，从简单的信息查询到复杂的业务流程处理。通过定义工具接口、训练语言模型、集成工具和处理响应，我们可以构建出强大的智能系统，提升工作效率和用户体验。希望这篇文章能够帮助您更好地理解如何利用LLM来调用工具，并在实际应用中取得成功。

大家有什么问题，可以留言讨论。