ai ai千问 通义千问API：让大模型写代码和跑代码

使用阿里云的云控制 API，它可以让你使用风格一致的 API 管理绝大多数阿里云资源。

你可以尝试运行以下查询：

python more_tools/search-with-tools.py --question="我在上海有没有VPC"

输出内容

正在分析内容...
最终答案：您在上海拥有名为“vpc-123456”的VPC资源。详细信息包括：[此处列出VPC详细信息]。

你可以尝试查询ECS安全组：

python more_tools/search-with-tools.py --question="列出我在杭州的ECS安全组"

输出内容

正在分析内容...
使用工具：ECSSearch...
查询内容：杭州 ECS 安全组 列出...
查询到参考信息：这是 json 格式的 ECS 列表信息：{'maxResu...
正在分析内容...
最终答案：当前在杭州地域没有查到任何ECS安全组。列表信息如下：{'maxResults': 2, 'requestId': '0F3B5EAD-C386-5116-9748-10336CD31D93', 'resources': [], 'totalCount': 0}

由于本章使用的测试账号没有开通ECS服务，因此反馈没有查询到ECS实例。

您可以 通过阿里云权益中心购买的 99 元/年的经济型 2核2G ECS 实例，新老客户都可以购买，并且后续可以 99 元续费。您可以参考 阿里云便宜服务器优惠合集参与优惠活动3.5 让代码更好维护

以上我们仿照的代码风格构造了Agent工具调用方法，读者可以根据自己的喜好来定义类似的Agent类。但是工具越多，代码管理起来越难。特别是不同工具导致大模型输出性能没有对齐的情况下，工具之间也有可能出现性能差异，代码维护难度较大。因此，我们可以看一下的实现方法是什么样。

有人说 「 是大模型时代的 」。 确实就像 一样，是一个框架，合理的使用它，可以使得代码更清晰，更易维护。

我们直接来看一下，通过 重构后的代码吧：

# -*- coding: utf-8 -*-
import sys
from langchain import hub
from langchain.agents import AgentExecutor
from langchain.agents import create_react_agent
from langchain_community.llms import Tongyi
from tools.aliyun_resource_tool import AliyunResourceTool
from tools.auto_coding_tool import AutoCodingTool
from tools.service_search_tool import SearchTool
model = Tongyi()
model.model_name = 'qwen-max'
model.model_kwargs = {'temperature': 0.5}
tools = [
    AliyunResourceTool(),
    AutoCodingTool(),
    SearchTool()
]
prompt = hub.pull("hwchase17/react")
agent = create_react_agent(model, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)
if len(sys.argv) < 2:
    print('请输入问题')
    sys.exit(1)
question = sys.argv[1]
print('问题：' + question)
result = agent_executor.invoke({'input': question})
print(result['output'])

4. 让通义千问自己写代码解决问题

如果我们想让通义千问可以帮我们查询天气、根据 URL 读取文档里的一些信息，我们就要不断的添加工具，我并不擅长写代码，该怎么办？

针对这个问题，有好几个解决办法：

耐着性子学习一下写代码。遇到问题时你可以使用通义千问等大模型来教你如何写代码。

在你的 IDE 上安装通义灵码，它会根据你的注释自动编写代码，让写代码变得更加简单。

看到这里，机智的你可能会想到，既然通义千问都能自己根据需求写代码了，那是不是可以自动生成并运行代码来解决问题？

这里我们基于 al.tools. 封装一个自动代码生成工具，生成一个。

对象初始化部分如：

tools = [PythonREPLTool()]
model = Tongyi()
model.model_name = 'qwen-max'
...
...
agent = create_react_agent(model, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

自动代码生成工具的类定义如下

class AutoCodingTool(BaseTool):
    """自动编写代码并执行的工具"""
    name: str = "自动编写并运行代码的工具"
    description: str = (
        "此工具适用于天气查询、加载页面、数学运算，需要将结果通过 print 函数打印出来：print(result)。"
        "查询天气时，可以请求 http://wttr.in 获取对应城市天气。"
        "根据URL链接加载页面内容任务时，可以使用 requests 库。"
    )
    def _run(self, task: str) -> str:
        result = agent_executor.invoke({'input': '请编写并运行 python 代码来解决这个问题：' + task + '。记得使用 print() 函数将结果打印出来'})
        return result['output']

下面我们来看看大模型遇到不懂的问题就写代码来查询答案的整体效果。

4.1 让通义千问自己写代码来实现功能

我们基于的接口重新定义了一个可以自动写代码完成任务的Agent，代码在文件ain/-with-tools.py中。

! python refactor_with_langchain/answer-with-tools.py '加载并列出这个页面的二级标题https://help.aliyun.com/zh/oss/product-overview/what-is-oss'

输出内容

问题：加载并列出这个页面的二级标题https://help.aliyun.com/zh/oss/product-overview/what-is-oss
> Entering new AgentExecutor chain...
 我需要使用自动编写并运行代码的工具来加载页面内容，并从中提取二级标题。
Action: 自动编写并运行代码的工具
Action Input: 
···
import requests
from bs4 import BeautifulSoup
# 加载页面内容
response = requests.get('https://help.aliyun.com/zh/oss/product-overview/what-is-oss')
soup = BeautifulSoup(response.text, 'html.parser')
# 提取二级标题（h2标签）
second_level_headers = soup.find_all('h2')
# 打印二级标题
for header in second_level_headers:
    print(header.text)
···
··· (代码省略，如果有兴趣可以查看demo并执行)
···
> Finished chain.
页面https://help.aliyun.com/zh/oss/product-overview/what-is-oss的二级标题包括：
1. 快速了解OSS
2. OSS工作原理
3. OSS重要特性
4. OSS使用方式
5. OSS计费
6. 其他相关服务
7. 其他阿里云存储服务

4.2 让通义千问自己实现天气查询

我们在注释中告诉了大模型查询天气的地址，现在我们来看看他如何自己写代码来查询天气

"查询天气时，可以请求 获取对应城市天气。"

执行如下代码

! python refactor_with_langchain/answer-with-tools.py '杭州气温如何'

输出内容

问题：杭州气温如何
> Entering new AgentExecutor chain...
 我需要通过自动编写并运行代码的工具来查询杭州的天气
Action: 自动编写并运行代码的工具
Action Input:
···
import requests
response = requests.get('http://wttr.in/杭州')
weather_info = response.text
print(weather_info)
···
··· (代码省略，如果有兴趣可以查看demo并执行)
···
> Finished chain.
杭州目前天气晴朗，气温为23°C（体感温度25°C），风速22公里/小时，能见度8公里，当前无降水。未来几天预报显示有局部多云到小雨的天气变化，气温和风速也有所波动。

5. 总结

通过本章的学习，你学会了如何通过 来大幅简化你的代码。

接下来你可能已经迫不及待地想要添加更多工具了。但是在一个 agent 里不断叠加 tool 会让提示词越来越长，最后可能会超过 token 限制。

为了解决这一问题，你还可以配置一个基于语义相似度的路由，让最前端的 agent 判断该让背后哪个领域的 agent 回答问题，背后的 agent 再去选取该领域合适的 tool 解答问题，最终由最前端的 agent 总结答案给用户。

更令人兴奋的是，你的程序可以自己根据需求编写并运行代码来解决问题了。

目前大模型生成的代码可能会曲解你的需求，导致答案不那么符合预期，你可以进一步完善提示词，甚至是使用搜索工具，来给通义千问一些代码参考，来让它更准确。与此同时，随着通义千问等大模型的不断演进，未来终有一天，它会在绝大多数场景下都能高效且正确的写出代码，解答你的问题。

6. 参考资料7. 本章代码8. 继续学习