欢迎光临散文网 会员登陆 & 注册

OpenAI 函数调用 功能入门

2023-06-21 11:39 作者:AI小火箭  | 我要投稿

作者:AI小火箭的HB

我是AI小火箭HB,我探索和写作人工智能和语言交叉点的所有事物,范围从LLM,聊天机器人,语音机器人,开发框架,以数据为中心的潜在空间等。


范例


图片


初步体验

OpenAI新增了“函数调用”功能,这是什么呢?

我们先调用API来体验下。

下面是发送到模型的 JSON 文档。此调用的目的是生成一个 JSON 文件,该文件可用于发送到发送电子邮件的 API。

您可以看到函数名称为 send_email,并定义了三个参数, to_addresssubjectbody ,即电子邮件正文。

用户请求为:Send Cobus from humanfirst ai an email asking for the monthly report?






 "model": "gpt-3.5-turbo-0613",
 "messages": [
   {"role": "user", "content": "Send Cobus from humanfirst ai an email asking for the monthly report?"}
 ],
 "functions": [
   {
     "name": "send_email",
     "description": "Please send an email.",
     "parameters": {
       "type": "object",
       "properties": {
         "to_address": {
           "type": "string",
           "description": "To address for email"
         },          
         "subject": {
           "type": "string",
           "description": "subject of the email"
         },
         "body": {
           "type": "string",
           "description": "Body of the email"
         }
       }
     }
   }
 ]
}'

下面是返回的 JSON


{
   "id": "chatcmpl-7TQuwzJpQAY470saQM2RPfxwF6DDE",
   "object": "chat.completion",
   "created": 1687249338,
   "model": "gpt-3.5-turbo-0613",
   "choices": [
       {
           "index": 0,
           "message": {
               "role": "assistant",
               "content": null,
               "function_call": {
                   "name": "send_email",
                   "arguments": "{\n  \"to_address\": \"cobus@humanfirst.ai\",\n  \"subject\": \"Request for Monthly Report\",\n  \"body\": \"Hi Cobus,\\n\\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\\n\\nThanks,\\n[Your Name]\"\n}"
               }
           },
           "finish_reason": "function_call"
       }
   ],
   "usage": {
       "prompt_tokens": 86,
       "completion_tokens": 82,
       "total_tokens": 168
   }
}

GPT模型会返回需要调用的函数名 send_email和对应的参数(放在arguments字段)。


{
 "to_address": "cobus@humanfirst.ai",
 "subject": "Request for Monthly Report",
 "body": "Hi Cobus,\n\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\n\nThanks,\n[Your Name]"
}

这就非常有用,第三方的应用可以提供多个函数/服务(类似插件),GPT模型可以根据用户的指令自动选择不同的函数/服务。


现在再来看示例,就比较清晰了。

图片


用途

根据官网文档,函数调用允许您更可靠地从模型中获取结构化数据。例如,您可以:

  • 创建聊天机器人,通过调用外部 API 来回答问题(例如 ChatGPT 插件)

    • 例如,定义像 send_email(to: string, body: string)get_current_weather(location: string, unit: 'celsius' | 'fahrenheit') 这样的函数

  • 将自然语言转换为 API 调用

    • 例如,将“谁是我的顶级客户?”转换为 get_customers(min_revenue: int, created_before: string, limit: int) 并调用您的内部 API

  • 从文本中提取结构化数据

    • 例如,定义一个名为 extract_data(name: string, birthday: string)sql_query(query: string) 的函数


函数调用的基本步骤顺序如下:

  1. 使用用户查询和函数参数中定义的一组函数调用模型。

  2. 模型可以选择调用函数;如果是这样,内容将是符合自定义架构的字符串化 JSON 对象(注意:模型可能会生成无效的 JSON 或幻觉参数)。

  3. 在代码中将字符串解析为 JSON,并使用提供的参数调用函数(如果存在)。

  4. 通过将函数响应追加为新消息来再次调用模型,并让模型将结果汇总回给用户。


AI小火箭

AI小火箭已经支持函数调用和gpt-3.5-turbo-16kgpt-3.5-turbo-0613gpt-3.5-turbo-16k-0613,大家可以去体验下。



本文使用 文章同步助手 同步


OpenAI 函数调用 功能入门的评论 (共 条)

分享到微博请遵守国家法律