智东西 3 月 2 日报道,今日凌晨,OpenAI 放出了真正的 ChatGPT API,不是背后的 GPT-3.5 大模型,是 ChatGPT 的本体模型!ChatGPT API 价格为 1k tokens/$0.002,等于每输出 100 万个单词,价格才 2.7 美金(约 18 元人民币),比已有的 GPT-3.5 模型便宜 10 倍。手快的开发者可以冲了!
这将大大降低开发人员将 ChatGPT 集成到自家应用和服务的门槛,构建属于自己的 AI 聊天机器人。而且 OpenAI 将 ChatGPT 从去年 12 月至今的成本砍掉了 90%,令此前许多靠开发私有 ChatGPT API 接口赚差价的中间商们再无用武之地。
ChatGPT 官方 API 基于 GPT-3.5-turbo 模型,是 GPT-3.5 系列中最快速、最便宜、最灵活的模型。开发者可以通过 OpenAI Playground 和 OpenAI Codex 来使用和测试 ChatGPT OpenAI。
此前一些公司已经率先接入 ChatGPT API,包括生鲜电商平台 Instacart、跨境电商平台 Shopify、照片分享应用 Snap、单词背诵应用 Quizlet 等,用于提高客户服务、营销、教育等效率及体验。
OpenAI 还在不断改进其 ChatGPT 模型,并希望将增强功能也提供给开发人员。
使用该 gpt-3.5-turbo 模型的开发人员将始终获得 OpenAI 发布的稳定模型,同时仍然可以灵活地选择特定模型版本。例如,今天发布的 gpt-3.5-turbo-0301,它至少会在 6 月 1 日之前推出特定版本,OpenAI 会将 gpt-3.5-turbo 在 4 月更新到新的稳定版本。
此外,OpenAI 还推出了基于 large-v2 模型的 Whisper 官方 API。Whisper 是 OpenAI 去年 9 月发布的开源自动语音识别(ASR)模型。开发者可用该功能来转录或翻译音频,费用为每分钟 0.006 美元。
API 地址:
https://api.openai.com/v1/chat/completions
OpenAI 官方宣布,其发布的 ChatGPT 模型系列与 ChatGPT 产品中使用的模型相同,对于许多非聊天应用场景,这仍然是他们的最佳模型。
一些早期的开发人员,从“text-davinci-003”模型迁移至“gpt-3.5-turbo”只需根据提示进行少量调整。
一般情况下,GPT 模型数据使用的是电子邮件文本、推特信息、博客、新闻等信息中的非结构化文本,这些文本在模型中表现为一系列的“Tokens”,tokens 可以被看作将文本切分成的若干个片段,1000 个 tokens 大约是 750 个单词。
而 ChatGPT 则改为使用一系列消息和元数据的新格式。在底层,输入仍然以 tokens 序列呈现给模型,模型使用的原始格式就变为一种聊天标记语言 ChatML 的新格式。
OpenAI 创建了一个新端点来与 ChatGPT 模型进行交互。
值得注意的是,虽然 0.002 美元 1000 个 tokens 的价格并不贵,但 1000 个 tokens 在实际使用中数量并不算多,发送一段文本供 API 响应就可能会花费多个 tokens。
例如一个简单的字符串“ChatGPT is great!”,就被编码为六个 tokens:“Chat”、“G”、“PT”、“ is”、“ great”、“!”.
OpenAI 提供了一种工具来检查解释一串文本需要多少标记,并介绍称一般的经验法则是一个 token 通常对应于约 4 个字符。
OpenAI 还将为希望控制特定型号版本和系统性能的用户提供专用实例(Dedicated instances),也就是希望通过 API 运行大量数据的开发人员。
默认情况下,开发人员是按照需求来付费,并且这些需求会执行在共享的计算基础设施之上。使用专用实例,开发人员将按照时间段支付,分配计算基础设施的费用,而这些基础设施就是专门为这些开发人员保留的。
专用实例下,开发人员可以更好地控制使用的模型,包括希望它响应请求需要的时间以及与机器人对话可以持续多长时间等。
对于每天运营超过 4.5 亿 tokens 的开发人员来说,专用实例可能性价比更高。
此外,这一条件下还可以根据硬件性能直接优化开发人员的工作负载,这可以显著降低与共享基础设施相关的成本。
此前已经有几家公司接入 ChatGPT API 来创建聊天界面。
照片分享应用 Snap,本周推出通过 ChatGPT API 接入的“My AI for Snapchat+”功能,其提供了一个友好的、可定制的聊天机器人。用户通过手机就可以与它聊天获得建议,并在几秒内为朋友写一个笑话。
单词背诵应用 Quizlet 推出了Q-Chat,可以让学生通过有趣的聊天体验中提供的学习材料,来提出相应问题获得知识。
生鲜电商平台 Instacart 计划在今年晚些时候推出“Ask Instacart”,这一功能可以帮助用户在询问食物相关问题时获得一些想法,例如用户可以问“对我的孩子来说,什么是健康的午餐?”
跨境电商平台 Shopify 的新购物助手,将会根据购物者的需求进行个性化推荐,通过扫描数百万种产品来简化应用程序内购物的步骤,以快速找到买家正在寻找的东西。
除了引人关注的 ChatGPT API 外,OpenAI AI 驱动的语音转文本模型也可以通过 API 接入,该公司正在对其开发人员服务条款进行一些重要更改。
开发人员可以使用这一功能来转录或翻译音频,费用为每分钟 0.006 美元。
从技术上讲,Whisper 模型是开源的,因此开发人员无需支付任何费用也可以在自己的硬件上运行它。
但是,如果在一些特殊情况下,例如开发人员对接入效率的要求较高以及需要在手机等低功率设备上转录。就可以通过 OpenAI 提供的更强大 API。
除了开放 API 外,OpenAI 还基于开发人员反馈宣布了一些政策变更:通过 API 提交的数据不再用于服务改进(包括模型训练),除非相应的公司选择或者统同意加入;为 API 用户实施默认的 30 天数据保留政策,并根据用户需求提供更严格的保留选项;通过改进自动监控解锁来删除 OpenAI 发布前审查;改进开发人员文档;简化其服务条款和使用政策,包括有关数据所有权的条款:用户拥有模型的输入和输出。
结语:OpenAI 为开发者打开 AI 应用大门
此前,一些开发人员已经找到了在自己的应用程序中接入聊天机器人的解决办法,那就是使用 OpenAI 的常规 GPT API,但从应用和开发难度来看,都没有达到最佳效果。
对于大多人开发人员来说,开发如同 ChatGPT 这样的自己的聊天机器人模型是完全遥不可及的,但此次官方将 ChatGPT API 正式打开,且其花费的价格并不高,为开发人员构建聊天机器人打开大门。
OpenAI 的官方博客中也谈道,他们认为人工智能可以为每个人提供难以置信的机会,而实现这一目标的最佳方式就是让每个人都可以利用它进行开发。