ChatGPT 官方 API,终于来了!

TiAmozhang
全栈领域优质创作者
博客专家认证
2023-03-06 13:10:50
加精

ChatGPT爆火之后,各种「自制API」层出不穷,中间商们也一个个赚得盆满钵满。

 

这次,OpenAI终于下定决心——正式开放ChatGPT API!

 

3 月 1 日,OpenAI 官方宣布,开发者现在可以通过 API 将 ChatGPT 和 Whisper 模型集成到他们的应用程序和产品中。

 

现在,不要耗费数年,不要投资数十亿美元,企业、个人开发者就能使用ChatGPT这样的当红顶流模型了!

而且,每输出100万个单词,价格才2.7美元(约18元人民币),比之前的GPT-3.5,成本直接降低了90%。

这个操作可谓拳拳到肉,所以,在ChatGPT背后苦追的硅谷大厂们,比如谷歌,还有活路吗?

太长不看版:

  • ChatGPT API——0.002美元,1000个token

  • Whisper API——0.001美元,10秒语音转录

  • 基于gpt-3.5-turbo模型,在微软Azure上运行

  • 大客户(每天超过4.5亿个token)选择专用实例更实惠

  •  

    默认情况下,提交的数据不再用于AI训练

     

 

价格打1折,人手一个ChatGPT

从今天起,开发者可以正式将ChatGPT集成到自己的产品和服务中了。并且,价格比其他现有的语言模型要便宜得多。

OpenAI此举,大大降低了技术研发成本。开发者将ChatGPT集成到自家应用和服务的门槛,将大大降低。

现在,谁都可以开发自己的ChatGPT了!

这无论对于企业还是个人开发者,都是重大利好,看来,全民AIGC时代,真的要来了。微信搜索公众号:架构师指南,回复:架构师 领取资料 。

唯一受到冲击的,当然就是其他研究底层模型的厂商了,比如早早宣布了Bard、但现在还没开放测试的谷歌。

显然,现在对于OpenAI来说,快速占据市场,才是一等一重要的事。为了把竞争对手甩在后面,成本什么的,可以暂且先不考虑。

 

ChatGPT和Whisper模型现已在我们的API 上可用,开发人员能够使用尖端语言(不仅仅是聊天!)和语音转文本功能。通过一系列系统范围的优化,自去年12月以来,我们已将ChatGPT的成本降低了90%;我们会让这些节省的资金惠及API用户。开发人员现在可以在API中使用我们的开源Whisper large-v2模型,获得更快且更具成本效益的结果。ChatGPT API用户可以期待持续的模型改进,选择专用容量,以更深入地控制模型的选项。我们还仔细听取了开发人员的反馈,并改进了我们的API服务条款,以更好地满足他们的需求。

此外,ChatGPT API的用法也十分简单,只需「import openai」即可。

 

成本直降90%

从公告中可以看到,OpenAI节省了成本的好处,API用户也可以共享了。

这次开放的模型被称为gpt-3.5-turbo,每1000个token的成本为0.002美元,比现有的GPT-3.5模型还要便宜90%。

之所以能这么便宜,在一定程度上要归功于「系统范围的优化」。

虽然1,000个token看起来很多,但其实,发送一段供API响应的文本,可能就会花费多个token。(token是指系统将句子和单词分解成的文本块,以预测接下来应该输出什么文本。)

根据OpenAI 的文档,「ChatGPT 很棒!」 有六个token——它的API会把这个句子分解为「Chat」、「G」、「PT」、「is」、「great」和「!」。

而OpenAI提供了一种工具来检查解释一串文本需要多少token,一般的经验是,「一个token通常对应于英语中的4 个字符」。

 

并且,根据OpenAI的说法,这个名为gpt-3.5-turbo的新模型系列是「许多非聊天用例的最佳模型」。

而早期的测试者如果想从text-davinci-003迁移到gpt-3.5-turbo,只需要对提示进行微小的改动即可。

ChatGPT API调用示例:

import openai

openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)

 ChatGPT API回应示例:

{
 'id': 'chatcmpl-6p9XYPYSTTRi0xEviKjjilqrWU2Ve',
 'object': 'chat.completion',
 'created': 1677649420,
 'model': 'gpt-3.5-turbo',
 'usage': {'prompt_tokens': 56, 'completion_tokens': 31, 'total_tokens': 87},
 'choices': [
   {
    'message': {
      'role': 'assistant',
      'content': 'The 2020 World Series was played in Arlington, Texas at the Globe Life Field, which was the new home stadium for the Texas Rangers.'},
    'finish_reason': 'stop',
    'index': 0
   }
  ]
}

 

官方认证:更快,更准,更强

如果要问,除了成本的差别,gpt-3.5-turbo这样的ChatGPT模型与旧的GPT模型还有什么不同呢?

答案是,前者处理的是「具有元数据的信息序列」,后者处理的是非结构化文本。

而且,gpt-3.5-turbo与必应使用的模型也不同,微软称之为「新的下一代OpenAI大型语言模型」,它比 ChatGPT 和 GPT3.5 「更快、更准确、更强大」。

当然,考虑到微软在OpenAI上投入的资金,它能够获得普通开发人员无法获得的技术,也就不足为奇了。更何况,微软还在Bing上大量使用自己的技术,就能获得更多的反馈。

有趣的是, 有网友发现,此次开发的API比网页版ChatGPT限制更小,更加「狂野」。比如,它可以细节地描述黄色和暴力的场景,还可以告诉你它不是AI,甚至是有意识的。

老板再也不用担心我泄密了

与此同时,OpenAI还表示,如果开发人员通过API运行大量数据,他们还能够获得专用的ChatGPT实例。这样可以让开发者更好地控制正在使用的模型,比如你希望它需要多长时间响应请求,以及与机器人的对话可以持续多长时间。

另外,OpenAI还宣布了一些政策的变更,这些变更都是基于开发者的反馈。

划重点!除非客户明确同意,否则它将不再使用通过API提交的数据来训练模型。

这种变化,大概会缓解很多人的担忧。此前很多公司就禁止员工使用ChatGPT,因为担心ChatGPT把用户输入的数据吐给其他人,从而泄露商业机密。

OpenAI表示,正在努力提高正常运行时间,现在「工程团队的首要任务就是是生产用例的稳定性。」

此前,就有很多开发者在自己的应用中使用OpenAI的常规GPT API了,而如今,官方ChatGPT API的引入彻底打开了闸门。

 

对API具体的更改包括:

  • 通过API提交的数据不再用于服务改进(包括模型训练),除非企业选择加入

  • 为API用户实施默认保留30天数据,并根据用户需求提供更严格的保留选项

  • 删除发布前审查(通过改进自动监控解锁)

  • 改进开发人员文档

  • 简化服务条款和使用政策,包括有关数据所有权的条款:用户拥有模型的输入和输出

 

语音转文字,1秒仅需0.1美分

除了ChatGPT API外,OpenAI还发布了Whisper API——一个由AI驱动的语音到文本模型。

它可以用来转录或翻译音频,费用为每分钟0.006美元。

从技术上讲,Whisper模型不仅是开源的,而且还受到了开发者社区的盛赞。

但如果需要实现语音到文本的快速转录,或者在手机等边缘设备上运行,那么能够利用OpenAI强大的硬件的Whiper AI,就是最佳选择了。

和ChatGPT AI一样,import一下openai就行了。

 

社交、学习、购物,这些APP都已经用上了

既然OpenAI开放的是API,那么我们思路就要打开了。

毕竟,AI聊天机器人能做可不只是「聊天」。

Snapchat

本周,Snap公司为Snapchat+订阅用户推出了My AI——一项基于ChatGPT API的实验性功能。

据了解,这个可定制的聊天机器人不仅可以提供建议,甚至可以在几秒钟内为朋友写一首俳句。目前,Snapchat的月活用户已经达到7.5亿。

 

Shop

Shopify通过ChatGPT API,为自家用户量达到1亿的应用程序Shop创建了一个「智能导购」。

当消费者搜索产品时,AI就会根据他们的要求进行个性化的推荐。据了解,Shop的AI助理将通过扫描数百万种产品来简化购物流程,从而帮助用户快速找到自己想要的东西。

 

Quizlet

Quizlet是一个6000多万学生都在使用学习平台。过去三年,Quizlet与OpenAI合作,在多个用例中利用GPT-3,包括词汇学习和实践测试。

随着ChatGPT API的推出,Quizlet也发布了Q-Chat——一个可以基于相关的学习材料提出自适应问题,并通过富有趣味性的聊天体验来吸引学生的「AI老师」。

 

Speak

Speak是韩国发展最快的英语学习应用,可以为不同水平的语言学习者提供真正的开放式对话练习和高度准确的反馈。

现在,Speak正利用Whisper API为一个新的AI语音产品提供技术支持,并迅速将其推向全球其他地区。

 

此前,有些开发者试着自己在应用中接入OpenAI的常规GPT API,却无法达到ChatGPT的效果。

这次,OpenAI正式打开了官方的ChatGPT API,为广大开发者打开了新的大门。

不管OpenAI此举是抢夺市场的商业策略,还是希望所有开发者共同参与模型功能的迭代,开发出更有商业价值和创造力的应用,现在可以说,ChatGPT是真正成为了全人类的财富。

 

...全文
233 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

18,532

社区成员

发帖
与我相关
我的任务
社区描述
分享开发工作中的心得,记录编程过程中的所想所悟!
harmonyos华为云微信小程序 个人社区 江苏省·常州市
社区管理员
  • TiAmo zhang
  • 小威要向诸佬学习呀
  • bit..
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧