OpenAI向所有用户开放Decisions API决策模型
原文：OpenAI makes its Jev competitor widely available as decision model competition heats up
OpenAI首次向用户广泛开放其Decisions API模型，进军快速、低成本智能市场。该市场最近让TypeSafe——一家由该前沿实验室前研究员创立的初创公司——成为估值76亿美元的公司。TypeSafe的Jev模型开创了一类深度学习模型，充当超级分类器：给定一组选项，它们能快速做出选择并提供决策置信度评级。软件开发者很快发现，这些决策模型或“系统一”模型可在多种工作流中替代LLM，运行更快且成本大幅降低。OpenAI API产品负责人Nikunj Handa告诉TechCrunch，他的同事看到Jev后说“哇，我们有上百万个用例可以用这个”。Handa的团队迅速推出自己的版本：团队没有构建专门校准的决策模型，而是采用ChatGPT Luna并重新配置，以加快推理并降低成本。Handa说：“Decisions API的最大突破是速度，将时间从一到三秒缩短到100、120、180毫秒。”“未来，我们可能会进行特定训练，让模型在这些方面表现更好。但现在，只是普通的老Luna就完成了任务。”Decisions API于9月29日公司开发者日上宣布，周四向所有客户开放。OpenAI为公开版本新增了语音和视觉模态，并通过在地理上部署推理资源来确保全球各地区的低延迟。在Box、Datadog、Ramp和Speak等客户的初步试验中，工程师使用该API以更高吞吐量替代OpenAI的LLM。构建AI语言辅导工具的Speak首席技术官Andrew Hsu表示，Decisions API使公司将操作间隔时间从1.4秒缩短至0.13秒。OpenAI还利用该产品提升了其Dots语音助手的响应能力。