你接受的训练数据截至到2023年10月。

GPT-4o mini

OpenAI表示，他们正在通过其最具成本效益的小型语言模型推进高效智能。

引言

今天，Sam Altman指出，在2022年，世界上最好的模型是text-davinci-003，但其表现远不如GPT-4o mini，而且成本高出100倍。GPT-4o-mini 已经在 OpenAI Playground 中可用

GPT-4o-mini 的优势

• GPT-4o mini 在 API 和 playground 中支持文本和视觉。
• 图像、视频和音频的输入和输出将在未来推出。
• 模型的上下文窗口为 128K tokens，知识截止至 2023 年 10 月。
• 该模型具备多语言能力。
• 推理速度提升。
• 推理速度和成本的结合使该模型非常适合需要多次并行调用模型的代理应用。
• GPT-4o mini 的微调将在不久后推出。
• 成本：每百万个输入 tokens 15 美分，每百万个输出 tokens 60 美分。

考虑因素

• 对于开源的 SLM，激动人心的部分是可以在本地运行模型，并通过本地推理完全控制模型。
• 在 OpenAI 的情况下，由于其商业托管的 API 模型，这并不适用。
• 因此，OpenAI 更注重速度、成本和能力。
• 同时也跟随小模型的趋势。
• 有许多高能力的基您接受的培训数据截至2023年10月。

这是发送至GPT-4o-mini的图像示例，以及语言模型在分析图像后的响应。

小型语言模型提供了几种优势：

本地推理

它们实现了高效的设备内处理，减少了对云资源的需求。这对于小型语言模型而言是普遍适用的，显然OpenAI的产品将是基于商业API的。

成本

小型模型的运行成本更低，所需的计算能力和存储空间较少。

隐私

通过本地处理数据，它们增强了用户隐私，减少了数据泄露风险。

开源模型

它们提供了灵活性和定制选项，允许用户根据特定需求修改和调整模型。

模型控制和管理

它们允许更容易的控制和管理，使得针对特定任务的微调和优化变得更加便捷，无需依赖外部依赖项。