提供一个支持低延迟响应和长时间内容生成作业的 API 驱动工作流。这使开发人员能够使用统一的接口，同时为每项任务选择合适的执行模式。
此功能提供了一种 API 驱动的工作流，旨在在同一集成中处理快速交互式响应和长时间内容生成任务。它允许开发人员通过快速响应路径路由短请求，以保持用户体验的响应速度。对于需要更多时间的任务（例如生成较长内容或多步输出），该工作流支持异步或基于作业的模式。这减少了超时，并防止客户端在繁重处理期间保持连接打开。该工作流提倡一致的请求/响应约定，以便团队可以一次构建并跨不同任务持续时间进行扩展。它可以通过将即时交互与后台工作分离来提高可靠性。它还通过在长时间任务继续处理时返回快速确认，帮助产品团队提供更好的用户体验。典型用例包括用于即时回答的聊天式交互和可能需要更长时间完成的批处理式内容创建。总的来说，它通过支持混合延迟需求而无需单独的系统，从而简化了 API 设计。
外部资源
https://spicyapi.ai/
如果您知道某个工具或方法可以帮助人们解决我们尚未涵盖的问题，我们很乐意听取。
我们将在48小时内审核 我们会审核和测试每个技能 我们阅读每一份提交