Saya memerlukan alur kerja berbasis API yang cocok untuk respons cepat dan tugas pembuatan konten berdurasi panjang.

Sediakan alur kerja berbasis API yang mendukung respons latensi rendah dan pekerjaan pembuatan konten berdurasi panjang. Hal ini memungkinkan pengembang untuk menggunakan satu antarmuka yang konsisten sambil memilih pola eksekusi yang tepat untuk setiap tugas.

Fitur ini menawarkan alur kerja berbasis API yang dirancang untuk menangani respons interaktif yang cepat dan tugas pembuatan konten yang lebih lama dalam integrasi yang sama. Fitur ini memungkinkan pengembang untuk mengarahkan permintaan singkat melalui jalur respons cepat agar pengalaman pengguna tetap responsif. Untuk tugas yang memerlukan waktu lebih lama—seperti membuat konten yang lebih panjang atau output multi-langkah—alur kerja ini mendukung pola asinkron atau berbasis pekerjaan. Hal ini mengurangi waktu tunggu (timeout) dan mencegah klien harus menjaga koneksi tetap terbuka selama pemrosesan berat. Alur kerja ini mempromosikan konvensi permintaan/respons yang konsisten sehingga tim dapat membangun sekali dan melakukan penskalaan di berbagai durasi tugas. Fitur ini dapat digunakan untuk meningkatkan keandalan dengan memisahkan interaksi langsung dari pekerjaan latar belakang. Fitur ini juga membantu tim produk memberikan UX yang lebih baik dengan mengembalikan pengakuan cepat sementara tugas yang lebih lama terus diproses. Kasus penggunaan umum mencakup interaksi seperti obrolan untuk jawaban instan dan pembuatan konten gaya batch yang mungkin memakan waktu lebih lama untuk diselesaikan. Secara keseluruhan, fitur ini menyederhanakan desain API dengan mendukung kebutuhan latensi campuran tanpa memerlukan sistem yang terpisah.