Nội dungStreaming
Quay lại tài liệu

Streaming

Đọc sự kiện, usage và lỗi cuối luồng.

Luồng có thể chứa sự kiện usage không có choices, dấu kết thúc hoặc lỗi sau khi đã xuất nội dung. Xử lý từng sự kiện và kiểm tra trạng thái cuối; HTTP 200 ban đầu không chứng minh tác vụ hoàn tất.

Thời gian chờ byte đầu tiên và thời gian chờ khi luồng im lặng khác với mức tối đa 15 phút của route. Client, proxy hoặc nhà cung cấp có thể kết thúc sớm hơn; đây không phải cam kết mọi yêu cầu chạy đủ 15 phút.

Phản hồi dạng luồng

Luồng có thể chứa sự kiện usage không có choices, dấu kết thúc hoặc lỗi sau khi đã xuất nội dung. Xử lý từng sự kiện và kiểm tra trạng thái cuối; HTTP 200 ban đầu không chứng minh tác vụ hoàn tất.

Thời gian chờ byte đầu tiên và thời gian chờ khi luồng im lặng khác với mức tối đa 15 phút của route. Client, proxy hoặc nhà cung cấp có thể kết thúc sớm hơn; đây không phải cam kết mọi yêu cầu chạy đủ 15 phút.

event: content_block_delta
data: {"delta":{"text":"Hello","type":"text_delta"},"index":0,"type":"content_block_delta"}

event: message_delta
data: {"delta":{"stop_reason":"end_turn"},"usage":{"output_tokens":128}}

Tiêu đề phản hồi

Tiêu đề HTTPÝ nghĩa
x-cadhayvn-request-idLưu x-cadhayvn-request-id nếu có và thời điểm lỗi để đối chiếu. Không gửi khóa API hoặc dữ liệu nhạy cảm trong báo lỗi.
Retry-AfterTôn trọng Retry-After; dùng exponential backoff có jitter, giới hạn số lần và tổng thời gian thử lại. Với tác vụ video đã có thể được tạo, tra cứu ID trước để tránh yêu cầu trùng.
x-cadhayvn-modelModel thực tế đã xử lý
x-cadhayvn-model-mapped-fromTên model bạn gửi, nếu đã được ánh xạ
x-cadhayvn-input-tokensToken đầu vào đã tính phí
x-cadhayvn-output-tokensToken đầu ra đã tính phí
x-cadhayvn-cost-vndChi phí của lượt gọi (VNĐ)
x-cadhayvn-price-vnd-per-mtokĐơn giá token đang áp dụng
x-cadhayvn-price-vnd-per-requestĐơn giá cố định mỗi lượt gọi (nếu có)

Với lượt gọi dạng luồng, các tiêu đề token/chi phí không có sẵn (chi phí chỉ biết khi luồng kết thúc) — hãy tra trong trang Sử dụng.

Ví dụ được rà soát ở mức mã và kiểm thử cục bộ; không khẳng định đã chạy trên mọi phiên bản ứng dụng. Hãy kiểm tra cấu hình, gửi một yêu cầu nhỏ và xác nhận usage trước khi dùng thật.

Support