Documentation Index Fetch the complete documentation index at: https://docs.sunra.ai/llms.txt
Use this file to discover all available pages before exploring further.
Verilen sohbet konuşması için bir model yanıtı isteği gönderir. Hem akış hem de akış dışı modları destekler. OpenAI Chat Completions API formatıyla uyumludur.
Kimlik Doğrulama
Bearer token. Authorization başlığında API anahtarınızı bearer token olarak kullanın. Format: Bearer <SUNRA_KEY>
İstek
Bu endpoint bir JSON nesnesi bekler.
Tamamlama için kullanılacak model. Mevcut modelleri sunra.ai/models adresinde inceleyin.
Konuşma için mesaj listesi. Mesaj yazarının rolü. Desteklenen değerler: system, user, assistant.
true olarak ayarlanırsa, kısmi mesaj deltaları server-sent events (SSE) olarak gönderilir.
Tamamlamada üretilecek maksimum token sayısı.
0 ile 2 arasında örnekleme sıcaklığı. 0.8 gibi yüksek değerler çıktıyı daha rastgele yapar, 0.2 gibi düşük değerler daha odaklı ve belirleyici yapar.
Çekirdek örnekleme parametresi (0-1). Modelin top_p olasılık kütlesine sahip tokenleri değerlendirdiği, sıcaklık örneklemesine bir alternatif.
-2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni tokenleri metindeki mevcut sıklıklarına göre cezalandırarak modelin aynı satırı kelimesi kelimesine tekrarlama olasılığını azaltır.
-2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni tokenleri metinde daha önce görünüp görünmediklerine göre cezalandırarak modelin yeni konular hakkında konuşma olasılığını artırır.
API’nin daha fazla token üretmeyi durduracağı en fazla 4 dizi.
Yanıt
Başarılı sohbet tamamlama yanıtı.
Benzersiz tamamlama tanımlayıcısı.
Nesne türü. Her zaman chat.completion.
Oluşturulma Unix zaman damgası.
Tamamlama için kullanılan model.
Tamamlama seçeneklerinin listesi. Listedeki seçeneğin dizini.
Üretilen mesaj. Mesaj yazarının rolü. Her zaman assistant.
Modelin üretmeyi durdurma nedeni. stop, length veya content_filter olabilir.
Token kullanım istatistikleri. Üretilen tamamlamadaki token sayısı.
Kullanılan toplam token sayısı (istem + tamamlama).
curl -X POST https://api-llm.sunra.ai/v1/chat/completions \
-H "Authorization: Bearer <SUNRA_KEY>" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-4o",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "What is the capital of France?"
}
]
}'
{
"id" : "chatcmpl-abc123" ,
"object" : "chat.completion" ,
"created" : 1677652288 ,
"model" : "openai/gpt-4o" ,
"choices" : [
{
"index" : 0 ,
"message" : {
"role" : "assistant" ,
"content" : "The capital of France is Paris."
},
"finish_reason" : "stop"
}
],
"system_fingerprint" : "fp_44709d6fcb" ,
"usage" : {
"prompt_tokens" : 25 ,
"completion_tokens" : 8 ,
"total_tokens" : 33
}
}