LLM
Create a message
POST
Anthropic Messages API प्रारूप का उपयोग करके एक संदेश बनाता है। टेक्स्ट, छवियों, PDF, टूल्स और विस्तारित सोच का समर्थन करता है।
प्रमाणीकरण
Bearer टोकन। Authorization हेडर में अपनी API कुंजी को bearer टोकन के रूप में उपयोग करें।प्रारूप:
Bearer <SUNRA_KEY>अनुरोध
यह एंडपॉइंट एक ऑब्जेक्ट स्वीकार करता है।वह मॉडल जो आपके प्रॉम्प्ट को पूरा करेगा। उपलब्ध मॉडल sunra.ai/models पर देखें।
इनपुट संदेश। प्रत्येक इनपुट संदेश में एक
role और content होता है।रुकने से पहले उत्पन्न करने के लिए टोकन की अधिकतम संख्या। ध्यान दें कि मॉडल इस अधिकतम तक पहुंचने से पहले रुक सकता है।
सिस्टम प्रॉम्प्ट। मॉडल को संदर्भ और निर्देश प्रदान करने का एक तरीका। एक स्ट्रिंग या सामग्री ब्लॉक की एक सरणी हो सकती है।
server-sent events (SSE) का उपयोग करके प्रतिक्रिया को क्रमिक रूप से स्ट्रीम करना है या नहीं।
प्रतिक्रिया में इंजेक्ट की गई यादृच्छिकता की मात्रा। 0.0 से 1.0 तक की सीमा। विश्लेषणात्मक/बहुविकल्पीय कार्यों के लिए 0.0 के करीब
temperature का उपयोग करें, और रचनात्मक एवं उत्पादक कार्यों के लिए 1.0 के करीब।न्यूक्लियस सैंपलिंग का उपयोग करें। न्यूक्लियस सैंपलिंग में, हम घटती प्रायिकता क्रम में प्रत्येक बाद के टोकन के लिए सभी विकल्पों पर संचयी वितरण की गणना करते हैं और
top_p द्वारा निर्दिष्ट विशेष प्रायिकता तक पहुंचने पर इसे काट देते हैं।प्रत्येक बाद के टोकन के लिए केवल शीर्ष K विकल्पों से सैंपल करें। “लंबी पूंछ” कम प्रायिकता प्रतिक्रियाओं को हटाने के लिए उपयोग किया जाता है। केवल उन्नत उपयोग के मामलों के लिए अनुशंसित।
कस्टम टेक्स्ट अनुक्रम जो मॉडल को उत्पन्न करना बंद करा देंगे। लौटाए गए टेक्स्ट में स्टॉप अनुक्रम शामिल नहीं होगा।
उन टूल की परिभाषाएं जिनका मॉडल उपयोग कर सकता है।
मॉडल को प्रदान किए गए टूल का उपयोग कैसे करना चाहिए।
अनुरोध के बारे में मेटाडेटा का वर्णन करने वाला एक ऑब्जेक्ट।
विस्तारित सोच के लिए कॉन्फ़िगरेशन। सक्षम होने पर, मॉडल प्रतिक्रिया देने से पहले सोचेगा।
प्रतिक्रिया
सफल संदेश प्रतिक्रिया।अद्वितीय संदेश पहचानकर्ता, जैसे
msg_01XFDUDYJgAACzvnptvVoYEL।ऑब्जेक्ट प्रकार। हमेशा
message।उत्पन्न संदेश की वार्तालाप भूमिका। हमेशा
assistant।मॉडल द्वारा उत्पन्न सामग्री। यह सामग्री ब्लॉक की एक सरणी है।
अनुरोध को संभालने वाला मॉडल।
मॉडल के रुकने का कारण। यह
end_turn (मॉडल एक स्वाभाविक रुकने के बिंदु पर पहुंचा), max_tokens (max_tokens या मॉडल की अधिकतम सीमा पार हुई), stop_sequence (आपके कस्टम स्टॉप अनुक्रमों में से एक उत्पन्न हुआ), या tool_use (मॉडल ने एक या अधिक टूल का आह्वान किया) हो सकता है।कौन सा कस्टम स्टॉप अनुक्रम उत्पन्न हुआ, यदि कोई हो।
बिलिंग और दर-सीमा उपयोग।