डेव्हलपर
एक बेस URL, एक की आणि त्यामागे तीन मॉडेल आकार. चॅटसाठी OpenAI-कंपॅटिबल API, मेमरी, व्हॉल्ट, फाइल्स आणि evals हवे असतील तेव्हा Cruxy चे स्वतःचे रूट, आणि तुमच्या रेपोमध्ये काम करणारे CLI.
import OpenAI from 'openai';
const cruxy = new OpenAI({
baseURL: 'https://api.cruxy.ai/v1',
apiKey: process.env.CRUXY_API_KEY,
});
const res = await cruxy.chat.completions.create({
model: 'auto',
messages: [{ role: 'user', content: 'Summarize this ticket' }],
});{
"id": "chatcmpl-8f3a1c2d",
"object": "chat.completion",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Checkout fails on UPI when the cart
holds a gift card. Steps to reproduce and
a fix are below."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 212,
"completion_tokens": 96,
"total_tokens": 308
}
}विनंती खरी आहे. उत्तर उदाहरणादाखल आहे आणि त्याच्या आकारापुरते कापलेले आहे.
प्लॅटफॉर्म
चॅट
POST /v1/chat/completionsकोणताही OpenAI क्लायंट किंवा मूल्यमापन हार्नेस तुमच्या Cruxy की ने https://api.cruxy.ai/v1 कडे वळवा. मानक chat.completion ऑब्जेक्ट, OpenAI चे SSE आणि OpenAI चा एरर एन्व्हलप, आत स्थिर Cruxy कोडसह.
POST /api/v1/chatतीच मॉडेल, Cruxy अ‍ॅपमध्ये असलेल्या सगळ्यासह: मेमरी आठवणे आणि टिपणे, व्हॉल्ट आणि कायमचे नियम, id ने फाइल्स, आणि प्रत्येक उत्तरावर usage.cost.
const stream = await cruxy.chat.completions.create({
model: 'auto',
stream: true,
messages: [{ role: 'user', content: 'Draft the release note' }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? '');
}स्ट्रीमिंग
stream true वर ठेवा, आणि उत्तर OpenAI च्या server-sent events म्हणून येते: content किंवा tool-call डेल्टासह chat.completion.chunk फ्रेम, मग [DONE].
अपस्ट्रीम स्ट्रीमच्या मध्ये अयशस्वी झाले, तर स्ट्रीम [DONE] ऐवजी एरर फ्रेमने संपतो, म्हणजे तुमचा क्लायंट तुटणे आणि संपणे यातला फरक ओळखू शकतो. टूल कॉलिंग दोन्ही रूटवर चालते: मॉडेल कॉल करू शकेल ती functions पाठवा, ते परत देते ती चालवा आणि निकाल परत पाठवा.
टूल कॉलिंग मार्गदर्शकAPI
चालवा
GET /api/v1/limits प्रत्येक 60-सेकंद विंडोसाठी तुमच्या प्रति की आणि प्रति संस्था चॅट विनंतीच्या कमाल मर्यादा परत देते, आणि गेटवे X-RateLimit हेडर पाठवतो. प्रति मिनिट टोकनची मर्यादा नाही.
rate_limited म्हणजे विनंत्या खूप वेगाने येत आहेत; तुम्ही वेग कमी केल्यावर ते जाते. budget_exhausted ही खर्चाची कमाल मर्यादा आहे, जी नुसत्या पुन्हा प्रयत्नाने जात नाही.
प्रत्येक विनंती मॉडेल, टोकन संख्या, खर्च, वेळ आणि स्थितीसह लॉग होते, आणि प्रॉम्प्ट किंवा उत्तरातले काहीही नाही. GET /api/v1/logs/{request_id} वर एक परत वाचा.
डिव्हाइस-लॉगिन फ्लोने की मिळवा. ती नेमकी एकदाच दाखवली जाते आणि फक्त हॅश म्हणून साठवली जाते. साठवलेले सीक्रेट AES-256-GCM ने फील्डनुसार एन्क्रिप्ट केलेले आहेत.
उपलब्ध
Cruxy Code
npm i -g @cruxy/cliCruxy Code पाहा$cruxy run "fix the failing tests in the auth module"cruxy › fix the failing tests in the auth module! cruxy wants to run tests: pnpm test (destructive) $ pnpm test in /home/dev/web [y] once · [a] always allow test runs of exactly `pnpm test` this session · [t] reject & instruct · [n] no: a✗ tests failed · 2 of 42 failed · 3.1s · pnpm test ✗ signs a session token src/auth/session.test.ts:18 expected "ok" received undefined ✗ rejects an expired token src/auth/session.test.ts:41 why (inferred) TOKEN_SECRET is not set in the test environment✓ read_file 8ms src/test/setup.ts? cruxy wants to edit: src/test/setup.ts (mutate)खरे सेशन, मध्येच थांबवलेले. CLI चे आउटपुट खरे आहे; मॉडेलची उत्तरे उदाहरणादाखल आहेत.
API किंमत
Fast· Mira
छोटे, मोठ्या प्रमाणातील कॉल, जिथे लेटन्सी आणि खर्च सर्वात महत्त्वाचे.
Balanced· Vaani
रोजचे कॉल: कमी लेटन्सी आणि खर्चात भक्कम गुणवत्ता.
Deep· Kavi
सर्वात कठीण कामे: खोल तर्क आणि सर्वात मोठे आउटपुट बजेट.
USD प्रति 1M टोकन, प्रति विनंती मोजलेले. API च्या किमतींमध्ये GST समाविष्ट नाही. भारतात बिल होणाऱ्या खात्यांसाठी 18% GST जोडला जातो (इनपुट क्रेडिट उपलब्ध). auto सह, कॉल ज्या मॉडेलने दिला त्याचा दर तुम्ही देता.
प्रश्न
हो, चॅट आणि मॉडेल यादीसाठी. https://api.cruxy.ai/v1 /v1/chat/completions आणि /v1/models OpenAI च्या आकारांत देते, म्हणून तुम्ही बेस URL आणि की बदलल्यावर विद्यमान क्लायंट आणि मूल्यमापन हार्नेस चालतात. बाकीचे API, फाइल्सपासून evals पर्यंत, Cruxy चे स्वतःचे आहे आणि /api/v1 खाली राहते.
मोफत सुरू करा, प्रति टोकन पैसे द्या, आणि प्रत्येक मर्यादा तिला धडकण्यापूर्वी वाचा.