Awan LLM
ActiveIskulause:Rajattomat tokenit, rajoitukseton ja kustannustehokas LLM-inferenssi-API power userille ja kehittäjille
Päivitetty:-
Mikä on Awan LLM?
Awan LLM tarjoaa OpenAI-yhteensopivat chat- ja completion-API:t Llama- ja mukautetuille Awan-malleille. Palveluntarjoaja omistaa GPU:t, tarjoaa rajattomat tokenit kunkin mallin kontekstirajaan ja ajaa inferenssin sisäisesti ilman prompt- tai generaatiolokeja. Paketit ilmaisesta Litestä Enterpriseen korkeammilla päivärajoilla.
Käyttöohjeet Awan LLM?
Luo tili ja hanki AwanLLM API-avain. Lähetä pyyntöjä osoitteeseen https://api.awanllm.com/v1/chat/completions tai /v1/completions Authorization: Bearer {AWANLLM_API_KEY}. Valitse malli Models-sivulla ja noudata prompt-muotoa; Quick Start sisältää Python-esimerkit ja Hugging Face Chat-UI- sekä SillyTavern-integraation.
Awan LLM Ydintoiminnot
01
Rajattomat tokenit
Lähetä ja vastaanota tokeneita kunkin mallin kontekstirajaan tuettuilla paketeilla.
02
Rajoitukseton inferenssi
Ei keinotekoisia rajoituksia tai sensuuria prompteissa ja generaatioissa.
03
Kustannustehokas API
Omia GPU:ita ja optimoitu kuormitusjako nopeaa, edullista inferenssiä varten.
04
Oma GPU-infrastruktuuri
Awan LLM omistaa laitteensa, eri kuin ulkoistajat, halpaa rajattoman token-generaation tuottamiseen.
05
Ei prompt-lokitus
Prompteja ja generaatioita ei lokita; vain pyyntömäärät rajoituksia ja käyttöä varten.
Awan LLM Käyttötapaukset
Rakenna sovelluksia OpenAI-yhteensopivilla chat- ja completion-endpointeilla
Aja Llama 3.1, Meta-Llama ja Awan-malleja API:n kautta
Yhdistä Hugging Face Chat-UI tai SillyTavern osoitteeseen api.awanllm.com/v1
Skaalaa inferenssi startupille ja power userille porrastetuilla päivärajoilla
Awan LLM Usein kysytyt kysymykset
Lokitetaan prompteja ja generaatioita?
Kuka omistaa API:n kautta luodun tekstin?
Mikä on palautuspolitiikka?
Miten ottaa yhteyttä tukeen?
Awan LLM Tuotteen tausta & viralliset linkit
Awan LLM Tukisähköposti & asiakaspalveluyhteys & hyvitysyhteys jne.
Awan LLM Tukisähköposti: contact.awanllm@gmail.com
Lisää yhteystietoja, käy sivulla tietoa meistä -sivu(https://awanllm.com/quick-start)
Awan LLM Hinnoittelu
Awan LLM Hinnoittelulinkki: https://awanllm.com/pricing
Awan LLM Hinnoittelu & tilausvaihtoehdot
Lite
IlmainenIlmainen
- Rajattomat tokenit
- 20 req/min pienet mallit
- 200 req/päivä keskikokoiset mallit
- 10 req/päivä suuret mallit
Core
Toistuva$5 /kk
- Rajattomat tokenit
- 5 000 req/päivä keskikokoiset mallit
- 3 000 req/päivä suuret mallit
- Henkilökohtaiseen käyttöön
Plus
Toistuva$10 /kk
- Rajattomat tokenit
- 50 req/min pienet mallit
- 10 000 req/päivä keskikokoiset mallit
- 6 000 req/päivä suuret mallit
Suosituimmat
Pro
Toistuva$20 /kk
- Rajattomat tokenit
- Rinnakkaiset pyynnöt
- 100 req/min pienet mallit
- 80 000 req/päivä keskikokoiset mallit
Max
Toistuva$80 /kk
- Rajattomat tokenit
- Rinnakkaiset pyynnöt
- 200 req/min pienet mallit
- Rajaton keskikokoiset/suuret mallit päivässä
Enterprise
contactOta yhteyttä myyntiin
- Rajattomat tokenit ja pyynnöt
- Taattu generointinopeus
- SLA
- Omat mallit tai fine-tuning