Awan LLM
ActiveHasło reklamowe:Nieograniczone tokeny, nieograniczona i ekonomiczna API inferencji LLM dla power userów i deweloperów
Zaktualizowano:-
Co to jest Awan LLM?
Awan LLM oferuje API chat i completion kompatibilne z OpenAI dla Llama i własnych modelów Awan. Dostawca posiada własne GPU, oferuje nieograniczone tokeny do limitu kontekstu każdego modelu i uruchamia inferencję wewnętrznie bez logowania promptów i generacji. Plany od darmowego Lite do Enterprise z wyższymi limitami dziennych żądań.
Jak używać Awan LLM?
Zarejestruj konto i uzyskaj klucz API AwanLLM. Wysyłaj żądania na https://api.awanllm.com/v1/chat/completions lub /v1/completions z Authorization: Bearer {AWANLLM_API_KEY}. Wybierz model na stronie Models i postępuj według formatu promptu; Quick Start zawiera przykłady Python i integrację z Hugging Face Chat-UI i SillyTavern.
Awan LLM Kluczowe funkcje
01
Nieograniczone tokeny
Wysyłaj i odbieraj tokeny do limitu kontekstu modelu na obsługiwanych planach.
02
Inferencja bez ograniczeń
Brak sztucznych ograniczeń i cenzury promptów i generacji.
03
Ekonomiczna API
Własne GPU i zoptymalizowane load balancing dla szybkiej, taniej inferencji.
04
Własna infrastruktura GPU
Awan LLM posiada własny sprzęt, w przeciwieństwie do outsourcerów, dla taniej generacji unlimited tokenów.
05
Brak logów promptów
Prompty i generacje nie są logowane; śledzone są tylko liczby żądań dla limitów i użycia.
Awan LLM Scenariusze użycia
Budowanie aplikacji z endpointami chat i completion kompatibilnymi z OpenAI
Uruchamianie Llama 3.1, Meta-Llama i modelów Awan przez API
Podłączenie Hugging Face Chat-UI lub SillyTavern do api.awanllm.com/v1
Skalowanie inferencji dla startupów i power userów z dziennych limitów poziomowych
Awan LLM Często zadawane pytania
Czy logujecie prompty i generacje?
Kto jest właścicielem tekstu wygenerowanego przez API?
Jaka jest polityka zwrotów?
Jak skontaktować się z supportem?
Awan LLM Opis produktu i oficjalne linki
Awan LLM E-mail pomocy technicznej, kontakt z obsługą klienta, kontakt w sprawie zwrotów itp.
Awan LLM E-mail pomocy technicznej: contact.awanllm@gmail.com
Więcej kontaktów, odwiedź strona o nas(https://awanllm.com/quick-start)
Awan LLM Cennik
Awan LLM Link do cennika: https://awanllm.com/pricing
Cennik i plany Awan LLM
Lite
BezpłatneDarmowy
- Nieograniczone tokeny
- 20 req/min małe modele
- 200 req/dzień średnie modele
- 10 req/dzień duże modele
Core
Cykliczne$5 /miesiąc
- Nieograniczone tokeny
- 5 000 req/dzień średnie modele
- 3 000 req/dzień duże modele
- Do użytku osobistego
Plus
Cykliczne$10 /miesiąc
- Nieograniczone tokeny
- 50 req/min małe modele
- 10 000 req/dzień średnie modele
- 6 000 req/dzień duże modele
Najpopularniejsze
Pro
Cykliczne$20 /miesiąc
- Nieograniczone tokeny
- Równoległe żądania
- 100 req/min małe modele
- 80 000 req/dzień średnie modele
Max
Cykliczne$80 /miesiąc
- Nieograniczone tokeny
- Równoległe żądania
- 200 req/min małe modele
- Bez limitu średnie/duże modele dziennie
Enterprise
contactKontakt ze sprzedażą
- Nieograniczone tokeny i żądania
- Gwarantowana prędkość generacji
- SLA
- Własne modele lub fine-tuning