← Nexus
01 Aktualne

Modele i Runtime

Uruchamiaj lokalne modele bez rezygnowania z kontroli.

Tutaj pobierasz modele, wybierasz sposób ich uruchamiania i podłączasz lokalnych, self-hosted lub zewnętrznych providerów.

LM Nexus Modele i Runtime modele · providerzy · runtime

Co tu znajdziesz

Co obejmuje ten obszar

  • lokalna biblioteka GGUF i pobieranie z Hugging Face
  • profile, warianty, grupy i ustawienia runtime'u
  • start/stop llama.cpp, logi i metryki runtime'u
  • lokalny serving zgodny z OpenAI oraz providerzy self-hosted i połączeni

Jak się łączy

Jak łączy się z resztą

Agenci i inne części Nexusa korzystają z tych samych profili modeli i providerów, a runtime nadal pozostaje widoczny pod spodem.

Modele i Runtime narzędzie / kontekst / capability inne obszary Nexus
W aplikacji 01

Jak wygląda to w LM Nexus

Te zrzuty pochodzą z obecnej prywatnej alfy. Interfejs nadal się zmienia, ale pokazane sposoby pracy są prawdziwe.

Interfejs Model Manager LM Nexus.
Bieżący widok Model Manager

Pobieraj modele, zapisuj profile i zmieniaj ustawienia runtime'u w tym samym workspace.

Panel runtime'u LM Nexus.
Bieżący widok Panel runtime'u

Sprawdź, czy runtime działa, co robi i z jakimi ustawieniami został uruchomiony.

Status

Co jest dostępne dziś

LM Nexus może zarządzać runtime'em za Ciebie, ale jeśli runtime na to pozwala, możesz też połączyć się bezpośrednio z jego serwerem.

Więcej

Poznaj dalej

Product Tour pokazuje, jak elementy łączą się ze sobą. Dokumentacja schodzi głębiej, gdy potrzebujesz kroków konfiguracji, kontroli albo szczegółów technicznych.