L’IA locale devient vite désordonnée. Une application lance le modèle, une autre gère le chat, un terminal maintient le serveur, les notes vivent ailleurs et, tôt ou tard, vous copiez du contexte entre tous ces endroits.
LM Nexus est né de ce problème : rassembler les pièces sans cacher le runtime dessous.
Simple ne devrait pas vouloir dire opaque
Si choisir un modèle et cliquer sur Run suffit, cela devrait suffire. Mais lorsqu’un problème survient ou que les réglages précis du runtime comptent, vous devriez aussi pouvoir voir logs, endpoints et options de lancement.
LM Nexus garde les deux chemins ouverts : des valeurs par défaut simples quand vous les voulez, le contrôle brut du runtime quand vous en avez besoin, et un workspace pour le reste du travail.
L’accès direct au runtime/serveur compte
LM Nexus peut lancer un runtime pour vous sans forcer l’inference à passer par un proxy Nexus supplémentaire.
Si vous vous connectez directement à un serveur llama.cpp lancé par LM Nexus, vous parlez à llama.cpp lui-même. Nexus gère le processus mais ne se place pas au milieu de la requête d’inference.
C’est utile pour le débogage, la compatibilité et les workflows où l’accès direct à l’endpoint compte.
curl http://127.0.0.1:PORT/v1/chat/completionsLocal-first ne signifie pas local-only
Local-first est le défaut, pas une règle de lock-in. LM Nexus peut utiliser des modèles locaux, des runtimes self-hosted, des endpoints compatibles OpenAI et des providers API externes.
Certains travaux doivent rester entièrement locaux. Certaines configurations disposent déjà d’une inference self-hosted. D’autres tâches ont besoin d’un provider externe. LM Nexus garde ces choix visibles au lieu de les cacher derrière une seule abstraction.
Le modèle n’est que la moitié du travail
Lancer le modèle n’est que la moitié du travail. Le vrai travail demande aussi fichiers, notes, terminaux, logs, agents et connaissances projet réutilisables.
LM Nexus garde ces éléments à côté du modèle au lieu de les entasser dans l’historique du chat. Les agents peuvent travailler avec les fichiers du projet, les notes peuvent devenir Knowledge et les modules peuvent ajouter de nouveaux outils sans transformer l’application en une seule fonction géante.
Statut actuel
LM Nexus est encore en alpha privée, il n’y a donc pas encore de téléchargement public.
Le site et la documentation sont publics plus tôt afin de montrer ce qui se construit avant la première release. Les builds publics arriveront lorsque l’alpha privée sera assez stable pour être supportée correctement.