lm-launcher/apps.json

{"apps":[{"path":"file:///home/sb/lm/llama.cpp/build/bin/llama-server","interpreter":null,"arguments":[],"appArguments":[{"argument":"-nkvo","optional":true,"default_":false},{"argument":"--parallel","optional":true,"default_":false},{"argument":"3","optional":true,"default_":false},{"argument":"--reasoning","optional":true,"default_":false},{"argument":"off","optional":true,"default_":false},{"argument":"--chat-template-kwargs","optional":true,"default_":false},{"argument":"REASONING_EFFORT","optional":true,"default_":false},{"argument":"--spec-type","optional":true,"default_":false},{"argument":"draft-mtp","optional":true,"default_":false},{"argument":"--spec-draft-n-max","optional":true,"default_":false},{"argument":"2","optional":true,"default_":false},{"argument":"-ts","optional":true,"default_":true},{"argument":"3,2","optional":true,"default_":true},{"argument":"--no-mmap","optional":true,"default_":false},{"argument":"--jinja","optional":true,"default_":true},{"argument":"--reasoning-budget","optional":true,"default_":true},{"argument":"5000","optional":true,"default_":true},{"argument":"--device","optional":true,"default_":false},{"argument":"ROCm0","optional":true,"default_":false},{"argument":"--split-mode","optional":true,"default_":false},{"argument":"layer","optional":true,"default_":false},{"argument":"row","optional":true,"default_":false},{"argument":"tensor","optional":true,"default_":false},{"argument":"--host","optional":true,"default_":true},{"argument":"0.0.0.0","optional":true,"default_":true},{"argument":"--port","optional":false,"default_":true},{"argument":"5001","optional":false,"default_":true},{"argument":"-t","optional":false,"default_":true},{"argument":"THREADS","optional":false,"default_":true},{"argument":"-ngl","optional":true,"default_":true},{"argument":"GPU_LAYERS","optional":true,"default_":true},{"argument":"--ctx-size","optional":true,"default_":true},{"argument":"CONTEXT_SIZE","optional":true,"default_":true},{"argument":"-m","optional":false,"default_":true},{"argument":"MODEL","optional":false,"default_":true},{"argument":"--temp","optional":false,"default_":true},{"argument":"TEMP","optional":false,"default_":true},{"argument":"--top-p","optional":false,"default_":true},{"argument":"TOP_P","optional":false,"default_":true},{"argument":"--top-k","optional":false,"default_":true},{"argument":"TOP_K","optional":false,"default_":true},{"argument":"--min-p","optional":false,"default_":true},{"argument":"MIN_P","optional":false,"default_":true}],"modelSettings":[{"modelPath":"/mnt/data/data/lm/models/gguf/xl/MiniMax-M2.7-UD-IQ4_XS-00001-of-00004.gguf","appArguments":[{"argument":"-nkvo","optional":true,"default_":false},{"argument":"--parallel","optional":true,"default_":false},{"argument":"3","optional":true,"default_":false},{"argument":"--reasoning","optional":true,"default_":false},{"argument":"off","optional":true,"default_":false},{"argument":"--spec-type","optional":true,"default_":false},{"argument":"draft-mtp","optional":true,"default_":false},{"argument":"--spec-draft-n-max","optional":true,"default_":false},{"argument":"2","optional":true,"default_":false},{"argument":"-ts","optional":true,"default_":false},{"argument":"3,2","optional":true,"default_":false},{"argument":"--no-mmap","optional":true,"default_":false},{"argument":"--jinja","optional":true,"default_":true},{"argument":"--reasoning-budget","optional":true,"default_":true},{"argument":"5000","optional":true,"default_":true},{"argument":"--device","optional":true,"default_":false},{"argument":"ROCm0","optional":true,"default_":false},{"argument":"--split-mode","optional":true,"default_":true},{"argument":"layer","optional":true,"default_":false},{"argument":"row","optional":true,"default_":false},{"argument":"tensor","optional":true,"default_":true},{"argument":"--host","optional":true,"default_":true},{"argument":"0.0.0.0","optional":true,"default_":true},{"argument":"--port","optional":false,"default_":true},{"argument":"5001","optional":false,"default_":true},{"argument":"-t","optional":false,"default_":true},{"argument":"THREADS","optional":false,"default_":true},{"argument":"-ngl","optional":true,"default_":true},{"argument":"GPU_LAYERS","optional":true,"default_":true},{"argument":"--ctx-size","optional":true,"default_":true},{"argument":"CONTEXT_SIZE","optional":true,"default_":true},{"argument":"-m","optional":false,"default_":true},{"argument":"MODEL","optional":false,"default_":true},{"argument":"--temp","optional":false,"default_":true},{"argument":"TEMP","optional":false,"default_":true},{"argument":"--top-p","optional":false,"default_":true},{"argument":"TOP_P","optional":false,"default_":true},{"argument":"--top-k","optional":false,"default_":true},{"argument":"TOP_K","optional":false,"default_":true},{"argument":"--min-p","optional":false,"default_":true},{"argument":"MIN_P","optional":false,"default_":true}]},{"modelPath":"/mnt/data/data/lm/models/gguf/m/Qwen3.6-35B-A3B-UD-Q5_K_XL-mtp.gguf","appArguments":[{"argument":"-nkvo","optional":true,"default_":false},{"argument":"--parallel","optional":true,"default_":false},{"argument":"3","optional":true,"default_":false},{"argument":"--reasoning","optional":true,"default_":false},{"argument":"off","optional":true,"default_":false},{"argument":"--spec-type","optional":true,"default_":true},{"argument":"draft-mtp","optional":true,"default_":true},{"argument":"--spec-draft-n-max","optional":true,"default_":true},{"argument":"2","optional":true,"default_":true},{"argument":"-ts","optional":true,"default_":true},{"argument":"3,2","optional":true,"default_":true},{"argument":"--no-mmap","optional":true,"default_":false},{"argument":"--jinja","optional":true,"default_":true},{"argument":"--reasoning-budget","optional":true,"default_":true},{"argument":"5000","optional":true,"default_":true},{"argument":"--device","optional":true,"default_":false},{"argument":"ROCm0","optional":true,"default_":false},{"argument":"--split-mode","optional":true,"default_":false},{"argument":"layer","optional":true,"default_":false},{"argument":"row","optional":true,"default_":false},{"argument":"tensor","optional":true,"default_":false},{"argument":"--host","optional":true,"default_":true},{"argument":"0.0.0.0","optional":true,"default_":true},{"argument":"--port","optional":false,"default_":true},{"argument":"5001","optional":false,"default_":true},{"argument":"-t","optional":false,"default_":true},{"argument":"THREADS","optional":false,"default_":true},{"argument":"-ngl","optional":true,"default_":true},{"argument":"GPU_LAYERS","optional":true,"default_":true},{"argument":"--ctx-size","optional":true,"default_":true},{"argument":"CONTEXT_SIZE","optional":true,"default_":true},{"argument":"-m","optional":false,"default_":true},{"argument":"MODEL","optional":false,"default_":true},{"argument":"--temp","optional":false,"default_":true},{"argument":"TEMP","optional":false,"default_":true},{"argument":"--top-p","optional":false,"default_":true},{"argument":"TOP_P","optional":false,"default_":true},{"argument":"--top-k","optional":false,"default_":true},{"argument":"TOP_K","optional":false,"default_":true},{"argument":"--min-p","optional":false,"default_":true},{"argument":"MIN_P","optional":false,"default_":true}]}]},{"path":"file:///home/sb/lm/SillyTavern/start.sh","interpreter":null,"arguments":[],"appArguments":[],"modelSettings":[{"modelPath":"/mnt/data/data/lm/models/gguf/xl/MiniMax-M2.7-UD-IQ4_XS-00001-of-00004.gguf","appArguments":[]}]},{"path":"file:///home/sb/lm/ollama-oai-bridge/start.sh","interpreter":null,"arguments":[],"appArguments":[{"argument":"-Dbridge.reported-context-offset=30000","optional":false,"default_":true}],"modelSettings":[]}]}