Files
ThothII/brain/codebase/pi-model-selection.md
T

1.5 KiB

Pi model selection

  • get_available_models restituisce tutti i modelli con autenticazione/configurazione disponibile; non applica settings.json.enabledModels.
  • Il selettore web usa l'intersezione esatta tra catalogo RPC e enabledModels, preservando l'ordine configurato e confrontando provider/model.
  • In produzione PI_PROVIDER può essere assente: il provider corrente vive in /data/settings/settings.json; l'enumerazione Pi deve quindi essere provider-neutral e usare il profilo montato per l'autenticazione.
  • Lo spawn di enumerazione deve comunque passare da buildPiChildEnv({}) per rimuovere credenziali ambientali e metadati dei secret.
  • local-qwen è un provider custom locale esplicito; non richiede la chiave generica dei provider hosted. Provider sconosciuti e composti restano fail-closed.
  • Il profilo Pi live è montato da /home/chirone/thothii-data/pi-config a /home/thoth/.pi; non leggere né stampare mai i valori di auth.json.
  • Il provider live local-qwen usa http://localllm-vllm:8000/v1 e il modello qwen3.6-35b-a3b; il file montato conserva owner/mode e non contiene modifiche alle credenziali.
  • In Compose solo core entra nella rete esterna localllm_default, oltre alla rete del portale; frontend non deve avere accesso diretto alla rete del modello.
  • La connettività è verificata dal namespace di core: catalogo /v1/models, modello atteso presente e completion reale non vuota, senza stampare il testo della risposta.