From 3215c277f362587263613be61bf0ec4f2b4f0eed Mon Sep 17 00:00:00 2001 From: Antonio De Lucreziis Date: Tue, 12 Dec 2023 19:20:09 +0100 Subject: [PATCH] updated readme for install-llm-web-interface --- README.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/README.md b/README.md index 826fdf6..d343966 100644 --- a/README.md +++ b/README.md @@ -34,7 +34,7 @@ Questa repository contiene i seguenti script: e poi aprendo il browser all'indirizzo `http://localhost:8080`. - Una volta nell'interfaccia web si può scaricare un modello di LLM (ad esempio ) andando nella tab "Models" ed inserendo l'ID da huggingface (e.g. `TheBloke/Orca-2-7B-GGUF`), poi premere "Refresh" e poi "Load" nella lista dei modelli per selezionarlo (conviene tenere sotto'occhio il terminare per vedere quando ha finito di scaricare il modello). Una volta caricato il modello, si può andare in "Chat" per usarlo. + Una volta nell'interfaccia web si può scaricare un modello di LLM (ad esempio ) andando nella tab "Models" ed inserendo l'ID da huggingface (e.g. `TheBloke/Orca-2-7B-GGUF` ed il nome del singolo file `orca-2-7b.Q5_K_M.gguf`), poi premere "Refresh" e poi "Load" nella lista dei modelli per selezionarlo (conviene tenere sotto'occhio il terminare per vedere quando ha finito di scaricare il modello). Una volta caricato il modello, si può andare in "Chat" per usarlo. - `printa4` — [@BachoSeven](https://git.phc.dm.unipi.it/BachoSeven)