Non basta scaricare un modello
Il modello è solo uno dei componenti. Interfaccia, database vettoriale, autenticazione, strumenti di monitoraggio e aggiornamenti possono ancora comunicare con servizi esterni.
Tre configurazioni possibili
Una soluzione può essere locale con rete aziendale, locale con uscite limitate da allowlist oppure air-gapped. La scelta dipende da dati, rischio e operatività.
Cosa misurare nel pilota
Qualità delle risposte, citazioni corrette, tempi, consumo hardware, accessi, log, errori e comportamento quando la risposta non è presente.
Decisioni e responsabilità restano alle persone. Il progetto deve definire cosa l’AI può preparare, cosa deve chiedere e cosa non può eseguire.