Un’IA che non esce mai dalla vostra rete.
Un modello aperto viene eseguito su un server vostro o dedicato in Svizzera. Non necessita di alcuna connessione a servizi esterni, quindi non può uscire niente: né una domanda, né un incarto, né un nome del vostro schedario clienti.
- Nessuna uscita verso l’esterno
- Nessuno addestra sui vostri contenuti
- Prezzo fisso dopo il colloquio
Quattro situazioni in cui passare da un fornitore non è nemmeno in discussione.
Una professione con il segreto
Studi legali, fiduciarie, studi medici. Quello che una persona vi confida appartiene a lei e a nessun altro. Mandarlo sul server di un terzo qui non è una questione di comodità, è un problema.
Dati che restano nel Paese
Un contratto, un accordo con la vostra clientela o una regola del vostro settore impone che i dati non lascino la Svizzera. A quel punto conta dove sta la macchina, non quanto costa.
Una direttiva interna senza eccezioni
In azienda vige una regola: nessun dato viene inviato a fornitori esterni. Invece di strappare una deroga, costruiamo l’IA in modo che la domanda non si ponga nemmeno.
Documenti davvero delicati
Incarti del personale, contratti, storie cliniche, salari. Proprio i documenti su cui l’IA fa risparmiare più tempo sono quelli che meno possono uscire.
Dal modello installato sulla vostra macchina al registro che mostra chi ha chiesto che cosa.
Un modello aperto sulla vostra macchina
Llama, Mistral, Qwen o Gemma girano su un computer nel vostro locale tecnico o in un centro dati svizzero. Quale modello sia lo decide il vostro compito, non il nome più conosciuto sul mercato.
Un assistente sui documenti interni
Direttive, contratti, manuali, incarti. Il modello cerca nei vostri documenti e formula la risposta partendo da lì, con il rimando al passaggio da cui viene.
Nessuna interfaccia verso l’esterno
Non c’è nessuna chiamata a un fornitore, perché non serve. La macchina non ha il permesso di andare su internet, e questo si verifica dalla vostra stessa rete.
Accessi e registro completo
Chi può usare l’assistente, e quali documenti gli vengono mostrati, dipende dagli account che avete già. Ogni domanda e ogni risposta restano registrate, così più tardi si sa chi voleva sapere che cosa.
Cambiare modello quando volete
Se esce un modello aperto migliore, lo sostituiamo. Il momento lo scegliete voi, non un fornitore che spegne una versione. I vostri documenti e le vostre impostazioni restano dove sono.
Prestazioni e consumi misurati
Tempi di risposta, carico della scheda grafica e consumo di corrente si leggono in chiaro. Così vedete se la macchina basta ancora, prima che in azienda comincino a lamentarsi.
Una macchina con scheda grafica, e un modello non più grande del necessario
Il timore riguarda quasi sempre l’investimento. Di solito risulta più contenuto del previsto, perché la dimensione del modello segue il compito e non il contrario.
L’hardware
Un computer con una scheda grafica adatta, nel vostro locale tecnico oppure noleggiato in un centro dati svizzero. Noleggiato significa: nessun acquisto, nessun locale da attrezzare, e i dati restano comunque nel Paese.
La dimensione del modello
Un modello non deve saper fare tutto, ma il vostro lavoro. Frugare nei contratti e scrivere riassunti chiede un altro calibro rispetto a generare codice. Lo misuriamo sui vostri documenti veri prima di ordinare qualsiasi hardware.
Prima la prova, poi l’acquisto
La prima prova viene eseguita su hardware temporaneo. Se ne esce che nel vostro caso un’infrastruttura dedicata non conviene, ve lo diciamo apertamente, e non avete comprato niente.
Un modello medio con i vostri documenti batte uno più grande che non li ha
I modelli aperti come Llama, Mistral, Qwen o Gemma bastano oggi al lavoro di cui si parla nella maggior parte delle aziende. A decidere non è quasi mai la dimensione del modello, ma quello che ha davanti nel momento in cui risponde.
Perché conta il contesto
Un modello molto grande sa moltissimo del mondo e niente della vostra direttiva di due anni fa. Un modello medio che prima di ogni risposta cerca nei vostri documenti va meglio proprio su quelle domande.
Come scegliamo
Prendiamo le vostre domande, lasciamo rispondere due o tre modelli e mettiamo i risultati uno accanto all’altro. La decisione segue quel confronto, non una classifica trovata su internet.
Aperto non vuol dire uguale ovunque
Le condizioni di licenza dei modelli aperti sono diverse fra loro, soprattutto per l’uso commerciale. Le leggiamo insieme a voi prima che il modello venga distribuito nella vostra infrastruttura.
Un modello ospitato internamente non è un sistema che si installa e si dimentica
Un’infrastruttura dedicata non è un abbonamento che qualcun altro tiene aggiornato al posto vostro. Chi la gestisce, e che cosa succede se un giorno volete cambiare, si chiarisce adesso e non al secondo anno.
Aggiornare
Un modello nuovo gira prima accanto a quello vecchio e risponde alle stesse domande. Si passa solo quando risponde visibilmente meglio. Nessuno da fuori vi impone il calendario.
Chi gestisce l’impianto
O il vostro servizio informatico, con documentazione e formazione da parte nostra, oppure noi nell’ambito della manutenzione. Entrambe le strade sono normali. La differenza sta in chi riceve l’avviso di notte.
Se un giorno volete cambiare
I documenti, la ricerca e le regole di accesso sono vostri e stanno in formati correnti. Passare a un altro modello, o alla fine a un fornitore, è una migrazione, non una ricostruzione.
Server vostro o API di un fornitore?
Costruiamo entrambe le vie. La domanda non è quale sia migliore, ma che cosa permettono i vostri documenti.
Dove finiscono i dati
Sul vostro server
Sulla vostra macchina o in un centro dati svizzero. Nessun dato viene inviato fuori da questa infrastruttura.
Tramite l’API di un fornitore
La domanda e i passaggi inviati con essa finiscono sui server del fornitore.
Addestramento sui vostri contenuti
Sul vostro server
Non si pone, perché non c’è nessuno che riceva qualcosa.
Tramite l’API di un fornitore
Dipende dalle condizioni del fornitore. Le tariffe aziendali di regola lo escludono, ma vanno lette.
Tempo fino alla partenza
Sul vostro server
Più lungo: hardware, installazione, accessi e una prova sui vostri documenti.
Tramite l’API di un fornitore
Breve. Basta un accesso e la prima prova gira nella stessa settimana.
Investimento o consumo
Sul vostro server
Una messa in opera una volta sola, poi esercizio e corrente, qualunque sia il numero di domande.
Tramite l’API di un fornitore
Niente da comprare, ma una fattura per ogni domanda, che cresce con l’uso.
Potenza disponibile
Sul vostro server
Quella della vostra macchina, non di più. Più potenza significa più hardware.
Tramite l’API di un fornitore
I modelli più grandi ci sono subito, senza che voi dobbiate potenziare niente.
Aggiornamento del modello
Sul vostro server
Decidete voi quando cambiare e potete restare sulla versione in uso.
Tramite l’API di un fornitore
Il fornitore fissa versioni e spegnimenti, voi seguite.
Compatibilità con il segreto professionale
Sul vostro server
I documenti restano dove si trovano già oggi.
Tramite l’API di un fornitore
Richiede un contratto di trattamento dei dati e, nel dubbio, il consenso delle persone interessate.
Costruiamo entrambe le vie e su una non guadagniamo più che sull’altra. Che cosa vi conviene lo decidono la sensibilità dei vostri dati e i tempi di messa in servizio, non la nostra preferenza.
Quattro passi, e nel primo non si parla ancora di tecnica.
- 1
Passare in rassegna i dati
Guardiamo con voi quali documenti sono davvero in gioco e quali di questi sono davvero delicati. Spesso sono meno del temuto, e allora l’infrastruttura può essere dimensionata in modo più contenuto.
- 2
Scegliere il modello e l’impianto
Due o tre modelli aperti rispondono alle vostre domande vere partendo dai vostri documenti veri. Leggete le risposte una accanto all’altra e decidete su quelle, non su una scheda tecnica.
- 3
Installare, con accessi e registro
Installazione da voi o nel centro dati svizzero, integrata con i vostri account esistenti, con il registro degli scambi e senza collegamenti a servizi esterni.
- 4
Formazione e manutenzione
Le vostre persone imparano a che cosa serve l’assistente e a che cosa no. Poi lo gestisce il vostro servizio informatico con la nostra documentazione, oppure ce ne occupiamo noi.
Tutto quanto funziona senza nessun collegamento verso l’esterno.
Modelli aperti
Llama, Mistral, Qwen, Gemma
Esecuzione
Ollama, vLLM, llama.cpp
Ricerca nei documenti
PostgreSQL con pgvector, Qdrant
Infrastruttura
Docker, server on-premise o centro dati svizzero
Quanto costa un’IA ospitata internamente?
Dipende dall’hardware, dalla dimensione del modello e da quanti documenti devono diventare consultabili. Per questo non diciamo nessuna cifra prima di saperlo. Nel primo colloquio, che è gratuito, fissiamo il perimetro e poi ricevete un prezzo fisso per quel perimetro preciso. Calcoliamo sia la macchina acquistata sia quella noleggiata in un centro dati svizzero, così vedete le due opzioni una accanto all’altra.
Primo colloquio gratuitoServono informatici in azienda?
No. Se lo volete, la gestione può restare al vostro servizio informatico, e documentazione e formazione arrivano da noi. Se in casa non c’è nessuno, la manutenzione la facciamo noi: aggiornamenti, sorveglianza e disponibilità dell’impianto. Quello che in entrambi i casi resta da voi sono i dati.
Un modello aperto è peggiore di quelli grandi?
Sulla cultura generale e sulla scrittura libera i modelli più grandi restano avanti. Sulle vostre domande relative ai vostri documenti conta altro: che il passaggio giusto venga trovato e restituito fedelmente. Lì un modello aperto di taglia media di solito recupera. Lo verifichiamo sulle vostre domande invece di affermarlo.
La macchina deve stare da noi?
No. Un computer con scheda grafica in un centro dati svizzero è la via di mezzo abituale: nessun acquisto, nessun locale tecnico, e i dati restano comunque nel Paese e sotto il vostro controllo. Se questo basti alle vostre regole interne lo guardiamo prima, perché certe direttive esigono le vostre mura.
Che cosa succede in caso di guasto?
La stessa domanda che vale per qualsiasi server che già gestite: copia di sicurezza, pezzo di ricambio e un piano su quanto a lungo potreste farne a meno. Lo mettiamo per iscritto prima della messa in esercizio. Se la macchina sta in un centro dati, quella parte spetta comunque al gestore.
Potremo passare più tardi a un fornitore?
Sì, e nell’altro senso con la stessa facilità. I documenti, la ricerca e le regole di accesso sono organizzati in modo che si sostituisca solo la parte che scrive la risposta. È un cambio e non un secondo progetto. È proprio per questo che lo costruiamo così fin dall’inizio.
Diteci quali documenti devono restare nella vostra infrastruttura.
Nel primo colloquio, gratuito e senza impegno, guardiamo i vostri dati e le vostre regole interne e vi diciamo con onestà se serve un’infrastruttura dedicata oppure se basta una soluzione più semplice. Rispondiamo entro 24 ore.
Fissare il primo colloquioPreferite una risposta subito? L’assistente IA in basso a destra vi aiuta immediatamente.
Pronti per la vetta?
Raccontateci il vostro progetto. Rispondiamo entro 24 ore con una valutazione onesta. Gratuito e senza impegno.
hallo@aurphi.chAurPhi MoukrimMarktstrasse 18, 8853 Lachen SZ, SvizzeraIndirizzo postale, senza ricevimento al pubblico. Appuntamenti su richiesta.