IA sul vostro server

Un’IA che non esce mai dalla vostra rete.

Un modello aperto gira su una macchina che è vostra, oppure che lavora per voi in Svizzera. Non ha nessuna strada verso internet, quindi non può uscire niente: né una domanda, né un incarto, né un nome del vostro schedario clienti.

  • Nessuna uscita verso l’esterno
  • Nessuno addestra sui vostri contenuti
  • Prezzo fisso dopo il colloquio
Quando il server in casa è l’unica via

Quattro situazioni in cui passare da un fornitore non è nemmeno in discussione.

Una professione con il segreto

Studi legali, fiduciarie, studi medici. Quello che una persona vi confida appartiene a lei e a nessun altro. Mandarlo sul server di un terzo qui non è una questione di comodità, è un problema.

Dati che restano nel Paese

Un contratto, un accordo con la vostra clientela o una regola del vostro settore impone che i dati non lascino la Svizzera. A quel punto conta dove sta la macchina, non quanto costa.

Una direttiva interna senza eccezioni

In casa c’è una regola: niente esce verso un fornitore. Invece di strappare una deroga, costruiamo l’IA in modo che la domanda non si ponga nemmeno.

Documenti davvero delicati

Incarti del personale, contratti, storie cliniche, salari. Proprio i documenti su cui l’IA fa risparmiare più tempo sono quelli che meno possono uscire.

Che cosa comprende

Dal modello installato sulla vostra macchina al registro che mostra chi ha chiesto che cosa.

Un modello aperto sulla vostra macchina

Llama, Mistral, Qwen o Gemma girano su un computer nel vostro locale tecnico o in un centro dati svizzero. Quale modello sia lo decide il vostro compito, non il nome più conosciuto sul mercato.

Un assistente sui documenti interni

Direttive, contratti, manuali, incarti. Il modello cerca nei vostri documenti e formula la risposta partendo da lì, con il rimando al passaggio da cui viene.

Nessuna interfaccia verso l’esterno

Non c’è nessuna chiamata a un fornitore, perché non serve. La macchina non ha il permesso di andare su internet, e questo si verifica dalla vostra stessa rete.

Accessi e registro completo

Chi può usare l’assistente, e quali documenti gli vengono mostrati, dipende dagli account che avete già. Ogni domanda e ogni risposta restano registrate, così più tardi si sa chi voleva sapere che cosa.

Cambiare modello quando volete

Se esce un modello aperto migliore, lo sostituiamo. Il momento lo scegliete voi, non un fornitore che spegne una versione. I vostri documenti e le vostre impostazioni restano dove sono.

Prestazioni e consumi misurati

Tempi di risposta, carico della scheda grafica e consumo di corrente si leggono in chiaro. Così vedete se la macchina basta ancora, prima che in azienda comincino a lamentarsi.

Che cosa serve davvero

Una macchina con scheda grafica, e un modello non più grande del necessario

Il timore riguarda quasi sempre l’investimento. Di solito risulta più contenuto del previsto, perché la dimensione del modello segue il compito e non il contrario.

L’hardware

Un computer con una scheda grafica adatta, nel vostro locale tecnico oppure noleggiato in un centro dati svizzero. Noleggiato significa: nessun acquisto, nessun locale da attrezzare, e i dati restano comunque nel Paese.

La dimensione del modello

Un modello non deve saper fare tutto, ma il vostro lavoro. Frugare nei contratti e scrivere riassunti chiede un altro calibro rispetto a generare codice. Lo misuriamo sui vostri documenti veri prima di ordinare qualsiasi hardware.

Prima la prova, poi l’acquisto

Il primo giro avviene su hardware in prestito. Se ne esce che nel vostro caso il server in casa non vale la pena, ve lo diciamo apertamente, e non avete comprato niente.

Quale modello e perché

Un modello medio con i vostri documenti batte uno più grande che non li ha

I modelli aperti come Llama, Mistral, Qwen o Gemma bastano oggi al lavoro di cui si parla nella maggior parte delle aziende. A decidere non è quasi mai la dimensione del modello, ma quello che ha davanti nel momento in cui risponde.

Perché conta il contesto

Un modello molto grande sa moltissimo del mondo e niente della vostra direttiva di due anni fa. Un modello medio che prima di ogni risposta cerca nei vostri documenti va meglio proprio su quelle domande.

Come scegliamo

Prendiamo le vostre domande, lasciamo rispondere due o tre modelli e mettiamo i risultati uno accanto all’altro. La decisione segue quel confronto, non una classifica trovata su internet.

Aperto non vuol dire uguale ovunque

Le condizioni di licenza dei modelli aperti sono diverse fra loro, soprattutto per l’uso commerciale. Le leggiamo insieme a voi prima che il modello entri in casa.

Che cosa succede nel tempo

Un modello in casa non è un apparecchio che si installa e si dimentica

Il server in casa non è un abbonamento che qualcun altro tiene aggiornato al posto vostro. Chi lo gestisce, e che cosa succede se un giorno volete cambiare, si chiarisce adesso e non al secondo anno.

Aggiornare

Un modello nuovo gira prima accanto a quello vecchio e risponde alle stesse domande. Si passa solo quando risponde visibilmente meglio. Nessuno da fuori vi impone il calendario.

Chi gestisce l’impianto

O il vostro servizio informatico, con documentazione e formazione da parte nostra, oppure noi nell’ambito della manutenzione. Entrambe le strade sono normali. La differenza sta in chi riceve l’avviso di notte.

Se un giorno volete cambiare

I documenti, la ricerca e le regole di accesso sono vostri e stanno in formati correnti. Passare a un altro modello, o alla fine a un fornitore, è un trasloco e non una ricostruzione.

Server vostro o interfaccia di un fornitore?

Costruiamo entrambe le vie. La domanda non è quale sia migliore, ma che cosa permettono i vostri documenti.

Dove finiscono i dati

Sul vostro server

Sulla vostra macchina o in un centro dati svizzero. Verso l’esterno non va niente.

Tramite l’interfaccia di un fornitore

La domanda e i passaggi inviati con essa finiscono sui server del fornitore.

Addestramento sui vostri contenuti

Sul vostro server

Non si pone, perché non c’è nessuno che riceva qualcosa.

Tramite l’interfaccia di un fornitore

Dipende dalle condizioni del fornitore. Le tariffe aziendali di regola lo escludono, ma vanno lette.

Tempo fino alla partenza

Sul vostro server

Più lungo: hardware, installazione, accessi e una prova sui vostri documenti.

Tramite l’interfaccia di un fornitore

Breve. Basta un accesso e la prima prova gira nella stessa settimana.

Investimento o consumo

Sul vostro server

Una messa in opera una volta sola, poi esercizio e corrente, qualunque sia il numero di domande.

Tramite l’interfaccia di un fornitore

Niente da comprare, ma una fattura per ogni domanda, che cresce con l’uso.

Potenza disponibile

Sul vostro server

Quella della vostra macchina, non di più. Più potenza significa più hardware.

Tramite l’interfaccia di un fornitore

I modelli più grandi ci sono subito, senza che voi dobbiate potenziare niente.

Aggiornamento del modello

Sul vostro server

Decidete voi quando cambiare e potete restare sulla versione in uso.

Tramite l’interfaccia di un fornitore

Il fornitore fissa versioni e spegnimenti, voi seguite.

Compatibilità con il segreto professionale

Sul vostro server

I documenti restano dove si trovano già oggi.

Tramite l’interfaccia di un fornitore

Richiede un contratto di trattamento dei dati e, nel dubbio, il consenso delle persone interessate.

Costruiamo entrambe le vie e su una non guadagniamo più che sull’altra. Che cosa vi conviene lo decidono i vostri dati e la vostra fretta, non la nostra preferenza.

Come si svolge un progetto simile

Quattro passi, e nel primo non si parla ancora di tecnica.

  1. 1

    Passare in rassegna i dati

    Guardiamo con voi quali documenti sono davvero in gioco e quali di questi sono davvero delicati. Spesso sono meno del temuto, e allora l’impianto diventa più piccolo.

  2. 2

    Scegliere il modello e l’impianto

    Due o tre modelli aperti rispondono alle vostre domande vere partendo dai vostri documenti veri. Leggete le risposte una accanto all’altra e decidete su quelle, non su una scheda tecnica.

  3. 3

    Installare, con accessi e registro

    Installazione da voi o nel centro dati svizzero, collegata ai vostri account esistenti, con il registro degli scambi e senza nessuna strada verso l’esterno.

  4. 4

    Formazione e manutenzione

    Le vostre persone imparano a che cosa serve l’assistente e a che cosa no. Poi lo gestisce il vostro servizio informatico con la nostra documentazione, oppure ce ne occupiamo noi.

Con che cosa si costruisce un impianto simile

Tutto quanto funziona senza nessun collegamento verso l’esterno.

Modelli aperti

Llama, Mistral, Qwen, Gemma

Esecuzione

Ollama, vLLM, llama.cpp

Ricerca nei documenti

PostgreSQL con pgvector, Qdrant

Infrastruttura

Docker, server in casa o centro dati svizzero

Domande frequenti
Quanto costa un’IA in casa?

Dipende dall’hardware, dalla dimensione del modello e da quanti documenti devono diventare consultabili. Per questo non diciamo nessuna cifra prima di saperlo. Nel primo colloquio, che è gratuito, fissiamo il perimetro e poi ricevete un prezzo fisso per quel perimetro preciso. Calcoliamo sia la macchina acquistata sia quella noleggiata in un centro dati svizzero, così vedete le due opzioni una accanto all’altra.

Primo colloquio gratuito
Servono informatici in azienda?

No. Se lo volete, la gestione può restare al vostro servizio informatico, e documentazione e formazione arrivano da noi. Se in casa non c’è nessuno, la manutenzione la facciamo noi: aggiornamenti, sorveglianza e disponibilità dell’impianto. Quello che in entrambi i casi resta da voi sono i dati.

Un modello aperto è peggiore di quelli grandi?

Sulla cultura generale e sulla scrittura libera i modelli più grandi restano avanti. Sulle vostre domande relative ai vostri documenti conta altro: che il passaggio giusto venga trovato e restituito fedelmente. Lì un modello aperto di taglia media di solito recupera. Lo verifichiamo sulle vostre domande invece di affermarlo.

La macchina deve stare da noi?

No. Un computer con scheda grafica in un centro dati svizzero è la via di mezzo abituale: nessun acquisto, nessun locale tecnico, e i dati restano comunque nel Paese e sotto il vostro controllo. Se questo basti alle vostre regole interne lo guardiamo prima, perché certe direttive esigono le vostre mura.

Che cosa succede in caso di guasto?

La stessa domanda che vale per qualsiasi server che già gestite: copia di sicurezza, pezzo di ricambio e un piano su quanto a lungo potreste farne a meno. Lo mettiamo per iscritto prima della messa in esercizio. Se la macchina sta in un centro dati, quella parte spetta comunque al gestore.

Potremo passare più tardi a un fornitore?

Sì, e nell’altro senso con la stessa facilità. I documenti, la ricerca e le regole di accesso sono organizzati in modo che si sostituisca solo la parte che scrive la risposta. È un cambio e non un secondo progetto. È proprio per questo che lo costruiamo così fin dall’inizio.

Diteci quali documenti non possono uscire di casa.

Nel primo colloquio, gratuito e senza impegno, guardiamo i vostri dati e le vostre regole interne e vi diciamo con onestà se serve il server in casa oppure se basta una via più semplice. Rispondiamo entro 24 ore.

Fissare il primo colloquio

Preferite una risposta subito? L’assistente IA in basso a destra vi aiuta immediatamente.

Contatto

Pronti per la vetta?

Raccontateci il vostro progetto. Rispondiamo entro 24 ore con una valutazione onesta. Gratuito e senza impegno.

hallo@aurphi.ch
AurPhi MoukrimMarktstrasse 18, 8853 Lachen SZ, SvizzeraIndirizzo postale, nessun accesso al pubblico. Appuntamenti su richiesta.