KI im eigenen Haus

KI, die Ihr Netz nie verlässt.

Ein offenes Modell arbeitet auf einer Maschine, die Ihnen gehört oder in der Schweiz für Sie läuft. Diese Maschine hat keinen Weg ins Internet, also kann auch nichts hinausgehen: keine Frage, kein Dossier, kein Name aus Ihrer Kundenliste.

  • Kein Weg nach draussen
  • Ihre Inhalte trainieren niemanden
  • Festpreis nach dem Erstgespräch
Wann sich der eigene Server lohnt

Vier Lagen, in denen der Weg über einen Anbieter gar nicht zur Debatte steht.

Ein Beruf mit Schweigepflicht

Anwaltskanzleien, Treuhand, Arztpraxen. Was Ihnen jemand anvertraut, gehört ihm und sonst niemandem. Eine Anfrage an einen fremden Server ist hier keine Frage der Bequemlichkeit, sondern ein Problem.

Kundendaten, die im Land bleiben

Ein Vertrag, eine Vereinbarung mit Ihrer Kundschaft oder eine Vorgabe Ihrer Branche verlangt, dass die Daten die Schweiz nicht verlassen. Dann entscheidet der Standort und nicht der Preis.

Eine interne Weisung gegen die Cloud

Es gibt eine Richtlinie im Haus, und die sagt Nein zur Cloud. Statt eine Ausnahme zu erkämpfen, bauen wir die KI so, dass die Frage gar nicht erst aufkommt.

Unterlagen, die wirklich heikel sind

Personaldossiers, Verträge, Krankengeschichten, Lohnlisten. Ausgerechnet die Dokumente, bei denen KI am meisten Arbeit abnimmt, dürfen am wenigsten nach draussen.

Was dazugehört

Vom Modell auf Ihrer Maschine bis zum Protokoll, das zeigt, wer was gefragt hat.

Offenes Modell auf Ihrer Maschine

Llama, Mistral, Qwen oder Gemma laufen auf einem Rechner bei Ihnen im Serverraum oder in einem Schweizer Rechenzentrum. Welches Modell es wird, richtet sich nach Ihrer Aufgabe und nicht nach dem grössten Namen.

Assistent auf Ihren Unterlagen

Weisungen, Verträge, Handbücher, Dossiers. Das Modell durchsucht Ihre eigenen Dokumente und formuliert die Antwort daraus, mit Verweis auf die Stelle, aus der sie stammt.

Keine Schnittstelle nach aussen

Es gibt keinen Aufruf zu einem Anbieter, weil keiner gebraucht wird. Der Rechner darf technisch nicht ins Internet, und das lässt sich in Ihrem eigenen Netz nachprüfen.

Zugriffe steuern und protokollieren

Wer den Assistenten benutzen darf und welche Unterlagen er dabei sieht, hängt an Ihren bestehenden Konten. Jede Frage und jede Antwort werden festgehalten, damit später nachvollziehbar bleibt, wer was wissen wollte.

Modell wechseln, wann Sie wollen

Kommt ein besseres offenes Modell heraus, tauschen wir es aus. Den Zeitpunkt bestimmen Sie, und nicht ein Anbieter, der eine Version abschaltet. Ihre Dokumente und Einstellungen bleiben, wo sie sind.

Leistung und Verbrauch messen

Antwortzeiten, Auslastung der Grafikkarte und Stromverbrauch sind ablesbar. So sehen Sie, ob die Maschine noch reicht, bevor die Leute im Haus anfangen zu klagen.

Was es wirklich braucht

Eine Maschine mit Grafikkarte, und nicht mehr Modell als nötig

Die häufigste Sorge betrifft die Anschaffung. Sie fällt meistens kleiner aus als befürchtet, weil sich die Grösse des Modells nach der Aufgabe richtet und nicht umgekehrt.

Die Hardware

Ein Rechner mit einer geeigneten Grafikkarte, entweder bei Ihnen im Serverraum oder gemietet in einem Schweizer Rechenzentrum. Gemietet heisst: keine Anschaffung, kein Serverraum, und die Daten bleiben trotzdem im Land.

Die Grösse des Modells

Ein Modell muss nicht alles können, sondern Ihre Arbeit. Verträge durchsuchen und Zusammenfassungen schreiben stellt andere Ansprüche als das Erzeugen von Programmcode. Wir messen das an Ihren echten Unterlagen, bevor irgendeine Hardware bestellt wird.

Zuerst der Versuch, dann der Einkauf

Der erste Durchgang läuft auf geliehener Hardware. Zeigt sich dabei, dass sich der eigene Server für Ihren Fall nicht lohnt, sagen wir das offen, und Sie haben nichts angeschafft.

Welches Modell und warum

Ein mittleres Modell mit Ihren Unterlagen schlägt das grösste ohne

Offene Modelle wie Llama, Mistral, Qwen oder Gemma reichen heute für die Arbeit, um die es in den meisten Betrieben geht. Entscheidend ist selten die Grösse des Modells, sondern was es vor der Antwort zu sehen bekommt.

Warum der Zusammenhang zählt

Ein sehr grosses Modell weiss viel über die Welt und nichts über Ihre Weisung von vorletztem Jahr. Ein mittleres Modell, das vor jeder Antwort in Ihren Dokumenten sucht, trifft bei genau diesen Fragen besser.

Wie wir auswählen

Wir nehmen Ihre eigenen Fragen, lassen zwei oder drei Modelle darauf antworten und legen die Ergebnisse nebeneinander. Entschieden wird nach diesem Vergleich und nicht nach einer Rangliste im Internet.

Offen heisst nicht überall dasselbe

Die Lizenzbedingungen der offenen Modelle unterscheiden sich, gerade beim gewerblichen Einsatz. Wir lesen sie mit Ihnen durch, bevor das Modell bei Ihnen im Haus steht.

Was mit der Zeit passiert

Ein Modell im Haus ist kein Gerät, das man aufstellt und vergisst

Der eigene Server ist kein Abonnement, das jemand anderes für Sie aktuell hält. Wer ihn betreibt und was passiert, wenn Sie später umsteigen wollen, gehört vorher geklärt und nicht erst im zweiten Jahr.

Aktualisieren

Ein neues Modell läuft zuerst neben dem alten und beantwortet dieselben Fragen. Erst wenn es sichtbar besser antwortet, wird umgeschaltet. Niemand von aussen zwingt Sie zu einem Wechsel.

Wer die Anlage betreibt

Entweder Ihre eigene Informatik, mit Dokumentation und Schulung von uns, oder wir im Rahmen der Wartung. Beides ist üblich. Der Unterschied liegt darin, wer nachts die Meldung bekommt.

Wenn Sie später wechseln wollen

Die Dokumente, die Suche und die Zugriffsregeln gehören Ihnen und liegen in gängigen Formaten. Ein Wechsel auf ein anderes Modell oder später doch auf einen Anbieter ist ein Umzug und kein Neubau.

Eigener Server oder Schnittstelle eines Anbieters?

Beides bauen wir. Die Frage ist nicht, welcher Weg besser ist, sondern was Ihre Unterlagen zulassen.

Wo die Daten landen

Auf Ihrem eigenen Server

Auf Ihrer Maschine oder in einem Schweizer Rechenzentrum. Nach aussen geht nichts.

Über die Schnittstelle eines Anbieters

Die Frage und die mitgeschickten Textstellen gehen auf die Server des Anbieters.

Training mit Ihren Inhalten

Auf Ihrem eigenen Server

Fällt weg, weil es niemanden gibt, der etwas erhält.

Über die Schnittstelle eines Anbieters

Hängt an den Bedingungen des Anbieters. Geschäftstarife schliessen es meist aus, nachlesen muss man es trotzdem.

Zeit bis zum Start

Auf Ihrem eigenen Server

Länger: Hardware, Installation, Zugriffe und ein Versuch mit Ihren eigenen Dokumenten.

Über die Schnittstelle eines Anbieters

Kurz. Ein Zugang genügt, und der erste Versuch läuft in derselben Woche.

Anschaffung gegen Verbrauch

Auf Ihrem eigenen Server

Einmalige Einrichtung, danach Betrieb und Strom, unabhängig davon, wie viel gefragt wird.

Über die Schnittstelle eines Anbieters

Keine Anschaffung, dafür eine Rechnung pro Frage, die mit der Nutzung mitwächst.

Verfügbare Rechenleistung

Auf Ihrem eigenen Server

So viel, wie Ihre Maschine hergibt. Mehr Leistung bedeutet mehr Hardware.

Über die Schnittstelle eines Anbieters

Die grössten Modelle stehen sofort bereit, ohne dass Sie etwas aufrüsten.

Aktualisierung des Modells

Auf Ihrem eigenen Server

Sie entscheiden, wann gewechselt wird, und können auf der bisherigen Version bleiben.

Über die Schnittstelle eines Anbieters

Der Anbieter bestimmt Versionen und Abschaltungen, Sie ziehen nach.

Vereinbarkeit mit dem Berufsgeheimnis

Auf Ihrem eigenen Server

Die Unterlagen bleiben dort, wo sie heute schon liegen.

Über die Schnittstelle eines Anbieters

Verlangt einen Vertrag zur Auftragsbearbeitung und im Zweifel das Einverständnis der Betroffenen.

Wir bauen beide Wege, und am einen verdienen wir nicht mehr als am anderen. Was passt, entscheiden Ihre Daten und Ihre Eile, nicht unsere Vorliebe.

So läuft ein solches Projekt

Vier Schritte, und im ersten geht es noch gar nicht um Technik.

  1. 1

    Daten sichten

    Wir schauen mit Ihnen an, welche Unterlagen überhaupt im Spiel sind und welche davon wirklich heikel sind. Oft ist es weniger als befürchtet, und dann wird die Anlage kleiner.

  2. 2

    Modell und Aufbau wählen

    Zwei oder drei offene Modelle beantworten Ihre echten Fragen aus Ihren echten Dokumenten. Sie lesen die Antworten nebeneinander und entscheiden danach, nicht anhand eines Datenblatts.

  3. 3

    Aufstellen, mit Zugriffen und Protokoll

    Installation bei Ihnen im Haus oder im Schweizer Rechenzentrum, angebunden an Ihre bestehenden Konten, mit Protokoll und ohne Weg nach draussen.

  4. 4

    Schulung und Unterhalt

    Ihre Leute lernen, wofür der Assistent taugt und wofür nicht. Danach betreibt ihn entweder Ihre Informatik mit unserer Dokumentation, oder wir übernehmen den laufenden Unterhalt.

Womit so eine Anlage gebaut wird

Alles davon läuft ohne Verbindung nach draussen.

Offene Modelle

Llama, Mistral, Qwen, Gemma

Ausführung

Ollama, vLLM, llama.cpp

Suche in Dokumenten

PostgreSQL mit pgvector, Qdrant

Betrieb

Docker, eigener Server oder Schweizer Rechenzentrum

Häufige Fragen
Was kostet KI im eigenen Haus?

Das hängt von der Hardware ab, von der Grösse des Modells und davon, wie viele Unterlagen durchsuchbar werden sollen. Deshalb nennen wir keine Zahl, bevor wir das kennen. Im kostenlosen Erstgespräch klären wir den Umfang, danach erhalten Sie einen Festpreis für genau diesen Umfang. Ob die Maschine gekauft oder in einem Schweizer Rechenzentrum gemietet wird, rechnen wir Ihnen beides durch, damit Sie die zwei Varianten nebeneinander sehen.

Kostenloses Erstgespräch
Brauchen wir dafür eigene Informatiker?

Nein. Betreiben kann es Ihre eigene Informatik, wenn Sie das wollen, und Dokumentation und Schulung kommen von uns. Haben Sie niemanden im Haus, übernehmen wir den Unterhalt: Aktualisierungen, Überwachung und die Erreichbarkeit der Anlage. Was in beiden Fällen bei Ihnen bleibt, sind die Daten.

Ist ein offenes Modell schlechter als die grossen?

Bei Allgemeinwissen und beim freien Formulieren liegen die grössten Modelle vorne. Bei Ihren Fragen zu Ihren Unterlagen zählt etwas anderes: dass die richtige Stelle gefunden und sauber wiedergegeben wird. Dort holt ein mittleres offenes Modell den Rückstand meist auf. Wir prüfen das an Ihren eigenen Fragen, statt es einfach zu behaupten.

Muss die Maschine bei uns im Haus stehen?

Nein. Ein Rechner mit Grafikkarte in einem Schweizer Rechenzentrum ist der übliche Mittelweg: keine Anschaffung, kein Serverraum, und die Daten bleiben trotzdem im Land und unter Ihrer Kontrolle. Ob das für Ihre internen Vorgaben genügt, schauen wir vorher gemeinsam an, weil manche Weisung ausdrücklich den eigenen Standort verlangt.

Was passiert bei einem Ausfall?

Dieselbe Frage wie bei jedem Server, den Sie heute schon betreiben: Sicherung, Ersatzteil und ein Plan, wie lange es zur Not auch ohne geht. Wir halten das schriftlich fest, bevor die Anlage in Betrieb geht. Steht die Maschine im Rechenzentrum, ist dieser Teil ohnehin Sache des Betreibers.

Können wir später doch zu einem Anbieter wechseln?

Ja, und in die andere Richtung genauso. Die Dokumente, die Suche und die Zugriffsregeln liegen so, dass nur der Teil ausgetauscht wird, der die Antwort schreibt. Das ist eine Umstellung und kein zweites Projekt. Genau deshalb bauen wir es von Anfang an so.

Sagen Sie uns, welche Unterlagen das Haus nicht verlassen dürfen.

Im kostenlosen und unverbindlichen Erstgespräch schauen wir uns Ihre Daten und Ihre internen Vorgaben an und sagen Ihnen ehrlich, ob es den eigenen Server braucht oder ob es einfacher auch geht. Wir antworten innerhalb von 24 Stunden.

Erstgespräch vereinbaren

Nur eine kurze Frage? Der KI-Assistent unten rechts antwortet sofort.

Kontakt

Bereit für den Gipfel?

Erzählen Sie uns von Ihrem Projekt. Wir melden uns innert 24 Stunden mit einer ehrlichen Einschätzung. Kostenlos und unverbindlich.

hallo@aurphi.ch
AurPhi MoukrimMarktstrasse 18, 8853 Lachen SZ, SchweizPostadresse, kein Publikumsverkehr. Termine nach Vereinbarung.