KI. Auf Ihren Daten. In Ihrem Haus.

Der Unterschied zwischen „wir haben eine API angebunden" und „wir betreiben das System"

Die meisten KI-Projekte sind ein API-Schlüssel und ein Prompt. Das funktioniert überraschend gut — bis eine der drei Fragen gestellt wird: Wohin gehen die Daten? Warum hat sich die Antwortqualität über Nacht verändert? Und warum kostet der Betrieb plötzlich das Dreifache?

Wir bauen die Schicht darunter selbst. Retrieval, Indexierung, Rechtelogik, Auswertung — alles in Ihrer Hand, das Sprachmodell austauschbar. Damit lassen sich Modelle vergleichen, ersetzen oder parallel betreiben, ohne die Anwendung neu zu bauen.

Das zahlt sich in drei Situationen aus:

Wenn die Daten nicht raus dürfen. Personenbezogene Daten, Verträge, Personalunterlagen, Behördenakten: Wir betreiben offene Modelle auf Infrastruktur in Österreich oder der EU. Kein Drittanbieter sieht die Inhalte.

Wenn sich der Markt dreht. Modelle veralten im Halbjahresrhythmus. Wer die Anwendung von einem Anbieter entkoppelt hat, wechselt in Tagen statt in einem Folgeprojekt.

Wenn nachvollziehbar sein muss, warum. Jede Antwort mit Quellenangabe, jede Abfrage protokolliert, jede Änderung an der Wissensbasis versioniert. Das ist die Voraussetzung dafür, dass ein KI-System in einem geprüften Umfeld überhaupt eingesetzt werden darf.

Wann sich ein KI-Projekt lohnt

KI ist kein Allzweckwerkzeug. Sie ist stark, wo Menschen dieselbe Arbeit hundertfach machen:

• Viele gleichartige Anfragen. Auskunft zu Förderungen, Regelwerken, Produkten, Verfahren — dieselben Fragen, unterschiedlich formuliert.
• Große Dokumentbestände. Hunderte oder tausende Seiten, in denen niemand mehr sucht, weil Suchen zu lange dauert.
• Mehrsprachigkeit. Übersetzungsvorbereitung, Terminologiekonsistenz, redaktionelle Zweitfassungen.
• Inhaltsaufbereitung im Bestand. Alternativtexte, Zusammenfassungen, Metadaten, „Leichte Sprache" — Barrierefreiheitsanforderungen im Altbestand sind manuell kaum zu bewältigen.
• Recherche in Fachbeständen. Normen, Gutachten, Sitzungsprotokolle, Ausschreibungsunterlagen.

Warum offene Modelle und eigene Infrastruktur?

Keine Anbieterabhängigkeit. Offene Modelle — Llama, Mistral, Qwen, Gemma — laufen auf Ihrer Infrastruktur. Kein Anbieter kann Ihnen Bedingungen, Preise oder ein Abschaltdatum diktieren.

Datenhoheit. Betrieb in Österreich oder der EU, auf eigener Hardware oder bei einem EU-Anbieter. Ihre Inhalte verlassen den Rechtsraum nicht und fließen in kein Training ein.

Nachvollziehbarkeit. Antworten mit Quellenverweis auf Ihre Dokumente. Wo die Basis nichts hergibt, sagt das System das — statt plausibel zu klingen.

Kostenkontrolle. Selbst betriebene Modelle kosten Infrastruktur, nicht Token. Bei gleichmäßiger Nutzung ist das planbar und ab einer bestimmten Menge deutlich günstiger.

Rechtssicherheit. DSGVO, KI-Verordnung, Transparenz- und Kennzeichnungspflichten: Wir bauen die Dokumentation von Anfang an mit, statt sie nachzureichen.

Barrierefreiheit. Sprachbasierte Bedienung und automatisierte Aufbereitung sind ein echter Zugänglichkeitsgewinn — wenn die Oberfläche selbst WCAG-konform ist. Beides prüfen wir vor dem Livegang.

Investitionssicherheit. Was bleibt, ist Ihre aufbereitete Wissensbasis. Die ist modellunabhängig und überlebt jeden Anbieterwechsel.

Sie haben KI schon im Einsatz — nur nicht offiziell

In fast jedem Haus, in das wir kommen, läuft KI längst: private ChatGPT-Abos, Übersetzungstools im Browser, Notiz-Assistenten in Videokonferenzen. Meist ohne Vertrag, ohne Verzeichnis, ohne Wissen der Geschäftsführung. Genau dort gehen Daten verloren, nicht im geplanten Projekt.

Wir machen zuerst eine Inventur: Welche Werkzeuge sind im Einsatz, mit welchen Daten, auf welcher Rechtsgrundlage? Daraus entsteht eine klare Linie — was bleibt, was ersetzt wird, was zu unterbinden ist.

Was wir prüfen, bevor irgendetwas passiert: Datenschutzrechtliche Lage der eingesetzten Werkzeuge, Sensibilität der verarbeiteten Inhalte, tatsächlicher Nutzen im Arbeitsalltag, verfügbare EU-Alternativen und der Aufwand einer Umstellung.

Das Ergebnis ist eine belastbare Aufwandsschätzung — keine Hausnummer.

Sie kommen von einem Anbieter und wollen wechseln?

Der Wechsel von einer proprietären Cloud-Lösung auf eigene Infrastruktur ist Routine, wenn die Anwendung ordentlich geschnitten ist. Entscheidend ist die Qualität Ihrer Wissensbasis, nicht das Modell, das bisher darauf gearbeitet hat.

Lässt sich das an unsere bestehenden Systeme anbinden?

Ja. Wir holen Inhalte dort ab, wo sie liegen: Plone und Odoo über deren REST-APIs, Nextcloud und SharePoint über Dateischnittstellen, ERP- und CRM-Systeme über bestehende Integrationen, Fachdatenbanken direkt. Verarbeitet wird mit Vektordatenbanken (pgvector, Qdrant), betrieben werden die Modelle über Ollama oder vLLM. Für Audio und Video kommt Whisper zur Transkription dazu.

Eine Einschränkung, die wir gerne früh ansprechen: Der Aufwand hängt fast immer am Quellsystem, nicht an der KI. Gut dokumentierte APIs sind eine Sache von Tagen. Gewachsene Ablagestrukturen ohne Metadaten, gescannte Dokumente ohne Texterkennung oder Excel-Listen als Datenbank-Ersatz sind ein eigenes Teilprojekt. Wir schätzen das im Vorfeld ab, statt es im Projekt zu entdecken.

Was ist mit Anbietern aus den USA?

OpenAI, Anthropic und Google verarbeiten Daten überwiegend außerhalb der EU. Für Unternehmen ist das mit Auftragsverarbeitungsvertrag, klarer Zweckbindung und Ausschluss der Trainingsnutzung meist handhabbar — für öffentliche Stellen ist die Lage oft enger. Wir kennen beide Wege, arbeiten mit beiden und sagen offen, wo ein US-Modell qualitativ noch vorne liegt. Für sensible Bestände empfehlen wir EU-gehostete oder selbst betriebene Modelle, und in vielen Anwendungsfällen reichen die inzwischen problemlos.

Rollen, Rechte und geschützte Inhalte

Ein Assistenzsystem darf nur zeigen, was die anfragende Person auch sonst sehen dürfte. Wir setzen die Rechtelogik im Retrieval um, nicht im Prompt: Der Index kennt Berechtigungen, Treffer werden vor der Antwortgenerierung gefiltert. Anmeldung über bestehende Benutzerverwaltung, Active Directory, LDAP oder Single Sign-on via OAuth2 und SAML.

Was gilt gerade?

Die KI-Verordnung der EU (Verordnung (EU) 2024/1689) gilt seit 1. August 2024 und wird gestaffelt wirksam. Verbotene Praktiken und die Pflicht zur KI-Kompetenz von Mitarbeitenden gelten seit Februar 2025, die Pflichten für Anbieter allgemeiner KI-Modelle seit August 2025. Ab 2. August 2026 greifen die Transparenzpflichten nach Artikel 50 — dazu zählt, dass Nutzer:innen erkennen können, dass sie mit einer KI sprechen, und dass KI-generierte Inhalte gekennzeichnet werden.

Die umfangreichen Pflichten für Hochrisiko-Systeme wurden mit dem „Digital Omnibus" verschoben: für eigenständige Systeme nach Anhang III auf 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme auf 2. August 2028. Für die meisten Auskunfts- und Assistenzsysteme sind die Transparenzpflichten der relevante Teil, nicht die Hochrisiko-Regeln.

Wir sind keine Rechtsberatung. Wir kennen die Anforderungen aus laufenden Verfahren, dokumentieren technisch prüffest und arbeiten bei Bedarf mit Ihren Jurist:innen und Datenschutzbeauftragten zusammen.

Wer betreibt das System?

Auf Wunsch wir. Wir hosten auf eigener Infrastruktur in Österreich beziehungsweise der EU — mit Monitoring, Backups, Sicherheitsupdates und definierten Reaktionszeiten. Dazu gehört bei KI ein Teil, den viele unterschätzen: ein Prüfset aus echten Fragen und richtigen Antworten. Damit messen wir nach jedem Modell- oder Inhaltsupdate, ob die Qualität gehalten hat. Ohne dieses Set ist jede Aussage über Verbesserung Gefühl.

Sie können das System aber genauso im eigenen Rechenzentrum betreiben. Wir richten ein, dokumentieren und übergeben. Auch das gehört zur Unabhängigkeit.

Erfindet die KI dann keine Antworten mehr? Reduziert, nicht ausgeschlossen. Ein Modell, das nur aus freigegebenen Quellen antwortet und jede Aussage belegt, liegt deutlich seltener falsch — und Fehler sind überprüfbar, weil die Quelle daneben steht. Wir bauen zusätzlich eine Rückmeldefunktion ein, damit falsche Antworten im Betrieb auffallen, statt geglaubt zu werden.

Werden unsere Daten zum Training verwendet? Bei selbst betriebenen Modellen nein, technisch nicht möglich. Bei API-Anbietern hängt es am Vertrag; wir schließen die Trainingsnutzung aus und legen es Ihnen schriftlich vor.

Was kostet das? Ein abgegrenzter Pilot auf einem klar umrissenen Dokumentbestand liegt in einer anderen Größenordnung als ein öffentliches Auskunftssystem mit Redaktionsanbindung. Nach einem Erstgespräch nennen wir eine belastbare Bandbreite, bevor Kosten entstehen — inklusive der laufenden Betriebskosten, weil die bei KI den größeren Teil ausmachen.

Wie lange dauert es, bis wir etwas sehen? Einen arbeitsfähigen Prototyp auf Ihren echten Daten üblicherweise in wenigen Wochen. Wir empfehlen, damit anzufangen: Ein Prototyp beantwortet die Frage nach dem Nutzen zuverlässiger als jedes Konzept.

Ersetzt das unsere Redaktion? Nein, es verschiebt die Arbeit. Weniger Erstfassung und Routineauskunft, mehr Prüfung, Kuratierung und Pflege der Wissensbasis. Häuser, die diese Pflege nicht einplanen, haben nach einem Jahr ein System, dem niemand mehr glaubt.

Müssen wir KI-Inhalte kennzeichnen? Bei Chat-Oberflächen und synthetischen Medien: ja, ab August 2026 nach Artikel 50 der KI-Verordnung. Für die technische Kennzeichnung von Bild-, Ton- und Videomaterial entstehen die Standards derzeit. Wir setzen das um, sobald die Verfahren stehen, und richten Oberflächen von Anfang an so ein, dass die Kennzeichnung nicht nachgerüstet werden muss.

Was passiert, wenn wir uns mit Ihnen zerstreiten? Dann übernimmt eine andere Agentur. Wir arbeiten mit offenen Modellen, offenen Formaten und dokumentiertem Code, Ihre Wissensbasis gehört Ihnen. Wir übergeben vollständig. Das ist kein Zugeständnis, sondern Systemeigenschaft.

Braucht das teure Hardware? Nicht zwingend. Viele Anwendungsfälle laufen auf einer einzelnen GPU im Serverschrank oder bei einem EU-Hoster im Monatsabo. Wir dimensionieren nach gemessener Last, nicht nach Prospekt.