Wir stellen auf selbst gehostete KI um

In den vergangenen zwei Jahren liefen die KI-Funktionen von Herodesk auf den Modellen von OpenAI. Übersetzungen, Klassifizierungen und schließlich auch die KI-Agenten, die Kundenfragen beantworten und Maßnahmen in Ihrem Webshop ergreifen: all dies wurde abgewickelt, indem Anfragen an die Server von OpenAI in den USA gesendet und auf eine Antwort gewartet wurde.

So funktioniert das nicht mehr.

Seit Ende Mai wird jede KI-Anfrage in Herodesk auf unseren eigenen Servern ausgeführt, wobei wir Open-Source-Modelle verwenden, die wir selbst in Dänemark und Deutschland hosten und verwalten. Kein OpenAI. Kein externer KI-Anbieter, der sich zwischen Ihre Kundendaten und Ihren Support-Posteingang schaltet.

Ihre Daten bleiben genau dort, wo Sie sie vermuten

Wenn Sie schon einmal einen Sicherheitsfragebogen für Lieferanten ausfüllen mussten, wissen Sie, wie das abläuft: Jeder Unterauftragsverarbeiter wird aufgeführt, und jeder Unterauftragsverarbeiter wird genau unter die Lupe genommen. Für eine wachsende Zahl unserer Kunden war es ein Ausschlusskriterium, wenn ein US-amerikanischer KI-Anbieter irgendwo auf dieser Liste stand, selbst bei anonymisierten Daten und einer strikten „No-Training“-Richtlinie seitens OpenAI.

Das ist nun Vergangenheit. Jede KI-Anfrage, die eine Bestellung, eine Kundennachricht oder Ihren Produktkatalog betrifft, wird vollständig auf unserer eigenen Infrastruktur verarbeitet, die in Dänemark und Deutschland gehostet wird. Nichts verlässt die EU. Nichts wird über Dritte weitergeleitet. Wenn Ihr Unternehmen die Einhaltung der DSGVO ernst nimmt, müssen Sie sich bei der Entscheidung für Herodesk um eine Sache weniger Sorgen machen.

Geringere Kosten, ohne diese an Sie weiterzugeben

Der Einsatz von KI in Herodesk hat rasant zugenommen, insbesondere seit der Einführung autonomer KI-Agenten im vergangenen Oktober. Mehr Kunden, mehr Konversationen, komplexere Anfragen: all dies wird von OpenAI pro Token abgerechnet. Diese Kostenentwicklung begann, uns Sorgen zu bereiten.

Der Betrieb unserer eigenen Modelle auf gemieteter GPU-Infrastruktur verändert diese Rechnung. Anstelle einer variablen, ständig steigenden Rechnung eines US-Anbieters haben wir die Kosten direkt im Griff. Das ist kein Detail, das wir nur erwähnen, um einen guten Eindruck zu hinterlassen. Es ist der Grund, warum wir unsere KI-Agenten zu einem äußerst wettbewerbsfähigen Preis anbieten können.

Auf Ihrer Seite hat sich nichts geändert

Ein Wechsel des KI-Anbieters ist in der Regel mit Ausfallzeiten, Neukonfigurationen oder einer schwierigen Übergangsphase verbunden. In diesem Fall war dies nicht der Fall.

Die Tools, die wir zur Ausführung unserer eigenen Modelle verwenden, sprechen dieselbe Sprache wie die API von OpenAI; aus Sicht von Herodesk war es daher ein einfacher Austausch. Ihre KI-Agenten arbeiteten weiterhin genau wie zuvor: auf denselben Kanälen, in denselben Sprachen und mit denselben Antwortzeiten. Hätten Sie diesen Beitrag nicht gelesen, hätten Sie überhaupt nicht bemerkt, dass sich etwas geändert hat.

Ein kurzer Blick unter die Haube

Ohne zu sehr ins Detail zu gehen: Wir mieten NVIDIA-GPUs aus einem Rechenzentrum in Dänemark, die sicher mit unseren Servern in Deutschland verbunden sind, und führen darauf selbst Open-Source-Sprachmodelle aus. Verschiedene Modelle übernehmen unterschiedliche Aufgaben: leichtere Modelle für einfache Aufgaben wie Übersetzungen, größere Modelle für die komplexeren Schlussfolgerungen, die unsere KI-Agenten durchführen müssen. Der Betrieb ist aufwändiger als der einfache Aufruf einer API, aber es ist eine Aufgabe, für die wir gut gerüstet sind, und sie liegt vollständig in unserer Kontrolle.

Warum dies für die Zukunft von Bedeutung ist

Herodesk wurde schon immer auf einer Infrastruktur betrieben, die wir selbst kontrollieren. Unsere Server befinden sich bei Hetzner in Deutschland, nicht bei AWS, Azure oder Google Cloud, und das ist eine bewusste Entscheidung, keine Abkürzung. Die Verlagerung unseres KI-Stacks auf dasselbe Modell dehnt dieses Prinzip lediglich auf den Teil des Produkts aus, der am schnellsten wächst.

Für Sie bedeutet dies eine Support-Plattform, bei der Ihre Kundendaten in der EU verbleiben, Ihre Kosten vorhersehbar bleiben und die KI-Funktionen, auf die Sie sich verlassen, kontinuierlich verbessert werden, ganz ohne Einmischung Dritter.