Aggregatoren und Plattformen

Statt einzelner KI-Systeme kann man auch Plattformen nutzen, die mehrere KI-Systeme bündeln, sogenannte KI-Aggregatoren, Multi-Model- oder Enterprise-AI-Plattformen. Der Vorteil ist, dass man für jeden Zweck das jeweils geeignetste System auswählen kann und sich unterschiedliche Systeme gegenseitig überprüfen können. Langdock, ein Berliner Start-up, bündelt verschiedene KI-Dienste auf einer einheitlichen Oberfläche und hostet überwiegend im Geltungsbereich der DSGVO, allerdings mit sehr engen Limitierungen und einem eher fragwürdigen Preismodell. Vergleichbar sind DeutschlandGPT, innoGPT und meinGPT. Auch Microsoft Copilot nutzt mit ChatGPT, Claude und den eigenen MAI-Modellen mehrere Systeme. Perplexity hat ein eigenes, auf LlaMA basierendes Sprachmodell, umfasst aber ebenfalls andere Modelle. Poe bündelt eine Fülle von Diensten und stellt im Abo ein Guthaben bereit, das durch die Nutzung verbraucht wird.

Darüber hinaus gibt es Anbieter wie Hugging Face und OpenRouter, die eine Vielzahl überwiegend, aber nicht nur offener Modelle bereitstellen und – selbst oder über andere Anbieter – Inferenz anbieten, also die Verarbeitung von Eingaben. Man kann sie im Browser nutzen oder per API in andere Programme einbinden, etwa über Clients wie Cherry Studio oder Chatbox. So lassen sich verschiedene Modelle ausprobieren oder produktiv nutzen, ohne ein monatliches Abo zu bezahlen. Abgerechnet wird der Tokenverbrauch meist auf Guthabenbasis oder bei Bedarf als Abo mit Kontingenten.

Genau genommen sind die beiden nicht direkt vergleichbar. OpenRouter bietet vor allem bekannte Modelle und Inferenzleistung an; Wettbewerber sind etwa Vercel, NanoGPT, TypingMind oder Requesty. Hugging Face ist dagegen eine in dieser Form ziemlich einmalige Plattform, auf der jeder eigene Modelle, Anpassungen offener Modelle und eigene Datenbestände veröffentlichen kann; API und Inferenz sind dort eher Nebenaspekte. Zu beachten ist, dass die Dialoge von den KI- oder Inferenzanbietern verarbeitet werden. Es ist nicht immer gewährleistet, dass sie nicht zu Trainingszwecken genutzt werden; manche Anbieter bieten Anonymisierung oder „Zero Data Retention“ (ZDR) an. Ohne besondere Datenschutzmaßnahmen kommen solche Anbieter eher zum Testen als für produktive Arbeit in Betracht.