AI Agents für Enterprise: Worauf Konzerne bei KI im Kundenservice 2026 achten müssen
TL;DR: Das Wichtigste in 30 Sekunden
- Der Unterschied liegt nicht in der KI: Ein Enterprise-tauglicher AI Agent unterscheidet sich vom Mittelstands-Tool durch Sicherheit, Governance und Integrationstiefe.
- Pflichtanforderungen: Geprüfte Nachweise wie ISO 27001 oder ein BSI-C5-Testat, Single Sign-on, ein feingranulares Rollen- und Rechtesystem, Audit-Logs und Mandantenfähigkeit für Marken und Länder.
- Betriebsrat von Anfang an: Wertet das System Daten über Mitarbeitende aus, greift das Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG.
- Abhängigkeit vom Anbieter: Seit der Übernahme von Fin durch Salesforce im September 2026 sollten Konzerne Exit-Szenarien und Datenexport vertraglich regeln.
Ein AI Agent ist Enterprise-tauglich, wenn er nicht nur Anfragen löst, sondern sich in Sicherheitsarchitektur, Rechtekonzept und Freigabeprozesse eines Konzerns einfügt. Die Sprachmodelle sind bei den meisten Anbietern inzwischen vergleichbar gut. Den Unterschied machen Zertifizierungen, Identitätsmanagement, Audit-Fähigkeit, Integrationen in SAP, Salesforce oder Microsoft Dynamics und die Fähigkeit, mehrere Marken, Länder und Sprachen zentral zu steuern. Dieser Artikel zeigt, welche Anforderungen du stellen solltest und wie ein Rollout im Konzern gelingt.
Definition:
Ein Enterprise-tauglicher AI Agent ist ein KI-System für den Kundenservice, das neben der eigenständigen Lösung von Anfragen die Anforderungen großer Organisationen erfüllt: geprüfte Informationssicherheit, Anbindung an zentrales Identitätsmanagement, granulare Rechte, lückenlose Protokollierung, Mandantenfähigkeit und vertraglich zugesicherte Verfügbarkeit.
Was unterscheidet Enterprise-Anforderungen von denen im Mittelstand?
Im Mittelstand entscheidet meist ein kleines Team schnell über ein Tool. Im Konzern prüfen IT-Security, Datenschutz, Einkauf, Betriebsrat und oft mehrere Ländergesellschaften mit. Ein AI Agent muss deshalb nicht nur funktionieren, sondern jede dieser Prüfungen bestehen.
Drei Unterschiede prägen fast jedes Enterprise-Projekt. Erstens die Komplexität der Systemlandschaft: Statt eines Shopsystems und eines Helpdesks gibt es ERP, CRM, mehrere Ticketsysteme und eigene Portale. Zweitens die Zahl der Beteiligten: Inhalte werden von verschiedenen Fachbereichen gepflegt, die nur ihre eigenen Themen bearbeiten dürfen. Drittens die Nachweispflicht: Jede Entscheidung des Systems muss im Zweifel nachvollziehbar sein, gegenüber der Revision, dem Datenschutz oder dem Kunden.
Welche Sicherheits- und Compliance-Nachweise solltest du verlangen?
Verlange vor jeder Vertragsverhandlung geprüfte Nachweise, keine Selbstauskünfte. Für Cloud-Dienste in Deutschland sind ISO 27001 und der Kriterienkatalog C5 des BSI die wichtigsten Referenzen.
Der Kriterienkatalog C5 des BSI definiert Mindestanforderungen an die Informationssicherheit von Cloud-Diensten. Die Erfüllung wird von Wirtschaftsprüfern testiert, und das BSI empfiehlt Kunden, den Prüfbericht zu Beginn und danach jährlich anzufordern und selbst auszuwerten. 2025 und 2026 wurde der Katalog grundlegend überarbeitet. Frage deshalb nach, auf welche Version sich ein Testat bezieht und ob es auch die Infrastruktur abdeckt, auf der der AI Agent läuft.
Darüber hinaus gehören diese Punkte in jede Prüfung: ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO mit vollständiger Liste der Subunternehmer, Datenverarbeitung in der EU einschließlich der Sprachmodelle, eine schriftliche Zusage, dass Kundendaten nicht zum Training fremder Modelle genutzt werden, regelmäßige Penetrationstests sowie ein dokumentierter Prozess für Sicherheitsvorfälle mit festen Meldefristen.
Warum sind Rollen, Rechte und Mandantenfähigkeit so wichtig?
Im Konzern pflegen viele Teams denselben AI Agent. Ohne granulare Rechte überschreibt die Rechtsabteilung versehentlich Produkttexte oder eine Ländergesellschaft verändert Inhalte einer anderen Marke.
Ein Enterprise-tauglicher Agent braucht deshalb vier Bausteine. Single Sign-on über SAML oder OpenID Connect bindet das System an das zentrale Identitätsmanagement an, etwa Microsoft Entra ID, sodass Zugänge beim Austritt von Mitarbeitenden automatisch entfallen. Rollenbasierte Rechte legen fest, wer welche Inhalte lesen, bearbeiten oder freigeben darf. Mandantenfähigkeit trennt Marken, Länder oder Geschäftsbereiche sauber voneinander, bei Bedarf mit gemeinsamer Wissensbasis für übergreifende Themen. Freigabe-Workflows sorgen dafür, dass sensible Inhalte wie Garantiebedingungen oder Preise erst nach dem Vier-Augen-Prinzip live gehen.
Wie relevant das in der Praxis ist, zeigen Erfahrungsberichte auf OMR Reviews: Anbieter wie melibo haben Rollen- und Rechtesysteme so aufgebaut, dass verschiedene Abteilungen Inhalte einpflegen können, ohne die Inhalte anderer Organisationseinheiten zu verändern oder zu löschen. Frage bei jedem Anbieter nach einer Live-Demo genau dieses Szenarios.
Welche Integrationen braucht ein AI Agent im Konzern?
Ein AI Agent im Konzern muss in die bestehenden Kernsysteme lesen und schreiben können, sonst bleibt er ein FAQ-Bot mit Enterprise-Preisschild. Entscheidend sind native Integrationen für die Systeme, in denen Kundendaten und Prozesse liegen.
Typisch sind CRM-Systeme wie Salesforce Service Cloud oder Microsoft Dynamics 365, ERP-Systeme wie SAP S/4HANA, Helpdesks wie Zendesk oder ServiceNow sowie eigene Kundenportale. Wo keine native Integration existiert, braucht es offene REST-APIs, Webhooks und die Möglichkeit, eigene Aktionen sicher anzubinden. Prüfe außerdem, ob der Agent pro Aktion festgelegte Berechtigungen nutzt, statt mit einem Generalschlüssel auf alle Systeme zuzugreifen.
Einen Überblick, welche Anbieter wie viele Anfragen tatsächlich eigenständig lösen, findest du in unserem Vergleich der AI Agent Tools für den DACH-Kundenservice.
Wann musst du den Betriebsrat einbeziehen?
Sobald ein AI Agent Daten erhebt oder auswertet, die Rückschlüsse auf das Verhalten oder die Leistung von Mitarbeitenden zulassen, hat der Betriebsrat ein Mitbestimmungsrecht. Das betrifft fast jedes Enterprise-Projekt.
Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt der Betriebsrat bei der Einführung und Anwendung technischer Einrichtungen mit, die zur Überwachung von Verhalten oder Leistung der Arbeitnehmer bestimmt sind. Die Rechtsprechung legt das weit aus: Es genügt, wenn ein System objektiv dazu geeignet ist. Ein AI Agent, der Übergaben an einzelne Mitarbeitende protokolliert, Bearbeitungszeiten misst oder mit Agent-Assist-Funktionen Antwortvorschläge bewertet, fällt in der Regel darunter.
Plane die Gespräche mit dem Betriebsrat deshalb vor dem Pilot ein, nicht danach. Eine Betriebsvereinbarung regelt typischerweise, welche Daten erhoben werden, wer Auswertungen sehen darf, dass keine Leistungskontrolle einzelner Personen stattfindet und wie lange Protokolle gespeichert werden. Parallel prüft der Datenschutz, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist.
Hinzu kommt der EU AI Act: Kundenservice-Chatbots fallen in der Regel unter begrenztes Risiko und müssen nach Art. 50 als KI erkennbar sein. Welche Pflichten sich daraus konkret ergeben, beschreiben wir in unserem Beitrag zum EU AI Act im Kundenservice.
Wie rollst du einen AI Agent über Länder und Marken aus?
Starte mit einer Marke, einem Land und wenigen Anliegen, und baue erst danach die Struktur für weitere Einheiten aus. Ein gleichzeitiger Start in allen Ländern scheitert fast immer an Abstimmungsaufwand.
Bewährt hat sich ein Vorgehen in vier Phasen. Im Pilot löst der Agent drei bis fünf volumenstarke Anliegen für eine Einheit und liefert belastbare Kennzahlen. In der Freigabephase werden die Ergebnisse IT-Security, Datenschutz und Betriebsrat vorgelegt, und die Betriebsvereinbarung wird finalisiert. Im Rollout kommen weitere Länder und Marken hinzu, jeweils mit eigener Sprachprüfung und lokalen Inhalten. Im Regelbetrieb übernimmt ein zentrales Team die Governance: Es definiert Standards, überwacht Kennzahlen und gibt neue Anwendungsfälle frei.
Für die Mehrsprachigkeit gilt: Moderne Sprachmodelle beherrschen viele Sprachen gut, aber Rechtsbegriffe, Produktnamen und Tonalität müssen pro Markt geprüft werden. Eine zentrale Wissensbasis mit länderspezifischen Varianten ist meist besser als getrennte Systeme pro Land.
Plattform des CRM-Anbieters, Spezialanbieter oder Eigenbau?
Für Konzerne gibt es drei Wege, und jeder hat einen eigenen Preis. Entscheidend ist, wie wichtig dir Unabhängigkeit, Integrationsbreite und Geschwindigkeit sind.
KI des CRM- oder Helpdesk-Anbieters: Salesforce Agentforce, das seit dem Abschluss der Fin-Übernahme im September 2026 um die frühere Intercom-Plattform ergänzt wird, Zendesk AI oder Microsoft Copilot for Service sind eng in ihre eigene Plattform integriert. Der Vorteil ist die nahtlose Anbindung, der Nachteil eine stärkere Abhängigkeit vom Anbieter und oft eingeschränkte Möglichkeiten außerhalb des eigenen Ökosystems.
Spezialisierte Plattformen: Anbieter wie Cognigy, das sich vor allem an große Contact Center richtet, sowie moinAI und melibo im deutschsprachigen Raum arbeiten systemübergreifend und lassen sich mit verschiedenen CRM-, ERP- und Helpdesk-Systemen kombinieren. Prüfe hier besonders Zertifizierungen und Skalierbarkeit.
Eigenbau: Auf Basis von Azure OpenAI, Mistral oder anderen Modellen ist ein Prototyp schnell gebaut. Die eigentlichen Kosten entstehen bei Betrieb, Wartung und Compliance. Wann sich das lohnt, zeigt unser Make-or-Buy-Check für AI-Chatbots.
Unabhängig vom Weg sollten Konzerne vertraglich regeln, wie Wissensbasis, Gesprächsdaten und Konfiguration bei einem Anbieterwechsel exportiert werden können. Die Konsolidierung im Markt macht diesen Punkt 2026 wichtiger denn je.
Welche SLAs und Betriebsthemen gehören in den Vertrag?
Ein AI Agent im Kundenservice ist ein kritisches System, denn fällt er aus, landen alle Anfragen beim Team. Die vertraglichen Zusagen müssen das widerspiegeln.
Verhandle eine zugesicherte Verfügbarkeit mit klaren Gutschriften bei Unterschreitung, definierte Reaktionszeiten für Störungen nach Schweregrad und einen festen Ansprechpartner. Kläre außerdem, wie der Anbieter mit Modellwechseln umgeht: Wird ein Sprachmodell ausgetauscht, kann sich das Antwortverhalten ändern. Verlange deshalb eine Vorankündigung, eine Testphase und die Möglichkeit, kritische Anwendungsfälle vor der Umstellung zu prüfen. Ergänze schließlich Regelungen zur Datenlöschung nach Vertragsende und zum Datenexport.
Häufige Fragen zu AI Agents im Enterprise-Umfeld
Brauchen Konzerne einen anderen AI Agent als mittelständische Unternehmen?
Nicht unbedingt eine andere KI, aber eine andere Plattform drumherum. Single Sign-on, granulare Rechte, Mandantenfähigkeit, Audit-Logs und geprüfte Sicherheitsnachweise sind im Konzern Pflicht, im Mittelstand oft optional.
Ist ein BSI-C5-Testat für AI Agents verpflichtend?
Gesetzlich ist es für die meisten Unternehmen nicht vorgeschrieben. Viele Konzerne, Behörden und regulierte Branchen verlangen es aber in ihren Einkaufsrichtlinien. Mindestens eine ISO-27001-Zertifizierung sollte vorliegen.
Muss der Betriebsrat der Einführung eines AI Agents zustimmen?
Wenn das System Daten auswertet, die Rückschlüsse auf Verhalten oder Leistung von Mitarbeitenden zulassen, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht. In der Praxis wird das über eine Betriebsvereinbarung geregelt.
Wie lange dauert ein Enterprise-Rollout?
Das hängt weniger von der Technik ab als von den Freigabeprozessen. Ein Pilot für eine Einheit ist oft in wenigen Wochen umsetzbar. Der Rollout über mehrere Länder und Marken dauert meist deutlich länger, weil Gremien, Sprachprüfung und lokale Inhalte dazukommen.
Sollte man die KI des eigenen CRM-Anbieters nutzen?
Das kann sinnvoll sein, wenn fast alle Prozesse im CRM laufen. Bei heterogenen Systemlandschaften sind spezialisierte, systemübergreifende Plattformen oft flexibler. In beiden Fällen sollten Datenexport und Exit-Szenarien vertraglich geregelt sein.
Fazit: Governance entscheidet über den Erfolg
Für Konzerne ist 2026 nicht die Frage, ob ein AI Agent Kundenanfragen lösen kann, sondern ob er sich sicher und kontrollierbar in die Organisation einfügt. Geprüfte Sicherheitsnachweise, Single Sign-on, granulare Rechte, Mandantenfähigkeit und tiefe Integrationen sind die Eintrittskarte. Ebenso wichtig ist der Prozess: Wer Betriebsrat und Datenschutz früh einbindet, mit einem klar begrenzten Pilot startet und Exit-Szenarien vertraglich absichert, kommt schneller in den Regelbetrieb. Die Konsolidierung im Markt zeigt, dass sich Anbieterlandschaften schnell verändern. Eine Architektur, die unabhängig bleibt, ist deshalb eine strategische Entscheidung.
