Enterprise Search mit KI: Leitfaden für Wissensmanagement 2026

Enterprise Search mit KI setzt an einem Widerspruch an, der 2026 deutlich sichtbar ist. Laut ifo-Umfrage vom Juni 2026 setzen 54,5 % der deutschen Unternehmen KI ein, nach 40,9 % im Vorjahr; bei Großunternehmen sind es 67,2 %. Die Bitkom-KI-Studie vom 14. September 2026 kommt für Unternehmen ab 20 Beschäftigten auf 57 %. Gleichzeitig suchen Beschäftigte ihr Wissen weiter mühsam zusammen: Das McKinsey Global Institute schätzte 2012, dass Wissensarbeiter rund 1,8 Stunden pro Tag, etwa ein Fünftel ihrer Arbeitszeit, mit Informationssuche verbringen. Andere Erhebungen kommen auf ähnliche Werte.

KI ist also im Unternehmen, das Wissen noch lange nicht. Es liegt in SharePoint, Confluence, CRM, Dateiablagen und Postfächern, nur eben verstreut. In diese Lücke ist eine Softwarekategorie gewachsen: Glean meldete Ende Mai 2026 300 Mio. USD ARR, eine Verdreifachung in 15 Monaten, bei einer Bewertung von 7,2 Mrd. USD aus dem Juni 2025. Microsoft 365 Copilot Search ist seit August 2025 allgemein verfügbar und hebt seit Juni 2026 mit den Authoritative Sites vertrauenswürdige SharePoint-Quellen hervor. Coveo schloss das Geschäftsjahr 2026 mit 148,3 Mio. USD Umsatz ab (plus 11 %), und Notion bietet Enterprise Search in seinen Business- und Enterprise-Tarifen an.

Dieser Leitfaden zeigt, was Enterprise Search und Wissensmanagement mit KI heute leisten, wie sich die Anbieter unterscheiden, welche Erfolgshebel zählen, was rechtlich gilt und wie ein realistischer 90-Tage-Aufbau aussieht. Stand: September 2026.

Enterprise Search mit KI ist eine Suchschicht über den Systemen eines Unternehmens, die Fragen in natürlicher Sprache versteht, passende Inhalte aus mehreren Quellen findet und daraus eine Antwort mit Quellenangabe formuliert. Sie beachtet dabei die Zugriffsrechte und erlaubt Nachfragen.

Der Begriff Enterprise Search ist fast 30 Jahre alt; Microsoft FAST, Autonomy und später Lucene, Solr und Elasticsearch haben den klassischen Markt geprägt. Die Welle seit 2025 ersetzt die Stichwortsuche nicht, sondern setzt eine Antwortschicht darüber. Drei Generationen lassen sich unterscheiden:

Wer 2026 im Unternehmen „Enterprise Search“ sagt, meint fast immer die dritte Generation: eine Frage stellen und in Sekunden eine Antwort mit Quellen bekommen, statt sich durch Ordnerbäume zu klicken. Das braucht eine andere Architektur, andere Werkzeuge und andere Kennzahlen als die Volltextsuche.

Enterprise Search mit KI ist dabei weder ein Chatbot für die Website noch ein allgemeiner Chat im Intranet. Glean-Chef Arvind Jain beschreibt im TechCrunch-Interview vom 28. Mai 2026 den wirtschaftlichen Kern: Mit dem passenden Unternehmenskontext verbraucht KI deutlich weniger Tokens, als wenn sie direkt auf alle Systeme zugreift.

Enterprise Search löst vor allem vier Probleme: Wissen in getrennten Systemen, Schatten-KI, langsame Einarbeitung und fehlende Nachvollziehbarkeit. In diesen Feldern lässt sich der Nutzen auch messen.

Die McKinsey-Modellrechnung aus „The Social Economy“ schätzt, dass moderne Wissens- und Kollaborationswerkzeuge die Suchzeit um bis zu 35 % senken können. Nimmt man als Annahme ein Unternehmen mit 500 Wissensarbeitern und einem Vollkostensatz von 70 € pro Stunde, ergibt sich rechnerisch ein Potenzial im siebenstelligen Bereich pro Jahr. In der Praxis wird es nie vollständig gehoben, aber es setzt den Rahmen für eine Investitionsentscheidung.

Wer Enterprise Search evaluiert, landet in einem von fünf Lagern: Microsoft-365-nativ, horizontale Suchplattformen, Relevanz-Spezialisten, eigene RAG-Lösungen oder KI-Plattformen mit Umsetzungsteam. Jedes hat seine Berechtigung und seine Grenzen. Die Tabelle beschreibt Architektureigenschaften, keine Werbeversprechen (Stand: September 2026).

Die ehrlichste Auswahlfrage lautet nicht „Wer hat das beste Produkt?“, sondern: Wo liegen unsere Daten heute, wie hoch sind unsere Anforderungen an Datenhoheit, und wie viel Integrationsarbeit können und wollen wir leisten? Drei typische Profile:

• „Wir arbeiten fast nur in Microsoft 365“: Copilot Search ist der pragmatische Startpunkt, weil die Lizenz oft vorhanden ist und Authoritative Sites direkt nutzbar sind. Für wichtige Drittsysteme lohnt eine ergänzende Suchschicht.
• „Wir haben viele produktive Systeme außerhalb von Microsoft 365“: etwa HubSpot oder Salesforce, Jira, Confluence, ServiceNow und ein ERP. Hier spielen Plattformen mit vielen Konnektoren ihre Stärke aus. Wie Sie KI in bestehende Systeme integrieren, entscheidet dabei über den Aufwand.
• „Wir wollen Datenhoheit und eigene Abläufe“: typisch für Familienunternehmen mit hohen Compliance-Anforderungen und regulierte Branchen. Naheliegend sind eine KI-Plattform mit dedizierter Instanz in der EU oder eine eigene RAG-Lösung, oft mit offenen Modellen.

Wissensmanagement mit KI bedeutet, dass Beschäftigte eine Frage stellen und eine Antwort mit Quelle bekommen, statt Ordner und Wikis zu durchsuchen. Technisch verbindet es semantische Suche über Dokumente, Wikis und Systeme mit einem Sprachmodell, das die gefundenen Stellen zu einer Antwort zusammenfasst.

Das Verfahren dahinter heißt Retrieval Augmented Generation (RAG): Passende Textstellen werden gesucht und dem Modell als Grundlage mitgegeben. Wie groß der Unterschied zur klassischen Suche ist, zeigt ein einfaches, illustratives Beispiel:

• Stichwortsuche: Eine neue Mitarbeiterin sucht im Intranet nach „Urlaubsprozess“. Die maßgebliche Richtlinie heißt „Freistellung.pdf“ und spricht durchgehend von Freistellung und Abwesenheit. Die Suche findet sie nicht, liefert aber viele andere Treffer, in denen das Wort Urlaub vorkommt.
• Bedeutungssuche: Die Frage „Wie beantrage ich Urlaub?“ findet auch Dokumente, die von Freistellung oder Abwesenheit sprechen, weil die Suche Bedeutungen vergleicht statt Zeichenketten.
• Antwort mit Quelle: Statt einer Trefferliste bekommt sie eine kurze Antwort, welche Schritte der Antrag hat und wer ihn freigibt, mit Link auf die Richtlinie und den Abschnitt. Ist die Richtlinie veraltet, sieht sie das an der Quelle.

Wie das mit einem Unternehmenswiki aussieht, beschreibt der Artikel zu Confluence mit KI und semantischer Suche. Diese sechs Anwendungsfälle eignen sich für den Einstieg:

Messen Sie jeweils gegen einen Ausgangswert vor dem Start, nicht gegen Zielwerte aus Prospekten. Liegt das Wissen vor allem in PDFs, Scans und E-Mails, lohnt sich zusätzlich, Dokumente strukturiert zu erschließen.

Über Erfolg oder Stillstand entscheiden fünf Hebel: rechtebewusste Suche, kuratierte Quellen, Zitate, Nachfragen im Dialog und die Einbindung von Dokumenten jenseits reinen Textes. Sie ergeben sich aus den Praxismustern der großen Anbieter und aus Rollouts im Mittelstand.

Für eine Enterprise-Search-Lösung gelten vor allem vier Regelwerke: die KI-Verordnung mit Art. 4 und Art. 50, die DSGVO und das Betriebsverfassungsgesetz. Eine Suchschicht mit Chat ist regulatorisch keine harmlose Suchmaschine. Stand: September 2026; die Hinweise ersetzen keine Rechtsberatung im Einzelfall.

Erstens: Such-Chat erkennbar als KI. Nach Art. 50 Abs. 1 KI-Verordnung müssen Anbieter ein System, das mit Menschen interagiert, so gestalten, dass die Personen erkennen, dass eine KI antwortet, sofern das nicht offensichtlich ist. Der Hinweis muss spätestens bei der ersten Interaktion klar erkennbar sein. Wer einen eigenen Such-Chat baut, ist dabei selbst Anbieter; wer ein fertiges Produkt einsetzt, prüft, ob der Hinweis vorhanden ist. Eine klare Kennzeichnung als KI-Assistent ist in jedem Fall gute Praxis. Eine allgemeine Pflicht, intern genutzte Suchantworten als KI-Text zu kennzeichnen, folgt aus Art. 50 dagegen nicht: Die Kennzeichnung von KI-Texten nach Abs. 4 betrifft Veröffentlichungen zu Themen von öffentlichem Interesse ohne menschliche Prüfung. Die EU-Kommission hat ihre Leitlinien zu Art. 50 am 20. Juli 2026 veröffentlicht. Details im Leitfaden zu Art. 50 der KI-Verordnung.

Zweitens: Protokolle mit Augenmaß. Wer personenbezogen auswertet, wer wann was gesucht hat, schafft schnell eine technische Einrichtung im Sinne von § 87 Abs. 1 Nr. 6 BetrVG. Aggregieren Sie Nutzungsdaten auf Team- oder Anwendungsfall-Ebene, wo das für den Zweck reicht, und regeln Sie den Umfang in einer Betriebsvereinbarung zum KI-Einsatz. Wie das gelingt, beschreibt der Leitfaden zu Betriebsrat und KI.

Drittens: Auftragsverarbeitung entlang der ganzen Kette. Wer eine Suchplattform nutzt, die Modelle verschiedener Anbieter über eine Cloud bezieht, hat eine Vertragskette. Jedes Glied braucht eine saubere Auftragsverarbeitung. Holen Sie die Verträge von Suchanbieter und Cloud-Anbieter im selben Vorgang ein.

Verstöße gegen die Pflichten aus Art. 50 können nach Art. 99 Abs. 4 KI-Verordnung mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden; für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag.

Die Architektur hängt von drei Größen ab: der Zahl der Datenquellen, den Anforderungen an Datenhoheit und der eigenen Entwicklungskapazität. Die folgende Faustregel passt für viele Mittelständler:

Die häufigste Fehlentscheidung ist nicht der falsche Anbieter, sondern die Architekturwahl vor der Klärung der Anwendungsfälle. Wer zuerst ein Werkzeug kauft und dann Einsatzzwecke sucht, bekommt Abhängigkeit ohne Wirkung. Wer zuerst die drei wichtigsten Suchfälle festlegt, typischerweise Kundenbriefing für den Vertrieb, technische Selbsthilfe im Service und Einarbeitung, kennt seine Anforderungen und entscheidet danach.

Ein realistischer Aufbau gliedert sich in drei Abschnitte von je rund 30 Tagen: Bestandsaufnahme, Pilot mit einer Quelle, Ausweitung mit Governance. Voraussetzung sind ein klarer Auftrag der Geschäftsführung, eine verantwortliche Person mit Zeitbudget und ein realistisches Budget.

Wer „nebenher“ startet, steht am Tag 91 oft dort, wo er an Tag 1 stand. In größeren Organisationen bündelt ein KI-Kompetenzzentrum Verantwortung, Budget und Wissen über die Fachbereiche hinweg.

Den Erfolg messen Sie auf drei Ebenen: Nutzung, Antwortqualität und Wirkung. Klassische Suchkennzahlen wie die Zahl der Suchen pro Tag sagen über die Wirkung wenig aus.

Eine Kennzahl wird oft vergessen: die Zitierquote, also der Anteil der Antworten, die auf verlinkte Quellen aus dem eigenen Bestand verweisen. Stützt sich der Großteil der Antworten auf eigene Quellen, arbeitet die Suchschicht wie gedacht. Antwortet sie häufig aus dem allgemeinen Modellwissen, ist die Konfiguration falsch oder die Quellen sind schlecht erschlossen.

Die fünf häufigsten Fehler sind vermeidbar: Microsoft 365 für alles halten, Rechte nachrüsten, Quellen nicht pflegen, sich an einen Anbieter binden und die Einführung nebenher erledigen.

Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand. Plotdesk ist kein Glean-Nachbau und kein Ersatz für Copilot: Die Wissenssuche ist ein Baustein unter vielen, eingebettet in dieselbe Plattform, auf der auch Assistenten, Automatisierungen und eigene Anwendungen laufen.

• Quellen: Silos als Wissensspeicher für kuratierte Dokumente, Dateien mit Texterkennung (OCR) und Apps für SharePoint, OneDrive, Google Drive und Confluence (Cloud und Server). Confluence wird live über die API abgefragt, nicht vollständig kopiert. Wer bereits eigene Suchindizes betreibt, bindet Azure AI Search oder Pinecone an.
• Rechte: Welche Quellen ein Team nutzt, steuern Sie über Teams, Rollen und mehr als 40 Berechtigungen. Meldet sich jede Person mit dem eigenen Konto an der Quelle an, liefert das Quellsystem nur, was diese Person dort sehen darf; bei einem technischen App-Zugang gelten die in Plotdesk vergebenen Rechte. Audit-Logs machen die Nutzung nachvollziehbar.
• Einbettung in Abläufe: Canvas, Studio und Plugins bauen die Suche in konkrete Prozesse ein, etwa als Plugin zum Auslesen von Lastenheften oder als Übersicht zu Rückrufen im Kundenservice. Über die Apps für Microsoft Teams und Slack verschickt Plotdesk Nachrichten, zum Beispiel Hinweise auf neue Antworten; Chatverläufe werden dabei nicht durchsucht.
• Betrieb und Modelle: dedizierte Instanz in der EU oder im eigenen Tenant, DSGVO-konformer AVV, EU-Datenresidenz und mehr als 100 Modellvarianten aus zehn Provider-Typen, darunter offene Modelle.
• KI-Kompetenz: Learning Hub und Academy unterstützen Maßnahmen zur KI-Kompetenz nach Art. 4.

Wie das in der Praxis aussieht, zeigen zwei Referenzen: Bei Siblik sind mehr als 40.000 Artikel und Produkte durchsuchbar, eingeführt in einer Woche. Bei Melitta arbeiten mehr als 2.000 aktive Nutzer unternehmensweit mit der Plattform. Die Zusammenarbeit folgt vier Schritten, von der KI-Potenzialanalyse über den Proof of Value bis zur produktiven Lösung und zum systematischen Ausbau, gestützt auf mehr als 1.200 Use Cases in 15 Branchen. Ein pragmatischer Einstieg ist der KI-Strategie-Workshop, in dem Geschäftsführung, IT und Fachbereiche die wichtigsten Suchfälle festlegen.

Enterprise Search mit KI ist aus der Experimentierphase heraus. Glean, Microsoft, Coveo, Notion und KI-Plattformen mit Umsetzungsteam bieten ausgereifte Wege; die Architekturentscheidung hängt an Ihren Quellen, Ihren Anforderungen an Datenhoheit und Ihrer eigenen Kapazität. Alle Wege scheitern, wenn rechtebewusste Suche, gepflegte Quellen, Zitate und Modellwahl nicht von Anfang an mitgedacht werden.

Rechtlich ist die Lage klarer als oft dargestellt: Seit 2. August 2026 muss ein Such-Chat als KI erkennbar sein, und für die KI-Kompetenz verlangt Art. 4 Maßnahmen, aber kein Zertifikat. Den größten Unterschied machen am Ende nicht die Werkzeuge, sondern kuratierte Daten, saubere Rechte und eine Suche, die so eng in die Arbeit eingebettet ist, dass die Suchzeit messbar sinkt.