Der KI-Einsatz im Unternehmen beginnt heute selten mit einem großen IT-Projekt. Häufig beginnt er mit einem Update.

In Teams erscheint eine Zusammenfassung. In Acrobat lässt sich ein PDF-Dokument befragen. In Notion, Slack, Zoom, Webex, CRM-Systemen oder Microsoft 365 werden KI-Funktionen als Teil der gewohnten Arbeitsumgebung angeboten. Viele dieser Anwendungen werden nicht mehr als neue Software wahrgenommen. Für Mitarbeiter wirken sie wie ein normaler Bestandteil der Programme, mit denen sie ohnehin täglich arbeiten.

Für Unternehmen ist das eine Chance. KI kann Texte vorbereiten, E-Mails strukturieren, Besprechungen zusammenfassen, Informationen schneller auffindbar machen und Routineaufgaben erleichtern. Gerade mittelständische Unternehmen können davon profitieren, weil sie keine eigenen KI-Systeme entwickeln müssen, sondern auf Funktionen etablierter Anbieter zurückgreifen können.

Rechtlich ist damit aber wenig gewonnen, wenn der Einsatz nicht geordnet wird. Eine KI-Funktion bleibt eine Datenverarbeitung, eine Softwareleistung und häufig auch ein Eingriff in bestehende Arbeitsprozesse. Dass sie in einer bekannten Anwendung steckt, ersetzt keine Prüfung.

 

Vom einzelnen Tool zur KI-Landschaft

Viele Unternehmen haben private ChatGPT-Accounts inzwischen im Blick. Werden Kundendaten, Vertragsentwürfe, Kalkulationen, technische Unterlagen oder Personalinformationen in private Accounts eingegeben, fehlen dem Unternehmen regelmäßig zentrale Steuerungsmöglichkeiten. Es kann Einstellungen nicht einheitlich vorgeben, keine Rollen vergeben, keine Speicherfristen kontrollieren und häufig nicht nachvollziehen, welche Daten wohin geflossen sind.

Bei Business-Lösungen ist die Ausgangslage häufig besser. Microsoft erklärt für Microsoft 365 Copilot, dass Prompts, Antworten und Daten aus Microsoft Graph nicht zum Training der zugrunde liegenden Foundation Models genutzt werden. Google macht für Gemini in Workspace vergleichbare Angaben. Adobe erklärt für Acrobat AI Assistant, dass Dokumenteninhalte nicht zum Training der verwendeten Sprachmodelle genutzt werden.

Solche Zusagen sind wichtig. Sie sprechen häufig dafür, genehmigte Unternehmenslösungen gegenüber privater Schattennutzung vorzuziehen. Sie beantworten aber nicht alle Fragen.

Ein Unternehmen kann die Systeme großer Anbieter nicht vollständig selbst technisch überprüfen. Es muss sich in der Praxis auf Vertragsunterlagen, Produktdokumentation, Zertifizierungen, Datenschutzanhänge, Subunternehmerlisten und Sicherheitszusagen stützen. Das ist bei Cloud-Software nicht neu. Neu ist aber die Reichweite, mit der KI vorhandene Daten auswerten, verknüpfen und in neue Zusammenhänge bringen kann.

 

Datenschutz: Es geht nicht nur um den Serverstandort

Datenschutzrechtlich wird die Diskussion oft auf die Frage verkürzt, ob Daten in der EU verarbeitet werden. Diese Frage ist wichtig. Sie ist aber nur ein Teil der Prüfung.
Nach der Datenschutz-Grundverordnung muss das Unternehmen wissen, welche personenbezogenen Daten verarbeitet werden, zu welchem Zweck dies geschieht und auf welche Rechtsgrundlage die Verarbeitung gestützt wird. Hinzu kommen die Grundsätze der Datenminimierung, Zweckbindung, Transparenz, Integrität und Vertraulichkeit. Das Unternehmen unterliegt der Nachweispflicht.

Bei KI-Anwendungen stellen sich deshalb sehr praktische Fragen:

• Welche Daten dürfen in Prompts eingegeben werden?
• Werden Meeting-Transkripte oder Zusammenfassungen gespeichert?
• Kann die KI auf E-Mails, Personalunterlagen, CRM-Daten oder Kundendokumente zugreifen?
• Wer kann Prompts, Antworten oder Chatverläufe später einsehen?
• Gibt es eine Auftragsverarbeitung nach Art. 28 DSGVO?
• Sind technische und organisatorische Maßnahmen nach Art. 32 DSGVO beschrieben?
• Ist bei besonders sensiblen Einsatzfällen eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich?

Der Serverstandort kann dabei relevant sein. Werden Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet, sind die Vorgaben für Drittlandübermittlungen zu beachten. Bei großen Anbietern gibt es hierfür regelmäßig vertragliche und organisatorische Lösungen. Unternehmen sollten aber prüfen, ob diese Lösungen zum konkreten Produkt und zur konkreten Einstellung passen. Gerade bei Zusatzfunktionen wie Websuche, alternativen Modellanbietern, externen Agenten oder optionalem Routing können andere Bedingungen gelten als bei der Grundanwendung.

 

Das eigene Berechtigungskonzept wird wichtiger

Ein häufig unterschätztes Risiko liegt nicht beim Anbieter, sondern im eigenen Datenbestand. KI-Assistenten arbeiten oft mit den Berechtigungen des jeweiligen Nutzers. Das klingt zunächst beruhigend. Es bedeutet aber auch: Wenn ein Mitarbeiter Zugriff auf zu viele Informationen hat, kann die KI diese Informationen grundsätzlich ebenfalls berücksichtigen.

Bei Microsoft 365 Copilot betrifft dies etwa SharePoint, Teams, OneDrive, Outlook und andere Datenquellen im Microsoft-365 Umfeld. In anderen Systemen stellt sich dieselbe Frage. Ein KI-Assistent im CRM kann nur so sauber arbeiten wie die Berechtigungen im CRM. Ein KI-Tool im Ticketsystem kann nur dann sinnvoll eingesetzt werden, wenn Kundendaten, interne Notizen und vertrauliche Vorgänge richtig getrennt sind.

KI macht alte Unordnung sichtbarer. Zu weit geöffnete Projektordner, historisch gewachsene Teams-Kanäle, unklare Freigaben und fehlende Sensitivitätskennzeichnungen waren schon vorher ein Problem. Mit KI steigt aber die praktische Relevanz, weil Informationen leichter gefunden und zusammengeführt werden.

 

Geschäftsgeheimnisse und Vertraulichkeit

Neben dem Datenschutz ist der Schutz von Geschäftsgeheimnissen zentral. Nach dem Geschäftsgeheimnisgesetz setzt ein Geschäftsgeheimnis unter anderem voraus, dass angemessene Geheimhaltungsmaßnahmen getroffen werden.

Wer sensible Informationen ohne interne Regel in KI-Anwendungen eingibt, schwächt im Streitfall die eigene Position. Das betrifft nicht nur technische Zeichnungen oder Quellcode. Auch Kundenlisten, Preisstrategien, Kalkulationen, Vertragsentwürfe, M&A-Unterlagen, Produktplanungen, Ausschreibungsunterlagen oder interne Präsentationen können Geschäftsgeheimnisse sein.

Hinzu kommen vertragliche Vertraulichkeitspflichten. Viele Unternehmen erhalten Informationen von Kunden, Lieferanten, Investoren oder Transaktionspartnern auf Grundlage von Geheimhaltungsvereinbarungen. Ob solche Informationen in einem KI-Tool verarbeitet werden dürfen, ist nicht allein eine Frage der technischen Sicherheit. Maßgeblich ist auch, was vertraglich erlaubt ist.

 

Arbeitsrecht und Meetings

Besonders sensibel sind KI-Funktionen im Beschäftigungskontext. Das beginnt bei Teams-, Zoom- oder Webex-Meetings, die automatisch transkribiert oder zusammengefasst werden. Dabei werden regelmäßig personenbezogene Daten verarbeitet. Je nach Inhalt können auch Leistungs- und Verhaltensdaten betroffen sein.
Bei nichtöffentlich gesprochenem Wort ist zusätzlich § 201 StGB zu beachten. Aufzeichnungen oder eine Weitergabe an Dritte dürfen nicht heimlich erfolgen. Teilnehmer sollten vor Beginn der Aufzeichnung darüber informiert werden , ob transkribiert, aufgezeichnet oder eine KI-Zusammenfassung erstellt wird und – soweit erforderlich – ihr Einverständnis erteilen können. Bei sensiblen Gesprächen, etwa Personalgesprächen, Konflikten, Verhandlungen oder vertraulichen Kundenbesprechungen, kann es richtig sein, solche Funktionen nicht zu nutzen.

In Unternehmen mit Betriebsrat ist außerdem § 87 Abs. 1 Nr. 6 BetrVG zu prüfen. Werden technische Einrichtungen eingeführt oder angewendet, die dazu bestimmt sind, Verhalten oder Leistung von Arbeitnehmern zu überwachen, besteht ein Mitbestimmungsrecht. Das kann bei KI-gestützten Auswertungen von Kommunikation, Meetingbeiträgen, Arbeitsergebnissen oder Nutzungsdaten relevant werden.

Besonderes Augenmerk verdient KI im Personalbereich. Systeme zur Bewerberauswahl, Leistungsbewertung, Einsatzplanung oder Beförderungsentscheidung können unter die Hochrisiko-Regeln der KI-Verordnung fallen. Dann geht es nicht mehr nur um eine Office-Funktion, sondern um ein reguliertes Einsatzfeld mit zusätzlichen Anforderungen.

 

Die KI-Verordnung verlangt Struktur, nicht Panik

Die europäische KI-Verordnung wird in der Praxis häufig überschätzt und unterschätzt zugleich. Nicht jede Textzusammenfassung in Word oder jede Formulierungshilfe in Outlook ist ein Hochrisiko-KI-System. Für viele alltägliche Büroanwendungen werden Datenschutz, Geschäftsgeheimnisschutz, Vertragsrecht und Arbeitsrecht zunächst näherliegen.

Gleichzeitig ist die KI-Verordnung kein Thema nur für Entwickler. Seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz. Anbieter und Betreiber von KI-Systemen sollen dafür sorgen, dass Personen, die mit KI umgehen, über ausreichende Kenntnisse verfügen.

Für Unternehmen bedeutet das: Wer KI-Funktionen freigibt, sollte Mitarbeiter nicht ohne Anleitung damit arbeiten lassen. Die Schulung muss nicht kompliziert sein. Sie sollte aber verständlich erklären, welche Tools genutzt werden dürfen, welche Daten nicht eingegeben werden sollen, wann besondere Vorsicht gilt und warum KI-Ergebnisse überprüft werden müssen.

 

Sicherheit kann man nicht vollständig auslagern

Auch große Anbieter bieten keine absolute Sicherheit. Das soll keinen Zweifel an der Seriosität etablierter Anbieter wecken, wohl aber an blindem Vertrauen.
Bei Microsoft 365 Copilot wurde 2025 unter der Bezeichnung EchoLeak eine Schwachstelle bekannt, die als CVE-2025-32711 geführt wird. Sie betraf eine sogenannte AI command injection und konnte nach der Beschreibung der National Vulnerability Database eine Offenlegung von Informationen über das Netzwerk ermöglichen. Im Februar 2026 wurde außerdem ein Fehler bekannt, bei dem Copilot Chat vertrauliche E-Mails aus Entwürfen und gesendeten Elementen berücksichtigte, obwohl diese durch Vertraulichkeitskennzeichnungen und Data-Loss-Prevention-Regeln geschützt sein sollten.

Solche Fälle zeigen nicht, dass der Einsatz solcher Produkte unzulässig wäre. Sie zeigen aber, dass KI-Systeme laufend beobachtet werden müssen. Sicherheitszusagen, Berechtigungskonzepte und Administratoreinstellungen sind Momentaufnahmen. Unternehmen sollten Updates, neue Funktionen, geänderte Standardwerte und Sicherheitsmeldungen im Blick behalten.

 

KI-Ergebnisse bleiben Arbeitshilfen

Ein weiterer Punkt wird in der Praxis gerne übersehen. KI-Ergebnisse sind keine Entscheidungen. Sie sind Vorschläge.
Das gilt im Kleinen wie im Großen. Ein KI-generiertes Angebot muss kaufmännisch und rechtlich geprüft werden. Produktbeschreibungen brauchen belastbare technische Angaben. Kunden-E-Mails dürfen keine falschen Zusagen enthalten. Bei Vertragsklauseln, Compliance-Fragen oder Personalentscheidungen ist menschliche Kontrolle erst recht erforderlich.

Das gilt auch dort, wo die KI überzeugend formuliert. Sprachliche Sicherheit ist keine inhaltliche Richtigkeit. Unternehmen sollten deshalb festlegen, welche Ergebnisse vor Verwendung geprüft werden müssen. Bei Verträgen, Angeboten, Personalentscheidungen, Compliance-Fragen, rechtlichen Bewertungen, Produktangaben und Kundenkommunikation sollte menschliche Kontrolle selbstverständlich sein.

 

Praxishinweis

Ein sinnvoller Einstieg ist keine umfangreiche KI-Strategie, sondern eine Bestandsaufnahme. Welche KI-Funktionen werden bereits genutzt? Welche sind in bestehenden Softwarepaketen verfügbar? Welche privaten Tools werden von Mitarbeitern verwendet? Welche Fachbereiche arbeiten mit besonders sensiblen Daten?
Darauf aufbauend sollten Unternehmen die zugelassenen Tools benennen. Für jedes wesentliche Tool sollten Zweck, Datenkategorien, Nutzergruppen, Speicherorte, Anbieterrolle, Subunternehmer, Trainingseinstellungen, Protokollierung und Löschkonzept zumindest grob dokumentiert werden. Bei hochsensiblen Einsatzfällen ist eine vertiefte Prüfung erforderlich.

Parallel sollten Berechtigungen überprüft werden. Wer Copilot, Gemini, CRM-KI oder andere Assistenten einführt, sollte vorher prüfen, ob die zugrunde liegenden Ordner, Kanäle, Datenbanken und Fachsysteme sauber strukturiert sind. Sonst wird KI zum Verstärker bestehender Berechtigungsfehler.

Schließlich braucht es eine kurze interne KI-Richtlinie. Diese sollte nicht abstrakt sein. Mitarbeiter müssen wissen, was sie im Alltag tun dürfen. Sinnvoll sind klare Beispiele: allgemeine Textentwürfe ja, Kundendaten in privaten Accounts nein, Personalunterlagen nur nach Freigabe, Meeting-Transkription nur mit Transparenz, vertrauliche Vertragsunterlagen nur in freigegebenen Systemen.

Für die Geschäftsführung ist wichtig: KI-Einsatz ist kein einmaliger Beschaffungsvorgang. Er ist ein laufender Prozess aus Auswahl, Konfiguration, Schulung, Kontrolle und Anpassung. Dieser Prozess muss nicht schwerfällig sein. Er sollte aber erkennbar vorhanden sein.

 

Fazit
KI wird im Unternehmensalltag nicht verschwinden. Sie wird eher unauffälliger werden, weil sie in immer mehr Standardsoftware eingebaut ist.
Für Unternehmen liegt darin eine echte Chance. Viele Aufgaben können schneller und besser erledigt werden. Der Preis dafür ist mehr Steuerung. Die rechtliche Bewertung hängt nicht nur vom Namen des Anbieters ab, sondern vom konkreten Einsatz, den verarbeiteten Daten, den Einstellungen, den Berechtigungen und der Kontrolle im Unternehmen.

Die Frage lautet deshalb nicht, ob KI generell erlaubt oder verboten ist. Die bessere Frage lautet: Welche KI setzen wir ein, mit welchen Daten, für welchen Zweck und unter wessen Verantwortung?

Wer darauf eine belastbare Antwort hat, kann KI im Unternehmen nutzen, ohne jedes neue Tool zur Grundsatzfrage werden zu lassen.

Sprechen Sie uns bei Fragen zum Einsatz von KI-Anwendungen im Unternehmen gerne an.