Was ist generative KI? Funktion, Nutzen und Grenzen

Generative KI erzeugt neue Inhalte wie Text, Bilder, Audio und Code. Dieser Leitfaden erklärt, wie sie funktioniert, wo Organisationen sie einsetzen, welche Risiken NIST benennt und wie Sie sie verantwortungsvoll nutzen.

Was ist generative KI?

Das Generative-AI-Profil des NIST (Juli 2024) zitiert die Definition aus der US-amerikanischen Executive Order: Generative KI ist „die Klasse von KI-Modellen, die die Struktur und die Eigenschaften von Eingabedaten nachbilden, um abgeleitete synthetische Inhalte zu erzeugen. Dazu können Bilder, Videos, Audio, Text und andere digitale Inhalte gehören.“ Im alltäglichen Sprachgebrauch sind damit meist große Sprachmodelle und Bildgeneratoren gemeint.

Das Wichtigste in Kürze

• Generative KI erzeugt neue Inhalte aus Mustern, die sie in ihren Trainingsdaten gelernt hat.
• Sie ist eine Teilmenge des Deep Learning und baut für Sprache auf der Transformer-Architektur auf.
• Sie formuliert flüssig, und das ist nicht dasselbe wie korrekt: Sie kann selbstsichere Fehler produzieren.
• Sie auf Ihre eigenen Dokumente zu stützen und Menschen einzubinden, verringert das Risiko, beseitigt es aber nicht.
• Governance sollte eingerichtet werden, bevor sich die Nutzung ausbreitet, nicht danach.

Wie funktioniert generative KI?

• Vortraining (Pretraining): Ein großes neuronales Netz lernt Muster aus sehr großen Datenmengen. Bei einem Sprachmodell besteht die Kernaufgabe darin, das nächste Token in einer Sequenz vorherzusagen.
• Anpassung: Das Modell kann für einen Zweck angepasst werden, zum Beispiel durch Fine-Tuning.
• Prompting: Die Nutzerin, der Nutzer oder die Anwendung gibt Anweisungen und Kontext vor; siehe Prompt Engineering.
• Verankerung (Grounding): Die Anwendung kann relevante Dokumente abrufen und dem Modell übergeben, ein Ansatz namens Retrieval-Augmented Generation (RAG).

Die Grundlagen werden in Was ist maschinelles Lernen? und Was ist Deep Learning? behandelt.

Wie wird generative KI eingesetzt?

• Entwerfen und Redigieren: erste Entwürfe, Umformulierungen, Tonalität und Übersetzung, gefolgt von einer Prüfung durch Menschen.
• Zusammenfassen: lange Dokumente, Meetings oder Support-Verläufe verdichten.
• Fragen zu Ihren eigenen Inhalten beantworten: ein verankerter Assistent, der aus freigegebenen Dokumenten antwortet (siehe So bauen Sie eine RAG-Pipeline).
• Unterstützung beim Programmieren: Code vorschlagen und erklären, den Entwicklerinnen und Entwickler prüfen.
• Kundensupport: Antworten entwerfen und Anfragen weiterleiten.
• Workflows: entscheiden, was als Nächstes geschehen soll, und Tools koordinieren (siehe Was ist Flow AI?).

Der geschäftliche Einsatz ist breit: Der Stanford AI Index berichtet, dass 2024 78 % der Organisationen angaben, KI einzusetzen, gegenüber 55 % im Vorjahr. Diese Zahl bezieht sich auf KI im Allgemeinen, nicht nur auf generative KI.

Welche Risiken birgt generative KI?

Das Profil des NIST listet Risiken auf, die für generative KI einzigartig sind oder durch sie verschärft werden. Dazu gehören:

• Konfabulation: „die Erzeugung von Inhalten, die selbstsicher vorgetragen werden, aber fehlerhaft oder falsch sind“.
• Datenschutz: Preisgabe sowie unbefugte Nutzung oder Offenlegung personenbezogener Daten.
• Schädliche Verzerrung oder Homogenisierung: Verstärkung historischer und gesellschaftlicher Verzerrungen.
• Informationsintegrität: eine niedrigere Hürde, falsche oder irreführende Inhalte zu erzeugen und zu verbreiten.
• Geistiges Eigentum: erleichterte Erzeugung oder Nachbildung urheberrechtlich oder markenrechtlich geschützter Inhalte.
• Mensch-KI-Konfiguration: Risiken, die aus dem Zusammenspiel von Menschen und KI-Systemen entstehen, etwa übermäßiges Vertrauen.
• Umweltauswirkungen: die Rechenleistung für das Training und den Betrieb der Modelle.
• Wertschöpfungskette und Komponentenintegration: intransparente oder nicht nachvollziehbare Nutzung von Komponenten Dritter.

Wie nutzen Sie generative KI verantwortungsvoll?

• Stützen Sie Antworten auf freigegebene Dokumente und zeigen Sie die Quelle an.
• Lassen Sie bei Ergebnissen, die Menschen betreffen, eine Person verantwortlich bleiben, und machen Sie die Prüfung einfach.
• Testen Sie vor dem Start an realistischen Beispielen auf Fehler und Verzerrungen, und testen Sie weiter.
• Begrenzen Sie, auf welche Daten und Tools das System zugreifen kann, und protokollieren Sie, was es tut.
• Sagen Sie den Menschen, wenn sie es mit KI-generierten Inhalten zu tun haben.
• Halten Sie schriftlich fest, wer für welches System zuständig ist, welchen Zweck es hat und wo seine Grenzen liegen (siehe Ethische KI).

Was sollten Sie vor dem Kauf oder Aufbau fragen?

• Welches Modell wird verwendet, wo läuft es, und wohin gehen unsere Daten?
• Wie ist es verankert, und was passiert, wenn es etwas nicht weiß?
• Wie wird die Genauigkeit gemessen, und wie oft?
• Wer kann Prompts und Ausgaben einsehen, und wie lange werden sie aufbewahrt?
• Lässt es sich abschalten, und wie werden Daten entfernt?

Wo Zunkiree Labs steht

Zunkiree Labs entwickelt individuelle KI-Systeme (darunter RAG-Pipelines, LLM-Integration und intelligente Automatisierung), Datensysteme, individuelle Software sowie Web- und Mobilanwendungen. Dazu gehören verankerte Assistenten auf Basis Ihrer eigenen Dokumente sowie Orchestrierung: Orca ist die Intelligenz- und Orchestrierungsschicht von Zunkiree Labs: Sie liegt über den CRM-, E-Mail- und Marketing-Tools, die eine Organisation bereits nutzt, und koordiniert Agenten-Workflows über diese hinweg, statt diese Tools zu ersetzen. Orca wird bereitgestellt, um Anwendungsfälle in Bildungsunternehmen und Krankenhäusern zu unterstützen. Die vollständige Liste finden Sie auf der Leistungsseite, und die Leistung KI-Entwicklung behandelt individuelle KI-Systeme ausführlicher.

Weiterlesen

• Was ist maschinelles Lernen? – die Grundlage: wie Systeme aus Daten lernen, mit Erklärungen zu NLP, neuronalen Netzen und LLMs
• Was ist Deep Learning? – wie neuronale Netze lernen und wann sie das richtige Werkzeug sind
• Ethische KI – Grundsätze, Risiken und wie Organisationen sie anwenden
• So bauen Sie eine RAG-Pipeline – ein Schritt-für-Schritt-Leitfaden für die Umsetzung
• Was ist Flow AI? – KI im Workflow

Quellen

• NIST AI 600-1: Artificial Intelligence Risk Management Framework, Generative AI Profile (Juli 2024)
• Stanford HAI: 2025 AI Index Report
• Vaswani et al., Attention Is All You Need (arXiv, 2017)