Ihr findet hier zuerst alle Hauptthemen mit den zugehörigen Fragen. Darunter kommen alle Fragen nochmal mit den zugehörigen Antworten.

1. Grundverständnis

1.1 Wenn KI nicht wirklich denkt, warum sagen dann alle, sie sei „intelligent“?

1.2 Was ist der Unterschied zwischen einer KI und einem normalen Computer- programm – zum Beispiel einem Taschenrechner?

1.3 Kann eine KI irgendwann so schlau werden wie ein Mensch?

1.4 Woher weiß die KI, was ein Muster ist, wenn ihr niemand erklärt hat, was ein Muster überhaupt ist?

1.5 Warum sagt man „die KI lernt", wenn sie eigentlich nur rechnet?

2. Daten und Training

2.1 Wer entscheidet, welche Daten eine KI zum Trainieren bekommt – und kann man dabei schummeln?

2.2 Wenn eine KI mit falschen Daten trainiert wird, merkt sie das dann von selbst?

2.3 Wie viele Bilder braucht eine KI, damit sie Katzen zuverlässig erkennt – hundert, tausend, eine Million?

2.4 Kann man eine KI, die schon fertig trainiert ist, noch einmal weiter trainieren, damit sie etwas Neues lernt?

2.5 Was passiert, wenn man einer KI Daten aus verschiedenen Kulturen gibt – versteht sie dann alle gleich gut?

2.6 Was genau sind diese „Regler" in der KI – gibt es die wirklich als Knöpfe irgendwo?

2.7 Woher weiß das System nach einem Fehler, welche der Millionen von Parametern es verändern muß?

2.8 Warum muß die KI die Daten hunderte Male durchgehen – reicht einmal nicht?

2.9 Kann eine KI auch zu viel üben und dadurch schlechter werden?

2.10 Wenn niemand genau weiß, was jeder Regler tut – woher weiß man dann, ob die KI richtig funktioniert?

3. Entscheidungen und Wahrscheinlichkeiten

3.1 Wenn die KI nur Wahrscheinlichkeiten ausrechnet, warum klingen ihre Antworten dann so sicher?

3.2 Kann eine KI auch sagen „Ich weiß es nicht", oder muß sie immer eine Antwort geben?

3.3 Wie wählt ein Chatbot das nächste Wort aus – nimmt er immer das wahrscheinlichste, oder manchmal auch ein anderes?

3.4 Wenn zwei verschiedene KIs dieselbe Frage bekommen, geben sie dann dieselbe Antwort?

3.5 Kann eine KI lügen, obwohl sie gar nicht weiß, was Lügen ist?

4. Alltag und Anwendung

4.1 Woher weiß mein Social-Media-Feed, welche Videos mir gefallen, bevor ich es selbst weiß?

4.2 Ist die Autokorrektur auf meinem Handy auch eine KI – und wenn ja, warum liegt sie trotzdem so oft daneben?

4.3 Wenn ich einen KI-Chatbot für Hausaufgaben benutze, wie kann ich prüfen, ob die Antwort stimmt?

4.4 Können Deepfakes so gut werden, dass niemand mehr echte von falschen Videos unterscheiden kann?

5. Ethik, Risiken und Gesellschaft

5.1 Wenn eine KI eine unfaire Entscheidung trifft – zum Beispiel bei einer Bewerbung – wer ist dann verantwortlich?

5.2 Kann eine KI rassistisch oder sexistisch sein, obwohl sie keine Absichten hat?

5.3 Warum werden KI-Systeme trotzdem eingesetzt, wenn sie so viele Fehler machen können?

5.4 Gibt es Regeln oder Gesetze, die bestimmen, was eine KI darf und was nicht?

5.5 Was kann ich als einzelne Person tun, damit KI fair und sicher eingesetzt wird – muß man dafür programmieren können?

1. Grundverständnis

1.1 Wenn KI nicht wirklich denkt, warum sagen dann alle, sie sei „intelligent"?

Der Begriff „intelligent" kann irreführend sein, wenn man darunter dasselbe versteht wie bei einem Menschen. KI-Systeme können bestimmte Aufgaben beeindruckend gut lösen – etwa Muster in Bildern erkennen, Texte erzeugen, Sprachen übersetzen oder komplexe Spiele spielen. Diese Fähigkeiten wirken auf uns intelligent, obwohl sie auf mathematischen Berechnungen und gelernten Modellen beruhen.

Bei einem Sprachmodell geht es beispielsweise darum, aus dem bisherigen Kontext Wahrscheinlichkeiten für mögliche nächste Tokens zu berechnen. Token können ganze Wörter, Wortteile oder Satzzeichen sein. Andere KI-Systeme arbeiten mit anderen mathematischen Verfahren. Gemeinsam ist ihnen, dass sie ihre Fähigkeiten durch Training aus Daten erwerben und diese Fähigkeiten anschließend auf konkrete Aufgaben anwenden können.

Menschen neigen dazu, Maschinen menschliche Eigenschaften zuzuschreiben, wenn deren Verhalten oder Ergebnisse menschlich wirken. Das nennt man Anthropomorphisierung. Auch der Begriff „künstliche Intelligenz" kann deshalb Erwartungen wecken, die über das hinausgehen, was ein konkretes System tatsächlich kann.

Wenn in diesem Text steht, eine KI „sucht", „lernt" oder „entscheidet", sind das häufig vereinfachte Beschreibungen. „Lernen" hat in der KI zwar eine konkrete technische Bedeutung: Das Modell verändert beim Training seine Parameter so, dass es bestimmte Aufgaben besser erfüllt. Daraus folgt aber nicht, dass es dabei menschliche Absichten, Bewusstsein oder Verständnis entwickelt.

KI ist also durchaus in der Lage, Aufgaben zu lösen, die wir als intelligent bezeichnen. Entscheidend ist, nicht automatisch aus dieser Leistungsfähigkeit auf menschliches Denken oder Bewusstsein zu schließen.

1.2 Was ist der Unterschied zwischen einer KI und einem normalen Computerprogramm – zum Beispiel einem Taschenrechner?

Ein Taschenrechner arbeitet nach festgelegten Regeln und Algorithmen, die von Menschen programmiert wurden: „Wenn jemand 3 + 5 eingibt, zeige 8 an." Er führt die programmierten Rechenverfahren nach diesen Vorgaben aus.

Ein KI-Modell kann dagegen anhand vieler Beispiele trainiert werden und dabei statistische Muster und Zusammenhänge aus den Daten lernen. Die konkreten Muster und Parameter, die es für seine Aufgabe verwendet, werden also nicht vollständig von Menschen vorgegeben, sondern im Training aus Daten gelernt.

Der Taschenrechner arbeitet strikt nach festgelegten Verfahren, während ein trainiertes KI-Modell innerhalb seines Anwendungsbereichs flexibler auf neue Eingaben reagieren kann. Aber keiner von beiden versteht seine Aufgabe im menschlichen Sinne.

1.3 Kann eine KI irgendwann so schlau werden wie ein Mensch?

Darüber gibt es unter Fachleuten unterschiedliche Einschätzungen. Was man heute sagen kann: Für aktuelle KI-Systeme gibt es keinen überzeugenden Nachweis eines Bewusstseins oder persönlicher Erfahrungen im menschlichen Sinne. Auch beim menschlichen Alltags- und Weltverständnis haben sie deutliche Grenzen. Sie verarbeiten Daten und lernen statistische Muster und Zusammenhänge daraus. Eine KI hat beispielsweise keine eigene körperliche Erfahrung davon, wie sich eine schwere Holztür anfühlt, und keinen eigenen Wunsch, nach Hause zu gehen.

Gleichzeitig kann KI bei einzelnen Aufgaben Menschen bereits übertreffen – etwa im Schach, bei der Analyse medizinischer Bilder oder bei bestimmten wissenschaftlichen Aufgaben. Aber „besser in einer Aufgabe" ist nicht dasselbe wie „insgesamt so leistungsfähig wie ein Mensch".

Manche sprechen von einer „Allgemeinen Künstlichen Intelligenz" (AGI), die ein breites Spektrum geistiger Aufgaben auf menschlichem Niveau oder darüber bewältigen könnte. Ob und wann ein solches System möglich ist und wie AGI genau definiert werden sollte, wird unter Fachleuten unterschiedlich eingeschätzt.

Heutige KI-Systeme erreichen zwar in vielen einzelnen Bereichen sehr hohe Leistungen, verfügen aber noch nicht über die allgemein verstandene Breite und Zuverlässigkeit menschlicher Fähigkeiten. Sie erzeugen ihre Antworten mithilfe gelernter statistischer Zusammenhänge und können dabei beispielsweise schlussfolgern, planen und Probleme lösen. Ob man das als „Denken" bezeichnet, hängt davon ab, wie man den Begriff definiert.

1.4 Woher weiß die KI, was ein Muster ist, wenn ihr niemand erklärt hat, was ein Muster überhaupt ist?

Die KI muß nicht wissen, was ein „Muster" im menschlichen Sinne ist – sie braucht dafür kein bewusstes Verständnis dieses Begriffs. Beim Training werden die Parameter des Modells anhand von Daten so angepasst, dass es statistische Zusammenhänge und Regelmäßigkeiten erfassen kann: Welche Merkmale und Eigenschaften treten häufig gemeinsam auf?

Wenn viele Bilder von Katzen mit dem Begriff „Katze" verknüpft sind, kann das Modell aus den Bildern statistische Merkmale und Zusammenhänge lernen, die ihm helfen, neue Bilder einzuordnen. Es muß dafür nicht verstehen, was eine „Katze" oder ein „Muster" im menschlichen Sinne ist. Es erfasst Regelmäßigkeiten durch mathematische Berechnungen und kann sie anschließend nutzen, um Vorhersagen oder Entscheidungen zu treffen.

1.5 Warum sagt man „die KI lernt", wenn sie eigentlich nur rechnet?

Weil „Lernen" den Vorgang verständlich beschreibt, bei dem sich ein KI-Modell anhand von Daten und einem Trainingsverfahren verändert. Bei vielen neuronalen Netzen werden während des Trainings mathematische Berechnungen durchgeführt: Das System verarbeitet Trainingsdaten, berechnet Fehler und passt seine Modellparameter so an, dass es die jeweilige Aufgabe besser erfüllt.

Deshalb sagt man, die KI „lernt". Das ist nicht nur eine bequeme Abkürzung, sondern auch ein etablierter Fachbegriff. Allerdings ist dieses Lernen nicht mit menschlichem Lernen gleichzusetzen.

Bei heutigen KI-Systemen gibt es keinen überzeugenden Nachweis für eigene Gefühle, Wünsche oder ein menschliches Bewusstsein. Das Modell führt mathematische Berechnungen aus und verändert dabei seine Parameter. Dadurch kann es statistische Muster und Zusammenhänge aus den Trainingsdaten erfassen und später für neue Aufgaben nutzen. Man spricht von „Lernen", weil sich das System durch das Training tatsächlich verändert – nicht, weil es auf dieselbe Weise lernt oder versteht wie ein Mensch.

2. Daten und Training

2.1 Wer entscheidet, welche Daten eine KI zum Trainieren bekommt – und kann man dabei schummeln?

Wer entscheidet eigentlich, mit welchen Daten eine KI trainiert wird? Bei großen KI-Systemen ist die Antwort komplizierter, als es zunächst scheint. Unternehmen und Forschungsteams legen fest, welche Datenquellen und Datensätze verwendet werden. Dabei kommen je nach System beispielsweise öffentlich zugängliche Texte, lizenzierte Inhalte, Bücher, Code oder speziell erstellte Daten zum Einsatz. Die Datenmengen sind jedoch so groß, dass kein Mensch jedes einzelne Dokument überprüfen kann.

Dadurch können Fehler, Vorurteile und problematische Inhalte in die Trainingsdaten gelangen. Daten können außerdem bewusst oder unabsichtlich verzerrt oder manipuliert werden. Eine KI kann solche Verzerrungen lernen und sie später in ihren Antworten widerspiegeln oder sogar verstärken. Deshalb ist nicht nur entscheidend, welche Daten verwendet werden, sondern auch, wie sie ausgewählt, geprüft und aufbereitet wurden.

Dabei wird häufig die menschliche Arbeit übersehen, die hinter den Daten steckt. Menschen beschriften Bilder, bewerten Antworten von Chatbots, kennzeichnen Inhalte und überprüfen problematische oder verstörende Beiträge. Diese Arbeit kann zeitaufwendig und teilweise psychisch belastend sein und wird häufig von Menschen ausgeführt, deren Beitrag zur Entwicklung von KI wenig sichtbar ist. Deshalb sind zwei Fragen besonders wichtig: Woher stammen die Daten – und wer hat sie aufbereitet?

2.2 Wenn eine KI mit falschen Daten trainiert wird, merkt sie das dann von selbst?

Nicht unbedingt. Eine KI besitzt kein menschliches Verständnis dafür, was wahr, falsch oder gerecht ist. Sie erkennt zunächst vor allem Muster und Zusammenhänge in den Daten, mit denen sie trainiert wurde. Sind diese Daten fehlerhaft oder verzerrt, kann die KI solche Fehler und Verzerrungen übernehmen und später in ihren Antworten oder Entscheidungen widerspiegeln.

Nehmen wir ein einfaches Beispiel: Wenn eine KI mit sehr vielen Bildern von Katzen und nur wenigen Bildern von Hunden trainiert wird, kann sie Schwierigkeiten haben, Hunde zuverlässig zu erkennen. Allerdings hängt das Ergebnis nicht allein von der Anzahl der Bilder ab, sondern auch davon, wie die Daten ausgewählt, beschriftet und verarbeitet wurden.

Eine KI kann durch zusätzliche Prüfungen, Vergleichsdaten oder spezielle Verfahren dabei unterstützt werden, Fehler zu erkennen. Sie bemerkt sie jedoch nicht automatisch im menschlichen Sinne. Deshalb gilt: Die Qualität und Ausgewogenheit der Trainingsdaten sind entscheidend dafür, wie zuverlässig eine KI arbeitet.

2.3 Wie viele Bilder braucht eine KI, damit sie Katzen zuverlässig erkennt – hundert, tausend, eine Million?

Eine pauschale Zahl gibt es nicht. Entscheidend sind neben der Menge vor allem die Qualität und Vielfalt der Trainingsdaten. Ein Modell, das nur mit wenigen und sehr ähnlichen Katzenbildern trainiert wurde, kann Schwierigkeiten haben, Katzen unter ungewohnten Bedingungen zu erkennen. Deshalb sind unterschiedliche Rassen, Blickwinkel, Größen, Beleuchtungen und Hintergründe wichtig. Auch eine korrekte Beschriftung der Bilder spielt eine entscheidende Rolle.

Es gibt außerdem einen wichtigen Vorteil: Viele moderne KI-Modelle werden zunächst mit sehr großen und vielfältigen Datensätzen vortrainiert. Dabei lernen sie allgemeine Merkmale und Muster, die später für andere Aufgaben genutzt werden können. Ein solches vortrainiertes Modell kann beispielsweise mit vergleichsweise wenigen zusätzlichen Beispielen lernen, Katzen von Füchsen zu unterscheiden. Dieses Verfahren nennt man Transfer Learning. Es ermöglicht, bereits gelerntes Wissen auf neue Aufgaben zu übertragen, und macht das Training für viele Anwendungen deutlich effizienter.

2.4 Kann man eine KI, die schon fertig trainiert ist, noch einmal weiter trainieren, damit sie etwas Neues lernt?

Ja, das ist möglich und wird in der Praxis häufig gemacht. Ein bereits trainiertes Modell kann mit zusätzlichen Daten an neue Aufgaben oder Anforderungen angepasst werden. Eine wichtige Methode dafür ist das sogenannte Fine-Tuning. Dabei werden die Parameter des bestehenden Modells gezielt verändert, sodass es beispielsweise eine bestimmte Aufgabe besser beherrscht oder sich an einen bestimmten Anwendungsbereich anpasst.

Dabei besteht allerdings ein Risiko: Wenn ein Modell stark auf neue Daten ausgerichtet wird, kann es Fähigkeiten oder Informationen, die es zuvor gelernt hat, schlechter beherrschen. Dieses Phänomen wird „Catastrophic Forgetting" genannt. Vereinfacht gesagt kann das Modell beim intensiven Lernen neuer Inhalte einen Teil seines bisherigen Lernens verlieren.

Bei modernen Chatbots kommt außerdem häufig menschliches Feedback zum Einsatz. Menschen bewerten beispielsweise verschiedene Antworten danach, wie hilfreich, korrekt oder angemessen sie sind. Diese Bewertungen können anschließend genutzt werden, um das Modell gezielt auf erwünschte Verhaltensweisen auszurichten. Verfahren wie Reinforcement Learning from Human Feedback (RLHF) helfen dadurch, Sprachmodelle stärker an menschlichen Erwartungen und Präferenzen auszurichten.

2.5 Was passiert, wenn man einer KI Daten aus verschiedenen Kulturen gibt – versteht sie dann alle gleich gut?

Nicht unbedingt. Eine KI hat kein eigenes kulturelles Verständnis, sondern erkennt Muster in den Daten. Wenn die Trainingsdaten überwiegend aus einer Kultur stammen, können die Muster dieser Kultur dominieren. Ein Sprachmodell, das hauptsächlich mit englischen Texten trainiert wurde, kann Englisch in der Regel besser verarbeiten als weniger stark vertretene Sprachen. Das kann zu einem Bias-Problem führen: Nicht die Absicht der Entwickler, sondern ein Ungleichgewicht in den Daten kann dazu führen, dass bestimmte Perspektiven unter- oder überrepräsentiert sind.

2.6 Was genau sind diese „Regler" in der KI – gibt es die wirklich als Knöpfe irgendwo?

Nein, es sind keine physischen Knöpfe. „Regler" ist eine Metapher für sogenannte Gewichte und andere Parameter – Zahlenwerte in der Software, die beeinflussen, wie Informationen innerhalb des Netzwerks verarbeitet und miteinander gewichtet werden. In einem großen KI-Modell gibt es Milliarden solcher Zahlenwerte. Beim Training werden sie schrittweise angepasst, damit das Modell bessere Ergebnisse liefert. Das Mischpult-Bild hilft beim Verständnis: Man dreht sinngemäß an Milliarden von Knöpfen, bis der „Klang" stimmt – nur dass alles digital und mathematisch abläuft.

2.7 Woher weiß das System nach einem Fehler, welche der Millionen von Parametern es verändern muß?

Dafür gibt es ein Verfahren namens Backpropagation – auf Deutsch etwa „Rückwärtsausbreitung". Dabei wird der Rechenweg, den die KI bei ihrer Berechnung durchlaufen hat, von hinten nach vorne nachvollzogen. Mithilfe der sogenannten Kettenregel wird für jeden einzelnen Parameter berechnet, wie stark sich der Fehler verändern würde, wenn sich dieser Parameter geringfügig verändert. Das Ergebnis ist der sogenannte Gradient. Er gibt für jeden Parameter mathematisch an, in welche Richtung und wie stark dieser verändert werden sollte, damit der Fehler kleiner wird.

Was man dabei wissen sollte: Dieser Prozess ist extrem rechenintensiv. Das Training großer KI-Modelle läuft deshalb auf vielen spezialisierten Prozessoren, etwa GPUs oder TPUs, gleichzeitig und benötigt enorme Mengen an elektrischer Energie. KI ist also nicht so immateriell, wie sie wirkt: Hinter jedem großen KI-Modell stehen Rechenzentren, die gekühlt und mit Energie versorgt werden müssen.

2.8 Warum muß die KI die Daten hunderte Male durchgehen – reicht einmal nicht?

Stell dir vor, du lernst Vokabeln: Nach einmaligem Durchlesen sitzt kaum etwas. Erst durch Wiederholung werden die Verbindungen gefestigt. Bei der KI ist es ähnlich: Mit jeder Runde, einer sogenannten Epoche, werden die Parameter durch viele kleine Anpassungen weiter optimiert und die erkannten Muster präziser.

Außerdem verarbeitet die KI die Daten in Gruppen, sogenannten Mini-Batches. Nach jedem Mini-Batch werden die Parameter anhand des berechneten Fehlers ein kleines Stück angepasst. Werden die Daten zwischen den Epochen neu durchmischt, sieht das Modell die Beispiele dabei in einer anderen Reihenfolge. Ein einziger Durchgang kann zwar bereits etwas lernen, reicht aber häufig nicht aus, um die Parameter so anzupassen, dass das Modell zuverlässig gute Vorhersagen macht.

2.9 Kann eine KI auch zu viel üben und dadurch schlechter werden?

Ja, das ist ein reales Problem – Fachleute nennen es Overfitting, auf Deutsch etwa „Überanpassung". Wenn ein Modell zu stark an seine Trainingsdaten angepasst wird, lernt es nicht nur die allgemeinen Muster, sondern übernimmt auch Besonderheiten, Zufälligkeiten oder sogar Rauschen dieser Daten. Dadurch kann es auf den Trainingsdaten sehr gute Ergebnisse erzielen, aber bei neuen, unbekannten Daten deutlich schlechter abschneiden.

Das ist wie wenn du für eine Klassenarbeit nur die Lösungen der Übungsaufgaben auswendig lernst: Bei genau diesen Übungen bekommst du eine Eins, aber bei einer neuen Aufgabe weißt du nicht weiter. Das Ziel ist deshalb nicht, die Trainingsdaten perfekt auswendig zu lernen, sondern ein Modell zu entwickeln, das die zugrunde liegenden Muster erkennt und auf neue Daten übertragen kann.

2.10 Wenn niemand genau weiß, was jeder Regler tut – woher weiß man dann, ob die KI richtig funktioniert?

Man testet sie. Nach dem Training bekommt die KI Daten, die sie während des Trainings noch nicht gesehen hat. Dabei misst man, wie gut sie ihre Aufgabe erfüllt. Für die Entwicklung und Feinabstimmung des Modells verwendet man typischerweise einen separaten Validierungsdatensatz. Die abschließende Bewertung erfolgt dann mit Testdaten, die bis dahin unberührt geblieben sind.

Aber selbst gute Testergebnisse garantieren nicht, dass die KI in jeder Situation zuverlässig funktioniert. Genau hier liegt ein Teil des sogenannten Blackbox-Problems neuronaler Netze: Man kann die Millionen oder Milliarden von Parametern mathematisch präzise optimieren, aber oft nur schwer nachvollziehen, welche Rolle einzelne Parameter oder Gruppen von Parametern für eine bestimmte Entscheidung spielen.

Man kann also sehr genau messen, dass ein Modell unter bestimmten Bedingungen gut funktioniert, ohne vollständig erklären zu können, warum es zu jeder einzelnen Entscheidung kommt.

3. Entscheidungen und Wahrscheinlichkeiten

3.1 Wenn die KI nur Wahrscheinlichkeiten ausrechnet, warum klingen ihre Antworten dann so sicher?

Weil ein Sprachmodell darauf trainiert ist, aus dem bisherigen Zusammenhang passende nächste Tokens vorherzusagen. Token können ganze Wörter, Wortteile oder Satzzeichen sein. Aus diesen vielen kleinen Vorhersagen entstehen schließlich flüssige Sätze. Je nach Verfahren wählt das Modell dabei nicht zwingend immer das wahrscheinlichste Token aus, sondern kann auch andere wahrscheinliche Möglichkeiten berücksichtigen.

Das Ergebnis kann sehr selbstbewusst klingen, obwohl das Modell keine menschliche Überzeugung oder Gewissheit besitzt. Es berechnet Wahrscheinlichkeiten für mögliche Fortsetzungen, nicht eine menschliche Einschätzung: „Ich weiß, dass diese Aussage wahr ist." Eine hohe Wahrscheinlichkeit bedeutet deshalb auch nicht automatisch, dass eine Aussage tatsächlich wahr ist.

Fachleute sprechen von Halluzination, wenn eine KI überzeugend klingende, aber falsche oder erfundene Inhalte erzeugt – etwa erfundene Fakten, nicht existierende Studien oder falsche Jahreszahlen. Der Begriff ist etwas irreführend, weil die KI dabei nicht im menschlichen Sinn „sieht", was nicht da ist. Sie erzeugt vielmehr Inhalte, die sprachlich und statistisch plausibel erscheinen können, obwohl sie sachlich falsch sind.

Deshalb ist es wichtig, KI-Antworten zu hinterfragen – besonders dann, wenn sie sehr überzeugend und selbstsicher klingen. Ein sicherer Tonfall ist kein Beweis dafür, dass eine Aussage auch wahr ist.

3.2 Kann eine KI auch sagen „Ich weiß es nicht", oder muß sie immer eine Antwort geben?

Eine KI kann durchaus „Ich weiß es nicht" sagen. Das Problem ist vielmehr, dass sie nicht automatisch zuverlässig erkennt, wann sie etwas tatsächlich nicht weiß. Ein Sprachmodell erzeugt grundsätzlich eine Ausgabe auf Grundlage seiner Berechnungen – auch dann, wenn die Informationen dafür unzureichend sind. Deshalb kann es eine überzeugend klingende, aber falsche Antwort geben.

Stell dir eine einfache Katze-Hund-KI vor: Zeigst du ihr ein Frettchen und hat sie nur gelernt, zwischen Katzen und Hunden zu unterscheiden, wird sie es möglicherweise trotzdem einer dieser beiden Kategorien zuordnen. Sie erkennt nicht automatisch: „Das ist etwas, das ich nicht kenne." Man kann ein solches System allerdings so gestalten, dass es bei zu geringer Sicherheit „unbekannt" meldet oder eine weitere Prüfung verlangt.

Bei modernen KI-Systemen kann man zusätzlich durch Training und technische Regeln festlegen, dass sie Unsicherheit ausdrücken, Rückfragen stellen oder bei bestimmten Anfragen keine Antwort geben. Ob eine KI „Ich weiß es nicht" sagt, ist daher nicht nur eine Frage ihrer Berechnung, sondern auch davon, wie das System entwickelt und trainiert wurde. Wichtig ist allerdings: Eine selbstbewusst formulierte Antwort ist kein zuverlässiger Beweis dafür, dass die KI die richtige Antwort kennt.

3.3 Wie wählt ein Chatbot das nächste Wort aus – nimmt er immer das wahrscheinlichste, oder manchmal auch ein anderes?

Nicht unbedingt das wahrscheinlichste. Ein Sprachmodell berechnet für die möglichen nächsten Token eine Wahrscheinlichkeitsverteilung. Je nach verwendetem Verfahren kann dann entweder das wahrscheinlichste Token gewählt oder aus mehreren wahrscheinlichen Möglichkeiten eines ausgewählt werden. Beim sogenannten Sampling werden wahrscheinlichere Tokens häufiger gewählt als weniger wahrscheinliche.

Dabei kann ein Parameter, den man Temperatur nennt, die Form dieser Wahrscheinlichkeitsverteilung beeinflussen. Eine niedrige Temperatur konzentriert die Auswahl stärker auf die wahrscheinlichsten Tokens und macht die Antworten dadurch vorhersehbarer. Eine hohe Temperatur verteilt die Wahrscheinlichkeiten breiter und kann dadurch vielfältigere und kreativere Antworten ermöglichen – allerdings nicht automatisch schlechtere oder unzuverlässigere. Wie stark sich die Qualität verändert, hängt von der jeweiligen Aufgabe und dem Modell ab.

Würde ein Chatbot bei jedem Schritt immer nur das wahrscheinlichste Token auswählen, wären seine Antworten oft weniger abwechslungsreich. Dieses Verfahren nennt man Greedy Decoding.

Der Kern bleibt aber: Das System erzeugt die Antwort schrittweise, Token für Token. Bei jedem Schritt berechnet es, welche Fortsetzungen im gegebenen Kontext wahrscheinlich sind. Es verfügt dabei nicht über ein menschliches Bewusstsein oder Verständnis dessen, was es sagt – auch wenn seine Antworten häufig genau diesen Eindruck erwecken.

3.4 Wenn zwei verschiedene KIs dieselbe Frage bekommen, geben sie dann dieselbe Antwort?

Meistens nicht. Verschiedene KI-Systeme wurden mit unterschiedlichen Daten trainiert, haben unterschiedliche Modellarchitekturen und oft auch unterschiedlich viele Parameter. Deshalb können sie auf dieselbe Frage zu unterschiedlichen Ergebnissen kommen.

Aber selbst dasselbe System kann bei derselben Frage unterschiedliche Antworten erzeugen. Bei Sprachmodellen kann beispielsweise das sogenannte Sampling eine Rolle spielen: Statt immer das exakt gleiche nächste Token auszuwählen, kann das Modell aus mehreren wahrscheinlichen Möglichkeiten wählen. Bei einer vollständig deterministischen Einstellung würde dagegen bei identischem Modell und identischem Kontext dieselbe Ausgabe entstehen.

Auch das Training selbst ist nicht vollständig vorherbestimmt. Selbst wenn zwei Trainingsläufe dieselben Daten und weitgehend dieselben Einstellungen verwenden, können unterschiedliche Zufallsbedingungen – etwa bei der Initialisierung der Parameter oder der Reihenfolge der Trainingsdaten – zu leicht unterschiedlichen Modellen führen.

Training ist also nicht nur eine Frage der Rechenleistung. Auch Daten, Modellarchitektur, Trainingsverfahren, Einstellungen und bestimmte Zufallsfaktoren beeinflussen das Ergebnis.

3.5 Kann eine KI lügen, obwohl sie gar nicht weiß, was Lügen ist?

Eine KI kann Dinge ausgeben, die falsch sind – aber das ist nicht dasselbe wie eine menschliche Lüge. Von einer Lüge spricht man normalerweise dann, wenn jemand bewusst eine falsche Aussage macht, um einen anderen zu täuschen. Eine KI hat keine menschliche Absicht oder ein eigenes Bewusstsein, mit dem sie sich entscheiden würde: „Ich kenne die Wahrheit, sage aber absichtlich etwas anderes."

Wenn eine KI eine falsche Aussage produziert, kann das daran liegen, dass sie aus ihren gelernten Mustern eine sprachlich plausible Antwort erzeugt, ohne zuverlässig zu überprüfen, ob diese mit der Realität übereinstimmt. Fachleute bezeichnen solche überzeugend formulierten, aber falschen oder erfundenen Inhalte als Halluzinationen (vgl. Abschnitt 3.1).

Das macht ihre Fehler nicht weniger problematisch – im Gegenteil. Eine KI kann sich sehr überzeugend irren und erkennt ihre eigenen Fehler nicht zwangsläufig zuverlässig. Sie kann sich zwar unter bestimmten Bedingungen selbst korrigieren, aber auch eine falsche Antwort mit großer Sicherheit formulieren. Gerade weil ihre Antworten so flüssig und selbstbewusst klingen, ist es für Menschen manchmal schwer, die Fehler zu erkennen.

In einer Welt, in der immer mehr Texte, Zusammenfassungen und Informationen von KI erzeugt werden, wird deshalb die Fähigkeit, Aussagen zu hinterfragen und Quellen zu prüfen, wichtiger denn je.

4. Alltag und Anwendung

4.1 Woher weiß mein Social-Media-Feed, welche Videos mir gefallen, bevor ich es selbst weiß?

Der Empfehlungsalgorithmus nutzt dein Verhalten als wichtige Hinweise: Welche Videos du anklickst, wie lange du sie anschaust, welche du überspringst, likest oder teilst und mit welchen Inhalten du interagierst, kann in die Empfehlungen einfließen. Aus den Verhaltensdaten vieler Nutzer können Modelle Muster erkennen – zum Beispiel, welche Inhalte Menschen mit ähnlichem Verhalten wahrscheinlich als Nächstes interessant finden.

Wichtig zu wissen: Empfehlungsalgorithmen sind häufig so gestaltet, dass sie die Nutzung der Plattform fördern. Dabei können verschiedene Ziele eine Rolle spielen, etwa Interaktionen, Zufriedenheit, Verweildauer oder Werbeerlöse. Bei werbefinanzierten Plattformen ist die Aufmerksamkeit der Nutzer besonders wertvoll, weil sie die Möglichkeit schafft, Werbung auszuspielen. Mehr Nutzung kann deshalb auch wirtschaftlich interessant sein.

Eine mögliche Folge personalisierter Empfehlungen ist eine sogenannte Filterblase: Wenn ein System dir immer wieder Inhalte zeigt, die zu deinen bisherigen Interessen passen, bekommst du möglicherweise weniger unterschiedliche oder widersprüchliche Perspektiven zu sehen. Das kann dazu beitragen, dass sich dein Blick auf bestimmte Themen verengt – ohne dass dir dieser Effekt unbedingt auffällt. Allerdings führen personalisierte Empfehlungen nicht automatisch bei jedem Menschen zu einer vollständigen Filterblase.

Derselbe Grundgedanke steckt übrigens nicht nur in Instagram: Auch Spotify, YouTube, Online-Shops und Nachrichtenplattformen verwenden Empfehlungssysteme, um Inhalte oder Produkte individuell auszuwählen. Die konkreten Verfahren und Ziele unterscheiden sich dabei.

Wer versteht, wie solche Empfehlungen entstehen, kann bewusster damit umgehen – zum Beispiel, indem man gezielt nach unterschiedlichen Perspektiven sucht und nicht nur das konsumiert, was der Algorithmus als Nächstes vorschlägt.

4.2 Ist die Autokorrektur auf meinem Handy auch eine KI – und wenn ja, warum liegt sie trotzdem so oft daneben?

Viele moderne Autokorrektur- und Wortvorhersagesysteme nutzen maschinelles Lernen und neuronale Modelle. Sie analysieren den bisherigen Text und versuchen vorherzusagen, welches Wort oder welche Schreibweise im jeweiligen Kontext wahrscheinlich ist. Bei einem Tippfehler kann das System beispielsweise anhand des Kontexts eine passendere Schreibweise vorschlagen.

Daneben können aber auch Wörterbücher, Regeln und andere Verfahren zum Einsatz kommen. Und selbst ein lernendes System kann sich irren: Ungewöhnliche Wörter, Dialekt, Abkürzungen, Fachbegriffe oder mehrdeutige Sätze können schwer vorherzusagen sein – besonders wenn sie im verwendeten Trainingsmaterial oder im aktuellen Kontext selten vorkommen.

Hinzu kommt, dass die Modelle auf einem Smartphone meist besonders effizient sein müssen. Speicherplatz, Rechenleistung, Energieverbrauch und Reaktionsgeschwindigkeit setzen Grenzen. Deshalb verwendet man häufig kleinere und spezialisierte Modelle statt der sehr großen Modelle, die in Rechenzentren betrieben werden.

Die Autokorrektur ist also nicht deshalb unzuverlässig, weil sie „nichts weiß". Sie muß mit begrenzten Informationen möglichst schnell eine gute Vorhersage treffen – und manchmal ist die wahrscheinlichste Interpretation eben die falsche.

4.3 Wenn ich einen KI-Chatbot für Hausaufgaben benutze, wie kann ich prüfen, ob die Antwort stimmt?

Indem du ähnliche Fragen stellst wie bei jeder anderen Informationsquelle: Gibt es eine unabhängige, zuverlässige Quelle, die dieselbe Aussage bestätigt? Passt die Antwort zu dem, was du bereits weißt? Und lässt sich die Behauptung anhand einer geeigneten Quelle überprüfen? Denn ein KI-Chatbot erzeugt Antworten auf Grundlage seiner gelernten Muster und des jeweiligen Kontexts. Er verfügt nicht automatisch über eine zuverlässige Wahrheitsprüfung für jede Aussage.

Besonders vorsichtig solltest du bei konkreten Fakten sein: Jahreszahlen, Zitate, Namen, Statistiken oder Quellenangaben. KI-Chatbots können manchmal Angaben erzeugen, die völlig überzeugend klingen, aber falsch oder frei erfunden sind – etwa Zitate, die eine Person nie gesagt hat, oder Studien, die gar nicht existieren. Fachleute bezeichnen solche Fälle als Halluzinationen (vgl. Abschnitt 3.1).

Ein hilfreicher Ansatz kann folgender sein: Nutze die KI, um ein Thema zu verstehen, Zusammenhänge zu erklären oder Ideen zu sammeln. Überprüfe aber wichtige Fakten und Quellen, bevor du sie in einer Hausaufgabe oder einem Referat übernimmst – zum Beispiel in Lehrbüchern, seriösen Webseiten, wissenschaftlichen Quellen oder durch Nachfrage bei einer Lehrkraft.

KI kann ein nützliches Werkzeug sein. Aber wie bei jeder Informationsquelle solltest du ihre Aussagen nicht blind übernehmen, sondern kritisch prüfen. Eine KI kann dein eigenes Lernen nicht ersetzen. Gut ist es, wenn man für dargestellte Informationen eine genaue Quelle angeben kann, also zum Beispiel ein wissenschaftliches Buch oder eine redaktionell bearbeitete Webseite.

4.4 Können Deepfakes so gut werden, dass niemand mehr echte von falschen Videos unterscheiden kann?

Technisch wird es immer schwieriger, manche Deepfakes mit bloßem Auge zuverlässig zu erkennen – die Verfahren zur Erzeugung werden immer besser. Gleichzeitig werden KI-Systeme entwickelt, die manipulierte Inhalte erkennen sollen. Es ist also ein Wettlauf zwischen Erzeugung und Erkennung. Zusätzlich werden Verfahren entwickelt, mit denen sich die Herkunft und Echtheit digitaler Inhalte besser nachvollziehen lassen.

Dabei geht es nicht nur um Videos. KI kann inzwischen auch Stimmen überzeugend imitieren – bei manchen Systemen kann dafür bereits eine kurze Sprachaufnahme ausreichen. Sie kann fotorealistische Bilder von Personen erzeugen, die gar nicht existieren, aber auch Bilder realer Personen manipulieren oder erzeugen. Und sie kann Texte schreiben, die sich wie echte Nachrichten lesen, aber vollständig erfunden sind.

Der Oberbegriff synthetische Medien bezeichnet künstlich erzeugte oder wesentlich veränderte Inhalte wie Texte, Bilder, Audio und Videos. KI macht es zunehmend einfacher, solche Inhalte zu erstellen, die auf den ersten Blick nur schwer von echten Aufnahmen oder Texten zu unterscheiden sind.

Für dich persönlich heißt das: Wenn ein Video, ein Bild oder eine Nachricht besonders unglaublich wirkt, lohnt sich gesunde Skepsis. Prüfe möglichst die Quelle, suche nach unabhängigen Bestätigungen und frage dich, ob es Hinweise auf eine Manipulation gibt. Die Fähigkeit, Quellen kritisch zu hinterfragen und Informationen einzuordnen, wird in einer Welt mit KI-generierten Inhalten immer wichtiger.

5. Ethik, Risiken und Gesellschaft

5.1 Wenn eine KI eine unfaire Entscheidung trifft – zum Beispiel bei einer Bewerbung – wer ist dann verantwortlich?

Das ist eine der wichtigen Fragen beim Einsatz von KI – und die Antwort hängt vom konkreten Fall ab. Eine KI selbst trägt keine moralische Verantwortung wie ein Mensch, denn sie hat keine eigenen Absichten oder Entscheidungen im menschlichen Sinn. Verantwortlich sein können dagegen die Menschen und Organisationen, die das System entwickeln, anbieten oder einsetzen.

Wichtige Fragen sind deshalb: Mit welchen Daten wurde das System trainiert? Wurde es auf mögliche Verzerrungen und Diskriminierung geprüft? Wer hat entschieden, es für Bewerbungen einzusetzen? Und wer kontrolliert die Ergebnisse und greift ein, wenn das System unfair entscheidet?

KI-Systeme können Verzerrungen aus ihren Trainingsdaten übernehmen oder durch ihre Konstruktion und ihren Einsatz verstärken. Aber die Verantwortung dafür liegt nicht einfach bei „der KI". Entscheidend ist, wie Menschen das System entwickeln, auswählen, einsetzen und überwachen.

Gerade bei wichtigen Entscheidungen sollte deshalb nicht allein darauf vertraut werden, was ein KI-System ausgibt. Es braucht klare Verantwortlichkeiten und eine Möglichkeit, fehlerhafte oder diskriminierende Entscheidungen zu überprüfen und zu korrigieren.

5.2 Kann eine KI rassistisch oder sexistisch sein, obwohl sie keine Absichten hat?

Eine KI kann Ergebnisse erzeugen, die rassistisch oder sexistisch wirken oder Menschen aufgrund bestimmter Merkmale benachteiligen. Wenn Trainingsdaten gesellschaftliche Vorurteile oder historische Diskriminierung widerspiegeln, können KI-Systeme solche Muster übernehmen und reproduzieren. Eine KI hat dabei kein menschliches moralisches Verständnis von Rassismus oder Sexismus und keine eigene Absicht, jemanden zu diskriminieren.

Das betrifft nicht nur Bewerbungen. Gesichtserkennungssysteme können bei bestimmten Hauttönen oder Personengruppen unterschiedlich zuverlässig funktionieren. Solche Unterschiede können unter anderem damit zusammenhängen, wie ausgewogen und repräsentativ die Trainingsdaten sind. Aber auch die Modellarchitektur, die Datenqualität und die Bedingungen, unter denen das System eingesetzt wird, können eine Rolle spielen.

Auch Übersetzungssysteme können gesellschaftliche Stereotype widerspiegeln. Gibt man beispielsweise „The doctor" ohne weiteren Kontext ein, kann ein System „der Arzt" ausgeben, während „The nurse" als „die Krankenschwester" übersetzt wird. Moderne Systeme können solche Zuordnungen zwar zunehmend kontextabhängig vermeiden, dennoch können stereotype Muster auftreten. Sie können unter anderem damit zusammenhängen, dass bestimmte Berufe in den Trainingsdaten häufiger mit einem bestimmten Geschlecht verbunden sind.

Auch Bildgeneratoren können gesellschaftliche Stereotype übernehmen oder verstärken. Bei bestimmten Berufen oder Menschengruppen können einzelne Geschlechter, Hauttöne oder andere Merkmale überproportional häufig dargestellt werden.

Das Problem ist besonders ernst, weil Menschen automatisierten Systemen teilweise ein besonderes Vertrauen entgegenbringen. Eine „maschinelle" Entscheidung kann dadurch objektiver oder neutraler wirken, als sie tatsächlich ist. Wenn mehrere Benachteiligungen gleichzeitig auftreten – etwa aufgrund von Geschlecht, Hautfarbe und Alter – können sie sich gegenseitig verstärken.

Deshalb reicht es nicht, eine Entscheidung als „von der KI berechnet" zu betrachten. Auch KI-Systeme müssen darauf geprüft werden, ob ihre Daten, Modelle und Ergebnisse fair und zuverlässig sind.

5.3 Warum werden KI-Systeme trotzdem eingesetzt, wenn sie so viele Fehler machen können?

Weil sie in vielen Bereichen trotz ihrer Grenzen nützlich sein können – in manchen Anwendungen sogar mit großem Nutzen für Menschen. KI kann beispielsweise bestimmte Auffälligkeiten auf medizinischen Bildern erkennen, Texte in Sekunden übersetzen oder Menschen mit Sehbehinderung dabei unterstützen, den Inhalt eines Fotos zu erfassen. Bei einigen klar abgegrenzten Aufgaben können KI-Systeme unter bestimmten Bedingungen sogar bessere Ergebnisse erzielen als Menschen. Das bedeutet allerdings nicht, dass KI generell zuverlässiger ist als ein Mensch – besonders in komplexen Situationen können auch KI-Systeme Fehler machen.

Der Punkt ist deshalb nicht „KI oder keine KI", sondern: Wo bringt der Einsatz von KI mehr Nutzen als Risiko? Eine KI, die ein Lied empfiehlt, das dir nicht gefällt, richtet in der Regel nur wenig Schaden an. Ein System, das bei einer Bewerbung mitentscheidet oder eine medizinische Entscheidung unterstützt, kann dagegen erhebliche Folgen haben und muss deshalb viel höheren Anforderungen an Zuverlässigkeit, Transparenz und Kontrolle genügen.

Fachleute und Gesetzgeber unterscheiden deshalb zwischen Anwendungen mit unterschiedlichen Risikostufen. Auch der AI Act der Europäischen Union verfolgt einen risikobasierten Ansatz: Je höher das mögliche Risiko einer KI-Anwendung für Menschen und ihre Rechte ist, desto strengere Anforderungen gelten.

Genau deshalb ist es so wichtig, kritisch zu bleiben – nicht grundsätzlich gegen KI, sondern gegenüber jedem einzelnen Einsatz. Entscheidend ist, wofür ein System eingesetzt wird, wie zuverlässig es unter realen Bedingungen funktioniert und ob Menschen seine Ergebnisse überprüfen und korrigieren können.

5.4 Gibt es Regeln oder Gesetze, die bestimmen, was eine KI darf und was nicht?

Ja. Weltweit entstehen neue Regeln für den Einsatz von KI, allerdings verfolgen die Länder dabei unterschiedliche Ansätze. Die Europäische Union hat zum Beispiel den AI Act verabschiedet. Er verfolgt einen risikobasierten Ansatz: Bestimmte KI-Praktiken sind verboten, während für Hochrisiko-Systeme besonders strenge Anforderungen gelten. Für andere KI-Anwendungen gelten je nach Einsatz ebenfalls bestimmte Pflichten.

Die technische Entwicklung von KI schreitet allerdings sehr schnell voran. Deshalb können neue Anwendungen entstehen, bevor es für sie spezielle gesetzliche Regelungen gibt. Gleichzeitig können bestehende Gesetze – etwa zum Datenschutz, zum Urheberrecht oder zum Verbraucherschutz – auch auf KI-Systeme angewendet werden.

Deshalb braucht es neben Gesetzen auch ethische Leitlinien, technische Standards und wirksame Kontrolle. Entscheidend sind Fragen wie: Wird diese KI fair und sicher eingesetzt? Wer trägt die Verantwortung? Welche Risiken gibt es? Und wer überprüft, ob die Regeln tatsächlich eingehalten werden?

KI zu regulieren bedeutet also nicht nur, festzulegen, was eine Maschine darf. Es geht vor allem darum, klare Regeln für die Menschen und Organisationen zu schaffen, die KI entwickeln, anbieten und einsetzen.

5.5 Was kann ich als einzelne Person tun, damit KI fair und sicher eingesetzt wird – muß man dafür programmieren können?

Nein, du mußt nicht programmieren können. Eine der wichtigsten Fähigkeiten im Umgang mit KI ist kritisches Denken: Du kannst hinterfragen, woher Informationen stammen, wie zuverlässig eine Antwort ist und welche Folgen der Einsatz eines Systems haben kann.

Du kannst fragen: Woher stammen die verwendeten Daten und Quellen? Wer hat die KI entwickelt und mit welchem Ziel? Könnte das Ergebnis falsch, verzerrt oder unfair sein? Warum wird mir genau dieser Inhalt empfohlen – und welche anderen Möglichkeiten bekomme ich vielleicht gar nicht zu sehen?

Du kannst außerdem bewusst entscheiden, wie du deine Zeit mit KI-gesteuerten Plattformen verbringst, wichtige Informationen aus unabhängigen Quellen überprüfen und problematische Ergebnisse melden. Wenn Organisationen oder Behörden KI einsetzen, kannst du nachfragen, wofür sie verwendet wird, wer die Verantwortung trägt und wie Entscheidungen kontrolliert werden.

Du mußt also kein Programmierer sein, um Einfluss zu nehmen. Ein verantwortungsvoller Umgang mit KI beginnt auch damit, Fragen zu stellen, Informationen zu prüfen und nicht jede technische Entscheidung einfach als gegeben hinzunehmen. Denn wie KI eingesetzt wird, betrifft letztlich uns alle.

Dieser Text wurde KI-optimiert.