KI-Rufschädigung – Deepfakes, falsche Antworten und Manipulation

KI-Rufschädigung bezeichnet die Beeinträchtigung des Ansehens einer Person, Marke oder Organisation durch künstlich erzeugte oder manipulierte digitale Inhalte. Dazu können erfundene Nachrichten, gefälschte Stimmen und Videos, nachgeahmte Personenprofile sowie unzutreffende Aussagen in KI-gestützten Auskunftssystemen gehören. Der Ausdruck beschreibt unterschiedliche Phänomene und ist keine eigene Strafnorm.

Eine falsche KI-Antwort beweist keinen gezielten Angriff. Sprachmodelle können Angaben falsch kombinieren, veraltete Informationen verwenden oder ohne tragfähige Quelle eine scheinbar plausible Aussage erzeugen. Bei einem bewussten Manipulationsversuch können dagegen gefälschte Quellen, Identitätsnachahmung oder absichtlich erstellte Deepfakes eingesetzt werden. Die Unterscheidung verändert die technische Untersuchung und die rechtlichen Maßnahmen.

Wie kann KI die digitale Reputation beeinflussen?

Menschen suchen Informationen über Firmen, Ärzte, Selbstständige oder andere Personen zunehmend auch in KI-gestützten Antwortsystemen. Wenn ein Dienst falsche Daten über eine Organisation nennt, kann dies zu Missverständnissen führen. Die Antwort kann beispielsweise eine nicht bestehende Niederlassung, eine erfundene Kundenbeschwerde oder die falsche Zuordnung einer Person zu einem Unternehmen enthalten.

Anders als bei einer feststehenden Webseite kann eine KI-Antwort bei einer späteren Anfrage anders ausfallen. Systemversion, Formulierung der Frage und zugängliche Quellen können sich ändern. Eine sachgerechte Dokumentation muss daher das konkrete Ergebnis, den Zeitpunkt und den verwendeten Dienst berücksichtigen. Ein einzelner Screenshot ist kein Beweis dafür, dass alle Nutzer dieselbe Aussage erhalten.

Welche Arten KI-gestützter Rufschädigung gibt es?

Manipulierte Videos und Stimmen

Ein sogenannter Deepfake kann den Eindruck erwecken, eine erkennbare Person habe etwas gesagt oder getan, obwohl die dargestellte Handlung nicht stattgefunden hat. Besonders problematisch sind gefälschte Stellungnahmen, angebliche Entschuldigungen oder sexuelle Fälschungen. Eine technische Erkennung sollte die Herkunft der Originalaufnahmen, mögliche Bearbeitungen und die konkrete Verbreitung untersuchen. Nicht jede geschnittene Videoaufnahme ist ein KI-Deepfake.

Falsche Angaben in KI-Antwortsystemen

Ein Antwortdienst kann eine Person mit einer fremden Biografie verwechseln oder einen nicht belegten Vorwurf als Tatsache formulieren. Eine solche Falschdarstellung kann ohne Angreifer entstehen. Für eine Prüfung sind die verwendete Suchanfrage, das Datum, der Antworttext und angezeigte Quellen festzuhalten.

Gefälschte Quellen für KI-Systeme

Angreifer können versuchen, die Informationsquellen zu beeinflussen, die ein KI-Dienst bei einer Antwort verwendet. Beispielsweise kann eine manipulierte Website eine falsche Unternehmensanschrift oder einen erfundenen Vorwurf verbreiten. Der bereits bestehende Artikel AI Search Poisoning erläutert die gezielte Manipulation von Quellen. Das bedeutet nicht, dass jeder falsche KI-Satz durch eine solche Methode entstanden ist.

Manipulierte Wissensgraphen

In Wissensgraphen werden Unternehmen, Personen und Beziehungen als strukturierte Angaben dargestellt. Fehlerhafte oder absichtlich manipulierte Eingabedaten können zu falschen Zuordnungen führen. Der Eintrag Knowledge Graph Poisoning behandelt diesen spezielleren technischen Zusammenhang. Ein fehlerhafter Wissenseintrag kann auch durch Namensgleichheit oder eine veraltete Datenquelle entstehen.

KI-generierte Fake-Bewertungen

Mit Textgeneratoren lassen sich in kurzer Zeit viele sprachlich unterschiedliche Erfahrungsberichte erstellen. Ein von KI geschriebener Text ist nicht allein wegen seiner Herstellung automatisch eine gefälschte Bewertung. Entscheidend ist, ob eine tatsächliche Kundenerfahrung zugrunde liegt und ob die Veröffentlichung gegen geltendes Recht oder Plattformregeln verstößt.

Nachahmung von Unternehmenskommunikation

Eine gefälschte Pressemitteilung oder ein synthetisches Video kann so gestaltet sein, als stamme es von einem Unternehmen. Die Täuschung kann Kunden zu Fehlentscheidungen verleiten oder die Reputation beeinträchtigen. Eine falsche Absenderidentität ist von einem tatsächlich kompromittierten Firmenkonto zu unterscheiden.

Wie unterscheidet man Modellfehler und gezielte Manipulation?

Ein Modellfehler kann bei gewöhnlicher Verarbeitung entstehen, beispielsweise durch die Vermischung von Informationen über zwei gleichnamige Personen. Ein Angriff setzt dagegen einen nachweisbaren Manipulationsversuch voraus. Ein gefälschter Artikel, ein unter fremdem Namen veröffentlichter Text oder eine inhaltlich gezielte Aufforderung in einer abgerufenen Quelle kann ein solcher Anhaltspunkt sein.

Eine einzelne falsche Aussage belegt noch keine Angreiferabsicht. Für die Untersuchung ist zu fragen, ob die Information schon vor der KI-Antwort in öffentlich zugänglichen Quellen stand, ob der Dienst diese Quellen tatsächlich zitiert oder ob sich die Aussage auch ohne erkennbare Quelle erzeugen lässt. Die Herkunft des Fehlers bleibt manchmal ungeklärt.

Google weist in seinen Hinweisen zur Nutzung generativer KI auf das Risiko sachlich falscher Ausgaben hin. Die Existenz solcher Fehler rechtfertigt es nicht, jeder fehlerhaften Antwort eine gezielte Sabotage zuzuschreiben.

Welche Folgen können für Unternehmen entstehen?

Eine falsche KI-Darstellung kann zu Kundenrückfragen führen oder eine nicht bestehende Verbindung mit einem betrügerischen Angebot suggerieren. Besonders bei geschäftskritischen Angaben wie Anschriften, Ansprechpartnern oder Qualifikationen kann die Verwechslung praktische Folgen haben. Für einen Nachweis sollte dokumentiert werden, welche Person tatsächlich aufgrund der konkreten Aussage falsch informiert wurde.

Ein allgemeiner Rückgang von Websitebesuchen oder Umsatz beweist keinen Zusammenhang mit einer KI-Antwort. Suchmaschinenänderungen, Marktbedingungen und andere Ursachen können gleichzeitig auftreten. Eine wirtschaftliche Schadensbewertung verlangt eine gesonderte Analyse und geeignete Belege.

Welche Risiken bestehen für Privatpersonen?

Eine synthetische Tonaufnahme kann einer Person eine belastende Aussage zuschreiben, die sie nie gemacht hat. Pornografische Deepfakes können die erkennbare Identität missbrauchen, ohne dass die Person eine entsprechende Aufnahme erstellt hat. Auch die Verbindung eines Namens mit einer falschen Straftatbehauptung kann persönliche Folgen haben.

Bei intimen Darstellungen und Erpressungsdrohungen ist die persönliche Sicherheit zu berücksichtigen. Die Artikel Deepfake-Pornografie und Deepfake-Sextortion erklären diese Fälle und passende Meldewege. Die betroffene Person sollte nicht gezwungen werden, das belastende Material selbst breit zu verbreiten, um einen Missbrauch zu belegen.

Wie wird eine falsche KI-Antwort dokumentiert?

Bei einem reproduzierbaren Fund können Anfrageformulierung, Zeitpunkt, Name des Dienstes, sichtbarer Antworttext und etwaige Quellenlinks dokumentiert werden. Falls eine bestimmte Modellbezeichnung angezeigt wird, kann sie für die Rekonstruktion hilfreich sein. Die Plattform sollte nicht durch unzulässige Zugriffe oder verdeckte technische Eingriffe untersucht werden.

Wird eine falsche Quelle zitiert, sollte deren tatsächlicher Inhalt zum Zeitpunkt der Untersuchung geprüft werden. Ein Link kann später verändert werden. Eine sachliche Dokumentation trennt die Aussage im KI-Dienst von der Aussage auf der Quellwebsite. Beide können voneinander abweichen.

Eine Antwort kann außerdem je nach Formulierung oder Sitzung unterschiedlich ausfallen. Wiederholte Tests können dies sichtbar machen, erlauben aber keine zuverlässige Aussage darüber, wie häufig sämtliche anderen Nutzer denselben Fehler sehen. Aus wenigen eigenen Fragen darf keine allgemeine Verbreitungsquote abgeleitet werden.

Wie kann man die Ursache eines KI-Reputationsproblems untersuchen?

Die Prüfung beginnt mit der korrekten Identität des Betroffenen und den tatsächlich falschen Angaben. Anschließend werden die angezeigten Quellen, gegebenenfalls öffentliche Wissensdatenbanken und eigene Unternehmensinformationen betrachtet. Bei Namensgleichheiten ist zu prüfen, ob die Aussagen einer anderen Person zugeordnet wurden.

Gibt es eine nachweisbar manipulierte Quellwebsite, kann deren Betreiber kontaktiert oder ein rechtlich begründeter Takedown-Antrag geprüft werden. Ist die ursprüngliche Quelle korrekt, liegt die Ursache möglicherweise in der Verarbeitung des KI-Dienstes. Eine rechtliche Bewertung darf diese Konstellationen nicht gleichsetzen.

Wer eine falsche KI-Antwort melden möchte, sollte nach Möglichkeit den dafür vorgesehenen Feedbackweg des konkreten Systems verwenden. Ein Dienst kann seine Antwort nach einer Rückmeldung ändern, aber eine sofortige oder dauerhafte Korrektur lässt sich nicht für jedes System versprechen.

Welche Maßnahmen helfen bei gefälschten KI-Videos?

Bei einer öffentlich auffindbaren Fälschung sollte die konkrete Fundstelle erfasst werden. Eine Plattformmeldung kann die falsche Identitätsdarstellung, die fehlende Zustimmung oder eine nachweisbare irreführende Verwendung beschreiben. Der Verweis auf KI-Technik allein genügt nicht für jede behauptete Rechtsverletzung.

Eine sachliche Richtigstellung kann erklären, dass die dargestellte Person die gezeigte Aussage nicht gemacht hat. Die Veröffentlichung sollte sich auf überprüfbare Informationen stützen und nicht selbst fremde sensible Daten enthalten. Für bestimmte schwerwiegende Persönlichkeitsrechtsverletzungen kann anwaltliche Unterstützung erforderlich sein.

Welche Rolle spielt der europäische AI Act?

Die europäische KI-Verordnung (Artikel 50 des AI Act) enthält Transparenzpflichten für bestimmte KI-Systeme und deren Betreiber. Darunter fällt unter den jeweiligen Voraussetzungen die Offenlegung, dass bestimmte Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden und Deepfakes darstellen. Die Norm enthält Ausnahmen und besondere Regeln für künstlerische, satirische und andere Kontexte.

Nach den veröffentlichten EU-Informationen zur Anwendbarkeit gelten die Transparenzpflichten des Artikels 50 seit dem 2. August 2026. Für bestimmte vor diesem Zeitpunkt bereitgestellte Systeme besteht bei den technischen Markierungs- und Erkennungspflichten des Absatzes 2 eine Übergangsregel bis zum 2. Dezember 2026. Die neuen besonderen Verbote für bestimmte nicht einvernehmliche sexualisierte Inhalte treten nach dem aktuellen EU-Zeitplan erst am 2. Dezember 2026 in Anwendung. Anfang November 2026 dürfen sie daher nicht als bereits geltendes Verbot beschrieben werden.

Artikel 50 ist keine allgemeine Garantie auf Entfernung jedes falsch erzeugten Satzes und ersetzt nicht die Prüfung von Persönlichkeits-, Datenschutz- oder Wettbewerbsrecht. Die Rechtsfolge hängt vom betreffenden Akteur, der konkreten Systemnutzung und dem anwendbaren Regelungsbereich ab.

Welche weiteren Gesetze können relevant sein?

Bei bewusst unwahren Tatsachenbehauptungen über Personen können unter den gesetzlichen Voraussetzungen §§ 186 und 187 StGB einschlägig sein. Bei der unbefugten Veröffentlichung bestimmter intimer Bildaufnahmen kann § 201a StGB zu prüfen sein. Eine synthetische Darstellung erfüllt allerdings nicht automatisch jeden Tatbestand, der für reale heimliche Aufnahmen geschaffen wurde.

Bei erkennbaren Bildnissen und personenbezogenen Angaben können das allgemeine Persönlichkeitsrecht, §§ 22 und 23 KunstUrhG sowie Datenschutzrecht eine Rolle spielen. Bei gewerblicher Identitätsnachahmung können Marken- und Wettbewerbsrecht einschlägig sein. Der tatsächliche Inhalt, die Täuschung und die Verwendung müssen jeweils geprüft werden.

Wie werden rechtswidrige KI-Inhalte entfernt?

Ist ein konkretes Bild oder Video auf einer Plattform veröffentlicht, kann der dortige Hostingdienst eine begründete Meldung erhalten. Artikel 16 DSA sieht im Anwendungsbereich des Gesetzes Melde- und Abhilfeverfahren für mutmaßlich rechtswidrige Inhalte vor. Nicht jede Meldung führt zur sofortigen Löschung. Bei einer späteren Veröffentlichung auf einem anderen Dienst kann eine weitere Meldung erforderlich sein.

Die Entfernung eines Suchtreffers ist von der Löschung des Quellinhalts getrennt. Für Google bestehen unter bestimmten Voraussetzungen eigene Verfahren für nicht einvernehmliche intime Darstellungen. Die genauen Schritte sind unter Google-Suchergebnisse löschen beschrieben.

Was können Unternehmen vorbeugend tun?

Einheitliche und überprüfbare Stammdaten auf der eigenen Website, in offiziellen Profilen und bei verwendeten Verzeichnissen erleichtern die Zuordnung von Unternehmen. Falsche alte Telefonnummern, widersprüchliche Ansprechpartner oder ungeklärte Unternehmensnamen können Datenverwechslungen begünstigen. Die Korrektur solcher Angaben garantiert jedoch nicht, dass ein KI-System sie sofort übernimmt.

Bei einem konkreten Angriff können öffentliche Fundstellen, nachgeahmte Profile und bekannte KI-Antworten in einer Fallakte dokumentiert werden. Ein Monitoring kann bestimmte öffentliche Entwicklungen beobachten, bietet aber keinen vollständigen Zugriff auf sämtliche privaten KI-Dialoge anderer Nutzer.

Fiktives Fallbeispiel

Ein Arzt entdeckt, dass ein KI-Dienst ihn fälschlich einer Klinik in einer anderen Stadt zuordnet und eine nicht belegte berufliche Auseinandersetzung erwähnt. Eine Prüfung zeigt zwei öffentlich auffindbare Personen mit ähnlichem Namen. Die Datenverwechslung könnte die Ursache sein; ein gezielter Angriff ist damit nicht nachgewiesen.

Der Arzt dokumentiert die genaue Antwort, die angezeigten Quellen und die korrekten öffentlich belegbaren Berufsdaten. Eine Korrektur wird über die vorgesehenen Quellen- und Plattformwege geprüft. Falls eine Quelle bewusst falsche Behauptungen veröffentlicht, muss diese eigenständig rechtlich beurteilt werden.

Häufige Fragen zur KI-Rufschädigung

Ist jede falsche KI-Antwort ein gezielter Angriff?

Nein. Modellfehler, veraltete Quellen und Verwechslungen können ohne fremde Manipulation entstehen. Ein Angriff benötigt eigene Anhaltspunkte.

Kann ein Deepfake die Reputation schädigen?

Ja. Eine synthetische Darstellung kann einer erkennbaren Person Aussagen oder Handlungen zuschreiben, die nicht stattgefunden haben. Ob sie rechtswidrig ist, muss im jeweiligen Kontext geprüft werden.

Kann man falsche Aussagen aus KI-Systemen löschen lassen?

Es gibt Feedback- und rechtliche Beschwerdewege, die vom Dienst und Sachverhalt abhängen. Eine generelle Garantie, jede Antwort dauerhaft zu korrigieren, besteht nicht.

Ist KI-generierter Inhalt ohne Kennzeichnung automatisch strafbar?

Nein. Die Transparenzpflichten des AI Act haben bestimmte Adressaten, Konstellationen und Ausnahmen. Ein Verstoß ist nicht ohne Prüfung mit einem bestimmten Straftatbestand gleichzusetzen.

Kann man gezielt beeinflusste Quellen erkennen?

Eine Analyse kann die sichtbaren Quellen, ihre Herkunft und spätere Änderungen prüfen. Dass eine falsche Aussage in einer KI-Antwort erscheint, beweist jedoch keine Quellmanipulation.

Wie kann BRANDPROTECTIONNOW unterstützen?

BRANDPROTECTIONNOW kann im vereinbarten Umfang öffentliche KI-Falschdarstellungen, nachgeahmte Profile und bekannte Quellen untersuchen, dokumentieren und geeignete Korrektur- oder Meldewege vorbereiten. Bei technischen Sicherheitsvorfällen oder streitigen Rechtsansprüchen können weitere Fachstellen notwendig sein. Eine vollständige Entfernung von Falschinformationen aus sämtlichen KI-Systemen lässt sich nicht versprechen.

Fachquellen

Wie Unternehmen konkret vorgehen, zeigt die Seite Negative Google-Suchergebnisse verdrängen oder entfernen.