Knowledge Graph Poisoning – manipulierte Unternehmensdaten in Wissensgraphen
Knowledge Graph Poisoning beschreibt den Versuch, einen Wissensgraphen oder dessen Eingangsdaten gezielt mit falschen, irreführenden oder manipulierten Informationen zu beeinflussen. Ein Knowledge Graph speichert Informationen häufig als Beziehungen zwischen eindeutig beschriebenen Entitäten, etwa Unternehmen, Personen, Orten und Produkten. Missbräuchliche Änderungen können dazu führen, dass eine Organisation mit unzutreffenden Eigenschaften oder Beziehungen dargestellt wird. Der Begriff ist keine einheitliche Bezeichnung für jede fehlerhafte Wissensdatenbank.
Wie können falsche Unternehmensinformationen entstehen?
Wissensgraphen erhalten ihre Inhalte je nach System aus strukturierten Daten, redaktionellen Quellen, Datenbanken und automatisierten Extraktionsverfahren. Fehler können durch veraltete Einträge, Namensgleichheiten, fehlerhafte Zuordnungen oder absichtlich falsche Angaben entstehen. Eine falsche Verbindung zwischen zwei Unternehmen beweist daher nicht automatisch eine gezielte Attacke. Für die Bewertung sind Quellenherkunft, Änderungsverlauf und Datenverarbeitung von Bedeutung.
Welche Manipulationsformen sind denkbar?
Ein Angreifer könnte versuchen, auf öffentlich editierbaren Datenquellen falsche Unternehmensadressen, unzutreffende Eigentümerbeziehungen oder erfundene Produktzuordnungen zu platzieren. Eine weitere Variante wäre die Veröffentlichung irreführender strukturierter Webdaten. Ob ein konkreter Wissensgraph diese Angaben übernimmt, hängt von dessen Qualitätskontrollen und Datenwegen ab. Einzelne Schema.org-Angaben auf einer fremden Website können nicht beliebig den Eintrag eines Unternehmens in einem Suchdienst ändern.
Abgrenzung zu falschen KI-Antworten
Ein Sprachmodell kann eine fehlerhafte Aussage erzeugen, ohne einen Wissensgraphen zu verwenden. Umgekehrt kann eine Datenbank einen falschen Eintrag enthalten, ohne dass dieser in einem KI-System erscheint. Bei einem konkreten Vorfall müssen deshalb die beobachtete Ausgabe, die sichtbaren Quellen und die möglichen Datenlieferanten getrennt dokumentiert werden. Die Begriffe Knowledge Graph Poisoning und AI Search Poisoning sollten nicht ohne technische Belege gleichgesetzt werden.
Welche Auswirkungen können Unternehmen betreffen?
Denkbar sind falsch zugeordnete Ansprechpartner, fehlerhafte Standorte, unzutreffende Geschäftsbeziehungen oder Verwechslungen zwischen Unternehmen gleichen Namens. Solche Angaben können die Suche nach einem Anbieter erschweren und die Wahrnehmung durch Kunden beeinflussen. Ein konkreter finanzieller oder reputationsbezogener Schaden lässt sich daraus jedoch nicht pauschal ableiten. Dafür wären nachvollziehbare Auswirkungen und eine belastbare Ursachenanalyse erforderlich.
Wie wird ein verdächtiger Wissenseintrag geprüft?
Zunächst sind der genaue Dienst, die angezeigte Aussage, der Abfragezeitpunkt und erkennbare Quellen zu dokumentieren. Danach ist festzustellen, ob die Angabe in offiziellen Unternehmensregistern, auf der Website des Betroffenen oder in öffentlich zugänglichen Datenbeständen vorkommt. Historische Versionen können helfen, einen Änderungszeitpunkt einzugrenzen. Stimmen mehrere Quellen überein, bedeutet das noch nicht, dass sie unabhängig voneinander sind; Daten können gegenseitig übernommen worden sein.
Was sollten Unternehmen bei falschen Einträgen tun?
Zuerst sollten offizielle Unternehmensangaben geprüft und gegebenenfalls in den selbst kontrollierten Quellen berichtigt werden. Falls ein Dienst eine Korrekturfunktion oder ein Meldeverfahren anbietet, kann der konkrete Fehler mit entsprechenden Nachweisen gemeldet werden. Bei fremden Beiträgen können rechtliche Schritte nur unter den jeweils geltenden Voraussetzungen erwogen werden. Es gibt kein allgemeines Verfahren, das die sofortige Änderung sämtlicher Wissensgraphen oder KI-Antworten garantiert.
Welche rechtlichen Fragen sind zu prüfen?
Die unzutreffende Zuordnung eines Unternehmens ist nicht in jedem Fall rechtswidrig. Bei falschen Tatsachenbehauptungen, Identitätsmissbrauch oder Verletzungen geschützter Kennzeichen können im jeweiligen Einzelfall Ansprüche bestehen. Dabei sind auch Meinungsfreiheit, rechtmäßige Datenverarbeitung und die tatsächliche Verantwortlichkeit für die Information zu berücksichtigen. Werden personenbezogene Daten verarbeitet, sind datenschutzrechtliche Fragen ebenfalls zu prüfen.
Wie können Unternehmen der Datenqualität vorbeugen?
Klare Angaben zu Firma, Anschrift, vertretungsberechtigten Personen und offiziellen Domains erleichtern die Überprüfung der tatsächlichen Unternehmensidentität. Widersprüche zwischen eigenen Webseiten, Profilen und Verzeichnissen sollten nachvollziehbar korrigiert werden. Änderungen an Unternehmensdaten lassen sich dokumentieren und bei auffälligen Darstellungen gezielt überprüfen. Strukturierte Daten können die maschinelle Interpretation erleichtern, erzwingen aber keine bestimmte Darstellung durch externe Dienste.
Untersuchung durch BRANDPROTECTIONNOW
BRANDPROTECTIONNOW analysiert auffällige digitale Unternehmensdarstellungen, dokumentiert mögliche Quellen fehlerhafter Angaben und prüft Hinweise auf missbräuchliche Identitätszuordnungen. Die Tätigkeit kann die Vorbereitung von Korrekturmeldungen und die Abstimmung weiterer Maßnahmen umfassen. Eine garantierte Änderung externer Wissensgraphen ist damit nicht verbunden. Informationen zum digitalen Reputationsschutz.
Wie werden Informationen in einem Wissensgraphen dargestellt?
Ein Wissensgraph verbindet beschriebene Objekte, Eigenschaften und Beziehungen. Eine Aussage kann zum Beispiel lauten, dass eine bestimmte Organisation ihren Sitz in einer bestimmten Stadt hat oder eine Person als Geschäftsführer eines Unternehmens genannt wird. Die technische Darstellung arbeitet häufig mit eindeutigen Kennungen für die Objekte, damit ähnlich benannte Firmen oder Menschen voneinander unterschieden werden können.
Ein fehlerhafter Graph-Eintrag kann deshalb aus mehreren Gründen entstehen: Eine Eigenschaft wurde falsch eingetragen, zwei Entitäten wurden miteinander verwechselt oder ein früher zutreffender Sachverhalt wurde nicht aktualisiert. Das ist von einem absichtlichen Manipulationsversuch zu unterscheiden. Der Begriff Knowledge Graph Poisoning sollte nur verwendet werden, wenn Hinweise auf die gezielte Beeinflussung des Datenbestands vorliegen.
Welche Datenquellen können einen Wissensgraphen beeinflussen?
Offizielle Unternehmensinformationen
Unternehmen veröffentlichen Anschriften, Rechtsform, Kontaktwege und Ansprechpartner auf ihrer Website oder in vorgesehenen Verzeichnissen. Ein widersprüchlicher Name oder eine veraltete Adresse kann zu Fehlzuordnungen beitragen. Eine korrekte Angabe auf der eigenen Website ist eine sinnvolle Datenquelle, führt aber nicht automatisch zu einer bestimmten Darstellung in jedem fremden Wissensgraphen.
Öffentliche Wissensdatenbanken
Manche Systeme verwenden Informationen aus öffentlich gepflegten Datenbanken. Ein offener Eintrag kann unvollständig oder veraltet sein. Nicht jede dort vorhandene Aussage ist unabhängig geprüft. Wenn ein Unternehmen eine konkrete Falschzuordnung findet, sollten die Bearbeitungsregeln und Quellenanforderungen des jeweiligen Projekts beachtet werden. Ein nicht belegter Werbetext ist keine sachgerechte Korrektur eines öffentlichen Datensatzes.
Strukturierte Daten auf Websites
Webseiten können maschinenlesbare Informationen über Organisationen, Personen oder Produkte enthalten. Die technische Kennzeichnung hilft Systemen, Angaben zu interpretieren, ersetzt aber keine inhaltliche Prüfung. Google Search Central weist darauf hin, dass korrektes strukturiertes Markup keine bestimmte Darstellung in der Suche garantiert. Irreführende oder vom sichtbaren Seiteninhalt abweichende Markups können gegen Google-Richtlinien verstoßen.
Automatische Extraktion aus Texten
Ein System kann Beziehungen aus Presseartikeln, Webseiten oder anderen frei zugänglichen Texten extrahieren. Dabei kann ein Vorname mit einer anderen Person verwechselt oder eine zeitlich begrenzte Zusammenarbeit fälschlich als dauerhaft übernommen werden. Ein solcher Fehler ist nicht zwingend das Ergebnis eines absichtlich manipulierten Artikels.
Was unterscheidet die Nachahmung einer Entität von einer falschen Eigenschaft?
Bei einer falschen Eigenschaft ist die Organisation möglicherweise richtig identifiziert, aber ihr werden unzutreffende Angaben zugeordnet: beispielsweise ein alter Firmensitz oder ein früherer Geschäftsführer. Bei einer Entitätsverwechslung werden dagegen Informationen verschiedener Organisationen miteinander vermischt.
Ein Angreifer kann versuchen, eine glaubwürdig wirkende fremde Quelle mit dem Namen eines bekannten Unternehmens zu verknüpfen. Daraus folgt jedoch nicht, dass der angegriffene Wissensgraph diese Quelle tatsächlich übernommen hat. Für eine belastbare Untersuchung müssen Quelle, Eingabedatum und die tatsächlich beobachtete Graph-Darstellung getrennt erfasst werden.
Ein ähnlicher Unternehmensname kann auch ohne Manipulation eine Ursache für Fehler sein. Für die Korrektur können eindeutige Firmenkennungen, korrekte Anschriften und sachlich belegte Beziehungen hilfreich sein. Ein Anspruch auf ausschließliche Verwendung eines allgemeinen Begriffs entsteht dadurch nicht.
Wie lässt sich eine fehlerhafte Beziehung untersuchen?
Eine Dokumentation beginnt mit der konkreten Darstellung, dem Namen des betroffenen Dienstes und dem Zeitpunkt der Beobachtung. Bei einem öffentlichen Graph-Eintrag können die angezeigte Kennung, die falsch zugeordnete Eigenschaft und mögliche Quellenlinks festgehalten werden. Die bloße Behauptung „Google kennt unsere Firma falsch“ beschreibt noch keinen eindeutig untersuchbaren Befund.
Danach wird geprüft, welcher korrekte Sachverhalt aus geeigneten Quellen hervorgeht. Handelsregisterangaben, die eigene Unternehmenswebsite und überprüfbare Veröffentlichungen können unterschiedliche Aussagekraft haben. Ein Unternehmensname, der ähnlich geschrieben wird, muss nicht zu derselben rechtlichen Einheit gehören.
Fehler lassen sich nicht immer auf eine einzelne Quelle zurückführen. Ein Dienst kann mehrere Datenbestände zusammenführen und bestehende Zuordnungen aus früheren Verarbeitungsschritten verwenden. Ohne Zugang zu seinen internen Protokollen kann die ursprüngliche Ursache unbekannt bleiben. Eine fachliche Analyse sollte diese Grenze offen benennen.
Wie werden falsche Knowledge Panels bei Google gemeldet?
Google beschreibt für bestimmte Knowledge Panels die Möglichkeit, eine berechtigte Vertretung zu verifizieren und Korrekturvorschläge einzureichen. Über das Element „Feedback“ kann auf fehlerhafte Informationen hingewiesen werden. Nach der Google-Hilfe zur Verifizierung von Knowledge Panels sind nicht alle Panels beanspruchbar. Eine erfolgreiche Verifizierung bedeutet nicht, dass jeder gewünschte Inhalt frei editiert werden kann.
Die Google-Hilfe zu Korrekturvorschlägen erläutert, dass Angaben automatisch aus öffentlich zugänglichen Quellen erzeugt werden und Vorschläge geprüft werden. Google erstellt oder entfernt solche Panels nicht einfach auf beliebigen Wunsch. Korrekturen sollten die betreffende Eigenschaft genau benennen und auf überprüfbare Unterlagen verweisen.
Ein Google Business Profile ist davon zu unterscheiden. Dieses dient unter anderem der Darstellung örtlicher Unternehmen in Suche und Maps und verfügt über eigene Verwaltungs- und Prüfverfahren. Ein Knowledge Panel und ein lokales Unternehmensprofil dürfen nicht als identisches Datenmodell beschrieben werden.
Warum sind strukturierte Daten keine Garantie gegen Manipulation?
Eine Website kann ihren Unternehmensnamen, ihre offizielle Adresse und andere Merkmale maschinenlesbar kennzeichnen. Eine fremde Website kann ebenfalls strukturierte Angaben veröffentlichen. Suchmaschinen müssen entscheiden, welche Informationen sie verwenden und wie widersprüchliche Angaben beurteilt werden. Der Einbau eines JSON-LD-Blocks auf der eigenen Website bewirkt daher keine automatische Korrektur sämtlicher fremder Datenbestände.
Auch das bewusste Auszeichnen unzutreffender Bewertungen, nicht bestehender Dienstleistungen oder erfundener Qualifikationen kann gegen Suchmaschinenrichtlinien verstoßen. Die zugrunde liegenden Informationen sollten im sichtbaren Inhalt der Seite nachvollziehbar sein. Eine technische Kennzeichnung erhöht die Wahrheit einer Behauptung nicht.
Was kann bei einer mutmaßlichen Manipulation dokumentiert werden?
Die Fallakte sollte die falsche Aussage, die betroffene Entität, mögliche Quellen und die beabsichtigte Korrektur getrennt erfassen. Bei einer vermuteten Angreiferquelle sind die URL, der Veröffentlichungszeitpunkt und mögliche Nachahmungen der offiziellen Marke von Bedeutung. Eine ähnliche visuelle Gestaltung ist ein möglicher Hinweis, aber ohne weitere Prüfung kein Nachweis für einen bestimmten Täter.
Eine spätere Änderung eines Wissenseintrags beweist nicht, dass die frühere Fassung absichtlich manipuliert wurde. Datenpflege, technische Migrationen oder Fehlerbereinigungen können denselben Effekt haben. Auch ein einzelner abweichender KI-Text muss nicht unmittelbar aus dem graphbasierten Datenbestand stammen.
Wie unterscheidet sich Knowledge Graph Poisoning von AI Search Poisoning?
AI Search Poisoning beschreibt gezielte Einflussversuche auf Informationsquellen oder Abrufprozesse KI-gestützter Such- und Antwortsysteme. Ein Knowledge Graph ist eine mögliche Quelle strukturierter Aussagen. Er kann von Suchmaschinen, Unternehmensanwendungen oder anderen technischen Systemen genutzt werden. Beide Angriffsflächen können sich überschneiden, sind aber nicht deckungsgleich.
Bei einem RAG-System können auch manipulierte Freitexte oder versteckte Anweisungen eine Rolle spielen. Solche indirekten Prompt Injections sind von falschen Entitätseigenschaften in einer Wissensdatenbank zu unterscheiden. Die technische Gegenmaßnahme muss auf den tatsächlich betroffenen Bestandteil des Systems ausgerichtet sein.
Welche Folgen sind für Marken und Personen möglich?
Ein Unternehmen kann mit einem nicht existierenden Standort, einem fremden Ansprechpartner oder einer falschen Firmenbeziehung dargestellt werden. Ein Verbraucher könnte dadurch eine falsche Kontaktadresse verwenden. Um einen tatsächlichen Schaden zu belegen, muss die konkrete Fehlzuordnung und gegebenenfalls ihre Nutzung durch Dritte dokumentiert werden.
Für Personen können falsche Berufsangaben, Namensverwechslungen oder unzutreffende Verknüpfungen mit Unternehmen problematisch sein. Eine mögliche Persönlichkeitsrechtsverletzung ist anhand von Inhalt und Kontext zu beurteilen. Nicht jede fehlerhafte grafische Darstellung ist automatisch eine strafbare Verleumdung.
Welche rechtlichen Vorschriften können einschlägig sein?
Bei nachweislich falschen personenbezogenen Angaben können datenschutzrechtliche Rechte auf Berichtigung nach Artikel 16 DSGVO oder unter den Voraussetzungen des Artikels 17 ein Recht auf Löschung in Betracht kommen. Die Geltung der DSGVO hängt von der tatsächlichen Verarbeitung und dem verantwortlichen Anbieter ab. Für juristische Personen sind nicht dieselben personenbezogenen Löschrechte eröffnet.
Bei einer betrügerischen Nachahmung einer Marke können unter ihren Voraussetzungen §§ 14 und 15 MarkenG sowie Vorschriften des UWG relevant sein. Die bloße Nennung eines Unternehmens in einer Wissensdatenbank verletzt nicht automatisch ein Markenrecht. Für eine rechtliche Meldung muss die konkrete Täuschung oder geschäftliche Handlung beschrieben werden.
Eine wissentlich unwahre Tatsachenbehauptung über eine natürliche Person kann bei Erfüllung sämtlicher Merkmale eine Verleumdung nach § 187 StGB sein. Ein automatisch falsch zugeordneter Name belegt weder eine Täterabsicht noch ein strafbares Handeln wider besseres Wissen.
Wie lassen sich Fehler bei eigenen Unternehmensdaten reduzieren?
Unternehmen können ihre veröffentlichten Stammdaten prüfen und widersprüchliche Angaben auf offiziellen Seiten berichtigen. Bei bekannten öffentlichen Datenbanken sollten die vorgesehenen Korrekturwege genutzt werden. Eine konsistente Verwendung des tatsächlichen Unternehmensnamens, einer überprüfbaren Adresse und der korrekten beruflichen Rollen erleichtert die Abgrenzung zu ähnlichen Entitäten.
Wird ein Fehler bei Google gemeldet, sollte die spätere Darstellung anhand derselben Entität und Eigenschaft überprüft werden. Die Änderung einer Quelle kann zeitverzögert wirken oder von einem System gar nicht übernommen werden. Ein Anspruch auf eine bestimmte Knowledge-Panel-Darstellung lässt sich aus strukturierten Daten allein nicht ableiten.
Fiktiver Fall einer Unternehmensverwechslung
Zwei Firmen tragen einen ähnlichen Namen und sind in verschiedenen Städten tätig. In einer automatischen Wissensdarstellung erscheint die Anschrift der einen neben dem Namen der anderen. Die betroffene Firma dokumentiert den Eintrag und prüft die offiziellen Kontaktangaben beider Unternehmen. Aus dem Befund ergibt sich zunächst eine Verwechslung, noch kein Nachweis eines absichtlichen Angriffs.
Erst wenn eine fremde Quelle gezielt die falsche Beziehung verbreitet oder weitere Manipulationsspuren vorliegen, kann ein konkreter Verdacht auf Knowledge Graph Poisoning begründet werden. Die Korrektur der falschen Zuordnung ist von einer eventuellen Täterermittlung zu trennen.
Häufige Fragen
Ist ein falscher Google-Eintrag automatisch Knowledge Graph Poisoning?
Nein. Fehlerhafte Quellen, Namensgleichheiten und gewöhnliche Datenprobleme können ebenfalls Ursache sein.
Kann man seinen Wissensgraphen vollständig kontrollieren?
Externe Anbieter entscheiden über ihre Datenmodelle und Veröffentlichungen. Unternehmen können eigene Quellen pflegen und Fehler nach den jeweiligen Verfahren melden.
Belegen strukturierte Daten die Wahrheit einer Angabe?
Nein. Strukturierte Angaben können falsch sein und bedürfen gegebenenfalls einer unabhängigen Prüfung.