Die Suchfunktion von OpenAIs ChatGPT Search Tool hat Schwächen. Eine zentrale Sicherheitslücke liegt in der Manipulierbarkeit des Systems durch sogenannte versteckte Website-Inhalte wie Tests von The Guardian belegen. Kann dies das Vertrauen in KI-gesteuerte Suchlösungen beeinträchtigen?
The Guardian versteckt Inhalte auf Testwebsite und manipuliert ChatGPT
Die seit Oktober 2024 schrittweise für alle Nutzer verfügbare Suchfunktion von ChatGPT kann Webseiteninhalte zusammenfassen, ist jedoch anfällig für sogenannte Prompt Injection-Techniken. Hierbei werden unsichtbare Anweisungen in dem zu analysierenden HTML Code von Webseiten integriert, die das KI-Modell beeinflussen.
So können manipulierte Inhalte die generierten Antworten verändern, etwa durch die gezielte Überlagerung negativer Bewertungen mit positiven Kommentaren.
The Guardian testet ChatGPT Search
Auf einer gefälschten Produktseite für eine Kamera veränderten versteckte positive Texte die Antwort von ChatGPT. Obwohl sichtbare Kundenmeinungen auch negative Aspekte enthielten, gab ChatGPT ausschließlich eine optimistische Bewertung wieder.
Cybersicherheitsexperten wie Jacob Larsen von CyberCX und Karsten Nohl von SR Labs warnen vor den Implikationen solcher Manipulationen.
Webseiten könnten gezielt erstellt werden, um Nutzern falsche Informationen über Produkte, Dienstleistungen oder andere Themen zu präsentieren.
Nohl zieht Parallelen zu SEO-Poisoning, einem Manipulationstrick bei Suchmaschinen wie Google.
Anders als etablierte Suchmaschinen, die solchen Angriffen inzwischen weitgehend entgegentreten können, befindet sich ChatGPT Search noch in der Entwicklungsphase. Laut Nohl fehlt AI-Modellen wie ChatGPT die Fähigkeit, Inhalte kritisch zu beurteilen.
Auch außerhalb der Produktbewertung bestehen Risiken so The Guardian. Ein bekanntes Beispiel lieferte Microsoft-Sicherheitsforscher Thomas Roccia: Ein Krypto-Nutzer, der ChatGPT zur Code-Erstellung nutzte, fand später bösartige Elemente im generierten Skript, was zum Diebstahl von 2.500 US-Dollar führte.
Verantwortung von OpenAI: Vertrauen der Nutzer gewinnen
Bisher hat sich OpenAI nicht zu den entdeckten Sicherheitsproblemen geäußert, obwohl die Firma das Risiko fehlerhafter Antworten in ihren Haftungsausschlüssen erwähnt:
„ChatGPT kann Fehler machen. Wichtige Informationen sollten überprüft werden.“
Diese Warnungen allein sind jedoch unzureichend, wenn es darum geht, das Vertrauen der Nutzer zu gewinnen.
Manipulationen wie versteckte Inhalte könnten zudem bestehende SEO-Praktiken beeinflussen. Da Google Webseiten mit solchen Techniken bestraft und Rankings herabstuft, könnten Website-Betreiber vermehrt versuchen, die Schwachstellen von ChatGPT Suchfunktion für sich zu nutzen. Der Druck auf OpenAI verlässliche Gegenmaßnahmen zu entwickeln, erhöht sich.
Die Hauptaufgabe für OpenAI besteht nun darin, Innovation und Sicherheit auszubalancieren. Solange jedoch Schwachstellen wie diese existieren, bleibt die Web-Suchfunktion von ChatGPT ein potenzielles Ziel für gezielte Angriffe.
