Kurzfassung
Ein Entwickler verbindet einen LLM Agenten (LangChain, LlamaIndex, AutoGen) mit umfangreichen Berechtigungen mit einer SQL Datenbank. Benutzereingaben fließen ungeprüft in das LLM, das daraufhin SQL schreibt. Der Angreifer gibt ein:...
Wie es funktioniert
Ein Entwickler verbindet einen LLM Agenten (LangChain, LlamaIndex, AutoGen) mit umfangreichen Berechtigungen mit einer SQL Datenbank. Benutzereingaben fließen ungeprüft in das LLM, das daraufhin SQL schreibt. Der Angreifer gibt ein:...
Warnzeichen
- Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.
- Link oder Absender passen nicht zur offiziellen Organisation.
- Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was tun
- 1Nicht klicken, nicht zahlen, keine Apps installieren und keine Codes teilen.
- 2Ueber die offizielle Website, App oder selbst eingetippte Telefonnummer pruefen.
- 3Falls Sie reagiert haben, Karten oder Konten sperren und den Vorfall melden.
Quelle
OWASP-LLM-Top-10
Quelle geprueft vom Mythos Forensic Team
https://genai.owasp.org/llmrisk/llm01-prompt-injection/FAQ
Ist Missbrauch von KI Agenten Tools — LangChain SQL Agent, Prompt Injection zu SQLi ein reales Betrugsmuster?
Ja. Behandeln Sie Nachricht, Anruf oder Zahlungsaufforderung als verdaechtig, bis ein offizieller Kanal sie bestaetigt.
Was sind die ersten Warnzeichen?
Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.; Link oder Absender passen nicht zur offiziellen Organisation.; Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was sollte ich zuerst tun?
Nicht klicken, nicht zahlen, keine Apps installieren und keine Codes teilen.; Ueber die offizielle Website, App oder selbst eingetippte Telefonnummer pruefen.; Falls Sie reagiert haben, Karten oder Konten sperren und den Vorfall melden.
Kann LegalAudit meinen Fall pruefen?
Ja. Starten Sie den kostenlosen Chat und fuegen Sie Nachricht, Link, Absender oder Zahlungsdaten ein.