Kurzfassung
Attacker publishes a ChatGPT plugin or custom GPT with an innocuous description but malicious instructions inside the manifest / OpenAPI spec; when users invoke it, the plugin can exfiltrate conversation context (including pasted secrets,...
Wie es funktioniert
Attacker publishes a ChatGPT plugin or custom GPT with an innocuous description but malicious instructions inside the manifest / OpenAPI spec; when users invoke it, the plugin can exfiltrate conversation context (including pasted secrets,...
Warnzeichen
- Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.
- Link oder Absender passen nicht zur offiziellen Organisation.
- Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was tun
- 1Tells: 1) plugin requests broad scopes (browse, mail, code execution); 2) manifest description doesn't match actual capability; 3) plugin author is anonymous / new; 4) reviews are sparse or AI generated; 5) responses include URLs / sidebar mentions to attacker domain.
- 2DO: only enable verified plugins from known publishers; never paste secrets into any GPT; for enterprises, deploy a vetted GPT allow list.
Quelle
ENISA-Threat-Landscape-2024
Quelle geprueft vom Mythos Forensic Team
https://www.enisa.europa.eu/publications/enisa-threat-landscape-2024FAQ
Ist ChatGPT plugin / GPT store manifest poisoning ein reales Betrugsmuster?
Ja. Behandeln Sie Nachricht, Anruf oder Zahlungsaufforderung als verdaechtig, bis ein offizieller Kanal sie bestaetigt.
Was sind die ersten Warnzeichen?
Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.; Link oder Absender passen nicht zur offiziellen Organisation.; Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was sollte ich zuerst tun?
Tells: 1) plugin requests broad scopes (browse, mail, code execution); 2) manifest description doesn't match actual capability; 3) plugin author is anonymous / new; 4) reviews are sparse or AI generated; 5) responses include URLs / sidebar mentions to attacker domain.; DO: only enable verified plugins from known publishers; never paste secrets into any GPT; for enterprises, deploy a vetted GPT allow list.
Kann LegalAudit meinen Fall pruefen?
Ja. Starten Sie den kostenlosen Chat und fuegen Sie Nachricht, Link, Absender oder Zahlungsdaten ein.