Kurzfassung
Angreifer fragen eine proprietäre LLM API mit gezielt formulierten Prompts ab, erfassen die Ausgaben und trainieren damit ein „Student" Modell, das das Ziel approximiert. Wird manchmal mit Embedding Inversion kombiniert, um sensible...
Wie es funktioniert
Angreifer fragen eine proprietäre LLM API mit gezielt formulierten Prompts ab, erfassen die Ausgaben und trainieren damit ein „Student" Modell, das das Ziel approximiert. Wird manchmal mit Embedding Inversion kombiniert, um sensible...
Warnzeichen
- Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.
- Link oder Absender passen nicht zur offiziellen Organisation.
- Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was tun
- 1Erkennungsmerkmale (für Plattformen): 1) Konto stellt hochvolumige, variierte Prompts bei niedriger Temperatur (deterministisch); 2) Anfragen nach Logprobs / Token Wahrscheinlichkeiten; 3) systematische Vokabularabdeckung; 4) Codierungsaufgaben Muster, die Benchmark Suites (HumanEval, MMLU) imitieren; 5) Datenverkehr von anonymisierenden Proxys.
- 2EMPFOHLEN: Rate Limits und Diversitätsbewertung pro Konto durchsetzen; Token Logprobs niemals anonymen Konten zugänglich machen; rechtliche Nutzungsbedingungen (ToS) sowie Forschung zu Watermarking.
Quelle
Anthropic-Research-Sleeper-Agents
Quelle geprueft vom Mythos Forensic Team
https://www.anthropic.com/research/sleeper-agents-training-deceptive-llmsFAQ
Ist Modellextraktionsangriff — Destillation eines proprietären LLM über API Abfragen ein reales Betrugsmuster?
Ja. Behandeln Sie Nachricht, Anruf oder Zahlungsaufforderung als verdaechtig, bis ein offizieller Kanal sie bestaetigt.
Was sind die ersten Warnzeichen?
Dringender Druck, sofort zu klicken, zu zahlen oder Codes zu teilen.; Link oder Absender passen nicht zur offiziellen Organisation.; Anfrage nach Kartendaten, Passwoertern, OTPs, Wallet-Signaturen oder Ueberweisungen.
Was sollte ich zuerst tun?
Erkennungsmerkmale (für Plattformen): 1) Konto stellt hochvolumige, variierte Prompts bei niedriger Temperatur (deterministisch); 2) Anfragen nach Logprobs / Token Wahrscheinlichkeiten; 3) systematische Vokabularabdeckung; 4) Codierungsaufgaben Muster, die Benchmark Suites (HumanEval, MMLU) imitieren; 5) Datenverkehr von anonymisierenden Proxys.; EMPFOHLEN: Rate Limits und Diversitätsbewertung pro Konto durchsetzen; Token Logprobs niemals anonymen Konten zugänglich machen; rechtliche Nutzungsbedingungen (ToS) sowie Forschung zu Watermarking.
Kann LegalAudit meinen Fall pruefen?
Ja. Starten Sie den kostenlosen Chat und fuegen Sie Nachricht, Link, Absender oder Zahlungsdaten ein.