TLDR
El atacante consulta una API de LLM propietario con prompts diseñados, capturando salidas para entrenar un modelo 'estudiante' que se aproxima al objetivo. A veces combinado con inversión de embeddings para recuperar datos de entrenamiento...
Como funciona
El atacante consulta una API de LLM propietario con prompts diseñados, capturando salidas para entrenar un modelo 'estudiante' que se aproxima al objetivo. A veces combinado con inversión de embeddings para recuperar datos de entrenamiento...
Señales de alerta
- Presion urgente para hacer clic, pagar o compartir codigos de inmediato.
- Enlace o remitente que no coincide con la organizacion oficial.
- Solicitud de tarjeta, contrasena, OTP, firma de wallet o transferencia.
Qué hacer
- 1Indicadores (para la plataforma): 1) la cuenta genera un alto volumen de prompts variados a baja temperatura (determinista); 2) solicitudes de logprobs / probabilidades de tokens; 3) cobertura sistemática del vocabulario; 4) patrones de tareas de codificación que imitan suites de benchmark (HumanEval, MMLU); 5) tráfico desde proxies anonimizadores.
Fuente
Anthropic-Research-Sleeper-Agents
Fuente verificada por Mythos Forensic Team
https://www.anthropic.com/research/sleeper-agents-training-deceptive-llmsFAQ
Es Ataque de extracción de modelo — destilando un LLM propietario mediante consultas API una estafa real?
Si. Trata el mensaje, la llamada o la solicitud de pago como sospechosos hasta que los verifiques por un canal oficial.
Cuales son las primeras senales?
Presion urgente para hacer clic, pagar o compartir codigos de inmediato.; Enlace o remitente que no coincide con la organizacion oficial.; Solicitud de tarjeta, contrasena, OTP, firma de wallet o transferencia.
Que debo hacer primero?
Indicadores (para la plataforma): 1) la cuenta genera un alto volumen de prompts variados a baja temperatura (determinista); 2) solicitudes de logprobs / probabilidades de tokens; 3) cobertura sistemática del vocabulario; 4) patrones de tareas de codificación que imitan suites de benchmark (HumanEval, MMLU); 5) tráfico desde proxies anonimizadores.
Puede LegalAudit revisar mi caso?
Si. Abre el chat gratis y pega el mensaje, el enlace, el remitente o los datos de pago para un triage.