In breve
Uno sviluppatore collega un agente LLM (LangChain, LlamaIndex, AutoGen) a un database SQL con autorizzazioni ampie. L'input dell'utente fluisce non sanificato nell'LLM, che quindi genera SQL. L'attaccante digita: 'ignora le istruzioni...
Come funziona
Uno sviluppatore collega un agente LLM (LangChain, LlamaIndex, AutoGen) a un database SQL con autorizzazioni ampie. L'input dell'utente fluisce non sanificato nell'LLM, che quindi genera SQL. L'attaccante digita: 'ignora le istruzioni...
Indicatori rossi
- Pressione urgente a cliccare, pagare o condividere codici subito.
- Link o mittente che non corrispondono all'organizzazione ufficiale.
- Richiesta di carta, password, OTP, firma wallet o bonifico.
Cosa fare
- 1L'input dell'utente fluisce non sanificato nell'LLM, che quindi genera SQL.
Fonte
OWASP-LLM-Top-10
Fonte verificata da Mythos Forensic Team
https://genai.owasp.org/llmrisk/llm01-prompt-injection/FAQ
Uso improprio degli strumenti dell'agente IA — Iniezione di prompt in SQLi tramite agente SQL LangChain e una truffa reale?
Si. Tratta messaggi, chiamate o richieste di pagamento come sospette finche non le verifichi da un canale ufficiale.
Quali sono i primi segnali?
Pressione urgente a cliccare, pagare o condividere codici subito.; Link o mittente che non corrispondono all'organizzazione ufficiale.; Richiesta di carta, password, OTP, firma wallet o bonifico.
Cosa devo fare subito?
L'input dell'utente fluisce non sanificato nell'LLM, che quindi genera SQL.
LegalAudit puo controllare il mio caso?
Si. Apri la chat gratis e incolla messaggio, link, mittente o dati di pagamento per un triage.