AI / INTERMEDIO
IA SECURITY
TU IA PUEDE RECIBIR ÓRDENES QUE TÚ NUNCA ESCRIBISTE
EL PELIGRO EMPIEZA CUANDO LA IA PUEDE ACTUAR
Un LLM responde preguntas. Un agente puede acceder a archivos, herramientas, APIs, datos o Internet. Y cuando una IA puede actuar, la superficie de ataque cambia por completo.
VÍDEO
¿CUÁNTO PODER DEBERÍAMOS DARLE A UNA IA?
Si un agente solo necesita consultar facturas, ¿por qué permitirle borrar archivos o acceder a todo el sistema? Aplicamos uno de los principios fundamentales de ciberseguridad a los agentes de IA: mínimo privilegio
VÍDEO
https://youtu.be/iUIJxtiDUrI
TU IA PUEDE RECIBIR ÓRDENES QUE TÚ NUNCA ESCRIBISTE
Una instrucción maliciosa puede llegar directamente del usuario… o esconderse dentro de una web o documento que consulta el agente. Así funcionan el Prompt Injection directo e indirecto.
VÍDEO
https://youtu.be/xlP5j4nWj6k
UNA IA MÁS CAPAZ TAMBIÉN PUEDE SER MÁS PELIGROSA
El problema no siempre es que el modelo se equivoque, sino lo que puede hacer cuando se equivoca. Permisos, herramientas y capacidades deben limitarse únicamente a lo necesario.
VÍDEO
https://youtu.be/lLqdrEkKpxg
LA IA NO NECESITA CONOCER TUS CONTRASEÑAS
Un agente puede utilizar APIs y servicios sin necesidad de conocer directamente contraseñas, tokens o claves privadas. Separar modelo y credenciales reduce enormemente el impacto de un ataque.
VÍDEO
https://youtu.be/1DSaJ5IGtdk
NO CONFÍES CIEGAMENTE EN TU AGENTE DE IA
Validaciones, controles externos, límites, pruebas y supervisión. Un sistema seguro no confía únicamente en que el modelo “haga lo correcto”: comprueba cada acción crítica antes de ejecutarla.
VÍDEO