¿Qué ocurre realmente cuando escribes algo a una IA? Vemos predicción de tokens, pesos, entrenamiento y embeddings para entender qué hay detrás de modelos como ChatGPT.
AI / INTERMEDIO
LLM
Entender el concepto de LLM de principio a fin
¿QUÉ HAY REALMENTE DENTRO DE UN LLM?
VÍDEO
ASÍ “ENTIENDE” TU TEXTO UNA IA
Del texto a los tokens, de los tokens a embeddings y después al mecanismo de atención. Así funciona la arquitectura Transformer que hay detrás de los LLM modernos.
VÍDEO
¿POR QUÉ UN LLM NECESITA TANTA GPU Y VRAM?
CPU, GPU, CUDA, VRAM, cuantización, ventana de contexto y alucinaciones. Las claves para entender qué pasa cuando ejecutas un modelo de IA en local.
VÍDEO
CUANDO UNA IA DEJA DE SER SOLO UN CHATBOT
Un LLM puede conectarse a documentos, herramientas, APIs e Internet. Aquí aparecen RAG, los agentes de IA… y también una nueva superficie de ataque que debemos proteger.
VÍDEO
REFERENCIAS
- https://educypher.gt.tc/lesson.php?slug=ia-security