Arquitectura de transformadores: fundamentos de código y matemáticas

La IA generativa moderna se basa en gran medida en la arquitectura Transformer, pero su funcionamiento interno a menudo parece una caja negra.Este curso desmitifica los conceptos centrales. Al centrarse exclusivamente en el código y las matemáticas esenciales, construirá un modelo generativo completo y funcional desde cero, obteniendo una comprensión profunda y práctica de cómo se construyen y entrenan estos poderosos sistemas. Lo que aprenderás: * Comprender el propósito y la estructura del mecanismo de atención multi-cabeza enmascarada y la codificación posicional. * Implementar la canalización completa, desde la tokenización de entrada y la creación de vocabulario hasta el proceso final de generación de texto. * Construir el bloque completo de transformadores multicapa, integrando redes de alimentación y capas de normalización. * Aplicar técnicas de optimización fundamentales y funciones de pérdida necesarias para entrenar grandes redes neuronales de manera efectiva. * Practicar la depuración e iteración en los componentes de su modelo para garantizar resultados de generación de texto estables y coherentes. El curso comienza con conceptos fundamentales y requisitos previos matemáticos antes de pasar a la implementación práctica de cada componente arquitectónico.Codificará progresivamente toda la estructura del modelo y concluirá con las fases de entrenamiento y generación. Este curso está diseñado para principiantes en aprendizaje profundo o programación que desean comprender la mecánica fundamental de los modelos generativos.No se requiere experiencia previa con arquitecturas complejas de redes neuronales, solo familiaridad básica con la programación. Comience su viaje hacia el dominio de la arquitectura que impulsa la IA moderna.