digesTvo

Tus noticias nerd, digeridas

AI Watchdog Seguimiento de lanzamientos en models.dev

El curso en video de Sebastian Raschka para construir modelos de razonamiento desde cero

Sebastian Raschka publicó ocho videos gratuitos de código, más de 11 horas, como secuela de su curso Coding LLMs from the Ground Up y complemento de su libro Build a Reasoning Model (From Scratch). Partiendo de los pesos preentrenados de Qwen3 0.6B en PyTorch, la serie construye un verificador de respuestas matemáticas, evalúa en MATH-500 y luego implementa escalado en tiempo de inferencia mediante muestreo, autocoherencia y autorrefinamiento, un bucle GRPO simplificado con recorte y términos KL, y por último destilación a partir de las respuestas de DeepSeek R1. Los primeros capítulos corren en CPU; el entrenamiento pide una GPU.

Los comentarios reciben el curso como una ovación de pie: lectores de los dos libros de Raschka dicen que la pedagogía es lo que por fin les hizo entender backprop y la tokenización, y uno que se gana la vida entrenando modelos dice que el libro de LLM le enseñó más que cualquier otra fuente. La objeción más afilada viene de hypfer, que pregunta para quién es el curso si un tutorial en video no puede llevarte a través de un entrenamiento real, y llama al género una compra de identidad; CamperBob2 responde que una clase nunca tuvo que reemplazar la tarea, y hypfer concede en gran parte el punto. Debajo hay una preocupación más práctica: qué hace un aficionado después del último capítulo, dados los costos de preentrenar. La respuesta consensuada es no lo hagas: mejor hacer fine-tuning o correr post-entrenamiento con LoRA y RL sobre modelos pequeños, o cambiar los LLM por una ResNet.

  1. Gemini 4 Neon

  2. GPT‑6.2 Astra y Sol

  3. United Airlines prohíbe a los agentes de IA reservar vuelos en nombre de los pasajeros

  4. Apple prepara una nueva app de Mac para facilitar el uso de modelos de IA locales