Cómo entrar a investigar en IA
Meta: contribuir a interpretabilidad, alineamiento o arquitecturas.
Esta ruta apunta a producir conocimiento nuevo, no a aplicar el existente. Es la más exigente en matemática y la que más tolerancia a la frustración pide, porque la mayor parte de lo que se intenta no funciona.
La buena noticia es que interpretabilidad y alineamiento son áreas donde el cuello de botella es conceptual y no de cómputo. Alguien con una GPU, buenas ideas y constancia todavía puede producir resultados relevantes, y el campo tiene una tradición fuerte de tomar en serio trabajo de gente sin credenciales formales.
Los 6 pasos, en orden
-
Base matemática sólida
Mathematics for Machine Learning como piso y Murphy como referencia de escritorio. Acá sí conviene invertir de verdad: es lo que permite leer y escribir papers.
-
ARENA, completo
Es el currículum más directo que existe hacia investigación técnica en seguridad e interpretabilidad. Denso, práctico y muy bien diseñado.
-
Los papers de circuitos, en orden cronológico
Con TransformerLens abierto al lado, reproduciendo lo que se pueda. Leer interpretabilidad sin ejecutar código no sirve de mucho.
-
Reproducí un paper chico de punta a punta
Es el filtro real entre leer investigación y hacer investigación. Vas a descubrir cuánto de un paper no está escrito en el paper.
-
Escribí en público lo que encontrás
Blog, LessWrong, Alignment Forum. Así se entra al campo hoy: mucha gente llegó a posiciones de investigación por lo que publicó, no por su título.
-
Elegí un problema abierto concreto
Los «200 Concrete Open Problems» de Neel Nanda son un buen catálogo para no quedarse en la etapa de leer indefinidamente.
Mirar videos y leer papers da una sensación de progreso que no siempre se corresponde con aprendizaje. La regla práctica: por cada hora de consumo, una hora escribiendo código que rompe, se debuguea y funciona. Si nunca te peleaste con un shape mismatch, todavía no aprendiste el tema.
Preguntas frecuentes
¿Hace falta un doctorado para investigar en IA?
No es un requisito formal en interpretabilidad y alineamiento, donde varias personas llegaron a posiciones de investigación por trabajo publicado en abierto. Ayuda mucho para posiciones académicas tradicionales y para algunos laboratorios, pero el portafolio público pesa más que en otros campos.
¿Por dónde empiezo si quiero investigar en interpretabilidad?
Por ARENA, que es el currículum más directo, y por los papers de circuitos leídos en orden cronológico con TransformerLens al lado. Después, reproducir un resultado chico completo: ahí se aprende lo que ningún paper documenta.