Redes Neuronales

Redes neuronales: nociones básicas

1. Una presentación sobre las nociones básicas de redes neuronales. También un video muy bueno sobre b-prop hecho por Dot CSV un youtuber muy recomendable que habla sobre redes neuronales profundas.

2. An overview of gradient descent optimization algorithms de Sebastian Ruder.

3. A Recipe for Training Neural Networks por Andrej Karpathy.

Redes Convolucionales

1. Una presentación sobre redes convolucionales y un ejemplo en colab del hola mundo de las redes neuronales.

2. Una muy buena presentación del curso del MIT sobre CNN para visión por computadora, así como un ejercicio en colab de autocodificadores variacionales, basado en éste artículo de ellos mismos.

3. Una presentación sobre transferencia del aprendizaje (tambien en pdf).

Redes recurrentes

1. Una presentción general

2. Una libreta para hacer una RNN a pie

Algunas libretas con ejemplos en pyTorch

1. Modelo sencillo de red neuronal densa y convolucional

2. Transferencia de aprendizaje simple con pyTorch

3. Neural Transfer Style desde zero, usando pyTorch

Recursos generales y de consulta

1. El libro Deep Learning de Ian Goodfellow, Yoshua Bengio y Aaron Courville gratuito en linea con material adicional.

2. Un excelente curso de introducción al aprendizaje profundo del MIT con videos. transparencias y código.

3. No se puede vivir y hacer deep learning si no utilizamos regularmente el sitio de papers with code. Código, tutoriales, conjuntos de datos, modelos preentrenados,…

4. NeurIPS, la conferencia más importante en redes neuronales y en general en aprendizaje automático.

5. Journal of Machine Learning Research es una publicación libre muy completa sobre el último grito de la moda en ML. Muy buenos artículos, pero ya bastante más densos que en los otros recursos listados.

6. Para usar transformadores, uno de los lugares con los mejores modelos preentrenados es la compañía Hugging Face. Muchos recursos en código abierto.

7. Otras compañías con recursos en código abierto, modelos preentrenados, librerías y frameworks que vale la pena estar revisando son OpenAI (cada vez menos abierta y cada vez más for profit), Meta AI, ahora ya con licencias tipo MIT, y Google Research.

8. El artículo GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models con una visión para pensar del futuro del trabajo con las implicaciones de los LLM en la vida diaria.

9. Un listado de conjuntos de datosn que se utilizan muy intensivamente en tareas de aprendizaje profundo.