Cover do episódio 123: Por que estudei machine learning sem plano de usar
#1236 de julho, 20203 min leituraA Mente que ConstróiS5 · 2020–2021

Por que estudei machine learning sem plano de usar

Em 2020 fiz o curso de ML do Andrew Ng. Não tinha projeto. Não tinha aplicação imediata. Aprendi que às vezes estudar sem usar é a preparação para reconhecer quando usar.

Machine LearningEstudoStanfordCarreira

Em 2020 fiz o curso de ML do Stanford com Andrew Ng.

Não tinha projeto de ML. Não tinha time que precisava de ML. Não tinha cliente pedindo ML. Era 2020, antes do GPT-3 ser público, antes de qualquer pessoa usar "IA" em toda conversa.

Fiz porque achei interessante.


O que aprendi no curso:

Regressão linear e logística. Redes neurais (a versão pré-deep-learning do curso). SVMs. K-means. PCA. A matemática por trás de gradiente descendente.

O que não aprendi: como usar frameworks modernos. O curso era em Octave (uma versão open source do MATLAB). Nem Python.

Mas a matemática ficou. E com a matemática veio algo mais valioso: o modelo mental de que ML é otimização de função de custo. Você tem dados, você tem uma função que erra de alguma forma, e você ajusta os parâmetros para errar menos.

Esse modelo mental me ajudou a entender coisas que vieram depois — quando fine-tuning de LLMs ficou relevante, quando tive que avaliar se uma abordagem de ML era aplicável a um problema ou não.


Existe um argumento pragmático para só aprender quando tem aplicação imediata. Você aprende mais rápido quando tem problema concreto. A memória é melhor quando tem contexto.

É verdade. E é a forma certa de aprender muita coisa.

Mas existe outro tipo de aprendizado: construção de vocabulário e modelos mentais que não são aplicáveis agora, mas ampliam o espaço de soluções que você consegue reconhecer no futuro.

Quando você aprende algoritmos de ML sem ter projeto de ML, você está ampliando o repertório de abordagens que você consegue considerar quando o problema aparecer.


A diferença que faz:

Dev que só conhece SQL vai resolver todo problema de consulta com SQL — mesmo quando grafos, ML ou busca vetorial resolveriam melhor.

Não porque ele é ruim. Porque você só consegue reconhecer soluções que você conhece.

Estudar sem aplicação imediata é investimento em capacidade de reconhecimento futuro. É de longo prazo, não mensurável no curto prazo, e por isso fácil de justificar não fazer.


Em 2023, quando LLMs explodiram e todo mundo estava tentando entender como funcionavam, eu já tinha o vocabulário de gradiente descendente, loss function, overfitting, embedding. Aprendi os detalhes específicos de transformers depois — mas a base já estava lá.

O Andrew Ng de 2020 pagou dividendo em 2023. Não era um plano. Foi uma sorte de timing mais a decisão de estudar algo interessante mesmo sem uso imediato.

Essa semana: tem alguma área técnica que você acha interessante mas ainda não tem aplicação no seu trabalho? Talvez seja exatamente a que vale começar a explorar.