Glossário de IA

Curriculum Learning e uma estrategia de treinamento que apresenta dados ao modelo em ordem crescente de dificuldade, imitando o processo de aprendizado humano. Melhora convergencia e desempenho final.

Gradiente Descendente e o algoritmo de otimizacao fundamental usado para treinar modelos de ML. Ajusta iterativamente os pesos do modelo na direcao oposta ao gradiente da funcao de perda para minimizar o erro.

Hiperparametros sao configuracoes definidas antes do treinamento de um modelo de ML e que nao sao aprendidas dos dados. Incluem taxa de aprendizado, numero de camadas, batch size e forca de regularizacao.

Learning Rate e a taxa que controla a magnitude das atualizacoes dos pesos durante o treinamento. Valores muito altos causam instabilidade e valores muito baixos tornam o treinamento lento.

Loss Function (Funcao de Perda) e a funcao matematica que mede o erro entre as previsoes do modelo e os valores reais. Guia o processo de treinamento indicando o quanto o modelo precisa melhorar.

Neural Architecture Search (NAS) e o processo automatizado de encontrar a melhor arquitetura de rede neural para uma tarefa. Usa tecnicas de busca como reinforcement learning ou evolucao para otimizar estruturas.

Pruning e a tecnica de remover pesos, neuronios ou camadas redundantes de uma rede neural para reduzir seu tamanho e acelerar a inferencia, mantendo a maior parte do desempenho original.

TensorRT e uma biblioteca de otimizacao de inferencia da NVIDIA que maximiza a velocidade de modelos de Deep Learning em GPUs. Aplica fusao de camadas, quantizacao e otimizacao de kernels automaticamente.