Questão 1398962

Reduzir o número de parâmetros treináveis do modelo.

Permitir que o modelo capture diferentes aspectos das relações entre as palavras em paralelo.

Eliminar a necessidade de normalização em camadas.

Aumentar a profundidade da rede sem adicionar camadas.

Ajustar funções específicas, sem a necessidade do uso global de funções como a sigmoid ou ReLU.