Questão 99011

Em processamento de linguagem natural (PLN), a representação de palavras como vetores (word embeddings) é uma etapa fundamental. Técnicas como Word2Vec e GloVe revolucionaram a área ao capturar relações semânticas e sintáticas. Analise as seguintes afirmações sobre o modelo Word2Vec, especificamente sobre suas duas arquiteturas, CBOW (Continuous Bag-of-Words) e Skip-gram.

I. A arquitetura CBOW prevê a palavra central a partir de um contexto de palavras vizinhas. É computacionalmente mais rápido e tende a funcionar melhor para palavras frequentes.

II. A arquitetura Skip-gram faz o inverso: prevê as palavras de contexto a partir de uma única palavra de entrada. É geralmente mais lenta, mas tem uma performance superior na representação de palavras raras.

III. Ambas as arquiteturas utilizam uma rede neural rasa (com uma única camada oculta) para aprender os vetores de palavras. A dimensionalidade desses vetores é um hiperparâmetro a ser definido.

IV. A principal inovação do Word2Vec é o uso da hipótese distribucional, que afirma que palavras que ocorrem em contextos semelhantes tendem a ter significados semelhantes. Os embeddings aprendidos refletem essa propriedade geometricamente (palavras similares ficam próximas no espaço vetorial).

Está correto o que se afirma em: