Universidade Federal de Goiás

Instituto de Informática
Programa de Mestrado/Doutorado em Ciências da Computação
Prova 1 de Aprendizado em Redes Neurais Profundas (Deep Learning)

Instruções:
1. É permitido o uso de qualquer material próprio.
2. Não é permitido consulta a qualquer conteúdo da internet.
3. A prova deve ser realizada individualmente.
4. Este curso adota a disciplina consciente

Questão 1 (Dificuldade: ++) ​Qual a dificuldade em se utilizar várias camadas nas

redes neurais do tipo Multi-Layer Perceptron? Explique a partir da arquitetura (e seus
elementos) geralmente utilizada nesse tipo de rede.

Questão 2 (Dificuldade: +) ​Qual a inovação apresentada na rede Deep Believed

Neural Network e qual sua importância para a história das redes neurais profundas?

∞
Questão 3 (Dificuldade: ∑+ ) ​É possível que uma rede neural que faça uso do
o
algoritmo de treinamento do gradiente descendente estocástico apresente um
desempenho melhor do que o RMSProp (Root Mean Square Propagation)? Justifique
sua resposta apresentando subsídios para a mesma.

Questão 4 (Dificuldade: +++) ​Em quais situações você escolheria a função de

ativação RELu ou sigmoide para uso em neurônios?

Questão 5 (Dificuldade: +) ​Qual o papel das redes neurais profundas na era do Big
Data?

As questões 6, 7 e 8 referem-se a Figura 1 abaixo:

Questão 6 (Dificuldade: ++++) ​O que aconteceria se a operação de pooling fosse
retirada das camadas 1 e 2?

Questão 7 (Dificuldade: +++) ​Um programador desatento e inexperiente removeu as

camadas 6 e 7 acreditando que dessa maneira a rede poderia ser treinada com menos
recursos computacionais uma vez que a camada de softmax poderia realizar o
processo de classificação a partir das informações das camadas convolucionais.
Porém, o erro obtido com a nova arquitetura de rede neural aumentou
consideravelmente. Explique para ele a razão desse fenômeno indesejável.

∞
Questão 8 (Dificuldade: ∑+ ) ​A rede neural denominada alexnet utiliza filtros 11x11 na
o
primeira camada convolucional e filtros menores à medida que a profundidade
aumenta. Dito isto, pergunta-se:
Parte A) ​O que aconteceria se todos os filtros convolucionais tivessem a dimensão
3x3?
Parte B) O que aconteceria nas situações em que os filtros convolucionais tivessem a
dimensão 1x1?