Busca avançada
Ano de início
Entree


Otimização Meta-Heurística para Regularização de Modelos de Aprendizado em Profundidade

Texto completo
Autor(es):
Gustavo Henrique de Rosa
Número total de Autores: 1
Tipo de documento: Dissertação de Mestrado
Instituição: Universidade Estadual Paulista "Júlio de Mesquita Filho" Instituto de Biociências, Letras e Ciências Exatas.
Data de defesa:
Membros da banca:
André Carlos Ponce de Leon Ferreira de Carvalho; Aparecido Nilceu Marana
Orientador: João Paulo Papa
Resumo

Arquiteturas de aprendizado em profundidade têm sido amplamente estudadas nos últimos anos, principalmente pelo seu alto poder discriminativo em muitos problemas considerados essenciais na área de visão computacional. Entretanto, um problema destes modelos diz res- peito ao grande número de parâmetros a serem ajustados, que podem chegar a milhares. Um outro ponto crítico está relacionado à necessidade de grandes bases de dados para treinar essas técnicas de aprendizado em profundidade, bem como a sua alta propensão ao chamado super-ajuste dos dados. Recentemente, a simplista ideia de desconectar neurônios ou conexões de uma rede, técnicas denominadas de Dropout e Dropconnect, respectivamente, tem se demonstrado muito eficazes e primordiais ao processo de aprendizado, embora ainda necessitem de uma escolha adequada de parâmetros. O presente projeto pretende identificar possíveis soluções para o problema mencionado por meio de técnicas de otimização meta-heurística, objetivando encontrar o número adequado do limiar de desligamento dos neurônios e conexões. Diferentes abordagens de aprendizado em profundidade, tais como, Máquinas de Boltzmann Restritas, Máquinas de Boltzmann em Profundidade, Redes de Crença em Profundidade, Redes Neurais Convolucionais; e diferentes meta-heurísticas, tais como, Algoritmo do Morcego, Algoritmo do Vagalume, Busca do Cuckoo, Otimização por Enxame de Partículas, foram utilizadas a fim de tentar solucionar este problema. Os resultados apresentados in... (AU)

Processo FAPESP: 15/25739-4 - Estudo de semântica em modelos de aprendizado em profundidade
Beneficiário:Gustavo Henrique de Rosa
Linha de fomento: Bolsas no Brasil - Mestrado