Busca avançada
Ano de início
Entree

Quantificação de incerteza em aprendizado federado adversário

Processo: 23/00721-1
Modalidade de apoio:Auxílio à Pesquisa - Regular
Vigência: 01 de agosto de 2023 - 31 de julho de 2025
Área do conhecimento:Ciências Exatas e da Terra - Ciência da Computação - Sistemas de Computação
Convênio/Acordo: MCTI/MC
Pesquisador responsável:Heitor Soares Ramos Filho
Beneficiário:Heitor Soares Ramos Filho
Instituição Sede: Instituto de Ciências Exatas (ICEx). Universidade Federal de Minas Gerais (UFMG). Ministério da Educação (Brasil). Belo Horizonte , SP, Brasil
Pesquisadores associados:Alejandro César Frery Orgambide ; Amir Houmansadr ; Antonio Alfredo Ferreira Loureiro ; Fabricio Murai Ferreira ; Leandro Aparecido Villas
Assunto(s):Aprendizado federado  Redes bayesianas  Aprendizado computacional  Quantificação de incertezas 
Palavra(s)-Chave do Pesquisador:Adversarial federate learning | Bayesian neural network | Federated Learning | Ordinal Patterns | Uncertainty Quantification | Aprendizado Federado

Resumo

O projeto de pesquisa denominado Quantifying Uncertainty in Adversarial Federated Learning visa analisar e propor novas abordagens para modelos de aprendizado de máquina distribuído que mantêm restrições de privacidade e segurança. O Aprendizado Federado (FL) é uma abordagem promissora para treinar modelos de aprendizado de máquina de forma colaborativa em dados espalhados em dispositivos distribuídos, levando em conta as restrições de privacidade. No entanto, o processo de treinamento FL é vulnerável a ataques de envenenamento de modelo em que participantes mal-intencionados podem fazer upload de pesos de modelo falsos. O projeto visa abordar essas vulnerabilidades e propor novas soluções para manter a privacidade e a segurança em modelos distribuídos de aprendizado de máquina. Em suma, este projeto apresenta uma proposta de pesquisa científica em cinco direções: (i) quantificação da generalização de modelos baseados em redes neurais bayesianas para sistemas federados de aprendizagem; (ii) Abordagens do sistema de detecção de intrusão DDoS em aplicações federadas; (iii) quantificação da incerteza em ambientes heterogêneos distribuídos (por exemplo, Aprendizado Federado); (iv) investigação para aprendizado contínuo (incremental) para identificar novos malwares desconhecidos para proteger sistemas mesmo no dia zero do lançamento de um malware; e (v) estudar o uso de testes estatísticos de padrões ordinais para identificar ataques de envenenamento de dados em aplicações federadas. (AU)

Matéria(s) publicada(s) na Agência FAPESP sobre o auxílio:
Matéria(s) publicada(s) em Outras Mídias (0 total):
Mais itensMenos itens
VEICULO: TITULO (DATA)
VEICULO: TITULO (DATA)

Publicações científicas
(Referências obtidas automaticamente do Web of Science e do SciELO, por meio da informação sobre o financiamento pela FAPESP e o número do processo correspondente, incluída na publicação pelos autores)
DE MATTOS, EKLER PAULINO; DOMINGUES, AUGUSTO C. S. A.; SILVA, FABRICIO A.; RAMOS, HEITOR S.; LOUREIRO, ANTONIO A. F.. Slicing who slices: Anonymization quality evaluation on deployment, privacy, and utility in mix-zones. Computer Networks, v. 236, p. 19-pg., . (18/23064-8, 23/00721-1)

Por favor, reporte erros na lista de publicações científicas utilizando este formulário.