Alunos da UFPR vencem desafio internacional de quebra de modelos de inteligência artificial

O desafio durou três meses e usou como base pesquisas científicas dos autores. Imagem: Freepik.

Dois estudantes de doutorado do Programa de Pós-Graduação em Informática da UFPR venceram o Machine Learning Security Evasion Competition (MLSEC) 2021, um campeonato internacional de aprendizado de máquinas, uma área da Ciência e Engenharia da Computação que estuda o potencial de aprendizado dos computadores quando submetidos a variadas sequências de dados. A MLSEC está na terceira edição e é promovida por empresas do mundo da internet: CUJO AI, Microsoft, MRG Effitas, VMRay e Nvidia.

A solução desenvolvida por Fabrício Ceschin e Marcus Botacin foi baseada em um trabalho científico já publicado por eles, porém contou com aperfeiçoamentos ao longo da disputa. A competição foi desenvolvida em duas etapas: desafio do defensor e desafio do atacante. 

Campeonato

O desafio durou 3 meses. Durante esse tempo, os alunos elaboraram uma solução de segurança, um antivírus, que usa inteligência artificial e machine learning para verificar se um programa é malicioso. A dupla recebeu como prêmio 1,8 mil dólares em compras na loja da Microsoft por desafio ganho.

Durante o desafio defensor, a equipe treinou com mais de mil modelos para chegar em uma solução definitiva. Já no desafio do atacante, a dupla acessou 50 exemplares de vírus do Windows que funcionam no mundo real. “O objetivo é modificar esses vírus de forma com que eles continuem funcionando como esperado e não sejam detectados por nenhum mecanismo de defesa, incluindo nosso próprio modelo de defesa”, esclarece Fabrício.

Segundo Marcus, é importante para as empresas estudar esses casos, pois elas buscam fornecer produtos menos vulneráveis a esses ataques e proteger a si mesmas “Por isso, o desafio funciona para elas como forma de se obter feedback, de formar e identificar mão de obra qualificada, de estimular pesquisas e, claro, também como propaganda das soluções delas”, define. 

SecRET

Ambos são integrantes da equipe SecRET,  monitorada pelo professor  André Grégio (Departamento de Informática) e composta por estudantes de pós-graduação que pesquisam segurança e engenharia reversa. O grupo iniciou em 2019, integrado ao Laboratório de Redes e Sistemas Distribuídos (LarSiS) da UFPR. “Criamos o SecRET para termos um nicho de pesquisa dentro do próprio LarSiS, focado em problemas de segurança que envolvem códigos maliciosos, malware ou vírus de computador”, explica Fabrício.

Segundo o professor André, “dentro do LaRSiS, há um time para incentivar os alunos a participar de competições e desenvolver pesquisas específicas em Segurança Aplicada e Engenharia Reversa, por isso o nome SecRET, vem de Security and Reverse Engineering Team”.

Edições anteriores

Nas duas edições anteriores, os Fabrício e Marcus venceram ao menos um dos desafios da competição. As competições de 2019 e 2020 renderam dois artigos, publicados em uma conferência internacional. Os textos estão disponíveis neste link e neste endereço.  

Clique aqui para conhecer melhor o trabalho vencedor e mais conteúdos da SecRET.

Crédito da imagem de capa: Freepik.

Por Bruna Durigan
Sob supervisão de Aline Nunes