Oficina Tempest

Adversarial attacks in text:

Exploiting vulnerabilities and compromising language models

SBSeg 2025: XXV Simpósio Brasileiro de Cibersegurança
Foz do Iguaçu – PR, 01 a 04 de setembro 2025

https://sbseg.sbc.org.br/2025  

DESCRIÇÃO / RESUMO DA OFICINA

Nesta oficina hands-on demonstraremos como ataques adversariais podem explorar vulnerabilidades em modelos de linguagem. Os participantes aprenderão, na prática, a criar exemplos adversariais de texto para enganar modelos de linguagem, avaliando, portanto, a segurança dos modelos utilizados. Também discutiremos técnicas de defesa para aumentar a robustez desses sistemas. A oficina é destinada a estudantes, pesquisadores e profissionais interessados em cibersegurança, inteligência artificial e processamento de linguagem.

Formato da oficina: Presencial.
Data: Segunda-feira, 01 de setembro de 2025
Horário: Das 09:00 até as 17:00
Quantidade máxima de participantes da oficina: 30 pessoas.

Dados dos Instrutores

  • Francisco Rodrigo Parente, doutor em Ciência da Computação pela Universidade Federal do Ceará (UFC).
  • Raphael Crespo Pereira, doutorando em Inteligência Computacional pelo Centro de Informática da Universidade Federal de Pernambuco (UFPE).
  • Henrique Ferraz Arcoverde, especialista em cibersegurança com mais de 15 anos de experiência na área.
  • Paulo Freitas de Araujo Filho, professor do Centro de Informática da Universidade Federal de Pernambuco (UFPE) e pesquisador de segurança.

INSCRIÇÕES

PRÉ-REQUISITOS

Pré-Requisitos de equipamento e configuração dos participantes para participação na oficina:

  • Laptop próprio;
  • Conta Google para acessar o Google Colab.

Pré-requisitos de conhecimento dos participantes para participação na oficina:

  • Conhecimentos básicos em Python;
  • Conhecimentos básicos em inteligência artificial e cibersegurança são desejáveis, mas não necessários.

COORDENAÇÃO

Coordenação do XIV WGID

  • Frederico Schardong (IFRS)
  • Emerson Ribeiro de Mello (IFSC)

Coordenação Geral do SBSeg 2025

  • Altair Santin (PUCPR)
  • André Gregio (UFPR)
  • Eduardo K. Viegas (PUCPR)

Coordenação CESeg

  • Marcos Antonio Simplicio Junior (USP)
  • Diego Kreutz (UNIPAMPA)

ORGANIZAÇÃO

PUCPR
ufpr

PATROCINADORES

Master

Infinity

Platinum

Diamante

Ouro

Prata

Bronze

Apoiadores