A OpenAI vai usar IA para detectar falhas e vulnerabilidades de modelos antes que eles cheguem ao público. A desenvolvedora anunciou o GPT-Red, um modelo capaz de fazer testes internos e ajudar a blindar as ferramentas de ataques.
Antes de lançar uma inteligência artificial, a empresa realizava testes com times humanos chamados “equipes vermelhas” (red teams). As pessoas eram responsáveis por descobrir as vulnerabilidades do modelo antes do lançamento e trabalhar para colocar ajustes em prática. No entanto, esse processo exige tempo e é difícil de escalar, o que dificulta a identificação de falhas e a implementação de correções rapidamente.
O GPT-Red automatiza esse processo. Segundo a OpenAI, o modelo funciona de forma semelhante aos especialistas de segurança cibernética humanas. O sistema cria e dispara ataques contra os modelos GPT. A partir das respostas, identifica as brechas de segurança e trabalha para resolvê-las.
IA ajudou a treinar modelos recentes da OpenAI
A desenvolvedora revelou que implementou o GPT-Red ao processo de treinamento de seus modelos.
O GPT 5.6 Sol, lançado no início do mês e descrito como a IA mais potente da empresa até agora, foi desenvolvido usando o Red. Nesse caso, ele foi aplicado para combater ataques de injeção de prompt (quando um comando tem instruções ocultas que instruem a IA a fazer algo contra as regras).
A OpenAI deixou claro que, apesar da capacidade de atacar sistemas, o GPT-Red é usado apenas internamente para testes de segurança.
