Os hackers vermelhos desempenham um papel importante nas empresas para testar tecnologias de diferentes ângulos.
A inteligência artificial veio para ficar, mas ainda há um longo caminho a percorrer para regulamentá-la, e ela apresenta dificuldades para gerar informações concretas. Outro problema é que as IAs foram treinadas neste mundo,em que o racismo, o classismo e o sexismo são uma realidade; portanto, adotaram isso.
Portanto, as empresas precisam de hackers vermelhos para testar tecnologias de diferentes ângulos a fim de detectar erros, o que pode ser perigoso por estigmatizar um grupo de pessoas. Portanto, a função de um hacker vermelho é verificar os sistemas de segurança da empresa que o contrata.
Os especialistas apontam que esse perfil profissional será cada vez mais procurado. Além disso, é preciso lembrar que estudos indicam que a inteligência artificial criará mais empregos do que eliminará; essa profissão pode ser uma das que ganharão impulso graças à IA.
A importância das equipes de hackers vermelhos
À medida que as grandes empresas se esforçam para criar e lançar ferramentas de IA generativas, aumenta a importância da função de suas equipes internas de IA; é fundamental garantir que os modelos sejam seguros para a sociedade. Além disso, essas equipes oferecem uma vantagem competitiva para as empresas de tecnologia na corrida da IA.
De acordo com Cristian Canton, engenheiro de IA da Meta, as equipes vermelhas não consultam apenas um modelo de IA para gerar respostas tóxicas; elas extraem dados de treinamento que revelam informações pessoais, como nomes, endereços e números de telefone, e aplicam uma tática para alterar algumas das informações antes de usá-las para treinar o modelo.
Essas equipes têm um grande desafio, pois precisam equilibrar a segurança dos modelos de IA, mas sem grandes restrições para permanecerem relevantes e utilizáveis, com informações suficientes.
A Universidad Internacional Iberoamericana (UNIB) oferece o Mestrado em Direção Estratégica com Especialização em Tecnologias da Informação.
