Los hackers rojos cumplen una importante función en las empresas para probar las tecnologías desde diferentes ángulos.
La inteligencia artificial llegó para quedarse, pero aún falta mucho para regularlo, y presenta dificultades para generar información concreta. Otro de los problemas es que las IA han sido entrenadas en este mundo, donde el racismo, clasismo y machismo son una realidad; por ende, ellas han adoptado eso.
Por ello, las empresas necesitan a los hackers rojos para poner a prueba las tecnologías desde diferentes ángulos; esto con el fin de detectar los errores que pueden ser peligrosos al estigmatizar a un grupo de personas. Por lo tanto, la función de un hacker rojo es comprobar los sistemas de seguridad de la empresa que lo contrata.
Los expertos señalan que este perfil profesional será cada vez más demandante. Además, hay que recordar que hay estudios que indican que la inteligencia artificial creará más puestos de trabajo que los que va a eliminar; esta profesión podría ser una de las que ganará auge gracias a la IA.
La importancia de los equipos de hackers rojos
A medida que las grandes empresas se esfuerzan por construir y liberar herramientas de IA generativa, la importancia del papel de sus equipos internos de IA aumenta; ya que es elemental garantizar que los modelos sean seguros para la sociedad. Además, estos equipos brindan una ventaja competitiva a las empresas tecnológicas en la carrera de la IA.
De acuerdo a Cristian Canton, ingeniero de IA de Meta, los equipos rojos no solo consultan un modelo de IA para generar respuestas tóxicas; sino que extraen datos de entrenamiento que revelan información personal, como los nombres, direcciones y números de teléfono; luego aplican una táctica para cambiar parte de la información antes de usarlo para entrenar el modelo.
Estos equipos tienen un gran reto, ya que deben equilibrar la seguridad de los modelos de IA; pero, sin grandes limitaciones para mantenerse relevantes y utilizables, con suficiente información.
Finalmente, la Universidad Internacional Iberoamericana (UNIB) ofrece la Maestría en Dirección Estratégica con Especialidad en Tecnologías de la Información.
