OpenAI se asocia con la empresa de seguridad Cathedral Systems para reunir a investigadores de ambas organizaciones y poner a prueba la infraestructura de IA de la compañía, encontrar posibles vulnerabilidades y reforzar sus defensas. La iniciativa busca aportar perspectivas externas al trabajo de seguridad de OpenAI.

La compañía también tiene previsto aumentar las recompensas de su programa de recompensas por errores. OpenAI no reveló los importes concretos, pero afirmó que los pagos por hallazgos críticos se cuadruplicarán.

El programa de recompensas de OpenAI busca informes sobre ámbitos como parches de software, privacidad de modelos, detección y respuesta ante amenazas, integración de herramientas de seguridad y seguridad de agentes de IA.

La asociación llega después de un esfuerzo de seguridad anterior en el que OpenAI pidió a una cuarta parte de sus desarrolladores que dedicaran tiempo a encontrar y corregir debilidades, con Codex como apoyo para las investigaciones y las reparaciones. La compañía afirmó que está ampliando ese trabajo porque «las defensas cibernéticas tradicionales, por sí solas, ya no son suficientes».

El director ejecutivo de Cathedral Systems, Gavin Kliger, afirmó que colaborar con empresas externas de seguridad y utilizar los modelos de OpenAI para poner a prueba y mejorar las defensas constituye un ejemplo importante para el sector.

Fuentes: TechRadar.