A OpenAI está se associando à empresa de segurança Cathedral Systems para reunir pesquisadores das duas organizações e testar a infraestrutura de IA da companhia, encontrar possíveis vulnerabilidades e reforçar suas defesas. A iniciativa pretende trazer perspectivas externas para o trabalho de segurança da OpenAI.
A empresa também planeja aumentar os pagamentos de seu programa de recompensas por bugs. A OpenAI não divulgou valores específicos, mas afirmou que os pagamentos por descobertas críticas aumentarão quatro vezes.
O programa de recompensas da OpenAI busca relatórios sobre áreas que incluem patches de software, privacidade de modelos, detecção e resposta a ameaças, integração de ferramentas de segurança e segurança de agentes de IA.
A parceria dá continuidade a uma iniciativa de segurança anterior, na qual a OpenAI pediu a um quarto de seus desenvolvedores que dedicasse tempo a encontrar e corrigir falhas, usando o Codex para apoiar investigações e reparos. A empresa afirmou que está ampliando esse trabalho porque “as defesas cibernéticas tradicionais, por si só, já não são suficientes”.
O CEO da Cathedral Systems, Gavin Kliger, disse que trabalhar com empresas externas de segurança e usar os modelos da OpenAI para testar e aprimorar as defesas estabelece um exemplo importante para o setor.
Fontes: TechRadar.