OpenAI collabora con la società di sicurezza Cathedral Systems per riunire ricercatori di entrambe le organizzazioni, testare l’infrastruttura di IA dell’azienda, individuare potenziali vulnerabilità e rafforzarne le difese. L’iniziativa punta ad apportare prospettive esterne al lavoro di OpenAI sulla sicurezza.
L’azienda intende inoltre aumentare i premi del suo programma bug bounty. OpenAI non ha comunicato gli importi specifici dei premi, ma ha dichiarato che le ricompense per le segnalazioni critiche quadruplicheranno.
Il programma bounty di OpenAI sollecita segnalazioni che riguardano ambiti quali le patch software, la privacy dei modelli, il rilevamento e la risposta alle minacce, l’integrazione degli strumenti di sicurezza e la sicurezza degli agenti di IA.
La partnership segue una precedente iniziativa di sicurezza, nell’ambito della quale OpenAI aveva chiesto a un quarto dei suoi sviluppatori di dedicare del tempo alla ricerca e alla correzione delle vulnerabilità, utilizzando Codex per supportare le indagini e gli interventi di riparazione. L’azienda ha dichiarato di ampliare questo lavoro perché «le sole difese informatiche tradizionali non sono più sufficienti».
Gavin Kliger, CEO di Cathedral Systems, ha affermato che collaborare con società di sicurezza esterne e usare i modelli di OpenAI per testare e migliorare le difese costituisce un esempio importante per il settore.
Fonti: TechRadar.