OpenAI s’associe à l’entreprise de sécurité Cathedral Systems afin de réunir des chercheurs des deux organisations pour tester l’infrastructure d’IA de l’entreprise, repérer d’éventuelles vulnérabilités et renforcer ses défenses. Cette initiative vise à apporter des points de vue extérieurs aux travaux d’OpenAI en matière de sécurité.
L’entreprise prévoit également d’augmenter les récompenses de son programme de chasse aux bogues. OpenAI n’a pas communiqué de montants précis, mais a indiqué que les récompenses pour les découvertes de failles critiques seraient quadruplées.
Le programme de récompenses d’OpenAI invite à signaler des problèmes dans des domaines tels que les correctifs logiciels, la confidentialité des modèles, la détection et la réponse aux menaces, l’intégration des outils de sécurité et la sécurité des agents d’IA.
Ce partenariat fait suite à une initiative antérieure en matière de sécurité, dans le cadre de laquelle OpenAI avait demandé à un quart de ses développeurs de consacrer du temps à repérer et à corriger des faiblesses, en s’appuyant sur Codex pour faciliter les investigations et les réparations. L’entreprise a déclaré qu’elle étendait ces travaux, car « les défenses traditionnelles en matière de cybersécurité ne suffisent plus à elles seules ».
Le PDG de Cathedral Systems, Gavin Kliger, a déclaré que collaborer avec des entreprises de sécurité externes et utiliser les modèles d’OpenAI pour tester et améliorer les défenses constitue un exemple important pour le secteur.
Sources: TechRadar.