OpenAI arbeitet mit dem Sicherheitsunternehmen Cathedral Systems zusammen, um Forschende beider Organisationen zusammenzubringen. Sie sollen die KI-Infrastruktur des Unternehmens testen, potenzielle Sicherheitslücken finden und dessen Abwehrmaßnahmen stärken. Damit sollen zusätzliche externe Perspektiven in die Sicherheitsarbeit von OpenAI einfließen.
Das Unternehmen plant außerdem, die Prämien seines Bug-Bounty-Programms zu erhöhen. OpenAI nannte keine konkreten Prämienhöhen, erklärte jedoch, dass die Zahlungen für kritische Funde vervierfacht werden.
Das Bug-Bounty-Programm von OpenAI nimmt Meldungen zu Bereichen wie Software-Patches, Datenschutz von Modellen, Bedrohungserkennung und -abwehr, Integration von Sicherheitstools sowie der Sicherheit von KI-Agenten entgegen.
Die Partnerschaft folgt auf eine frühere Sicherheitsinitiative, bei der OpenAI ein Viertel seiner Entwickler bat, Zeit darauf zu verwenden, Schwachstellen zu finden und zu beheben. Dabei kam Codex zur Unterstützung von Untersuchungen und Reparaturen zum Einsatz. Das Unternehmen erklärte, es baue diese Arbeit aus, weil „herkömmliche Cyberabwehrmaßnahmen allein nicht mehr ausreichen“.
Der CEO von Cathedral Systems, Gavin Kliger, sagte, die Zusammenarbeit mit externen Sicherheitsfirmen und der Einsatz der Modelle von OpenAI zum Testen und Verbessern von Abwehrmaßnahmen setzten ein wichtiges Beispiel für die Branche.
Quellen: TechRadar.