CrowdStrike hat AI Kill Switch vorgestellt, eine Funktion für seine Plattform Falcon Guardian, die Unternehmen dabei helfen soll, KI-Agenten einzudämmen, die sich außerhalb ihrer vorgesehenen Parameter verhalten. Nach Angaben des Unternehmens können Administratoren damit verdächtige Aktivitäten beenden, den Neustart eines Agenten verhindern und den Vorfall untersuchen.
Falcon Guardian ist CrowdStrikes Plattform für KI-Erkennung und -Reaktion. Sie soll genehmigte und nicht autorisierte KI-Agenten in Unternehmensumgebungen identifizieren, ihre Anweisungen und den Dateizugriff überwachen, Zugriffe kontrollieren, Prompt-Injection-Angriffe erkennen und verdächtiges Verhalten untersuchen.
Wenn ein Administrator AI Kill Switch auslöst, soll der Falcon-Sensor die Ausführung des Agenten zunächst am Gateway und, wie CrowdStrike mitteilt, bald auch am Endpunkt stoppen. Eine Richtlinie verhindert anschließend, dass der Agent auf dem anvisierten Host oder der anvisierten Hostgruppe neu gestartet wird, und sperrt seinen Zugriff auf das Unternehmensnetzwerk. Jede Aktion wird in einem Audit-Trail protokolliert.
CrowdStrike zufolge wird die Funktion von autorisierten Menschen bedient und baut auf der Transparenz von Falcon Guardian darüber auf, welche Anweisungen ein Agent erhält, was er kommuniziert und was er ausführt. CEO und Gründer George Kurtz beschrieb das Tool als eine Möglichkeit, die Kontrolle beim Einsatz von KI-Agenten in den Händen der Menschen zu belassen.
Die Einführung erfolgt vor dem Hintergrund von Bedenken, dass autonome Agenten riskante Handlungen vornehmen könnten, wenn sie auf Hindernisse stoßen. Auch andere Unternehmen haben Tools entwickelt, um Agenten auszusetzen, ihnen den Zugriff zu entziehen oder sie offline zu nehmen, darunter Produkte von Straiker, JetStream Security und Trust3 AI. Microsoft, Palo Alto Networks und Cisco bieten ebenfalls Sicherheitsprodukte mit Kontrollen zum Blockieren von KI-Agenten an.
Quellen: TechRadar.