Proton entschuldigt sich für die Einführung von KI und verspricht Sicherheitsvorkehrungen

Proton hat sich bei seiner Community entschuldigt, nachdem ein internes KI-Manifest und Berichte über Mitarbeitergespräche Besorgnis darüber ausgelöst hatten, wie das Unternehmen KI bei der Entwicklung seiner Datenschutzprodukte einsetzen will. Das Unternehmen erklärte, es werde Mitarbeitende nicht erneut zu ihrer KI-Nutzung befragen und es werde keine KI-bedingten Stellenverluste geben.

In einer Stellungnahme auf X sagte Proton, das Unternehmen habe „den hohen Maßstab, an dem ihr uns messen solltet, nicht erfüllt“. Außerdem versprach es, dass der „Einsatz von KI niemals zulasten der Sicherheit gehen wird“, und erklärte, es installiere keine Tracking-Software auf den Laptops seiner Mitarbeitenden, um zu messen, wie viel KI-generierten Code sie produzieren.

Das Unternehmen versprach, mehrere interne Tools als Open Source zu veröffentlichen und Einzelheiten zu seinen Code- und Sicherheitsprüfungsprozessen offenzulegen. Proton erklärte, diese Schritte würden Einblick in die Arbeitsweise des Unternehmens geben und dazu beitragen, nachzuweisen, dass es seine Zusagen einhält.

Die Stellungnahme folgte auf die Veröffentlichung eines internen Memos mit dem Titel „KI bei Proton, Manifest für die Entwicklung“. Proton-CTO Bart Butler teilte das Dokument am 1. November im Unternehmensblog, zwei Tage nachdem die Geschichte über das durchgesickerte Memo erschienen war. Butler hatte es einen Monat zuvor an die Mitarbeitenden geschickt.

Das Manifest fordert Entwickler auf, KI-Modelle als Werkzeuge zu betrachten, die sie anleiten, anstatt sie lediglich dazu zu verwenden, schneller Code zu schreiben. Butler schrieb, die Rolle eines Entwicklers habe sich dahingehend verändert, großen Sprachmodellen dabei zu helfen, besseren Code zu erzeugen, und betonte zugleich, dass menschliche Erfahrung und Urteilsvermögen wertvoll blieben. Er sagte außerdem, dass Wartbarkeit, Dokumentation, Tests und solide Entwicklungspraktiken weiterhin wichtig seien.

In Protons Stellungnahme hieß es außerdem, das Unternehmen werde fortgeschrittenere Versionen seines auf Datenschutz ausgerichteten KI-Assistenten Lumo zeigen, die bislang nur intern verfügbar waren. Das Unternehmen nannte keinen Zeitrahmen für die öffentliche Bereitstellung dieser Versionen.

Quellen: TechRadar.