Proton présente ses excuses concernant le déploiement de l’IA et promet des garanties de sécurité

Proton a présenté ses excuses à sa communauté après la diffusion d’un manifeste interne sur l’IA et de témoignages concernant des évaluations du personnel, qui ont suscité des inquiétudes sur la manière dont l’entreprise compte utiliser l’IA pour développer ses produits axés sur la protection de la vie privée. L’entreprise a déclaré qu’elle ne ferait pas repasser d’entretiens aux employés au sujet de leur utilisation de l’IA et qu’il n’y aurait aucun licenciement lié à l’IA.

Dans un communiqué publié sur X, Proton a reconnu ne pas avoir « été à la hauteur des exigences élevées que vous êtes en droit d’attendre de nous ». L’entreprise a également promis que son « utilisation de l’IA ne se ferait jamais au détriment de la sécurité » et indiqué qu’elle n’installait pas de logiciel de suivi sur les ordinateurs portables de ses employés pour mesurer la quantité de code généré par l’IA qu’ils produisent.

L’entreprise s’est engagée à publier plusieurs outils internes en open source et à rendre publics les détails de ses processus d’examen du code et de sécurité. Proton a déclaré que ces mesures permettraient de faire preuve de transparence sur son fonctionnement et de montrer qu’elle respecte ses engagements.

Cette réaction fait suite à la publication d’une note interne intitulée « AI @ Proton, Engineering Manifesto ». Le directeur technique de Proton, Bart Butler, a partagé le document sur le blog de l’entreprise le 1er novembre, deux jours après la parution de l’article consacré à la note divulguée. Butler l’avait envoyé aux employés un mois plus tôt.

Le manifeste invite les ingénieurs à considérer les modèles d’IA comme des outils qu’ils dirigent, plutôt que de simplement s’en servir pour écrire du code plus rapidement. Butler a écrit que le rôle d’un ingénieur avait évolué : il consiste désormais à aider les grands modèles de langage à produire un meilleur code, tout en soulignant que l’expérience et le jugement humains restent précieux. Il a également précisé que la maintenabilité, la documentation, les tests et les bonnes pratiques d’ingénierie demeurent importants.

Dans son communiqué, Proton a aussi indiqué qu’elle présenterait des versions plus avancées de Lumo, son assistant d’IA axé sur la protection de la vie privée, qui n’ont jusqu’à présent été disponibles qu’en interne. L’entreprise n’a pas précisé quand ces versions seraient rendues publiques.

Sources: TechRadar.