L'agent de codage Grok Build de xAI a été surpris en train de téléverser silencieusement les dépôts Git complets des développeurs — historiques de commits, fichiers non suivis et secrets non masqués inclus — vers un bucket Google Cloud Storage, selon une analyse au niveau du trafic réseau publiée par un chercheur en sécurité connu sous le nom de cereblab. xAI a stoppé les téléversements côté serveur le 13 juillet et Elon Musk a promis que toutes les données déjà téléversées seraient "complètement et définitivement supprimées", mais l'entreprise n'a toujours pas publié d'avis de sécurité officiel.
Points clés
- La version 0.2.93 du CLI Grok Build empaquetait et téléversait des dépôts complets vers le bucket Google Cloud Storage grok-code-session-traces, indépendamment de ce que la tâche de codage exigeait réellement.
- Dans un test documenté, le modèle avait besoin d'environ 192 Ko de contexte alors que le canal de stockage a téléversé 5,10 Go — soit environ 27 800 fois plus de données que nécessaire.
- Des fichiers .env suivis sont partis sans aucun masquage, y compris des clés API et mots de passe de base de données plantés comme leurres. Même un fichier que l'agent avait pour instruction explicite de ne jamais lire a été téléversé.
- Désactiver l'option "Améliorer le modèle" n'arrêtait pas les téléversements : le serveur continuait de répondre avec le téléversement de traces activé, révélant que la rétention des données et l'entraînement du modèle relevaient de commutateurs distincts et cachés.
- xAI a coupé les téléversements via un indicateur côté serveur le 13 juillet, sans publier d'avis ni d'entrée dans le journal des modifications.
Détails
Le chercheur a intercepté le trafic réseau de Grok Build et identifié deux canaux distincts : le trafic normal du modèle servant à générer les réponses, et un canal de stockage séparé qui archivait l'intégralité du dépôt de l'utilisateur en 73 fragments d'environ 75 Mo chacun. Les téléversements se produisaient même lors de tests sans aucun appel d'outil, où l'agent recevait pour seule instruction de répondre "OK" sans ouvrir le moindre fichier.
Le périmètre dépassait le code des projets. Certains utilisateurs ont rapporté que des répertoires personnels entiers — clés SSH et bases de données de gestionnaires de mots de passe comprises — avaient été aspirés dans les téléversements. Les historiques Git complets étant transmis, des secrets commités puis supprimés des mois auparavant restaient accessibles dans les données archivées.
xAI a répondu via son compte SpaceXAI, affirmant que le code des clients entreprise sous politique de zéro rétention de données n'avait jamais été stocké et que l'usage par clé API respectait ces politiques. L'entreprise a également déployé une commande /privacy permettant aux utilisateurs individuels de désactiver la rétention et de supprimer les données déjà synchronisées. Les critiques ont relevé le constat du chercheur : cette commande agissait comme un retrait par session et non comme l'interrupteur ayant réellement stoppé les téléversements — celui-ci venait de l'indicateur côté serveur. "Le bon réglage par défaut, c'est désactivé", a écrit le chercheur.
Impact
Les chercheurs en sécurité exhortent chaque développeur ayant utilisé Grok Build à renouveler tous les identifiants auxquels l'outil aurait pu accéder — pas seulement les fichiers lus par le modèle pendant une session, mais tout fichier suivi du dépôt et tout secret ayant un jour figuré dans l'historique Git.
Des doutes subsistent aussi sur la suppression promise. Un utilisateur ayant activé le retrait via la commande /privacy a interrogé l'API de stockage de xAI un jour plus tard et rapporté que les 143 archives téléversées depuis sa machine étaient toujours présentes, plus de 24 heures après son retrait. xAI n'a divulgué ni le nombre d'utilisateurs affectés, ni un calendrier de suppression, ni un moyen pour les développeurs de vérifier que leurs données ont bien été effacées.
Contexte
Grok Build a été lancé plus tôt cette année comme la réponse de xAI à Claude Code et au CLI Codex d'OpenAI, dans la vague des agents de codage en terminal désormais profondément installés dans les environnements locaux des développeurs. C'est précisément cette position privilégiée qui rend l'incident significatif : tous les agents de codage hébergés envoient du contexte en amont pour l'inférence, mais archiver en masse des dépôts entiers via un canal séparé dépasse de loin ce qu'exige une tâche de codage.
L'épisode survient alors que les pratiques de données des outils de développement IA font l'objet d'un examen croissant, au point que Sam Altman, PDG d'OpenAI, a publiquement signalé le problème — une mise en cause directe rare entre laboratoires d'IA rivaux.
Et ensuite
Le chercheur à l'origine de la découverte annonce qu'il revérifiera quotidiennement l'API de stockage et publiera si la promesse de suppression de xAI est tenue. Les équipes en entreprise réévaluent quels agents de codage satisfont leurs exigences de zéro rétention de données, et l'incident devrait accélérer les demandes de télémétrie vérifiable et désactivée par défaut dans les outils de développement IA.
Source : The Hacker News