Ce que le pentest m’a appris
La sécurité commence par les comportements observables, pas par des descriptions rassurantes. Un contrôle compte par ce qu’il permet réellement aux personnes de faire. J’apporte cette attention aux preuves à la gouvernance de l’IA, tout en distinguant des sujets qui ne se confondent pas : une vulnérabilité, un incident et une perte de contrôle humain effectif ne sont pas la même chose.
Pourquoi j’ai créé Meseray
Des politiques, des autorisations et une personne dans la boucle ne prouvent pas à eux seuls qu’une organisation peut encore diriger un processus utilisant l’IA. Je voulais transformer l’écart entre la supervision formelle et le contrôle concret en une question claire que les dirigeants peuvent examiner à partir de preuves.
D’une question à un projet opérationnel
En environ un an de travail indépendant, j’ai développé l’initiative de recherche et de diagnostic Meseray jusqu’à une démonstration intégrée : cadrer une évaluation ciblée, recevoir des preuves autorisées et présenter une vue exécutive, avec un aperçu mobile. Cette démonstration intégrée a été testée avec des données synthétiques. C’est une avancée concrète, mais ce n’est ni une validation indépendante ni une preuve de résultats en entreprise.
La suite
Meseray commence par un processus important utilisant l’IA et un périmètre de preuves défini. Le tarif de référence standard de la Phase 1 est de 15 000 €. L’objectif est de fournir des constats utiles et une base de décision, tout en explicitant les limites des preuves. Le diagnostic n’est ni une certification ni une garantie de sécurité ; une évaluation indépendante et des pilotes mesurés en entreprise restent importants.
La question qui guide mes travaux
À quel endroit, entre le mandat humain et les conséquences du système, le contrôle humain effectif commence-t-il à se dégrader ?