Loomio

Création d'un label de certification des outils démocratiques et respectueux des libertés

JL
Julien Lecaille Public Seen by 355

Suite à un débat : https://visions-fr.consider.it/

L'Assemblée des Communs de Lille est sollicitée pour participer à un label de certification des outils

Le processus de certification vérifiera que l'outil de civic tech certifié

Réponds au principes du GDPR

Ne collecte pas davantage de données que ce dont le service à besoin

Passe un contrôle pour déterminer si ces règles sont bien suivies

Permet de demander à ce que ses données soient effacées

Ethique et équité de l'algorithme : il traite tout le monde de la même manière et ne prends pas en compte certain critères
Fourni la transparence sur ses financements

L'association "Visions" esten train de voir avec la CNIL et des chercheurs/ingénieurs pour constituer un jury de certification indépendant. L'idée est ensuite de procéder à différentes actions de médiatisations du label et surtout d'avoir des premiers porteurs du label.

La question de l'association "Visions"

<>

JJ

JEANNAS Jean-Yves Wed 22 Mar 2017

Bonjour,
A l'AFUL, nous avons inscrit la promotion de la loyauté des services en ligne dans nos statuts. Nous avons aussi mis en place un label pour les "offres Libres" de logiciels.
De ce fait, et comme je suis membre du groupe "éducnum" de la CNIL et impliqué dans la formation du citoyen au numérique, ce projet m'intéresse grandement.
A votre disposition, prévoyez vous un RdV en ligne ou IRL ?
JYJ

LB

Louis Boulay Mon 27 Mar 2017

Bonjour à tous,
Je suis Louis, membre de l'association Visions https://visionspol.eu/ qui a organisé ce débat. Je me permets d'apporter quelques précisions au projet de label sur lequel nous travaillons.

Pourquoi un tel label ?

Si certaines technologies peuvent renouveler la démocratie, il faut qu'elle respectent des règles démocratiques et que leur mission civique soit leur seul but. Ce label certifiera les technologies répondant à différents critères et permettra de montrer aux citoyens qu'il existe différents moyens d'utiliser la technologie, tout en leur donnant la possibilité d'avoir confiance dans les outils qui vont prendre de plus en plus de place dans leur vie.

C’est un label associatif indépendant qui constitue une première étape vers la création d’un label officiel Civic Tech reconnu par l’Etat. Il peut-être demandé par n'importe quel organisme
même en dehors d'un appel d'offre sur des marchés publics, pour pouvoir démontrer son engagement démocratique et susciter la confiance des citoyens.

Comment avons-nous construit cette idée ?

Nous avons organisé une discussion démocratique avec 17 acteurs de la civic tech pour imaginer ensemble des technologies au service de la démocratie et des citoyens > https://visions-fr.consider.it/ Grâce à ce débat, l'idée d'un label de certification des organismes de civic tech est née.

Comment ce label est-il attribué ?

Nous proposons que l'organisme volontaire à l'agrément signe une charte déontologique énonçant les critères qu'il s'engage à respecter (les critères sont accessibles en pièce jointe). Puis une commission d'experts composée de 3 membres du CNNum, 3 membres de la CNIL et 3 membres de l'Inria valident l'agrément obtenu pour une durée de 3 ans. Enfin, un corps d'inspecteurs indépendants s'assure du respect des critères par l'organisme durant les 3 années de labellisation par une série de contrôles.

Nous sommes toujours preneurs d'idées d'amélioration/ de modifications, nous sommes donc à votre écoute !

Merci beaucoup,

Louis

ML

Michaël Launay Tue 28 Mar 2017

Bonjour,
Je suis le gérant d'Ecréall qui édite Nova-Ideo, cet outil d'idéation fait partie des outils proposés par Etalab dans l'OGP Tool box.
Nous avons eu à remplir une démarche similaire. Il serait donc important que les deux démarches fusionnent.
La multiplication des labels nuit à la lisibilité des offres. De plus une labélisation a un coût généralement supporté par l'éditeur. Dans le cas de logiciel libre, si la communauté est naissante, elle ne pourra supporter ce coût et se verra exclue du "marché" qu'organisent les labels.
De plus ces labels sont déclaratifs, rien ne permet d'assurer que le logiciel qui tourne est bien celui qui a été audité. Bref, c'est un voeu pieux qui endort le sens critique. De plus à terme les algorithmes seront remplacés par du deep learning (réseaux neuronaux) et il sera difficile voir impossible de prouver la bonne foi du résultat. Ce problème est un classique de l'expertise, tant que l'on peut prouver le raisonnement l'expertise fonctionne (on peut alors ce passer de l'expert puisque l'algorithme suffit), mais dés que les données sont incomplètes ou si nombreuses que non vérifiables humainement l'expert peut raconter ce qu'il veut et orienter les décisions. Pour finir dans ce dernier cas c'est souvent celui qui a la meilleure communication ou qui est dans le sens du courant qui oriente les décisions avec des mécanismes de renforcement qui finissent par s'apparenter à une culture, par exemple la majorité de nos concitoyens ignorent l'existence d'autres modes de scrutins que le vote majoritaire et du coup ils réduisent la démocratie au vote majoritaire.
Bref pour finir, il faut :
- 1 rapprocher les initiatives de labellisation,
- 2 accentuer la compréhension des utilisateurs de ces plateformes,
- 3 garder possible l'émergence de nouvelle initiative et de nouveaux outils.