moneta: Que font des éthiciennes et éthiciens passionné-e-s d’innovation numérique?
Johan Rochel: Il s’agit pour Ethix de mettre certains sujets à l’agenda et de transmettre des compétences. Dans notre domaine, l’éthique arrive souvent par les scandales. Sans Cambridge Analytica ou les vols de données chez les acteurs financiers, les thèmes que nous traitons auraient moins de visibilité! Ces affaires, en plus de révéler les enjeux liés à l’acquisition et l’utilisation des données, questionnent aussi le sens de ces innovations: à qui et à quoi servent les données? L’innovation n’est jamais neutre.
Quels sont donc les défis éthiques dans ce domaine?
D’abord les outils eux-mêmes, par exemple les données, mais également les algorithmes qui vont leur donner du sens. Qui les programme? Dans quel cadre de référence? Puis vient la question de l’utilisation proprement dite. Lorsque les utilisatrices et utilisateurs s’approprient une nouvelle technologie ou en sont exclu-e-s, elle pose de nombreux défis en matière de justice sociale: quel est son impact sur le marché du travail? Comment influence-t-elle nos comportements? Troisièmement, toutes les innovations nous confrontent aux grands récits de société: qu’est-ce qu’un être humain? Que nous propose le concept même d’«intelligence artificielle»: un conflit entre le naturel et l’artificiel ou plutôt les bases d’une coopération entre l’humain et les outils?
Le respect de la vie privée des individus est en jeu. Est-ce que votre démarche sous-entend que vous militez pour l’autorégulation?
Non, nous agissons en parallèle de la dimension juridique. Une entreprise doit respecter les prescriptions légales, par exemple en matière de protection des données. C’est un minimum. Mais elle peut choisir de se positionner en proposant un service particulièrement attentif à certaines valeurs éthiques. Dans ce cas, l’éthique est vue comme un avant-poste de l’entreprise de demain. Elle permet de répondre à certaines attentes du public à un moment où le législateur n’a pas encore pu ou voulu traiter une situation. Il y a une relation de dialogue très importante entre le droit et l’éthique.
Qui devrait mener ce débat éthique?
L’ensemble des citoyennes et citoyens doit à tout prix s’approprier ces questions et comprendre que leurs droits individuels, mais également le vivre ensemble, sont en jeu. Ils envoient alors un message très clair aux entreprises: «Soyez attentives à ces enjeux numériques et prenez nos attentes au sérieux». Dans l’idéal, un cercle vertueux se met dès lors en place.
Comment intervenez-vous concrètement chez vos mandants?
Nous aidons premièrement à identifier et à cartographier les risques liés à leur technologie et à son usage potentiel. Nous avons été mandatés par des start-up actives par exemple dans le traçage, la reconnaissance faciale, la santé, la logistique. À l’aide d’un canevas, nous passons l’innovation proposée – les actrices et acteurs en présence, les intentions derrière la commercialisation, la finalité du produit, etc. – au crible de trois groupes de valeurs importantes autour de la liberté, l’égalité et ainsi que l’impact sur l’environnement social et écologique.
Social ou écologique: lequel est prépondérant?
En matière d’innovation numérique, la question sociale est, pour l’heure, clairement prépondérante. Qui sera touché négativement par une innovation: les petites mains ou les grandes entreprises en position de force? Et si une société de sécurité privée voulait acheter cette technologie pour traquer des citoyennes et citoyens? Le test des valeurs est là, lorsqu’il y a un conflit entre l’activité commerciale et les valeurs prônées par l’entreprise. À leur tour, ces conflits posent tous la question de la responsabilité. Où s’arrête celle des entreprises, du personnel, et où commence celle des utilisatrices et utilisateurs, du grand public?