« On entend de plus en plus souvent l’expression « éthique by design » dans le secteur des industries du numérique. Pourquoi conserver une locution anglaise dans une expression française ? », s’interroge dans une chronique Jean-Gabriel Ganascia, professeur à Sorbonne Université à Paris et chercheur en intelligence artificielle.
Jean-Gabriel Ganascia publié le 29 janvier 2022 pour Sciences et Avenir
… Ceci est un article deOn entend de plus en plus souvent l’expression « éthique by design » dans le secteur des industries du numérique. Pourquoi conserver une locution anglaise dans une expression française ? Pris littéralement, la formule se transpose en « éthique par conception » ou en « éthique dès la conception ». Et, il en va ainsi lorsqu’on développe des outils logiciels, car on doit songer à l’éthique dès les premières ébauches, qu’il s’agisse de la finalité, qu’il faut peser au regard des besoins et des contraintes des différents acteurs, ou de l’architecture informatique, qui doit dissuader, voire interdire quand c’est possible, des utilisations oublieuses de la morale.
Une « garantie humaine »
Ainsi préfèrera-t-on un traitement local à une centralisation des données personnelles, pour éviter leur piratage ; si ce n’est pas possible, on les rendra anonymes ; à défaut, on sécurisera les accès aux bases de données et on exigera le recueil du consentement éclairé des utilisateurs. Dans un registre symétrique, on s’assurera qu’une personne assume toujours la responsabilité d’une décision prise avec le concours d’un ordinateur. Cette « garantie humaine » présuppose une compréhension claire des recommandations des machines, et donc des explications pour en interpréter la signification, ce qui influe sur la conception des systèmes informatiques. Mais, en anglais, « by design » veut d’abord dire « délibérément », « de façon consciente et préméditée », ce qui s’oppose à l’inattendu et à l’incertain.
Une volonté opiniâtre de penser l’action
En cela, l’éthique by design résulte d’une volonté opiniâtre de penser l’action, sa légitimité et ses conséquences, de toujours donner satisfaction, de ne rien abandonner au hasard, de ne pas laisser aller les choses telles qu’elles sont sans intervenir. À cette fin, on doit tester en situation les dispositifs et s’assurer de leur robustesse pour éviter les accidents. Bref, l’usage du vocable « by design » ne tient ici ni à une paresse à traduire, ni à une ignorance des ressources de la langue française ni à une affectation, mais à une ambivalence délicate à rendre.
Par Jean-Gabriel Ganascia, professeur à Sorbonne Université, à Paris, chercheur en intelligence artificielle au LIP6 (Sorbonne Université, CNRS), ex-président du comité d’éthique du CNRS. Dernier ouvrage publié : Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ? Le Seuil, 2017.
- Auteur de l’article : Jean-Gabriel Ganascia
- Source de l’article : https://www.sciencesetavenir.fr
- Lien vers l’article source !
Vignette de l’article :
Dans un registre symétrique, on s’assurera qu’une personne assume toujours la responsabilité d’une décision prise avec le concours d’un ordinateur | Crédits photo : PIXABAY/CREATIVE COMMONS
Pertinence et intérêt de l’article selon [[ designer.s ]] :
***** Exceptionnel, pépite
**** Très intéressant et/ou focus
*** Intéressant
** Faible, approximatif
* Mauvais, très critiquable
(i) . Informatif