[CONFÉRENCE] : Sans éthique, l’informatique mène-t-elle au chaos ?

Ce mardi 10 avril 2018, une conférence de clôture d’un cycle consacré à  la thématique du cyberespace et des sciences de la complexité se tient en l’hôtel académique de l’Université catholique de Lille. Face à un public essentiellement composé d’étudiants et de chercheurs, Jacques Printz, professeur associé au laboratoire ETHICS – EA 7446 de l’Université Catholique de Lille, professeur émérite du CNAM et professeur invité du Centre Sèvres, offre une conclusion qui prend des airs de mise en garde bienveillante, alors même que de l’autre côté de l’Atlantique, Mark Zuckerberg  bat sa coulpe devant le congrès américain à propos de la commercialisation des données de millions d’utilisateurs de son réseau social. Les avancées phénoménales dans le domaine de la technologie, notamment informatique, permettent désormais des développements inespérés, mais posent indubitablement d’importants problèmes d’ordre éthique.

Jacques Printz, en conférence à l'Université catholique de Lille.

Jacques Printz, professeur associé au laboratoire ETHICS – EA 7446 de l’Université catholique de Lille.

D’inévitables erreurs

À travers, parmi d’autres, l’exemple du film Jurassic Park, Jacques Printz  donne à imaginer des scenarios catastrophes : « L’informatique peut aussi engendrer des situations cauchemardesques », affirme-t-il. Car le problème des programmes informatiques, selon lui – et de nombreux autres experts –, sont les erreurs inévitables qu’ils contiennent. Isolées, elles causent des désagréments. Combinées, elles peuvent mener à des drames, selon l’utilisation des codes source qui les contiennent.

« Dans les programmes les mieux validés, utilisés en avionique et dans le spatial, il faut compter, en moyenne, une erreur résiduelle toutes les 10.000 lignes de code », indique le professeur. Si le code source qui commande le déplacement d’une voiture autonome compte 100 millions de lignes de code, comme l’affirment certains responsables de l’industrie automobile nationale, cela représente  un minimum de 10.000 erreurs résiduelles, mais l’industrie automobile est encore loin des normes de l’avionique ! Du point de vue des programmeurs et de leurs commanditaires, quelle marge d’erreur devient, alors, éthiquement acceptable ? Comment mettre sur pied tous les garde-fous possibles pour qu’une combinaison d’erreurs n’ait pas d’issue critique ? Un problème pour le moment sans véritable solution.

Une crise de confiance

Car, il ne faut pas l’oublier, par le passé, des publicités chantaient les louanges de la crème hydratante pour bébé au radium. Qui, aujourd’hui, badigeonnerait son nouveau-né d’un complexe radioactif ? La découverte d’erreurs d’appréciation des risques que comportent certaines avancées scientifiques a rendu le grand public méfiant. À une époque où l’on parle de « fake news » contribuant à faire élire le président de la plus grande puissance mondiale, où des « relativistes » remettent en cause des vérités scientifiques dont la reconnaissance, pourtant, suit un protocole rigoureux, le doute est roi dans l’esprit d’usagers des technologies informatiques.

Pourtant, tout le monde s’accorde sur l’« omniprésence » de l’informatique et des algorithmes qui rendent, il ne faut pas l’oublier, d’immenses services à nos sociétés hyper complexes. Dans ce climat de défiance mais dans lequel l’informatique est devenue incontournable, comment s’assurer que les garanties qu’on nous propose sont fiables et comment accorder sa confiance à l’auteur d’un code qui reste anonyme, comme dans l’application APB tant contestée ?

Les développements technologiques sont absolument indissociables d’une réflexion d’ordre éthique, que l’on se trouve du côté des réalisateurs ou des usagers d’objets connectés. Ces derniers sont en effet de plus en plus nombreux, 50 milliards, prédisent certains experts, d’ici 15 à 20 ans, et leurs éventuelles erreurs, inévitables a-t-on dit, pourraient causer des dommages de plus en plus importants si la qualité des codes ne suit pas l’augmentation de la complexité.

Le cycle de six conférences données par Jacques Printz s’achève mais trouvera son prolongement dans l’ouvrage « Survivrons-nous à la technologie ? Aux sources du cyberespace et des sciences de la complexité », à paraître d’ici quelques semaines aux éditions Saint-Léger.