Invisibilité - FMSH · Déséquilibre • Volkswagen n'a reconnu les fait qu'après une...

Culture numériqueHervé Le Crosnier

Laboratoire GREYC - Université de Caen !

herve.lecrosnier@unicaen.fr http://about.me/hervelc

InvisibilitéLe citoyen confronté à l'économie de la connaissance

Installation artistique de Paul Devautour "Black Box" avec Trois ordinateurs, Frac Provence Côte d'Azur

L'affaire Volkswagen• «defeat device»

• Le logiciel pour tromper la régulation

• Pourquoi c'est grave

• écologie, COP 21, «diesel propre»

• volonté de ne pas respecter les lois

• Pourquoi est-ce de la «culture numérique»

Les faits• Expériences par l'ICCT (The International

Council on Clean Transportation) et West Virginia University

• Résultats : des différences de 40% entre ce que la voiture pollue dans les tests et ce qu'elle pollue en conditions réelles

La méthode• Installation d'un logiciel qui sait reconnaître

la situation de test des situations réelles

• un logiciel fourni par Bosch

• qui se dédouane aisément : c'était un produit pour les tests, je ne savais pas ce qu'allait en faire Volkswagen

• Un logiciel facile, car les tests sont très normalisés et en dehors des situations concrètes

• Mais ce problème va se développer avec l'extension du «machine learning»

Détourner la loi• Une activité constante

des entreprises comme des particuliers

• La loi ne peut donc suffire à elle seule à assurer la régulation

• Faiblesse des régulateurs

• en nombre et en moyens

• en compétences techniques (mais quel salaire ?)

• en prise de conscience du basculement numérique du monde

La jungle• Upton Sinclair publie en 1905 La jungle

• son objectif : parler des conditions de travail des immigrants lithuaniens dans les abattoirs de Chicago

• ce que s'est passé : il décrit avec tant de précision les conditions d'hygiène déplorables de l'industrie de la viande… que Theodore Roosevelt va lancer une enquête et créer ce qui deviendra la Food and Drug Administration

• Upton Sinclair à Cosmopolitan, 1906 : « J'ai visé le cœur de public et par accident je l'ai touché à l'estomac. »

• Qui écrira l'équivalent de l'ère logicielle ?

• Place de la science-fiction et des dystopies

Printemps silencieux• Livre de Rachel Carson

• publié en 1962 (très grand succès public)

• dénonçant les méfaits du DDT

• elle accusait l'industrie chimique de désinformation

• et les pouvoirs publics de suivre cette industrie sans poser l'intérêt général

• On considère que ce livre a lancé le mouvement écologiste

Déséquilibre• Volkswagen n'a reconnu les fait qu'après une menace de l'EPA de ne pas autoriser

la vente des modèles 2015

• Il y avait en fait 18 mois que l'EPA négociait avec Volkswagen

• Les réactions ont porté sur l'impact économique… mais pas sur l'impact écologique

• «The company has set aside $7.3 billion to pay for the scandal. But experts say it’s likely to cost much more» The Washington Post

• « On a menti sur la pollution, mais pas sur la qualité des voitures » représentant d'un cabinet de communication de crise sur France Info au lendemain des révélations.

• «Aujourd'hui, nous vivons dans un monde où l'informatique est omni présente et dans lequel de plus en plus d'algorithmes définissent la loi, l’interprètent et, last but not least, permettent de la contourner sans vergogne.» APRIL

Complexité• Facebook : 60 M de lignes de code

• Automobiles sophistiquées : 100 M et plus

• Qualité du code informatique

• accident de M. Bookout dans une Camry en Oklaoma qui s'est mise à accélérer

• enquête : les expert jugeront le code de Toyota en dehors des règles - «spaghetti code»

• Quel équilibre entre le «consommateur» et les «producteurs» ?

• Sur quelles compétences les pouvoirs publics peuvent-ils s'appuyer pour analyser de tels codes ?

Ouvrir le code• Loi de Linus, posée par Eric Raymond :«given enough eyeballs, all bugs are

shallow.»

• Logiciel libre = droit de comprendre, apprendre, modifier…

• Volkswagen, au travers de son association commerciale a été parmi les plus farouche opposants à un amendement au USA pour que le code des automobiles soit une exception. Le code doit rester propriété des entreprises.

• L'EPA a écrit au Copyright office (17 juillet 20015) pour empêcher les usagers de pouvoir ainsi modifier les logiciels embarqués… par crainte que les normes soient ainsi outrepassées.

Qui va lire le code ?• Eben Moglen «We should be

allowed to know how the things we buy work. Let’s say everybody who bought a Volkswagen were guaranteed the right to read the source code of everything in the car»

• Même si 99% des usagers ne vont jamais regarder, il suffit que cela soit possible pour les spécialistes pour créer de la confiance.

Defeat devices• Sony : Rootkit mettant en danger la sécurité des ordinateurs

• Condamnations antérieures de constructeurs pour des méthodes permettant de masquer ou détourner les règles de pollution (Ford, 1998 ; Honda 1998 ; General Motors 1995 ; Caterpillar, Renault, Volvo, 1998…)

• Machines à voter… régulièrement hackées par des chercheurs en sécurité informatique

• Intérêt des citoyens / Intérêts économiques

Lloyd Miller pour le New York Times

Sécurité

Logimobile• Importance des logiciels dans la nouvelle automobile

• circuit de commande : freins, contrôle de distance,…

• circuit de loisir

• circuit d'information (cartographie, embouteillages)

• hybridation mécanique/informatique

• qui change la nature du contrôle sur les machines

Entertainment• La «société du spectacle» fait que les accès aux loisirs et à l'entertainment doivent devenir ubiquitaires

• Mais c'est au travers des accès loisirs que l'on peut se retrouver aux commandes des réseaux de sécurité

• Dans le cas de l'expérience Wired, le réseau téléphonique cellulaire permettait de se connecter à des automobiles à des milliers de kilomètres

• Nous nous préparons pour un «internet des objets» comportant des millions de matériels connectés

• André Gorz : «Logiciarisation de toutes les activités humaines»

• Quel sera le modèle de sécurité ?

Droit à l'ennui• Expérience menée par des

chercheurs de Telefonica à Barcelone

• On a fourni une app à des volontaires qui devaient indiquer leur «niveau d'ennui» pendant une quinzaine

• En regardant les taux d'usage des mobiles, les chercheurs ont pu repérer le degré d'ennui.

• L'app envoyait un article de Buzzfeed aux personnes

• Ceux que l'app estimait s'ennuyer avaient deux fois plus de chance de cliquer sur ce lien que les autres

Confiance• Chaque matin, mon ordinateur

m'annonce qu'il a mis à jour des logiciels

• Mon téléphone me demande de se mettre à jour

• Puis-je faire confiance aux machines et leurs logiciels sensés m'aider

• Que veut dire «avoir le contrôle» sur des machines qui en réalité ne nous appartiennent pas, mais sont comme des services délivrés à distance chez nous par des prestataires extérieurs ?

Android / Google• Débat aujourd'hui sur le rôle de

Android sur l'abus de position dominante de Google

• OS libre… mais les constructeurs doivent accepter en pack toutes les app des services Google

• Donc Android devient un cheval de Troie pour ces services… qui sont les sources de revenus pour Google

Loyauté• Les plateformes font-elles

réellement ce qu'elles prétendent faire ?

• Effet de réseau

• La technologie tend à favoriser les gros opérateurs car le réseau est un avantage compétitif : les usagers doivent utiliser les mêmes services que les autres

• Quelle régulation de ce type de plateforme

• Besoin de lois anti-trust adaptées à la nouvelle situation

Modèles de la régulation• Larry Lessig (Free Culture)

• Code is Law : Importance de l'architecture (ce qui rend possible ou non. DNS, cloud,…)

• Régulation par le marché

• Importance des normes sociales

• Consolider par la loi (internationale)

Démocratie techniqueet puissances industrielles

Apple datacenter

Comment ça marche

Protocoles• «On nomme protocole les conventions

qui facilitent une communication sans faire directement partie du sujet de la communication elle-même.» (Wikipédia)

• Communication phatique ("Allo")

• Vérifier que l'échange est bien établi

• Une forme de métacommunication (connexion, vérification de la compréhension, fin de l'échange)

• Ne porte pas sur le contenu sémantique de l'échange (informations, documents) mais sur les données transmises

Protocoles internet• le 1 janvier 1983, Arpanet fait de TCP/IP la "pile" des protocoles de l'internet

• réseau en couches

• Protocole IP!

• découper un message en paquets

• mettre une enveloppe pour chaque paquet

• indiquant le numéro IP de l'expéditeur

• et celui du destinataire

• Chaque paquet peut prendre un chemin (routage) différent

• Le message est recomposé à l'arrivée

• Avec une vérification (rôle de TCP Transport Control Protocol)

Protocoles des applications• web -> http et https

• navigateurs web, serveurs

• mail (smtp, pop et imap)

• clients mail (Thunderbird) ou via le web (Gmail, YahooMail, Hotmail,…)

• ftp (file transfert protocol)

• logiciels graphiques (filezilla)

• xmpp (messagerie instantanée)

• Jabber, Skype, Aim, Facebook

• ntp (synchronisation des horloges)

Normalisation des protocoles• Internet est un recueil de protocoles

• définition des échanges

• interopérabilité (réseau mondial)

• jeux de caractères

• Qui définit les protocoles et les fait évoluer ?

• processus ouvert de normalisation

• rôle de l'IETF (Internet Engineering Task Force)

Processus de normalisation• Ouverture d'un groupe de travail sur un sujet

• Négociations entre industriels

• Qui disposent déjà d'avances (brevets, expérience)

• Rédaction d'un brouillon (draft)

• Ouverture aux commentaires publics (RFC Request For Comments)

• Décision de valider la proposition comme norme

• Réalisation des premiers logiciels appliquant la norme (en général provenant des membres du groupe de travail)

• «Rough consensus and running code»

Normalisation = négociation• Un processus politique autant que

technique

• Question des brevets possédés par les membres du groupe de travail

• licence (F)RAND — (Fair), Reasonnable And Non-Discriminatory

• ouverture complète du brevet

• Expérience du W3C

Vers les nuages

• Représentation de l'internet comme un nuage

• ne pas décrire ce qui s'y passe

• Déplacement des serveurs «vers les nuages»

• Développement d'une phase industrielle de l'internet

Représenter l'internet

• Exemples de schémas représentant l'internet dans les brevets américains

Datacenter

Informatique au fil de l'eau• John McCarthy : «computation may someday

be organized as a public utility.» (1961)

• Transformations de fond du processus informatique :

• -Temps partagé (matériel)- Ordinateur personnel (logiciel) - En réseau (information)- Dans les nuages (service)

• Multiplication des terminaux de lecture mobiles

• Production de données en flux continu

Informatique en nuage• «Le cloud computing est l'accès via le réseau, à la demande et en

libre-service, à des ressources informatiques virtualisées et mutualisée» (NIST)

Services• Software as a Service

• les logiciels sont déportés. Usage multiplateformes. Travail collaboratif

• exp : traitement de texte Etherpad (libre) - Google Drive Microsoft Office 365

• Solution à l'hétérogénéité des parcs matériels des entreprises (BYOD Bring your own device)

• Solution pour les particuliers (stockage sécurisé)

Où sont les données ?• Les données sont sur les serveurs du

prestataire

• Différences concernant le droit sur les données

• cloud souverain

• surveillance NSA et son impact économique sur l'industrie du cloud

• Effet de lock-in

• exp : passage à l'abonnement pour la suite graphique Adobe

Question de confiance• Vers quel prestataire se tourner ?

• Avantage aux grandes plateformes

• Qui s'étendent pour couvrir toute la chaîne de services

• Y compris les services financiers (Apple Pay)

• Pour les nouvelles entreprises : faire reposer son infrastructure sur un tiers

• Exp : Netflix et Amazon AWS

Bascule des métaphores

• Horizontal

• Code ouvert

• Peu de points de contrôle, interactions robustes entre usagers

• Partage (et téléchargement)

• Autonomie des postes des usagers

• Structure hiérarchique centralisée

• Avec un point central de contrôle

• Jardins privés (modèle vertical de Apple et Facebook)

• Streaming

• Clients légers

Internet Cloud

End to end • Répartir «l'intelligence» aux

extrémités de la communication

• serveur et client

• Le réseau reste un simple outil de transmission des données

• Source d'innovation (il n'y a pas d'autorisation à demander pour tester de nouveaux protocoles)

• Garantie d'autonomie des usagers

Congestion• Quand le réseau est encombré, les routeurs rejettent des paquets…

qui viennent donc encombrer plus encore le réseau

• Loi de Metcalfe : la valeur d'un réseau croit comme le carré de son nombre d'usagers

• Bob Metcalfe en 1995 avait prédit un écroulement du réseau en 1996… celui-ci n'ayant pas eu lieu, il a «mangé son article» lors de la conférence WWW 1997

• Notions de «best effort»… et de QoS (Quality of Service)

Neutralité• Terme lancé en 2003 par Tim Wu et Larry Lessig

• Signifie que les gestionnaires de réseau doivent faire circuler les paquets au même rythme

• quels que soient le serveur et le client

• Opposition entre l'industrie des télécoms et celle des "internet pure players"

• Importance pour la liberté d'expression

Conflits

Marchés bifaces• Des intermédiaires qui

peuvent capter des recettes tant sur les utilisateurs (clients) que sur les producteurs

• marges arrières dans la grande distribution

• financement des médias

• gratuité des moteurs de recherche

• Démonstration du pouvoir des intermédiaires

• déréférencement (supermarchés, Google, Hachette/Amazon)

• ralentissement (YouTube et Free)

Gérer la congestion• Investissement des télécommunications

• Amélioration des algorithmes (NGN - New Generation Network) et de la compression

• Qui doit financer ?

• Les usagers

• Les serveurs bénéficiaires

• Création de services dits "gérés" qui ne relèveraient pas de la neutralité

• télévision, télémédecine… éducation, jeux… liste sans fin (proposition Google/Verizon 2010)

Inscrire dans la loi• Le Conseil National du numérique est d’avis :

• Que la liberté d’expression n’est pas suffisamment protégée dans la loi française face au développement des pratiques de filtrage, de blocage, de censure, de ralentissement.

• Que le principe de neutralité doit être reconnu comme un principe fondamental nécessaire à l’exercice de la liberté de communication et de la liberté d’expression et de l’inscrire dans la loi au plus haut niveau de la hiérarchie des normes.

• http://www.cnnumerique.fr/neutralite/

Proposition de loi Lemaire• Une loi difficile :

le numérique touche aux prérogatives de tous les autres secteurs

• Un débat public autour de la loi

• Volonté d'inscrire dans la loi :

• la neutralité de l'internet

• une définition positive du domaine commun informationnel

Démocratie technique ?• Rôle de la conception technique

dans l'organisation d'un système démocratique

• L'internet n'est pas un outil, mais un milieu, un écosystème

• On y trouve donc tous les problèmes politiques du monde

• Et les conflits économiques ou géopolitiques

• Ainsi que l'organisation des comportements individuels (normes sociales)

Régulation• Légiférer, réguler, contrôler,

vérifier, valider…

• Les activités démocratiques traditionnelles doivent trouver leur place dans le numérique

• Le discours qui assimile contrôle et contrainte, ou règlementation et frein économique est dépassé

• La puissance du numérique appelle une autre forme de gestion démocratique… à inventer.