Brisons le totem de la 5G

Je reproduis ici le texte de positionnement de la Quadrature du Net (https://www.laquadrature.net/2020/10/09/brisons-le-totem-de-la-5g/) quant à la 5G. Il va de soit que j’approuve entièrement leur position. Merci à eux d’être aussi clair et de publier ce texte sous licence libre Creative Commons CC BY-SA 4.0.

Posted on9 octobre 2020

La Quadrature du Net refuse le futur promis par les promoteurs de la 5G.

Nous refusons le rêve d’Ericsson pour qui la 5G ouvrira à la « smart surveillance » un marché de 47 milliards de dollars d’ici 2026. Nous refusons que la vidéosurveillance puisse représenter le marché le plus important des objets connectés permis par la 5G, estimé à 70% en 2020, puis 32% en 2023. Nous refusons le fantasme sécuritaire dans lequel « l’obtention d’image d’une très haute qualité ouvre la voie à l’analyse intelligente de la vidéo via l’IA ». Nous refusons l’ambition de l’ancien employé de Safran, Cédric O, de procéder au déploiement de la 5G quoi qu’il en coûte.

Peu importe que ces promesses soient crédibles ou non, nous mettons en garde contre ce qu’elles représentent. Elles sont le rappel, fait par une industrie techno-sécuritaire qui n’existe que pour elle-même et impose partout son agenda, que nous n’avons jamais eu notre mot à dire sur ces grands programmes industriels ; que cette industrie et ses relais au sein de l’État s’arrogent le droit de nous contrôler au travers de leurs innombrables gadgets, quitte à participer à la ruine de ce monde ; quitte à risquer ce qu’il nous reste d’humanité.

Si l’industrie de la surveillance a fait de la 5G le totem de son monde fantasmé, il nous faut briser ce totem. Nous l’affirmons avec d’autant plus de détermination que nous savons que les politiques en matière de télécoms pourraient avoir un visage bien différent, que les réseaux télécoms pourraient être faits pour les gens et par les gens. Partout en Europe et dans le monde, des alternatives existent. Elles se heurtent malheureusement à l’indifférence coupable et intéressée des gouvernants.

À La Quadrature, les débats sur la 5G ont commencé il y a déjà quelques temps et sont parfois très animés. Au delà de la position commune affichée ici, nous prévoyons de publier différentes tribunes qui seront recensées ci-dessous afin de donner à voir les nuances dans nos positionnements.

https://www.laquadrature.net/2020/10/09/brisons-le-totem-de-la-5g/

Surveillance de masse

Nous reproduisons ici un texte fondamental quant à la compréhension de l’idée qu’aucune technique n’est neutre et que chacune porte en elle-même un projet politique, une vision du monde de part son existence elle-même. Ce texte est reproduit en licence libre sur le site de La Quadrature du Net et c’est pourquoi nous nous permettons de le reproduire tel quel tout en remerciant vivement ses auteurs de la clarté de leurs propos.

EDRi demande l’interdiction de la surveillance biométrique

Posted on14 mai 2020

L’association internationale EDRi, soutenue par La Quadrature du Net, lance une campagne européenne pour faire interdire la reconnaissance faciale et plus généralement la surveillance de masse biométrique. Nous publions la traduction du communiqué de lancement.

À travers toute l’Europe, des technologies de reconnaissance faciale et d’identification biométrique, intrusives et violant les droits, se répandent discrètement dans les espaces publics. Comme la Commission européenne consulte le public à ce sujet, EDRI appelle les États membres de l’UE à garantir que de telles technologies soient totalement interdites, à la fois dans la loi et dans la pratique.

Circulez, y a rien à voir…

À la fin de l’année 2019, au moins 15 pays européens ont expérimenté des technologies de surveillance de masse utilisant l’identification biométrique, comme la reconnaissance faciale. Ces technologies sont conçues pour surveiller, suivre et analyser les individus, pour les noter et les juger dans leur vie quotidienne.
Pire, plusieurs gouvernements l’ont fait en collaboration avec des entreprises technologiques secrètes, en l’absence de débat public et sans avoir démontré que ces systèmes respectent les critères les plus élémentaires de responsabilité, de nécessité, de proportionnalité, de légitimité, de légalité ou de sécurité.

Quelques milliers de caméras pour les gouverner tous

Sans la vie privée, vous n’avez plus de conversations privées avec vos ami·es, votre famille, votre supérieur ou même votre docteur. Votre militantisme et votreengagement pour sauver la planète sont connus de tous et toutes. Si vous lancez l’alerte pour dénoncer un fait d’exploitation ou de corruption, ou si vous assistez à une manifestation politique qui déplaît à votre gouvernement, on peut vous retrouver. Vous perdez de fait le droit d’assister à une cérémonie religieuse ou à une réunion syndicale sans qu’on garde un œil sur vous, le droit d’étreindre votre partenaire sans que quelqu’un vous regarde, le droit de flâner librement sans que quelqu’un puisse trouver ça louche.

La surveillance de masse permanente supprime le droit d’être réellement seul et instaure l’obligation d’être constamment surveillé et contrôlé.

COVID-1984 ?

Les débats autour de la pandémie de coronavirus ont vu naître des idées d’applications et d’autres propositions pour étendre rapidement les systèmes de surveillance, sous couvert de santé publique. Le risque est considérable que les dégâts causés par cet élargissement des mesures de surveillance survivent à l’épidémie. On peut se demander, par exemple, si les employeurs enlèveront les caméras thermiques des bureaux une fois la pandémie passée.

Les systèmes de surveillance biométriques exacerbent les inégalités structurelles, accélèrent la création de fichiers et de « profilages » illégaux, ont un effet intimidant sur les libertés d’expression et de réunion, et limitent les capacités de chacun·e à participer à des activités sociales publiques.

Fanny Hidvegi, responsable de la politique européenne à Access Now, insiste sur ce point :

« Les droits humains s’appliquent en temps de crise et d’urgence. On ne doit pas avoir à choisir entre la vie privée et la santé : protéger les droits numériques favorise la santé publique. La suspension des droits à la protection des données en Hongrie est la preuve que l’UE doit renforcer la protection des droits fondamentaux. »

La surveillance biométrique : une architecture d’oppression

Se présentant comme une « architecture d’oppression », la capture et le traitement non ciblé de données biométriques sensibles permet aux gouvernements et aux entreprises d’enregistrer en permanence et en détail qui vous rencontrez, où vous allez, ce que vous faites. Cela leur permet aussi d’utiliser ces informations contre vous — que ce soit par les pouvoirs publics pour faire appliquer la loi ou à des fins commerciales. Une fois ces enregistrements reliés à nos visages et corps, il n’y a plus de retour possible, nous sommes marqués au fer rouge. Il ne peut y avoir de place pour de telles pratiques dans une société démocratique.

Ioannis Kouvakas, juriste chez Privacy International (PI), membre d’EDRi met en garde :

« L’introduction de la reconnaissance faciale dans les villes est une idée extrémiste et dystopique qui menace explicitement nos libertés et pose des questions fondamentales sur le type de société dans laquelle nous voulons vivre. En tant que technique de surveillance très intrusive, elle offre aux autorités de nouvelles opportunités de s’en prendre à la démocratie sous prétexte de la défendre. Nous devons interdire son déploiement dès maintenant et de manière définitive avant qu’il ne soit trop tard. »

EDRi demande donc une interdiction immédiate et permanente de la surveillance de masse biométrique dans l’Union européenne.

La surveillance de masse biométrique est illégale

Cette interdiction est fondée sur les droits et protections consacrés par la Charte des droits fondamentaux de l’Union européenne, le Règlement général sur la protection des données (RGPD) et la Directive Police Justice. Ensemble, ces textes garantissent aux résidents de l’UE de vivre sans la crainte d’un traitement arbitraire ou d’un abus de pouvoir, et le respect de leur autonomie. La surveillance de masse biométrique constitue une violation de l’essence de ces textes et une violation du cœur même des droits fondamentaux de l’UE.

Une fois que des systèmes qui normalisent et légitiment la surveillance constante de tout le monde sont en place, nos sociétés glissent vers l’autoritarisme. L’UE doit donc veiller, par des moyens notamment législatifs, à ce que la surveillance de masse biométrique soit totalement interdite en droit et en pratique. Lotte Houwing, conseillère politique chez Bits of Freedom (BoF), membre d’EDRi, déclare :

« Les mesures que nous prenons aujourd’hui façonnent le monde de demain. Il est de la plus haute importance que nous gardions cela à l’esprit et que nous ne laissions pas la crise du COVID-19 nous faire sombrer dans un état de surveillance (de masse). La surveillance n’est pas un médicament. »

L’UE réglemente tout, des médicaments aux jouets pour enfants. Il est inimaginable qu’un médicament dont l’efficacité n’a pas été prouvée ou un jouet présentant des risques importants pour la santé des enfants soient autorisés sur le marché. Cependant, en ce qui concerne la captation et le traitement des données biométriques, en particulier à la volée dans les espaces publics, l’UE a été un foyer pour les expérimentations illégales. D’après une étude de 2020, plus de 80% des Européens sont pourtant opposés aux partages de leurs données faciales avec les autorités.

EDRi appelle la Commission européenne, le Parlement européen et les États membres à respecter leurs valeurs et à protéger nos sociétés en interdisant la surveillance de masse biométrique. S’ils s’y refusent, nous augmentons nos chances de voir naître une dystopie numérique incontrôlable.

23. Email, mon amour !

Je reproduit ici un magnifique texte d’un écrivain électronique @ploum qui, non content de nous livrer une pensée fort intéressante, la publie sous différents formats, mais en licence libre (CC-By BE). Se trouve après celui-ci une critique qui, me semble-t-il, permet de dépasser son propos.

Je me suis surpris à envoyer un long email à une personne que je suis depuis plusieurs années sur les réseaux sociaux. J’ai pris le temps de rédiger cet email. De le relire. De le corriger. De l’affiner. J’y exprime une idée simple que j’aurai pu lui envoyer sur Twitter, que ce soit en le mentionnant ou en messagerie privée. Je lui dis, tout simplement, que je ne souhaite plus interagir sur Twitter.

Le fait de prendre du temps, de réfléchir, de me relire m’a procuré un énorme plaisir. J’avais l’impression d’avoir apporté un petit quelque chose au monde, une clarification de mes idées, une main tendue, une piste de réflexion partagée. J’ai construit quelque chose d’intime, où je me révèle.

En tentant de regagner le contrôle de mon cerveau, j’ai retrouvé, sans le vouloir, l’art désuet de la relation épistolaire.

Nous avons oublié l’importance et la facilité de l’email. Nous l’avons oublié, car nous n’en avons pas pris soin. Nous laissons notre boîte aux lettres pourrir sous des milliers de messages non sollicités, nous perfectionnons volontairement l’art de remplir nos boîtes de courriels inutiles, inintéressants, ennuyeux sans plus jamais prendre le temps d’y déposer un courrier utile, écrit, intime.

Nous croyons que le mail est ennuyeux alors que ce sont nos pensées qui sont obscurément désertes. « Ce qui se conçoit bien s’énonce clairement et les mots pour le dire viennent aisément », disait Boileau. Force est de constater que nos cerveaux sont désormais d’infernaux capharnaüms assiégés par d’innombrables tentatives de les remplir encore et encore. Anesthésiés par la quantité d’informations, nous ne trouvons d’échappatoire que dans la consommation.

Souhaitant soigner ma dépendance à Twitter, j’avais décidé de ne plus suivre que quelques comptes sélectionnés dans mon lecteur RSS grâce à l’interface Nitter. En quelques semaines, une froide vérité s’est imposée à moi : rien n’était intéressant. Nous postons du vide, du bruit. Une fois ôtées les fonctionnalités affriolantes, les notifications, les commentaires, le contenu brut s’avère misérable, souffreteux. J’avais pourtant sélectionné les comptes Twitter de personnes particulièrement intéressantes et intelligentes selon mes critères. Las ! Nous nous complaisons tous dans la même fange d’indignation face à une actualité très ciblée, le tout saupoudré d’autocongratulation. Réduite à quelques caractères, même l’idée la plus enrichissante se transforme en bouillie prédigérée conçue pour peupler un hypnotique défilement ininterrompu.

Un soir, alors que je profitais de ma douche pour articuler un concept théorique qui m’occupait l’esprit, j’ai réalisé avec effroi que je pensais en threads Twitter. Mon esprit était en train de diviser mon idée en blocs de 280 caractères. Pour le rendre plus digeste, plus populaire. J’optimisais spontanément certaines phrases pour les rendre plus « retweetables ».

En échange d’un contenu de piètre qualité, Twitter déformait mes pensées au point de transformer mon aquatique méditation vespérale en quête semi-consciente de glorioles et d’approbations immédiates. Le prix payé est inimaginable, exorbitant.

Ayant bloqué tous les sites d’actualité depuis belle lurette, je décidai que Twitter et Mastodon allaient suivre le même régime que Facebook et Linkedin : ne plus suivre personne. Je nourris désormais ma sérendipité d’écrits plus longs grâce à l’ancienne magie vaudoue du RSS.

Libéré, aéré, le cerveau retrouve soudain de la souplesse, de l’amplitude. Au détour d’une blague dans un forum que je suis, je crois deviner qu’un politicien a été mis en prison. L’information m’agresse. Elle occupe une place imméritée dans mon cerveau. Je n’avais pas envie de savoir cet inutile artefact qui sera vite effacé de la conscience publique. Comme un ancien fumeur soudainement allergique à la fumée, mon cerveau ne peut plus supporter les déchets pseudo-informationnels dont nous sommes abreuvés par tous les pores, par tous les écrans, par toutes les conversations.

Une fois débarrassé de cette gangue d’immondices, je me surprends à penser. Mes doigts se surprennent à vouloir écrire plutôt qu’à rafraîchir une page et réagir avec une émotion préfabriquée. Au lieu d’une démonstration publique de mon égotique fierté travestie en succédané de communication, j’ai envie de forger des textes, des histoires, de faire passer une information dans un contexte plus large, de lui donner le temps d’exister dans l’esprit des récipients. Et tant pis si ces derniers sont moins nombreux, moins enclins à m’injecter leurs likes chargés de dopamine.

Devant ma boîte aux lettres, immaculées grâce à une stricte observance des mes règles inbox 0 et de désabonnement, je guetterai la réponse comme un adolescent attend le facteur lui tendant une enveloppe parfumée. Et si elle ne vient pas, ma vie continuera sans que je sois obnubilé par un compteur de vues, de likes ou de partages.

L’outil de communication décentralisé web 5.0, 6.0 et 12000.0 existe déjà. C’est l’email. Nous n’avons tout simplement pas encore vraiment appris à l’utiliser. Nous tentons vainement de le remplacer ou de l’améliorer à grands coups d’interfaces et de fonctionnalités multicolores, car il expose la vacuité de nos interactions. Il met à nu que nous devrions faire un effort, changer notre cerveau et notre volonté. Tant que nous nous évertuerons à produire et consommer le plus de bruit possible en insatiables gloutonneries, tant que nous mesurerons notre succès avec d’autocrates statistiques, aucun système ne nous permettra de communiquer. Parce que ce n’est pas ce que nous cherchons. Parce que nous nous sommes perdus dans l’apparence et la quantité, jetant aux oubliettes l’idée même de qualité. Nous critiquons la faiblesse d’esprit et le court-termisme de nos politiciens sans réaliser que nous moquons notre propre reflet.

Lorsque nous serons assez mûrs pour tout simplement vouloir échanger de l’information de qualité, nous découvrirons que la solution était sous nos yeux. Si simple, si belle, si élégante, si décentralisée.

L’email.

@ploum

Il faut relever que si ce texte met en évidence une autre manière de considérer le mail que comme un moyen d’envoyer de petits messages et relève bien le plaisir qu’il y a prendre le temps d’écrire des textes longs, la stigmatisation de l’écologie réalisée dans un autre texte par son auteur montre que les raisons de son intérêt pour l’email sont exclusivement celles d’un écrivain et que son efficacité en terme de relation entre le contenu et l’énergie dépensée n’est pas comprise.

Dans un autre texte sur le « Minimalisme numérique », dont l’objectif n’est pas une décroissance des besoins, mais une meilleure efficacité de besoins, en admettant que chacun définisse ceux-ci selon son bon vouloir, il adopte certes un point de vue intelligent parce qu’une absence d’efficacité est stupide, mais il néglige les modifications salutaires que des changement de pratiques peuvent avoir sur nous. Ainsi, son point de vue est de retrouver le plaisir d’écrire par l’utilisation d’email long, mais pas de trouver celui-ci dans la recherche d’un minimalisme énergétique. Les outils qu’il décrit ensuite, comme son utilisation d’un mac et d’un téléphone android en spécifiant simplement que les autres portables sont trop lourds et que le fairphone ne le convainc pas, montrent que l’idée de minimalisme qu’il soutient limite considérablement son évolution et que les principes du libre n’ont pas pour lui de conséquences écologiques.

Ce qui limite la porté de ce néanmoins beau texte.

Vidéo conférence – violation de domicile

J’écris ce petit billet pour faire part de mon immense étonnement face à la ruée du monde enseignant vers les vidéoconférences pour établir un travail d’enseignement à distance pendant le confinement dû au covid.

Jusqu’à présent, j’ai pensé que le domicile était pour chacun un lieu protégé du regard d’autrui, sauf en cas de circonstances si exceptionnelle qu’un juge devait statuer pour délivrer un mandat d’investigation à des policiers tenus de rendre des comptes quant à leurs fouilles.

À l’annonce de la nécessité d’un enseignement à distance, beaucoup d’enseignants ont décidé de donner des leçons en imposant clairement aux élèves le devoir d’utiliser la vidéo et cela, en période de confinement, dans leur domicile et plus particulièrement dans leur chambre. Certains on même demandé de photographier celle-ci. Tout cela avec la bénédiction implicite des départements de l’instruction publique.

Or, non seulement les outils utilisés, comme Zoom, Skype ou Team, sont des logiciels au code fermé dont aucune garantie de confidentialité n’est donnée, à part la parole de leur propres développeurs, mais leur utilisation étant faite sous l’autorité des enseignants, on peut se demander dans quelle mesure il est possible pour des enfants, des adolescents pour lesquels il est déjà difficile d’échapper à la participation à des réseaux sociaux utilisés par leur camarades, de s’opposer à une autorité scolaire qui s’introduit ainsi dans leur foyer.

Pour moi, la réponse est clairement qu’il ne leur est pas possible de refuser. Et non seulement l’élève ne peut le faire, mais sa famille non plus. Est-il normal qu’un enseignant puisse clairement écouter ce qui se passe dans une famille, se rendre compte des discussion qui s’y déroulent, des propos qui peuvent à tort ou à raison être tenu par chacun et plus encore, s’introduire dans l’intimité de la chambre d’un enfant ou d’un adolescent ?

Il est piquant de constater que des enseignants clamant haut et fort avant le covid la nécessité du respect de la vie privée, ne voient rien à redire à l’obligation qu’il donnent à leurs élèves d’utiliser la vidéo. Car, prétendre qu’ils ont le choix n’est pas honnête.

Pour moi, l’utilisation de logiciels de vidéo-conférence, libres et à plus forte raison propriétaires, est clairement une violation de domicile sans aucune justification.

Car il est totalement possible de réaliser un enseignement à distance sans utiliser la vidéo. De plus des logiciels respectueux des données de connexion ou des messages échangés par leur biais avec les élèves existent, le plus connu étant Moodle.

Intelligence collective

Pendant cette pandémie de coronavirus, il arrive qu’on entende parler d’intelligence collective. Que beaucoup de personnes se mettent à réfléchir sur la production de respirateurs et on loue l’apparition d’intelligence collective.

La discussion ci-dessous s’y réfère explicitement et me semble intéressante par les avis contrastés auxquels elle mène en terme de reconnaissance vocale. Car, mobiliser de nombreuses ressources humaines pour traiter un problème ne suffit certainement pas à amener un collectif, aussi important soit-il, à l’intelligence. La résolution de problèmes tels que les déplacement en voitures ou l’information par la vidéo le montre clairement.

La relation entre la reconnaissance vocale et l’intelligence artificielle est aussi troublante de ce point de vue puis on y fait l’hypothèse que c’est en utilisant un grand nombre de cas qu’on pourrait contextualiser les discours. En un sens, c’est l’espoir de pouvoir utiliser une forme d’intelligence collective pour rendre le système moins con. Espoirs déçus semble-t-il. Mais ne devait-on pas s’y attendre.

Extrait de :

La reconnaissance vocale aux prises avec la réalité sociologique – Décryptualité du 6 avril 2020

Luc : Sujet du jour, on va reprendre certains éléments notamment sur cette question de l’intelligence collective qui était dans un des articles, pour parler un petit peu, notamment, de reconnaissance vocale et de la nécessité, ou pas, que les humains, que les développeurs interviennent pour qu’un système automatique soit pertinent. Le point de départ c’est un article2 que j’ai vu dans Next INpact qui reprend quelque chose publié par The Verge un magazine américain. Ils ont repéré que les outils de reconnaissance vocale identifiaient mal les mots dans 19 % des cas quand les entretiens étaient faits avec des Blancs et dans 35 % des cas quand c’était fait avec des Noirs américains. Est-ce que le système est raciste ?

Manu : Le système est peut-être raciste, en tout cas il a des comportements qui le semblent et qui maltraitent les utilisateurs du système. C’est quelque chose qu’on retrouve avec les images : les images ont l’air d’être calibrées par des gens qui sont blancs et qui n’arrivent pas à bien gérer des images de gens noirs.

Luc : Pour moi c’est comparable mais pas ce n’est pas tout à fait la même chose parce que tu ne parles pas différemment que tu sois noir ou blanc. En revanche, aux États-Unis, il y a une dimension sociologique très importante : on sait que les populations noires américaines sont très majoritairement défavorisées, donc vont potentiellement avoir des accents liés à leurs groupes sociaux qui vont être plus populaires, etc., des façons de parler, indépendamment du fait que leur peau soit noire, le phénomène physique lié à ça n’a aucun lien, c’est simplement qu’ils vont être sous-représentés dans les échantillons de gens qui vont parler ou ce genre de choses. Sur les images, par contre ?

Manu : Par contre, là ce sont les programmeurs qui vont calibrer les images et les dispositifs de prise d’images, et qui vont plutôt orienter dans un sens ou dans un autre. Souvent, quand les programmeurs mettent en place ces outils, c’est eux-mêmes qu’ils utilisent comme point de départ et c’est leur groupe, leur entourage d’une manière générale, donc ils vont calibrer en partant sur des visages blancs traditionnels.

Luc : Après, ils vont éventuellement prendre des tas de paquets de photos et ils vont aller taper dans des photos où si la population est majoritairement blanche il y aura beaucoup de gens blancs et, potentiellement, des banques de photos de trucs qui les intéressent, en tout cas qui leur semblent correctes, du coup il va y avoir des biais. Il y a eu le même type de problèmes avec la reconnaissance faciale des visages asiatiques par exemple, parce que, pareil, les systèmes sont mal alimentés. Donc il n’y a pas besoin qu’il y ait un projet derrière, c’est juste que c’est aussi le reflet du milieu social dans lequel naviguent les gens qui mettent ça en place.

Manu : J’aurais tendance à dire, c’est une expression d’informaticien, GIGO, garbage in, gabage out. En gros, si on met du caca dedans on va obtenir du caca à l’extérieur. Dans le monde du Libre, il y a des gens très intéressants qui essayent d’obtenir des données pour ensuite en faire quelque chose, notamment sur la reconnaissance vocale. On a des amis à Mozilla qui bossent là-dessus.

Luc : Il y a un projet Mozilla, c’est Common Voice3, comme la voix en anglais, voice.mozilla.org, dans lequel, selon la bonne logique du Libre où chacun apporte quelque chose et de l’intelligence collective, tout le monde peut venir contribuer, parce que, évidemment, ce genre de système a besoin de beaucoup d’échantillons et de gens qui écoutent. On peut à la fois enregistrer sa voix et écouter les échantillons enregistrés par d’autres personnes pour que le système sache si c’est un bon échantillon sur lequel travailler ou pas. On a regardé vite fait et on va vous faire écouter une partie validation d’un des échantillons sur lequel on est tombé. Pour moi il illustre très bien le problème.

Voix off : Une partie de la chanson réside dans sa sonorité, avec les thèmes « archetypique ».

Luc : Le mot « archetypique » n’existe pas, c’est archétype, ça s’écrit « ch », le mot est un peu compliqué, la personne qui parle se prend les pieds dans le tapis, elle ne connaît probablement pas le mot. Typiquement, là on voit la phrase qui fait que quelqu’un qui a un petit peu moins de culture littéraire que quelqu’un d’autre va se planter. Peut-être que cette personne aura un accent de certaines catégories sociales moins éduquées, mais qui vont avoir du mal à être représentées dans ce cas-là.

Manu : C’est quelque chose qu’on va avoir dans tous les cas et c’est là où on espère que l’intelligence collective, comment on pourrait dire, soit bien regroupée, récupérée, tamisée, pour en ressortir les bonnes informations. Ce n’est pas facile, je pense qu’il y a un gros effort à faire derrière pour éviter les biais.

Luc : Un autre truc là-dessus, j’en ai écouté plein, je me suis amusé à les valider, c’est 80 % d’hommes qui parlent. Il y a très peu de femmes dans les enregistrements de Mozilla. On voit qu’en laissant ça ouvert, finalement Mozilla récupère des gens qui sont plutôt libristes, qui sont souvent des hommes, souvent bien éduqués. Rien que dans le choix des textes, des fois il y a des noms de villes ou des noms propres étrangers, super durs à dire.

Manu : On avait eu des cas, qu’on avait trouvés amusants tous les deux, de données qui avaient été fournies à des machines et qui avaient dégénéré derrière, notamment dans des cas d’assistants conversationnels qui essayaient de discuter avec les individus sur Internet et qui étaient devenus pseudo-nazis.

Luc : Microsoft avait fait ça, ils avaient mis une IA et on pouvait aller tchatter avec parce que c’était trop cool. Évidemment tout le monde s’est amusé à la troller et en 48 heures, je crois, elle est devenue nazie, misogyne, à peu près le pire qu’on puisse imaginer, parce que c’était rigolo.

Manu : C’est là qu’on se rend que la machine elle-même, si on ne lui donne que des mauvaises informations, elle ne va pas en tirer autre chose que des mauvaises informations.

Luc : Tu pourrais trouver de bonnes conclusions avec des mauvaises informations : le propre de l’intelligence naturelle c’est d’être capable de comprendre les choses par rapport à leur contexte. Or, la machine ne comprend pas, n’a pas cette capacité-là, donc elle ne crée aucun sens. Elle se contente de faire des traitements statistiques d’une base de données. Il y a des gens qui disent « on va lui donner vraiment des tonnes et des tonnes de données, des milliards de données, du coup ça va aller ». Ce que je pense c’est qu’on peut avoir les trucs les plus puissants du monde et mettre des quantités de données pas possibles, le système ne s’en sortira jamais parce qu‘il n’est pas capable de comprendre le contexte. Il faut que quelqu’un lui mette le contexte.

Manu : Ça c’est un sujet qu’on a déjà eu entre nous, clairement.

Luc : Et on n’est pas d’accord !

Manu : Et on n’est pas d’accord ! C’est peut-être mon côté informaticien : j’ai l’impression que si on donnait à un ordinateur toutes les données du monde, à un moment donné il en retirerait une information contextualisée qui lui suffirait pour passer pour nous. Clairement passer le fameux test de Turing par exemple.

Luc : Non ! Je pense que non parce qu’elle n’est pas contextualisée. Le contexte est hyper-variable et à moins que quelqu’un soit capable de décrire le monde tout entier, constamment, de dire « dans tel contexte ceci, dans tel contexte cela », sachant que le contexte change tout le temps puisqu’on a tous des capacités à inventer des mots, à faire de la poésie, des analogies, des machins, etc., la culture change constamment, c’est une mission impossible en fait.

Manu : Moi je rétorquerai, mon côté informaticien, que oui, effectivement, on n’y arrive pas aujourd’hui. Clairement avoir un contexte qui soit malléable, évolutif, qui soit capable de prendre en compte peut-être même des choses personnelles, ça va être difficile pour l’ordinateur, mais ce n’est qu’une question de quantité. La quantité est une qualité et on peut transformer, c’est ce qu’essayent de faire les géants du Web, les Google, les Uber même avec leurs outils de conduite automatique, ils essayent, à partir de masses de données, d’en retirer quelque chose. Est-ce que ce sera une intelligence ? Non. Est-ce que ce sera quelque chose qui aura un bon sens ? Non, parce que je ne suis même pas sûr qu’on puisse définir entre nous ce qu’est un bon sens. C’est comme la conscience. Allez définir la conscience ! Moi je pense que ce n’est pas définissable, parce que peut-être même que ça n’existe pas et que nous, en tant qu’humains, finalement nous ne sommes que la masse des données qui nous constituent, de manière imparfaite parce qu’on se va se planter régulièrement, on va régulièrement se tromper dans les contextes qu’on utilise nous-mêmes, comme un ordinateur, parfois pire qu’un ordinateur, on va faire des erreurs de bon sens, dans le sens où toi tu l’entends.

Luc : C’est là-dessus qu’on n’est pas d’accord, donc on n’arrivera pas à se mettre d’accord ici. Pour moi c’est une différence fondamentale dans la façon dont l’information est traitée et on peut en mettre des tonnes, ça n’améliorera pas la situation, même si on fait des erreurs, il y a des erreurs absolument grossières qu’on ne fera pas. De la même façon que tu as même des animaux qui sont capables de catégoriser des éléments en en ayant vu très peu ; en fait, c’est cette question de la compréhension du contexte. Sauf à ce que la technologie évolue et qu’on passe sur des systèmes d’analyse qui soient radicalement différents, pour moi on va continuer comme depuis les années 50 en pensant qu’on va y arriver parce que ce sera plus puissant, qu’on aura plus de données.

Manu : Il est possible effectivement, comme on le dit depuis 60 ans, « dans 20 ans, l’intelligence artificielle sera au niveau d’un être humain ». Et aujourd’hui encore on dit souvent « dans 20 ans ça y est, on y est » . Donc c’est possible que ce soit toujours le cas, que ce soit toujours à l’infini.
En tout cas on peut se mettre d’accord, déjà aujourd’hui, c’est qu’on fait beaucoup de conneries avec l’informatique, il y a beaucoup d’algorithmes dont il faut se méfier, il y a beaucoup d’usages qui sont mauvais et, effectivement, il faut qu’on y regarde de près. Éviter que les machines deviennent racistes, qu’elles deviennent misogynes, xénophobes et qu’elles nous entraînent dans des comportements qui seront vraiment gravés dans le silicium parce que ce serait particulièrement mauvais pour nous. Là il faut y faire attention, c’est pour ça que le Libre est important.

Luc : Et garder le contrôle de l’informatique.

Manu : Exactement. Là on est d’accord, je pense, et il faut qu’on y bosse.

Covid eo 19

Cet article a pour but de souligner les conséquences informatiques démesurées de la crise sanitaire que nous vivons. En particulier dans l’enseignement.

Si quelques voix s’élèvent aujourd’hui pour en rendre la mesure plus juste, il me semble que le manque d’analyse et de retenue dans l’utilisation des technologies qui nous sont proposées va avoir de lourdes conséquences sur l’avenir.

Les raisons qui m’ont poussé l’abandon de la voiture étant les mêmes que celles qui me poussent à lancer cet appel, j’aimerais dire ici toute l’absurdité que je conçoit dans l’utilisation d’un tel moyen de transport inefficace. Dans un monde qui met le rendement presque au-dessus de toute valeur, comment comprendre en effet une immense majorité des déplacements dans un objet de plusieurs tonnes sur quelques kilomètres pour ramener du pain par exemple, généralement pour déplacer une unique personne de moins de cent kilogrammes. Comment comprendre l’utilisation d’un tel véhicule alors qu’on évoque plus depuis longtemps la pandémie de morts qui lui est liée, tant en raison de la pollution et des accidents qu’en raison de la diminution de l’activité physique qu’elle induit.

Comme avec l’automobile, la crise actuelle nous fait perdre tout sens de la mesure. Elle dirige nos actions vers des facilités qui cachent leurs coûts. Les immenses efforts consentis aujourd’hui pour généraliser la vidéo comme moyen de communication évident entre les gens ressemblent fortement à la publicité faite pour inscrire la voiture dans cette même perspective. Autour d’un feu, des amis se rencontrent grace à leur voiture en arrière plan. L’image est aujourd’hui incomplète ou désuète. Il y manque les smartphones connectés en 5G sur Microsoft Team.

Le streaming, la publicité, les traceurs constituent aujourd’hui l’immense majorité du trafic réseau et ainsi, l’immense majorité de la pollution qui lui est lié. Or, à l’instar des voitures, la question du rendement de ces pratiques se pose. Pour moi, déplacer une information par un canal vidéo, c’est comme déplacer du pain dans un 4×4. Dans les trois domaines que je connais, la physique, l’informatique et les mathématiques, la quasi totalité des vidéos disponibles présente une information qui tiendrait sur une page de texte et qui est clairement très en deçà de ce que peut fournir un texte. Par ailleurs, le travail nécessaire pour construire des vidéos de qualité est simplement hors de portée de la plupart des gens. On ne s’improvise pas scénariste, metteur en scène, cameraman et monteur facilement.

Ainsi, si l’information transmise par les vidéos est souvent très pauvre, son coût est très important.

En terme de stockage d’abord. Il est évident qu’à vingt-cinq images par seconde, la photographie est clairement disqualifiée. Et les prodiges accomplis par les ingénieurs pour obtenir toujours de plus grandes capacités, s’apparentent le plus souvent à un incitation à ne plus réfléchir à ce qu’on fait, exactement comme dans le cas de la taille des automobiles où le « au cas où » règne. Or, aujourd’hui ce stockage à des coûts énergétiques non négligeables.

En terme de flux ensuite, puisque le streaming de toute nature (vidéo on demand, visio conférence, …) est un énorme consommateur de bande passante qui sollicite tellement les infrastructures (serveurs, routeurs, clients, …) que notre environnement s’en trouve modifié. L’implantation d’antennes de grande capacité devient indispensable à l’acheminement de ce flux de données qui, je l’affirme ici, s’apparente plus à du bruit qu’à de l’information.

En terme de protection des données aussi, puisque non seulement l’arrivée des images dans la maison livre aux multinationales (les GAFAM, dont Microsoft fait partie) des informations sensibles sur nos modes de vie, sur les conversations de tiers non prévenus dans la maison, sur des éléments de mobilier sans aucun doute facilement reconnus par des programmes de reconnaissance d’objets. Comme l’ont montré l’espionnage par le logiciel Zoom détournant sans accord préalable des données au profit de Facebook et l’affaire Snowden, tous les acteurs fournissant des logiciels dont personne ne peut contrôler le code, ont des intérêts certains à récolter nos données. De plus, un élève n’est jamais en situation de refuser un entretien par visioconférence demandé par une autorité comme un enseignant. Comme souvent celui-ci se déroule dans la chambre même de l’élève, s’il utilise son ordinateur personnel ou son smartphone, tant le lieu de vie d’une personne est … personnel, c’est un regard totalement injustifié porté sur son intimité par quelqu’un qui le force à se montrer. Cela n’est pas admissible.

Enfin, de tous les points de vue, demander à des élèves d’utiliser des applications en vue de vidéo conférence, me paraît être une très mauvaise idée. Ces applications s’apparentent à des réseaux sociaux, avec tous leur défauts, auxquels on force les jeunes à adhérer. Microsoft l’a très bien compris et la promotion faite par les services techniques pour des applications comme Team, qui laisse supposer que Moodle, logiciel gratuit, libre et qui peut être autohébergé et donc parfaitement auditable par un préposé à la sécurité des données, tant du point de vue de ses conditions d’utilisation que du code source qu’il utilise, ne satisferait pas à ces même conditions, n’est simplement pas acceptable.

La nécessité d’un enseignement à distance ne doit pas se faire au détriment des intérêts des élèves. Leur demander d’installer des applications fermées, dont on ne peut assurer qu’elles ne contiennent pas de traceurs n’est pas admissible. Faire autrement signifie donc un retour aux standards : les navigateurs web, Firefox en particulier. C’est la seule manière, hors l’utilisation de logiciels totalement libres, de pouvoir tenter de s’assurer, en tant que client d’un service, qu’on n’est pas pisté. C’est la seule manière d’avertir les élèves du risque indéniable que ces applications font planer sur leurs vies et des moyens de s’en prémunir. Pour les enseignants, c’est la seule manière d’être honnête vis à vis de leurs élèves et de ce point de vue, mais de de plein d’autres aussi, Moodle est clairement un système d’enseignement à distance à privilégier.

Enfin, à l’instar des tenants des vidéos-conférences qui étudient à la loupe toutes les fonctionnalités de leur applications, comme le font les automobilistes pour leur machines polluantes, pour en réduire les « petits » inconvénients, il me semble nécessaire non seulement d’exprimer clairement l’inutilité du recours à la vidéo dans l’immense majorité des cas, mais la nécessité de faire la promotion du texte, moyen de transport de l’information par excellence du point de vue du rendement.

C’est la raison pour laquelle, je propose sur ce site, de l’information pour faire de l’informatique en ligne de commande. Informatique qui n’est certainement pas de moins bonne qualité pour cette raison, faut-il le préciser.