« Chacun de vos faits et gestes sera suivi » : Les bureaux post-COVID ressembleront au système chinois de crédit social


Nous avons récemment expliqué en détail comment, lorsque les cols blancs américains retournent dans leurs bureaux, leurs complexes commerciaux et leurs gratte-ciels, leur expérience dans l’espace de travail « réouvert » après la visite médicale ressemble à une zone de contrôle de sécurité d’aéroport, avec des protocoles invasifs comme des contrôles de température fréquents, une « distanciation sociale » et une surveillance de la santé, ainsi que des cabines fermées en plexiglas et des contrôleurs de l’application de la loi.

Si tout cela ressemble à des ennuis, le WSJ s’est depuis lors penché sur la question des futurs espaces de bureaux américains, et le résultat final semble pire que prévu. « Chacun de vos faites et gestes sera surveillé »souligne le rapport :

Dans le centre de Manhattan, des caméras thermiques prendront la température du corps des employés qui s’installeront dans une tour de bureaux de 32 étages au Rockefeller Center. Le propriétaire de l’immeuble, RXR Realty, a déclaré qu’il développait également une application mobile permettant aux locataires de surveiller – et de noter – le degré de conformité de leurs employés en matière de distanciation sociale.

PricewaterhouseCoopers LLP a déclaré qu’il s’apprêtait à lancer ce mois-ci une application téléphonique pour les employeurs qui permet de retracer les contacts en analysant les interactions des travailleurs au bureau. Plus de 50 clients ont manifesté leur intérêt, dont certaines des plus grandes banques, des fabricants et des sociétés d’énergie du pays.

Cela ressemble beaucoup au système chinois de crédit social à la « big brother » qui a fait la une des journaux du monde entier l’année dernière, car il repose sur un logiciel de reconnaissance faciale de pointe conçu pour stocker en permanence un profil des citoyens tout en suivant activement leurs mouvements publics.

On a déjà signalé des cas où des citoyens chinois ont été empêchés de prendre le train parce que le système prévoyait qu’ils ne pourraient pas payer, ou d’autres risques « pré-criminels ».

Et maintenant, cela se rapproche de la maison, peut-être en se rendant à un bureau près de chez vous :

Le géant de la publicité Interpublic Group of Cos . envisage de diviser ses 22 000 employés américains en trois groupes distincts, en fonction des risques sanitaires perçus, qui pourraient inclure l’âge. Les travailleurs pourraient être invités à divulguer des informations médicales et d’autres informations personnelles les concernant et, dans certains cas, concernant les membres de leur famille…

« C’est une approche raisonnable, si vous pouvez passer au travers des questions opérationnelles et de certaines questions relatives à la vie privée et à la réglementation« , a déclaré le Dr Ossmann.

C’est certainement alarmant chaque fois qu’il faut admettre que les « questions de vie privée » ne sont qu’un petit quelque chose d’ennuyeux à « faire passer ».

Il est déjà question d’applications de suivi de la santé fondées sur un système de récompenses et de punitions qui ressemble à la série dystopique futuriste Black Mirror.

Ce système serait en outre intégré à une technologie d’imagerie thermique controversée – dont certaines ont déjà été mises en place dans les entrepôts d’Amazon – capable de stocker des données de reconnaissance faciale (la société promet toutefois de ne pas activer le logiciel de stockage).

Et il est complété par des « cobayes » vivants – plutôt des employés de bureau qui reviennent actuellement, comme l’a écrit le WSJ à propos d’une société immobilière :

RXR, la société immobilière, teste de nouveaux systèmes sur ses propres employés. « Nous nous utilisons comme des cobayes », a déclaré Scott Rechler, directeur général de RXR.

L’entreprise vise à ce que son application de distanciation sociale soit prête à la fin du mois de mai. Les mouvements des travailleurs sont suivis par le biais de leurs smartphones – vous obtenez un score plus élevé plus vous passez de temps au bureau à plus d’un mètre d’une autre personne. Une personne voit son propre score, et l’employeur voit des données agrégées sur la façon dont les employés respectent la distanciation sociale dans son ensemble.

Respecter ou sinon quoi ?… Encore une autre raison pour laquelle les employés devraient se soucier de conserver leur emploi.

Et plus encore sur l’étiquetage de larges groupes d’employés en fonction des facteurs de risque du COVID-19 perçus :

Un travailleur ayant été testé positif aux anticorps du coronavirus, indiquant qu’il a déjà été infecté, serait considéré comme un employé de « niveau 1 » – le risque le plus faible – et pourrait retourner au travail lorsque les États et les villes lèvent les commandes de travail à domicile.

Les personnes sans anticorps mais qui sont considérées comme présentant un risque faible à modéré seraient considérées comme des employés de « niveau 2 ». Ce groupe comprendrait les employés de moins de 65 ans, qui ne vivent pas avec des personnes à haut risque et qui ne souffrent pas de maladies chroniques, notamment de diabète ou d’hypertension. Ce groupe pourrait éventuellement reprendre le travail lors d’une deuxième vague.

Les salariés de plus de 65 ans, ou ceux qui sont enceintes, fument, ont des maladies chroniques ou des problèmes de santé seraient considérés comme « niveau 3 ». Ces employés à risque devraient attendre le plus longtemps avant de retourner au travail, a déclaré le Dr Ossmann.

Nous nous demandons quand les premières poursuites pour discrimination basées sur la façon dont les caractéristiques d’identification sont interprétées et attribuées commenceront à descendre.

Mais là encore, pour voir comment tout cela se déroulerait réellement, il suffit de regarder les épisodes du Black Mirror. Qu’est-ce qui pourrait mal tourner ?

Source: Aube Digitale

«Les Pays-Bas bâtissent un Etat de surveillance pour les pauvres»


Le projet date de plusieurs années, mais il provoque maintenant un débat national aux Pays-Bas. En cause: un système de surveillance qui, selon ses opposants, mine les fondements de la liberté démocratique. Sur les plus pauvres, l’ombre de Big Brother.

Ne cherchez plus: s’il fallait se mettre d’accord sur la ville qui incarne le mieux le libéralisme et la tolérance, Amsterdam remporterait la palme. Ses célèbres coffee shops, son quartier rouge, mais aussi la légalisation du mariage du même sexe il y a presque deux décennies, l’autorisation de l’euthanasie, l’accueil naguère des minorités religieuses menacées remplacé aujourd’hui par celui du tourisme de masse. Vivre et laisser vivre! Et, en bons libéraux, les Amstellodamois accompagnent ces valeurs d’ouverture d’un solide sens du commerce.

Or une ombre plane sur ce modèle: celle d’un Big Brother qui prend ici les contours d’un algorithme mystérieux. Une affaire qui mêle technologie, collecte de big data, intrusion de l’Etat et qui, pour certains, amène le pays sur un chemin dangereux. «Les Pays-Bas bâtissent un Etat de surveillance pour les pauvres», résumait récemment un expert de l’ONU. «C’est un projet qui est l’équivalent numérique de l’intervention d’une escouade de forces de sécurité qui débarquerait chez vous et se mettrait à tout fouiller», complète la juriste Merel Hendrickx, dont l’organisation The Public Interest Litigation Project (PILP), s’oppose désormais à ces mesures devant les tribunaux.

Le projet en question a démarré il y a cinq ans, mais pratiquement personne n’avait pris la mesure de ses conséquences. Adopté au parlement national en l’absence de tout débat, SyRI (pour System Risk Indication) a tranquillement commencé à déployer ses effets.

En Allemagne, une décision de novembre 2019: En Allemagne, des sanctions contre les chômeurs sont censurées par la justice

Traquer les fraudeurs

Difficile, en réalité, de s’opposer à cet outil dont le but est de poursuivre plus efficacement les fraudes commises contre l’Etat providence. Le principe frappe même par son ingéniosité: il s’agit de combiner toute une série de données numériques facilement accessibles mais qui, jusqu’ici, étaient éparpillées. Les données sont innombrables: celles que recueillent les municipalités, les autorités fiscales, l’agence des assurances maladie et invalidité, les services d’immigration ou le Ministère des affaires sociales. Un algorithme est chargé de les croiser. Et de sonner l’alarme si des «anomalies» apparaissent, soit de possibles contradictions qui mettront les inspecteurs sur la voie de fraudes éventuelles.

Un exemple? C’est ce qu’ont demandé les juges d’un tribunal de La Haye, la semaine dernière, lors d’auditions qui ont opposé une coalition d’organisations de la société civile à l’Etat néerlandais. Selon ces organisations, SyRI représente une violation grave en termes de droits de l’homme et de libertés individuelles. Il n’en est rien selon l’avocate de l’Etat. L’exemple qu’elle livrait: imaginons une personne qui bénéficie de subventions car elle réside dans un certain type de logement. Or SyRI constate dans le même temps une faible consommation d’eau à cette adresse. Il y a dès lors une «anomalie», et donc matière pour les inspecteurs de l’Etat à mener une enquête plus poussée afin de vérifier que cette personne habite bien là où elle le prétend.

«Surveillance généralisée»

La démonstration semble anodine. Mais elle fait sursauter Tijmen Wisman dans son bureau de l’Université libre d’Amsterdam. «A eux seuls, les compteurs intelligents, d’eau ou d’électricité, prennent une mesure tous les quarts d’heure. Cela fait 96 par jour, et cela suffit à vous offrir une vue très détaillée de la vie d’une personne.» Or, le système ne s’arrête pas là. «SyRI peut puiser dans une gamme incroyablement étendue de données. Nous sommes très loin de la simple recherche d’«anomalies». Ce système ouvre la porte à un Etat de surveillance généralisée.»

Tijmen Wisman sait de quoi il parle. Il a consacré son doctorat au droit européen en matière d’objets connectés. Il est l’un des derniers habitants d’Amsterdam à ne pas posséder de smartphone, et peste à chaque fois qu’il doit introduire sa carte d’abonnement numérisée pour entrer dans le métro qui l’amène à l’université. Il est conscient de chaque trace numérique qu’il laisse, et c’est à ce titre qu’il est devenu l’une des principales chevilles ouvrières de l’opposition qui s’est développée face à SyRI.

Opacité de l’Etat

De son côté, l’Etat néerlandais a refusé de dévoiler le détail de ce système, au motif que cela permettrait aux fraudeurs de contrer les mesures en place («Ils ouvriraient le robinet d’eau», résumait l’avocate de l’Etat). Face à ce manque de transparence, les élus locaux de Rotterdam se sont mis en colère, ce qui a conduit à la suspension du programme dans divers quartiers de cette ville. Tijmen Wisman, lui, s’en étrangle: «Cette insistance sur le secret de la part de l’Etat a toujours été l’apanage des services secrets ou de la police, soit de la lutte contre les criminels. Or, dans le cas de SyRI, personne ne s’est offusqué devant cette même opacité.»

Ainsi, il a fallu beaucoup d’insistance pour obtenir la liste des quartiers dans lesquels le projet commençait à se mettre en place: Afrikaanderwijk ou Hillesluis, à Rotterdam, ou encore Schalkwijk, à proximité d’Amsterdam… En tout, une demi-douzaine de quartiers, qui ont tous la particularité d’être pauvres et d’abriter une forte proportion d’habitants d’origine étrangère.

Coupable a priori

Maureen van der Pligt a été membre du Conseil de la ville d’Amsterdam avant de devenir l’une des responsables de la plus grande centrale syndicale du pays, FNV. Elle non plus ne trouve pas de mots assez durs contre le système SyRI: «L’Etat avait déjà les moyens de fouiller dans votre compte en banque s’il y avait des soupçons précis contre vous. Désormais, il transforme en fraudeurs potentiels des dizaines de milliers de personnes, c’est-à-dire tous ceux qui vivent dans ces «quartiers problématiques». Et c’est sur ces gens, les plus démunis et les plus vulnérables, que s’abat maintenant une politique répressive qui cherche à accroître contre eux tous les mécanismes de contrôle.»

Le pire, à en croire Maureen van der Pligt, c’est que les gens peinent souvent à comprendre ce qu’on leur reproche, et quelle faute ils ont bien pu commettre. «Sans même attendre les algorithmes de SyRI, cette politique est déjà à l’œuvre, insiste la syndicaliste. Jusqu’au début des années 2000, lorsque j’exerçais encore comme conseillère de la ville, les élus partageaient un même but, malgré leurs divergences idéologiques: aider au mieux la population qui en avait besoin. A présent, il s’agit de couper les subventions sous prétexte de traquer les fraudeurs. C’est un terrible changement de paradigme.»

Une récolte générale des données dirigée contre les pauvres, au risque de piétiner les principes du libéralisme vieille école? C’est contre de tels périls que met notamment en garde Christiaan van Veen, conseiller sur les nouvelles technologies auprès du rapporteur spécial de l’ONU sur l’extrême pauvreté. Lui aussi alerte sur SyRI et des systèmes équivalents. Son constat est glaçant: «Le principal danger qui guette les Etats providence numérisés? C’est qu’ils servent uniquement les intérêts d’une élite d’officiels et de compagnies de la tech. Tandis que, dans le même temps, une sous-classe infortunée, placée sous surveillance constante, vivra une dystopie numérique dans laquelle la moindre déviance sera détectée et punie.»

Source: Le Temps

Le fisc souhaite «collecter en masse» les données sur Facebook et Leboncoin pour traquer les fraudeurs


Dans le cadre du projet de loi 2020, le ministère de l’Economie et des Finances souhaite expérimenter un outil de surveillance de masse des réseaux sociaux, mais aussi les plates-formes de revente et d’e-commerce.

Bercy veut systématiser sa surveillance sur les réseaux sociaux et les plates-formes d’échange pour traquer les fraudeurs. Comme le rapporte NextInpact, dans le projet de loi de finances 2020 porté par le gouvernement, l’article 57 vise à donner « la possibilité pour les administrations fiscales et douanières de collecter et exploiter les données rendues publiques sur les sites internet des réseaux sociaux et des opérateurs de plate-forme ». En clair, la douane et les impôts pourront exploiter l’ensemble des publications, photos, vidéos publiques que vous publiez sur Facebook ou Instagram… Mais aussi les petites annonces que vous affichez sur LeBonCoin, par exemple.  

« Ciblage de la fraude »

Cet outil administratif, appelé « Ciblage de la fraude et valorisation des requêtes » (CFVR) a été développé depuis 2013. Techniquement, le mécanisme s’appuie sur « des méthodes statistiques innovantes, sur des provenances de l’administration fiscale et d’autres administrations, de bases de données économiques payantes et de données en libre accès », peut-on lire dans le projet de loi. L’expérimentation durera trois ans.

Concrètement, toutes les publications des internautes pourront être passées au crible. Les douaniers et les inspecteurs pourront vérifier si les données officielles détenues sur les citoyens sont exactes. L’objectif est de confirmer que le train de vie d’un contribuable sur la Toile coïncide bien avec sa déclaration d’impôt. Les personnes susceptibles d’être suivies ne seront pas mises au courant. Mais elles auront, si elles en font la démarche, un droit d’accès aux documents détenus à leur propos. 

Les données effacées après 30 jours… ou gardées un an

Les éléments jugés dignes d’intérêt pourront être conservés pendant un an. Si les éléments sont utilisés dans le cadre d’une procédure pénale, ils seront gardés jusqu’à son terme. Les autres seront effacés après 30 jours. Le texte interdit néanmoins l’usage de la reconnaissance faciale.

Selon la procédure classique, ce programme de surveillance sera mis en application par un décret du Conseil d’Etat et soumis à un avis de la Cnil. Puis dans un délai de six mois avant la fin de l’expérimentation, un rapport sera remis au Parlement et à la Cnil, afin « d’évaluer si l’amélioration de la détection des fraudes est proportionnée à l’atteinte portée au respect de la vie privée ». 

Source: 01net.com

La Chine, laboratoire de la dictature 2.0


Le gouvernement chinois s’appuie sur ses multinationales pour construire un totalitarisme high-tech.

L’année dernière, au Forum économique mondial de Davos, le milliardaire philanthrope George Soros avait mis en garde contre les alliances entre les sociétés de nouvelles technologies et les états autoritaires. Un attelage redoutable qui, selon lui, «pourrait résulter en un contrôle totalitaire d’une ampleur que même George Orwell n’aurait pu imaginer».

Cette année, il a précisé que la rapidité des développements des intelligences artificielles (IA) rendait cet avertissement plus urgent encore à prendre en compte. Soros n’est pas le seul à s’inquiéter. Dans sa lettre annuelle aux actionnaires de 2018, Sergey Brin, le co-fondateur de Google, prévenait que les nouvelles possibilités offertes par le machine learning impliquent de nouvelles responsabilités et doivent amener à s’interroger: «Sont-elles sûres?», «comment peuvent-elles manipuler les gens?». Quant à Elon Musk, homme tourné vers l’avenir s’il en est, sa croisade contre une IA sans limite ni éthique mais qui laisse la part belle aux armes est également fameuse.

Totalitarisme de marché

Pour comprendre les dommages que cette technologie peut engendrer, il suffit de regarder en direction de la Chine: le pays a décidé en 2017 de mettre tous les moyens en œuvre afin de devenir le leader mondial de l’IA d’ici à 2030. La plupart des avancées technologiques sont, comme aux États-Unis, menées par les entreprises spécialisées dans les nouvelles tech: Alibaba, Baidu, Huawei…

Or, pour Soros, ces sociétés ont le potentiel pour se muer en puissant accélérateur du totalitarisme. Car il y a lieu de se montrer pessimiste à propos de l’usage que fera la Chine de ces technologies. L’exemple le plus manifeste de ce danger imminent? Le système de «crédit social»(SCS) que Beijing voudrait mettre en place à partir de 2020 –qui est d’ores et déjà testé dans certains endroits.

Ce dispositif note les citoyennes et citoyens chinois selon leur niveau d’«honnêteté». S’ils sont endettés ou qu’ils traversent au rouge, ils perdent des points et peuvent se voir administrer une punition, comme une interdiction de vol ou l’affichage de leur visage sur des écrans géants. Toutes ces données sont traitées grâce aux nouvelles possibilités qu’offrent les IA: reconnaissance faciale, traitement de données à grande échelle, etc.

Surveiller et sourire

Pour faire adhérer la population à ces systèmes, les grandes entreprises jouent un rôle essentiel. Car c’est en partie grâce à elles qu’ils sont extrêmement populaires. Lors d’un sondage récent, 80% des 2.200 personnes ayant répondu voient ces «systèmes de crédit social»positivement ou très positivement.

Par exemple Alibaba, géant de la vente en ligne, permet à sa clientèle de s’inscrire volontairement à Sesame Credit, où un algorithme récupère leurs données: sur le temps passé en ligne, l’argent dépensé et l’historique des payements. Les mieux notés gagnent un accès à des crédits avantageux.

Jusqu’ici, il semblerait que cette carotte soit suffisante pour faire oublier la surveillance généralisée. Mais il n’est pas difficile d’imaginer que dans un avenir proche, se faire mal noter par un algorithme pourrait avoir des conséquences bien pires que de retrouver son visage sur un écran géant.

D’autant que Xi Jiping ne se cache pas de vouloir manipuler sa population. Dans une entrevue récente avec le Quotidien du peuple, l’organe officiel du parti communiste, il a affirmé qu’il était «nécessaire d’explorer l’utilisation de l’intelligence artificielle dans la collecte, la production, la distribution, la réception et le retour d’informations afin d’améliorer de manière globale la capacité de guider l’opinion publique».

Soulignons toutefois que les entreprises chinoises ne sont pas les seules à collaborer avec un gouvernement pour surveiller la population. Amazon veut par exemple vendre son logiciel de reconnaissance facialele pourtant très critiqué Rekognition, à la police des frontière des États-Unis –les autorités de certaines villes en font d’ailleurs déjà usage. À quelques centaines de kilomètres de nous seulement, des cités telles que Nice, Nîmes ou Marseille semblent décidées à franchir ce cap. Une échéance plus proche que ce que l’on pouvait imaginer.

Source: Korii

L’élite crée un «système de bête» autoritaire, et ceux qui sont opposés pourraient tout perdre


Ils font de l’Internet le plus grand outil de surveillance jamais vu par l’humanité. Si nous restons sur la route dans laquelle nous sommes actuellement, ce n’est plus qu’une question de temps avant que notre société ne devienne un cauchemar dystopique infernal. J’aimerais que ce soit une exagération, mais ce n’est pas le cas. Au cours des deux dernières décennies, Internet a complètement changé la façon dont nous communiquons les uns avec les autres. À une époque, toutes les formes de communication de masse étaient étroitement contrôlées par l’élite, mais Internet nous a soudainement permis de communiquer entre nous à grande échelle sans passer par leurs gardiens. Cela a radicalement modifié le paysage et au début, les élites ne savaient pas comment réagir à cette menace croissante. Il n’y avait aucun moyen de revenir à une époque antérieure à l’invention d’Internet. Lire la suite

Google traque tous ses usagers… même ceux qui désactivent leur localisation


Deux milliards d’utilisateurs seraient affectés. Pour arrêter d’être traqué par Google, les usagers doivent désactiver un autre paramètre appelé «Activité sur le Web et les applications».

Lire la suite

Facebook veut désormais accéder à vos données bancaires


Facebook a approché de grandes banques américaines pour leur demander de partager des données de leurs clients également membres du réseau social, dans l’objectif de proposer de nouveaux services sur son service de messagerie interne Messenger, a indiqué lundi une source proche du dossier. Lire la suite