« Chacun de vos faits et gestes sera suivi » : Les bureaux post-COVID ressembleront au système chinois de crédit social


Nous avons récemment expliqué en détail comment, lorsque les cols blancs américains retournent dans leurs bureaux, leurs complexes commerciaux et leurs gratte-ciels, leur expérience dans l’espace de travail « réouvert » après la visite médicale ressemble à une zone de contrôle de sécurité d’aéroport, avec des protocoles invasifs comme des contrôles de température fréquents, une « distanciation sociale » et une surveillance de la santé, ainsi que des cabines fermées en plexiglas et des contrôleurs de l’application de la loi.

Si tout cela ressemble à des ennuis, le WSJ s’est depuis lors penché sur la question des futurs espaces de bureaux américains, et le résultat final semble pire que prévu. « Chacun de vos faites et gestes sera surveillé »souligne le rapport :

Dans le centre de Manhattan, des caméras thermiques prendront la température du corps des employés qui s’installeront dans une tour de bureaux de 32 étages au Rockefeller Center. Le propriétaire de l’immeuble, RXR Realty, a déclaré qu’il développait également une application mobile permettant aux locataires de surveiller – et de noter – le degré de conformité de leurs employés en matière de distanciation sociale.

PricewaterhouseCoopers LLP a déclaré qu’il s’apprêtait à lancer ce mois-ci une application téléphonique pour les employeurs qui permet de retracer les contacts en analysant les interactions des travailleurs au bureau. Plus de 50 clients ont manifesté leur intérêt, dont certaines des plus grandes banques, des fabricants et des sociétés d’énergie du pays.

Cela ressemble beaucoup au système chinois de crédit social à la « big brother » qui a fait la une des journaux du monde entier l’année dernière, car il repose sur un logiciel de reconnaissance faciale de pointe conçu pour stocker en permanence un profil des citoyens tout en suivant activement leurs mouvements publics.

On a déjà signalé des cas où des citoyens chinois ont été empêchés de prendre le train parce que le système prévoyait qu’ils ne pourraient pas payer, ou d’autres risques « pré-criminels ».

Et maintenant, cela se rapproche de la maison, peut-être en se rendant à un bureau près de chez vous :

Le géant de la publicité Interpublic Group of Cos . envisage de diviser ses 22 000 employés américains en trois groupes distincts, en fonction des risques sanitaires perçus, qui pourraient inclure l’âge. Les travailleurs pourraient être invités à divulguer des informations médicales et d’autres informations personnelles les concernant et, dans certains cas, concernant les membres de leur famille…

« C’est une approche raisonnable, si vous pouvez passer au travers des questions opérationnelles et de certaines questions relatives à la vie privée et à la réglementation« , a déclaré le Dr Ossmann.

C’est certainement alarmant chaque fois qu’il faut admettre que les « questions de vie privée » ne sont qu’un petit quelque chose d’ennuyeux à « faire passer ».

Il est déjà question d’applications de suivi de la santé fondées sur un système de récompenses et de punitions qui ressemble à la série dystopique futuriste Black Mirror.

Ce système serait en outre intégré à une technologie d’imagerie thermique controversée – dont certaines ont déjà été mises en place dans les entrepôts d’Amazon – capable de stocker des données de reconnaissance faciale (la société promet toutefois de ne pas activer le logiciel de stockage).

Et il est complété par des « cobayes » vivants – plutôt des employés de bureau qui reviennent actuellement, comme l’a écrit le WSJ à propos d’une société immobilière :

RXR, la société immobilière, teste de nouveaux systèmes sur ses propres employés. « Nous nous utilisons comme des cobayes », a déclaré Scott Rechler, directeur général de RXR.

L’entreprise vise à ce que son application de distanciation sociale soit prête à la fin du mois de mai. Les mouvements des travailleurs sont suivis par le biais de leurs smartphones – vous obtenez un score plus élevé plus vous passez de temps au bureau à plus d’un mètre d’une autre personne. Une personne voit son propre score, et l’employeur voit des données agrégées sur la façon dont les employés respectent la distanciation sociale dans son ensemble.

Respecter ou sinon quoi ?… Encore une autre raison pour laquelle les employés devraient se soucier de conserver leur emploi.

Et plus encore sur l’étiquetage de larges groupes d’employés en fonction des facteurs de risque du COVID-19 perçus :

Un travailleur ayant été testé positif aux anticorps du coronavirus, indiquant qu’il a déjà été infecté, serait considéré comme un employé de « niveau 1 » – le risque le plus faible – et pourrait retourner au travail lorsque les États et les villes lèvent les commandes de travail à domicile.

Les personnes sans anticorps mais qui sont considérées comme présentant un risque faible à modéré seraient considérées comme des employés de « niveau 2 ». Ce groupe comprendrait les employés de moins de 65 ans, qui ne vivent pas avec des personnes à haut risque et qui ne souffrent pas de maladies chroniques, notamment de diabète ou d’hypertension. Ce groupe pourrait éventuellement reprendre le travail lors d’une deuxième vague.

Les salariés de plus de 65 ans, ou ceux qui sont enceintes, fument, ont des maladies chroniques ou des problèmes de santé seraient considérés comme « niveau 3 ». Ces employés à risque devraient attendre le plus longtemps avant de retourner au travail, a déclaré le Dr Ossmann.

Nous nous demandons quand les premières poursuites pour discrimination basées sur la façon dont les caractéristiques d’identification sont interprétées et attribuées commenceront à descendre.

Mais là encore, pour voir comment tout cela se déroulerait réellement, il suffit de regarder les épisodes du Black Mirror. Qu’est-ce qui pourrait mal tourner ?

Source: Aube Digitale

Cette nouvelle caméra de 500 mégapixels destinée à la reconnaissance faciale fait polémique


Une «super caméra», développée par des chercheurs chinois, sera capable de reconnaître un visage dans une foule immense, révèle le groupe audiovisuel américain ABC. Une technologie qui fait polémique, dans un pays où la vidéosurveillance est déjà utilisée comme un outil de contrôle social.

Des scientifiques chinois ont développé une caméra de 500 mégapixels, soit une qualité d’image quatre fois supérieure à celle de l’œil humain. Équipée d’un logiciel de reconnaissance faciale, combinée avec l’intelligence artificielle et une énorme base de données, «cette caméra sera capable de détecter un visage ou un objet, de localiser instantanément une cible même dans un stade rempli», explique Xiaoyang Zeng, l’un des créateurs de cette «super caméra», au groupe médiatique américain ABC.

Actuellement, l’ensemble du système de surveillance de masse chinois (environ 200 millions de caméras installées, selon le New York Times), vise à collecter des informations sur ses citoyens. La «super caméra» a été conçue pour remédier à un point faible des caméras actuelles, qui ne sont pas assez puissantes pour capturer une image claire d’un individu dans une foule.

Le système du crédit social

Depuis quelques années, la Chine a développé un système de crédit social qui évalue les citoyens et les entreprises selon un facteur économique et social. Le tout est traduit sous forme d’une note générale.

Ceux qui ont une bonne note ont droit à des privilèges tels qu’un traitement VIP dans les hôtels et les aéroports, des prêts à taux réduit ou un meilleur accès à certaines universités ou à certains emplois. Ceux dont la note est basse peuvent se voir interdire de voyager, de contracter un prêt ou d’avoir accès à un poste de fonctionnaire. Le système repose sur un vaste réseau de caméras de surveillance qui permet au gouvernement de reconnaître et de suivre ses concitoyens de manière constante.

«L’État possède des données massives de photos de personnes et ont la capacité de les relier à leur identité» explique la spécialiste de l’Institut politique australien Samantha Hoffman au groupe audiovisuel américain. Les données fournies par cette nouvelle caméra, une fois «regroupées avec d’autres données (…), grâce à l’intervention de l’intelligence artificielle, peuvent créer un outil de contrôle social, y compris des outils liés au système de crédit social» a-t-elle expliqué.

Sur les réseaux sociaux, plusieurs personnes ont déjà fait part de leur inquiétude quant à l’utilisation de ce type de technologie.

Source: Sputnik News

La Chine, laboratoire de la dictature 2.0


Le gouvernement chinois s’appuie sur ses multinationales pour construire un totalitarisme high-tech.

L’année dernière, au Forum économique mondial de Davos, le milliardaire philanthrope George Soros avait mis en garde contre les alliances entre les sociétés de nouvelles technologies et les états autoritaires. Un attelage redoutable qui, selon lui, «pourrait résulter en un contrôle totalitaire d’une ampleur que même George Orwell n’aurait pu imaginer».

Cette année, il a précisé que la rapidité des développements des intelligences artificielles (IA) rendait cet avertissement plus urgent encore à prendre en compte. Soros n’est pas le seul à s’inquiéter. Dans sa lettre annuelle aux actionnaires de 2018, Sergey Brin, le co-fondateur de Google, prévenait que les nouvelles possibilités offertes par le machine learning impliquent de nouvelles responsabilités et doivent amener à s’interroger: «Sont-elles sûres?», «comment peuvent-elles manipuler les gens?». Quant à Elon Musk, homme tourné vers l’avenir s’il en est, sa croisade contre une IA sans limite ni éthique mais qui laisse la part belle aux armes est également fameuse.

Totalitarisme de marché

Pour comprendre les dommages que cette technologie peut engendrer, il suffit de regarder en direction de la Chine: le pays a décidé en 2017 de mettre tous les moyens en œuvre afin de devenir le leader mondial de l’IA d’ici à 2030. La plupart des avancées technologiques sont, comme aux États-Unis, menées par les entreprises spécialisées dans les nouvelles tech: Alibaba, Baidu, Huawei…

Or, pour Soros, ces sociétés ont le potentiel pour se muer en puissant accélérateur du totalitarisme. Car il y a lieu de se montrer pessimiste à propos de l’usage que fera la Chine de ces technologies. L’exemple le plus manifeste de ce danger imminent? Le système de «crédit social»(SCS) que Beijing voudrait mettre en place à partir de 2020 –qui est d’ores et déjà testé dans certains endroits.

Ce dispositif note les citoyennes et citoyens chinois selon leur niveau d’«honnêteté». S’ils sont endettés ou qu’ils traversent au rouge, ils perdent des points et peuvent se voir administrer une punition, comme une interdiction de vol ou l’affichage de leur visage sur des écrans géants. Toutes ces données sont traitées grâce aux nouvelles possibilités qu’offrent les IA: reconnaissance faciale, traitement de données à grande échelle, etc.

Surveiller et sourire

Pour faire adhérer la population à ces systèmes, les grandes entreprises jouent un rôle essentiel. Car c’est en partie grâce à elles qu’ils sont extrêmement populaires. Lors d’un sondage récent, 80% des 2.200 personnes ayant répondu voient ces «systèmes de crédit social»positivement ou très positivement.

Par exemple Alibaba, géant de la vente en ligne, permet à sa clientèle de s’inscrire volontairement à Sesame Credit, où un algorithme récupère leurs données: sur le temps passé en ligne, l’argent dépensé et l’historique des payements. Les mieux notés gagnent un accès à des crédits avantageux.

Jusqu’ici, il semblerait que cette carotte soit suffisante pour faire oublier la surveillance généralisée. Mais il n’est pas difficile d’imaginer que dans un avenir proche, se faire mal noter par un algorithme pourrait avoir des conséquences bien pires que de retrouver son visage sur un écran géant.

D’autant que Xi Jiping ne se cache pas de vouloir manipuler sa population. Dans une entrevue récente avec le Quotidien du peuple, l’organe officiel du parti communiste, il a affirmé qu’il était «nécessaire d’explorer l’utilisation de l’intelligence artificielle dans la collecte, la production, la distribution, la réception et le retour d’informations afin d’améliorer de manière globale la capacité de guider l’opinion publique».

Soulignons toutefois que les entreprises chinoises ne sont pas les seules à collaborer avec un gouvernement pour surveiller la population. Amazon veut par exemple vendre son logiciel de reconnaissance facialele pourtant très critiqué Rekognition, à la police des frontière des États-Unis –les autorités de certaines villes en font d’ailleurs déjà usage. À quelques centaines de kilomètres de nous seulement, des cités telles que Nice, Nîmes ou Marseille semblent décidées à franchir ce cap. Une échéance plus proche que ce que l’on pouvait imaginer.

Source: Korii