Comment les géants de la tech manipulent la recherche sur l’éthique des IA


Après le greenwashing, l’ethicalwashing? Un ancien chercheur du MIT Media Lab témoigne.

Dès 2018, il est devenu difficile de suivre les nombreux scandales liés à l’IA sur fond de contrats controversés: entre Facebook et Cambridge Analytica; entre Google et le Pentagone sur les drones; entre AmazonIBM et la police sur la reconnaissance faciale; entre Microsoft et les services de l’immigration sur le contrôle des frontières…

Derrière plusieurs hashtags (#TechWontBuildIt#NoTechForICE#Data4BlackLives) activistes et employé·es de ces firmes ont réclamé l’interdiction de certaines technologies, comme la reconnaissance faciale pour la police. En réaction, les géants de la tech ont tout fait pour éviter une régulation dure.

En janvier 2018, Microsoft a publié ses «principes éthiques» pour l’IA. En mai 2018, Facebook s’est engagé à lutter contre les biais de l’IA grâce à l’outil Fairness Flow. En juin 2018, Google a dévoilé ses «pratiques responsables» en matière d’IA. En septembre 2018, IBM a suivi le mouvement avec AI Fairness 360.

Une recherche très orientée

En janvier 2019, Facebook a financé un centre de recherche sur l’éthique de l’IA à Munich: 6,72 millions d’euros. En mars, Amazon a co-financé un programme de recherche de sur «l’équité dans l’IA» avec la National Science Foundation américaine: 18 millions d’euros.

Par ailleurs, le Data & Society Research Institute et l’AI Now Institute ont été créés par des chercheurs de Microsoft et financés par l’entreprise (ainsi que Google et DeepMind pour le second).

Le Stanford Institute for Human-Centered AI est notamment dirigé par un ancien vice-président de Google. L’unité sciences des données de Berkeley est aux mains d’un ancien de Microsoft. Enfin, un membre du conseil d’administration d’Amazon est à la tête du MIT Schwarzman College of Computing.

En France, le «think and do tank» Impact IA a été fondé sous l’impulsion de Microsoft et compte Orange, Accenture, Bouygues, la SNCF, Altran ou Air France-KLM parmi ses membres. Autant de potentiels conflits d’intérêts.

Le Partnership on AI to Benefit Society (créé par Microsoft, Google et DeepMind, Facebook, IBM et Amazon) a par exemple prôné auprès des autorités une simple amélioration de la «justice algorithmique», alors que plusieurs de ses scientifiques étaient favorables à son interdiction, notamment en raison de ses biais raciaux.

Rodrigo Ochigame, qui a travaillé pour le Partnership au sein du MIT Media Lab –également mis en cause pour ses liens financiers avec le pédocriminel Jeffrey Epstein– en conclut que «la majorité des travaux bien financés sur l’IA éthique sont alignés sur l’agenda du lobby de la tech: ajuster […] plutôt que restreindre légalement, le déploiement de technologies controversées.»

Source: Korii

Course à l’ordinateur quantique : Google confirme enfin avoir atteint la « suprématie », IBM réfute


Comme une fuite l’avait laissé entendre il y a plusieurs semaines, Google est parvenu à développer un ordinateur quantique ultrarapide capable d’exécuter des tâches impossibles pour un ordinateur classique. Mais son grand concurrent IBM est bien décidé à ne pas se laisser voler la vedette.

Au milieu du mois de septembre 2019, un article mis en ligne sur le site de la Nasa, vraisemblablement par erreur, avait créé la surprise avant d’être retiré. Dans celui-ci, Google annonçait avoir atteint la « suprématie quantique », une étape technologique que de nombreuses entreprises rêvent de franchir. Théorisée en 2012 par John Preskill, professeur au California Institute of Technology (Caltech), cette « suprématie » désigne ce cap franchi par un ordinateur désormais capable d’exécuter des tâches ingérables pour une machine classique.

Depuis la publication éclair de ce papier scientifique, qui avait nourri de nombreuses spéculations – réelle avancée scientifique annoncée prématurément ou coup de com’ magistralement orchestré ? –, Google ne s’était pas exprimé sur le sujet. Mais mercredi 23 octobre 2019, la firme de Mountain View a bel et bien confirmé son exploit dans un article publié dans la revue Nature. À l’aide d’un ordinateur quantique de sa conception, l’une de ses équipes de Santa Barbara, en Californie, est parvenue pour la première fois à effectuer un calcul bien plus rapidement qu’avec les meilleurs supercalculateurs classiques. Il n’a ainsi fallu que trois minutes et vingt secondes à son processeur pour venir à bout d’une opération extrêmement complexe, là où le plus avancé des ordinateurs actuels aurait mis 10.000 ans à la finaliser.

Le processeur de Sycamore, l’ordinateur quantique de Google, tel que présenté dans la publication du 23 octobre.

Dans notre numéro de novembre 2019, Simon Perdrix, spécialiste en information quantique au Laboratoire lorrain de recherche en informatique et ses applications (Loria, à Vandœuvre-lès-Nancy) nous assurait que « la contribution de Google » semblait « solide » et était « sans doute en cours d’évaluation pour publication dans un journal prestigieux ».

L’obstacle de la décohérence

Les ordinateurs quantiques se fondent sur les propriétés de la physique quantique, qui décrit le monde à l’échelle des particules subatomiques. Ainsi, ces machines échappent aux règles de la physique classique. Elles s’appuient sur des qubits – équivalents des bits d’information dans le monde quantique –, qui utilisent les propriétés quantiques de la matière pour représenter à la fois l’état de 1 et de 0, là où les bits classiques ne peuvent opérer qu’avec une unité d’information à la fois, soit l’état 0, soit l’état 1.

En conséquence, les qubits sont en mesure de prendre deux configurations simultanément au lieu d’une. C’est précisément cette étrange propriété qui leur confère leur incroyable rapidité. Mais c’est aussi elle qui pose un problème de taille : cet état de « dualité » est d’une extrême fragilité et entraîne beaucoup d’erreurs. Un objet quantique glisse en effet très facilement et brutalement d’un état quantique fragile vers un état classique stable – ce que l’on appelle le phénomène de décohérence quantique. De fait, les machines gardent leurs propriétés quantiques pendant une période très brève.

À l’état subatomique, la matière a des propriétés surprenantes : elle passe d’abord par l’état d' »intrication », correspondant à la situation où deux particules, pour peu qu’elles aient interagi dans le passé, se trouvent corrélées au point de ne former qu’un seul objet, même si elles sont distantes de plusieurs millions de kilomètres. Vient ensuite l’état de « superposition », lorsqu’une particule est dans deux états à la fois (1 et 0, en informatique).

Alors que le point de bascule vers la suprématie quantique a été fixé à 50 qubits, Google a réussi à effectuer sa démonstration avec 53 qubits. Son ordinateur avait pour tâche de produire des nombres aléatoires présentant des corrélations que seul un algorithme quantique peut créer. Mais « la démonstration de la suprématie quantique s’effectue en deux étapes », nous expliquait Simon Perdrix il y a quelques semaines. « Il faut d’abord résoudre le problème avec un ordinateur quantique puis démontrer que la machine classique ne peut y parvenir. Et cette deuxième partie est très difficile. »

Une avancée contestée par IBM

Or, IBM, un autre géant du secteur et concurrent majeur de Google, s’est empressé de réagir sur ce point pour relativiser l’avancée de Google, et ce même avant la parution du papier dans NatureDans une publication sur son blog, la firme prétend avoir découvert un algorithme classique capable d’effectuer, sur une machine tout aussi classique, un calcul similaire à celui de la machine de Google… en seulement deux jours et demi. Un laps de temps bien loin des 10.000 ans. Si IBM dit vrai, la suprématie quantique n’est donc toujours pas atteinte. Déjà, en septembre, le directeur de la recherche chez IBM, Dario Gil, avait asséné que cette affirmation de Google était « tout simplement fausse ».

Il faut dire que dans cette course à la domination quantique, les concurrents sont au coude à coude : IBM, qui utilise la même technologie que Google (à base de supraconducteurs), vient d’annoncer avoir elle aussi mis au point une machine à 53 qubits. Les Autrichiens du Center for Quantum Science ans Technologie à Vienne, eux, sont bloqués à 20 qubits mais leur approche à base d' »atomes froids » fait preuve de bien plus de fiabilité. En France enfin, le CEA a lancé un programme fin 2018 pour atteindre les 100 qubits en misant sur le silicium.

« Suprématie quantique » atteinte ou non, la guerre est donc loin d’être terminée. Et l’ordinateur quantique – le programmable, pas le simple calculateur – loin d’être une réalité.

Source: Sciences et Avenir

Extinction Rebellion vise Google et exige plus de censure


Des mères qui allaitent et des jeunes ont bloqué le siège de Google à Londres mercredi pour protester contre le financement des négationnistes par l’entreprise, alors que la rébellion de l’Extinction a défié un ordre de la police en continuant à organiser des actions dans la capitale.

Une enquête du Guardian a révélé la semaine dernière que Google avait apporté des contributions « substantielles » à certains des plus célèbres négationnistes du climat à Washington, en dépit de son insistance à soutenir l’action sur l’urgence climatique.

Des mères de nourrissons ont tenu un « nurse-in » devant les bureaux de l’entreprise à King’s Cross et des membres de XR Youth ont grimpé sur l’entrée de YouTube, propriété de Google, de l’autre côté du même bâtiment, tenant une banderole de lecture, « YouTube, finissez-en avec le climato-scepticisme ».

Dans une lettre adressée à YouTube, ils ont déclaré que la plate-forme, qui compte 1,9 milliard d’utilisateurs, avait la responsabilité d’arrêter d’héberger des vidéos « trompeuses et intrinsèquement dangereuses » de négation du climat. Ils ont fait remarquer qu’une enquête récente a révélé que plus de la moitié des adolescents aux États-Unis ont déclaré qu’ils avaient reçu leurs nouvelles sur YouTube.

Selon la police métropolitaine, 1 642 arrestations avaient eu lieu mercredi à 8 heures du matin, à la suite de la manifestation d’Extinction Rebellion. Le taux d’arrestations s’est accéléré lundi soir après que la police a imposé une ordonnance en vertu de l’article 14 interdisant toute protestation du groupe à Londres.

Source: The Guardian

Traduction par Nouvelordremondial.cc

Internet et manipulation: les visions glaçantes de Tristan Harris


Sommes-nous devenus de simples marionnettes? 

Ex-ingénieur chez Google, chercheur en éthique et en «persuasion humaine», l’Américain lance d’angoissantes alertes sur les méthodes des géants du net.

Pour quiconque suit l’actualité chamboulée du monde de la tech, Tristan Harris n’est pas un inconnu. Ingénieur pour Apple et Google, chez qui il a étudié en profondeur les questions de l’éthique et de la «persuasion humaine», l’Américain est désormais l’un des plus efficaces porte-voix de celles et ceux s’inquiétant des méthodes et dark patterns mis en place par les GAFAM pour manipuler les esprits.

Très présent dans le débat grandissant sur la responsabilité des géants du net envers leurs utilisateurs et utilisatrices, Harris a cofondé le Center For Humane Technology, une ONG dont l’objectif affiché est de «renverser le déclassement humain» («human downgrading», en version originale) et de «réaligner la technologie avec l’humanité».

Cette question de la manipulation généralisée des cerveaux fait actuellement l’objet d’une audition au Sénat américain, où certain·es élu·es aimeraient comprendre les choses –avant éventuellement de les reprendre en main en légiférant.

Dépendance et double numérique

Comme d’autres spécialistes de la question, Rashida Richardson (AI Now Institute), Maggie Stanphill (Google) et Stephen Wolfram (Wolfram Research), Tristan Harris a été invité à donner son avis par la commission sénatoriale.

Exemples édifiants à l’appui, il a dessiné un résumé glaçant des coulisses de notre navigation en ligne, et de la manière dont elle est influencée par des méthodes, designs et algorithmes dont nous ignorons tout lorsque nous sautons innocemment d’une page à une autre sur internet, quand nous publions un statut sur Facebook ou quand nous rafraîchissons notre fil Twitter.

«Ça commence avec le “pull to refresh” pour rafraîchir son fil d’actualité», a expliqué Harris, repris par Gizmodo, au Sénat. «Ça marche comme une machine à sous, avec des capacités d’addiction similaires à celles qui accrochent les joueurs à Las Vegas.» Shoot de dopamine après shoot de dopamine, récompense après récompense, une dépendance à l’attention que nous portent les autres, via les likes ou le nombre de followers notamment, s’installe chez les utilisateurs de réseaux sociaux.

Harris a également de nouveau présenté son effrayante théorie de «l’avatar numérique»: un double algorithmique dont chacun·e disposerait, quelque part sur les serveurs anonymes des grosses plateformes, et qui permettrait aux géants du net de nous connaître mieux que nous nous connaissons nous-mêmes, donc de manipuler nos désirs, actions et réactions.

Chaque terme d’outrage moral ajouté à un tweet augmentait le taux de retweets de 17%. Autrement dit, la polarisation de nos sociétés fait partie du business model.

TRISTAN HARRIS, LORS DE SON AUDITION DEVANT LE SÉNAT AMÉRICAIN

C’est par exemple ainsi que nous serions naturellement dirigé·es vers des contenus outrageants: ce sont ceux, expose Harris, qui provoquent le plus d’engagement, le nerf fondamental de la guerre pour l’attention. «Une étude a montré que chaque terme d’outrage moral ajouté à un tweet augmentait le taux de retweets de 17%. Autrement dit, la polarisation de nos sociétés fait partie du business model.»

Même chose pour YouTube, qui tire 70% de son trafic des recommandations que son algorithme contestable présente aux internautes –comme cela a été récemment démontré, celles-ci les poussent souvent vers des vidéos de plus en plus trash, outrageantes, conspirationnistes, créant même un terrain de jeu idéal pour les pédophiles.

Dégoûté·e, vous désirez quitter Facebook? Tristan Harris détaille la manière dont la plateforme de Mark Zuckerberg tente de vous en dissuader: elle vous demande de confirmer votre départ en faisant apparaître les visages des cinq relations qui risquent de vous manquer le plus. Le tout calculé, là encore, par un savant algorithme.

L’audition de Tristan Harris et de ses camarades devant le Sénat américain.

Les machines nous connaissent par cœur

Cette science algorithmique, comme celle de l’intelligence artificielle, progresse à grande vitesse. «Sans même avoir accès à vos données, je peux prédire de plus en plus de choses à propos de vous en utilisant l’IA», a assuré Harris à son auditoire.

«Un récent article expliquait qu’on pouvait déterminer les mêmes cinq grands traits de personnalité d’un individu que Cambridge Analytica, sans même avoir accès à vos données personnelles. Une simple étude du mouvement de votre souris et de la manière dont vous cliquez suffit.»

Sombre, volontairement anxiogène mais pas totalement irréaliste, le tableau dépeint par Tristan Harris a été suffisamment inquiétant pour faire dire à John Tester, sénateur du Montana, qu’il «sera probablement mort et enterré, et heureux de l’être, quand toute cette merde prendra toute son ampleur».

À moins bien sûr, si cela est encore possible, que les responsables politiques n’imposent des règles contraignantes aux acteurs du marché de la tech. Ou que les utilisateurs et utilisatrices, lassées de ces influences invisibles et de leurs conséquences sur leur libre arbitre, ne décident de reprendre un contrôle plus conscient de leur vie, poussant alors les géants du net à adapter leurs méthodes.

Source: Korii

Google coupe les ponts avec Huawei


Google a décidé, dimanche, de priver Huawei d’accès à son système d’exploitation Android pour ses futurs téléphones. Un coup dur pour le géant chinois dont tous les smartphones sont conçus pour fonctionner avec cette technologie.

La guerre du président américain, Donald Trump, contre Huawei continue. Cette fois-ci, c’est Google qui a pris le relais. Le géant de l’Internet a confirmé, dimanche 19 mai, une information de l’agence de presse Reuters selon laquelle le fabricant chinois n’aurait plus accès au système d’exploitation Android pour ses smartphones.

Cette décision intervient quelques jours après un décret adopté par l’administration américaine interdisant aux groupes américains de télécom de faire des affaires avec des entreprises étrangères jugées « à risque », comme Huawei.

Uniquement les futurs smartphones Huawei

Google a précisé que cette rupture des relations commerciales n’affecterait que les futurs téléphones fabriqués par le géant chinois de l’électronique. Huawei pourra, cependant, continuer à utiliser la version open-source (libre de droit) d’Android, mais ne pourra pas équiper ses futurs appareils de très populaires applications de Google comme Gmail, Google Maps ou encore YouTube (leurs installations nécessites une licence commerciale accordée par le groupe américain).

C’est un coup dur pour Huawei. Le groupe chinois avait l’ambition de devenir le numéro 1 mondial des smartphones en 2020 et avait déjà réussi à se hisser à la deuxième place derrière Samsung au premier trimestre 2019. Il avait même dépassé Apple, en début d’année, en vendant près de 59,1 millions de smartphones dans le monde contre 52,2 millions pour la marque à la pomme.

Surtout, les smartphones sont devenus la principale source de revenus pour le géant chinois qui, historiquement, est avant tout un fabricant d’infrastructures réseaux. En 2018, les ventes de téléphones ont rapporté 52 milliards de dollars à Huawei contre 43,8 milliards de dollars pour le reste de ses activités.

Nouveau système d’exploitation ?

Dans l’immédiat, l’impact de la décision de Google reste limité car Huawei vend plus de la moitié de ses smartphones en Chine, où l’accès à la plupart des applications du géant américain est interdit. Mais cet arrêt des relations commerciales hypothèque la croissance à l’internationale de Huawei, notamment en Europe et en Afrique, deux marchés qui ont été identifiés par la direction du groupe comme prioritaires.

Entre les appels des services de renseignements de divers pays – États-Unis, Australie, Allemagne – à éviter d’avoir recours à Huawei pour construire les réseaux 5G pour des raisons de sécurité et l’arrêt des relations commerciales avec Google, l’avenir du géant chinois semble de plus en plus compromis.

Il n’a, pour l’instant, pas encore réagi à l’annonce. Mais Huawei se préparait déjà depuis plusieurs années à un tel scénario. Le groupe développe son propre système d’exploitation depuis 2012, depuis que les autorités américaines ont commencé à s’intéresser aux liens entre les groupes chinois de télécom et le pouvoir en place à Pékin. Jusqu’à présent, Huawei s’est toujours refusé à en dévoiler davantage sur l’état d’avancement de ce projet, mais il pourrait profiter de l’occasion pour annoncer l’arrivée d’un nouveau concurrent face à Android et l’iOS d’Apple.

Source: France 24

Des mouchards gouvernementaux ont été découverts sur Google Play


Un logiciel d’espionnage d’origine italienne était diffusé sur la boutique applicative, probablement dans le cadre d’interceptions. Mais des questions se posent sur la légalité de ce système.

Que les gouvernements utilisent des chevaux de Troie pour procéder à des écoutes administratives ou judiciaires, on le savait déjà et c’est tout à fait légal (y compris en France). Que certains utilisent Google Play pour les diffuser, en revanche, est une nouveauté. L’association Security Without Borders (SWB) vient de détecter sur cette boutique applicative un logiciel d’espionnage baptisé Exodus, qui a visiblement été utilisé par les forces de l’ordre italiennes.

Ce malware se dissimule sous les airs innocents d’une application de promotion marketing ou d’un logiciel utilitaire. Une fois installée, cette fausse application télécharge un second logiciel qui va pirater le téléphone et siphonner ses données. Il peut, entre autres, accéder à l’historique des appels et de navigation, au calendrier, au carnet d’adresses et aux données de différentes messageries. Il peut également lancer des enregistrements audio.

Les chercheurs de SWB ont trouvé presque 25 versions différentes d’Exodus sur Google Play durant ces deux dernières années. L’analyse technique de ce malware révèle qu’il a été développé par eSurv, une société italienne qui étaient à l’origine spécialisée dans la surveillance vidéo et qui aurait commencé le développement de logiciels d’intrusion en 2016. Des documents publics montrent en effet que l’entreprise a gagné par le passé un appel d’offre auprès de la police italienne pour créer un « système d’interception actif et passif ». Elle a reçu, pour ce travail, un paiement de 307.439,90 euros en novembre 2017.   

Contacté par les chercheurs et par Motherboard, Google n’a pas précisé le nombre exact d’installations liées à ces chevaux de Troie, mais a tout de même signalé qu’il se situait entre 350 et 1000, tous en Italie. C’est faible et c’est normal, car les logiciels d’espionnage étatiques sont généralement utilisés pour des attaques ciblées. Ce qui est moins normal, c’est la manière dont ce logiciel d’interception fonctionne. D’après une source de Motherboard, les opérateurs l’ont d’abord mis sur Google Play avant d’inciter la victime à le télécharger. D’une certaine manière, la boutique de Google servait de garant pour ne pas susciter de méfiance auprès de l’utilisateur.

Fonctionnement bancal, voire illégal

Autre problème, ce logiciel ne ciblait pas correctement ses victimes. Des tests réalisés par SWB ont montré que le logiciel d’espionnage se téléchargeait automatiquement sur n’importe quel terminal. De plus, le programme malveillant ouvrait un port au travers duquel les opérateurs pouvaient accéder à une interface de commandes (shell). Mais en réalité, cet accès était ouvert à n’importe qui : il n’y a ni authentification, ni chiffrement. En d’autres termes, Exodus risquait non seulement de faire d’innocentes victimes, mais dégradait également considérablement leur niveau de sécurité. Ce qui ne peut pas être dans l’intérêt d’une interception légale. D’après les experts interrogés par Motherboard, cette façon de faire serait même illégale au sens de la loi italienne. Bref, tout ceci n’est pas très sérieux.

Contactés par SWB et Motherboard, les responsables d’eSurv n’ont fait aucun commentaire. De son côté, Google a supprimé toutes les instances d’Exodus.

Source: 01Net


Google rachète en secret l’historique de vos transactions bancaires à Mastercard


D’après un rapport inquiétant de Bloomberg, Google et Mastercard ont signé un accord dans le plus grand des secrets pour que Google garde un oeil sur le détail des transactions effectuées depuis une carte Mastercard. Un moyen de plus pour le géant américain de se faire ami des publicitaires. Lire la suite

Google traque tous ses usagers… même ceux qui désactivent leur localisation


Deux milliards d’utilisateurs seraient affectés. Pour arrêter d’être traqué par Google, les usagers doivent désactiver un autre paramètre appelé «Activité sur le Web et les applications».

Lire la suite