Le Vatican rejoint IBM et Microsoft pour réclamer une réglementation sur la reconnaissance faciale


Le Vatican s’est associé vendredi aux géants de la technologie que sont Microsoft et IBM pour promouvoir le développement éthique de l’intelligence artificielle (IA) et appeler à la réglementation des technologies intrusives telles que la reconnaissance faciale.

Les trois ont déclaré que l’IA devait respecter la vie privée, travailler de manière fiable et sans parti pris, tenir compte des droits de l’homme et agir de manière transparente.

Le pape Francois, qui a fait part de ses inquiétudes quant à la diffusion incontrôlée des technologies d’IA, a apporté son soutien dans un discours lu en son nom lors d’une conférence à laquelle ont participé le président de Microsoft, Brad Smith et le vice-président exécutif d’IBM , John Kelly. Le pape est malade et n’a pas pu prononcer le discours lui-même.

Appelant à un développement éthique des algorithmes, connu sous le nom d' »algor-éthique », Francois a mis en garde contre les dangers de l’utilisation de l’IA pour extraire des données à des fins commerciales ou politiques, souvent à l’insu des individus.

« Cette asymétrie, par laquelle une poignée d’élus savent tout de nous alors que nous ne savons rien d’eux, ternit la pensée critique et l’exercice conscient de la liberté », a-t-il déclaré dans son message.

« Les inégalités se creusent énormément ; le savoir et la richesse s’accumulent entre quelques mains, ce qui présente de graves risques pour les sociétés démocratiques », a-t-il déclaré.

Le document conjoint fait spécifiquement référence à l’abus potentiel de la technologie de reconnaissance faciale.

« De nouvelles formes de réglementation doivent être encouragées pour promouvoir la transparence et le respect des principes éthiques, en particulier pour les technologies avancées qui risquent davantage d’avoir un impact sur les droits de l’homme, comme la reconnaissance faciale », selon le document.

La police a utilisé des systèmes de reconnaissance faciale pour enquêter sur des crimes, et les entreprises du Fortune 500 ont utilisé l’IA pour vérifier les candidats à un emploi – deux exemples de tâches à haut risque où le déploiement de logiciels imprécis ou biaisés pourrait entraîner des dommages.

Il n’a pas été immédiatement clair si d’autres entreprises technologiques pourraient adhérer au document, ni comment les signataires mettraient en œuvre les principes.

IBM, par exemple, veut qu’un médecin soit au courant lorsque sa technologie d’IA fait des recommandations en matière de soins de santé – ce qui pourrait augmenter avec le temps suite à un accord avec l’hôpital pour enfants Bambino Gesù de Rome, propriété du Vatican.

Ce partenariat se concentrera sur le développement d’une technologie permettant d’accélérer le diagnostic et le traitement des patients atteints de tumeurs cérébrales.

IBM et Microsoft ont toutes deux déclaré qu’elles refusaient de faire des affaires lorsqu’elles ne se sentaient pas à l’aise avec la façon dont un client voulait utiliser leur technologie.

La conférence de Rome est le dernier exemple en date où le Vatican tente de rester à l’avant-garde en matière de technologie et de questions sociales afin d’influencer les pionniers de l’avenir, quelle que soit leur religion.

Les responsables du Vatican ont déclaré qu’ils pourraient fournir des éléments pour un éventuel document papal sur l’IA, tout comme les réunions avec les scientifiques ont contribué à la rédaction de l’encyclique « Laudato Si » du pape sur la protection de l’environnement, qui fera date en 2015.

Source: Yahoo News

Traduit par: SENTINELLE SAPS

Comment les géants de la tech manipulent la recherche sur l’éthique des IA


Après le greenwashing, l’ethicalwashing? Un ancien chercheur du MIT Media Lab témoigne.

Dès 2018, il est devenu difficile de suivre les nombreux scandales liés à l’IA sur fond de contrats controversés: entre Facebook et Cambridge Analytica; entre Google et le Pentagone sur les drones; entre AmazonIBM et la police sur la reconnaissance faciale; entre Microsoft et les services de l’immigration sur le contrôle des frontières…

Derrière plusieurs hashtags (#TechWontBuildIt#NoTechForICE#Data4BlackLives) activistes et employé·es de ces firmes ont réclamé l’interdiction de certaines technologies, comme la reconnaissance faciale pour la police. En réaction, les géants de la tech ont tout fait pour éviter une régulation dure.

En janvier 2018, Microsoft a publié ses «principes éthiques» pour l’IA. En mai 2018, Facebook s’est engagé à lutter contre les biais de l’IA grâce à l’outil Fairness Flow. En juin 2018, Google a dévoilé ses «pratiques responsables» en matière d’IA. En septembre 2018, IBM a suivi le mouvement avec AI Fairness 360.

Une recherche très orientée

En janvier 2019, Facebook a financé un centre de recherche sur l’éthique de l’IA à Munich: 6,72 millions d’euros. En mars, Amazon a co-financé un programme de recherche de sur «l’équité dans l’IA» avec la National Science Foundation américaine: 18 millions d’euros.

Par ailleurs, le Data & Society Research Institute et l’AI Now Institute ont été créés par des chercheurs de Microsoft et financés par l’entreprise (ainsi que Google et DeepMind pour le second).

Le Stanford Institute for Human-Centered AI est notamment dirigé par un ancien vice-président de Google. L’unité sciences des données de Berkeley est aux mains d’un ancien de Microsoft. Enfin, un membre du conseil d’administration d’Amazon est à la tête du MIT Schwarzman College of Computing.

En France, le «think and do tank» Impact IA a été fondé sous l’impulsion de Microsoft et compte Orange, Accenture, Bouygues, la SNCF, Altran ou Air France-KLM parmi ses membres. Autant de potentiels conflits d’intérêts.

Le Partnership on AI to Benefit Society (créé par Microsoft, Google et DeepMind, Facebook, IBM et Amazon) a par exemple prôné auprès des autorités une simple amélioration de la «justice algorithmique», alors que plusieurs de ses scientifiques étaient favorables à son interdiction, notamment en raison de ses biais raciaux.

Rodrigo Ochigame, qui a travaillé pour le Partnership au sein du MIT Media Lab –également mis en cause pour ses liens financiers avec le pédocriminel Jeffrey Epstein– en conclut que «la majorité des travaux bien financés sur l’IA éthique sont alignés sur l’agenda du lobby de la tech: ajuster […] plutôt que restreindre légalement, le déploiement de technologies controversées.»

Source: Korii

Course à l’ordinateur quantique : Google confirme enfin avoir atteint la « suprématie », IBM réfute


Comme une fuite l’avait laissé entendre il y a plusieurs semaines, Google est parvenu à développer un ordinateur quantique ultrarapide capable d’exécuter des tâches impossibles pour un ordinateur classique. Mais son grand concurrent IBM est bien décidé à ne pas se laisser voler la vedette.

Au milieu du mois de septembre 2019, un article mis en ligne sur le site de la Nasa, vraisemblablement par erreur, avait créé la surprise avant d’être retiré. Dans celui-ci, Google annonçait avoir atteint la « suprématie quantique », une étape technologique que de nombreuses entreprises rêvent de franchir. Théorisée en 2012 par John Preskill, professeur au California Institute of Technology (Caltech), cette « suprématie » désigne ce cap franchi par un ordinateur désormais capable d’exécuter des tâches ingérables pour une machine classique.

Depuis la publication éclair de ce papier scientifique, qui avait nourri de nombreuses spéculations – réelle avancée scientifique annoncée prématurément ou coup de com’ magistralement orchestré ? –, Google ne s’était pas exprimé sur le sujet. Mais mercredi 23 octobre 2019, la firme de Mountain View a bel et bien confirmé son exploit dans un article publié dans la revue Nature. À l’aide d’un ordinateur quantique de sa conception, l’une de ses équipes de Santa Barbara, en Californie, est parvenue pour la première fois à effectuer un calcul bien plus rapidement qu’avec les meilleurs supercalculateurs classiques. Il n’a ainsi fallu que trois minutes et vingt secondes à son processeur pour venir à bout d’une opération extrêmement complexe, là où le plus avancé des ordinateurs actuels aurait mis 10.000 ans à la finaliser.

Le processeur de Sycamore, l’ordinateur quantique de Google, tel que présenté dans la publication du 23 octobre.

Dans notre numéro de novembre 2019, Simon Perdrix, spécialiste en information quantique au Laboratoire lorrain de recherche en informatique et ses applications (Loria, à Vandœuvre-lès-Nancy) nous assurait que « la contribution de Google » semblait « solide » et était « sans doute en cours d’évaluation pour publication dans un journal prestigieux ».

L’obstacle de la décohérence

Les ordinateurs quantiques se fondent sur les propriétés de la physique quantique, qui décrit le monde à l’échelle des particules subatomiques. Ainsi, ces machines échappent aux règles de la physique classique. Elles s’appuient sur des qubits – équivalents des bits d’information dans le monde quantique –, qui utilisent les propriétés quantiques de la matière pour représenter à la fois l’état de 1 et de 0, là où les bits classiques ne peuvent opérer qu’avec une unité d’information à la fois, soit l’état 0, soit l’état 1.

En conséquence, les qubits sont en mesure de prendre deux configurations simultanément au lieu d’une. C’est précisément cette étrange propriété qui leur confère leur incroyable rapidité. Mais c’est aussi elle qui pose un problème de taille : cet état de « dualité » est d’une extrême fragilité et entraîne beaucoup d’erreurs. Un objet quantique glisse en effet très facilement et brutalement d’un état quantique fragile vers un état classique stable – ce que l’on appelle le phénomène de décohérence quantique. De fait, les machines gardent leurs propriétés quantiques pendant une période très brève.

À l’état subatomique, la matière a des propriétés surprenantes : elle passe d’abord par l’état d' »intrication », correspondant à la situation où deux particules, pour peu qu’elles aient interagi dans le passé, se trouvent corrélées au point de ne former qu’un seul objet, même si elles sont distantes de plusieurs millions de kilomètres. Vient ensuite l’état de « superposition », lorsqu’une particule est dans deux états à la fois (1 et 0, en informatique).

Alors que le point de bascule vers la suprématie quantique a été fixé à 50 qubits, Google a réussi à effectuer sa démonstration avec 53 qubits. Son ordinateur avait pour tâche de produire des nombres aléatoires présentant des corrélations que seul un algorithme quantique peut créer. Mais « la démonstration de la suprématie quantique s’effectue en deux étapes », nous expliquait Simon Perdrix il y a quelques semaines. « Il faut d’abord résoudre le problème avec un ordinateur quantique puis démontrer que la machine classique ne peut y parvenir. Et cette deuxième partie est très difficile. »

Une avancée contestée par IBM

Or, IBM, un autre géant du secteur et concurrent majeur de Google, s’est empressé de réagir sur ce point pour relativiser l’avancée de Google, et ce même avant la parution du papier dans NatureDans une publication sur son blog, la firme prétend avoir découvert un algorithme classique capable d’effectuer, sur une machine tout aussi classique, un calcul similaire à celui de la machine de Google… en seulement deux jours et demi. Un laps de temps bien loin des 10.000 ans. Si IBM dit vrai, la suprématie quantique n’est donc toujours pas atteinte. Déjà, en septembre, le directeur de la recherche chez IBM, Dario Gil, avait asséné que cette affirmation de Google était « tout simplement fausse ».

Il faut dire que dans cette course à la domination quantique, les concurrents sont au coude à coude : IBM, qui utilise la même technologie que Google (à base de supraconducteurs), vient d’annoncer avoir elle aussi mis au point une machine à 53 qubits. Les Autrichiens du Center for Quantum Science ans Technologie à Vienne, eux, sont bloqués à 20 qubits mais leur approche à base d' »atomes froids » fait preuve de bien plus de fiabilité. En France enfin, le CEA a lancé un programme fin 2018 pour atteindre les 100 qubits en misant sur le silicium.

« Suprématie quantique » atteinte ou non, la guerre est donc loin d’être terminée. Et l’ordinateur quantique – le programmable, pas le simple calculateur – loin d’être une réalité.

Source: Sciences et Avenir

IBM Project Debater : cette IA peut débattre avec les humains


IBM vient d’organiser une série de débats entre son IA et des humains au cours desquels la machine a remporté une victoire. Le système pourrait un jour servir à la prise de décision.

Après la victoire de Deep Blue contre le champion d’échecs Garry Kasparov en 1997, celle de Watson au jeu télévisé Jeopardy! en 2011, IBM s’est lancée un nouveau défi : créer une intelligence artificielle capable de débattre en direct avec un humain. Lancé en 2012, le programme Project Debater d’IBM Research vient d’être présenté au grand public. Lire la suite