Résumé

Ronald Bailey est un écrivain scientifique dont les livres incluent Liberation Biology et The End of Doom : Environmental Renewal in the 21st Century. Il a également produit des documentaires pour PBS et ABC, et publié dans des magazines tels que Reason et Forbes. Nous nous concentrons ici sur son article détaillé de 2019 sur les implications de l'IA pour la gouvernance.

​

1. Un logiciel de reconnaissance faciale, tel que Rekognition d'Amazon, est testé et utilisé par les forces de police locales, ainsi que par des agences du gouvernement fédéral telles que l'Immigration and Customs Enforcement (ICE), le FBI et la Drug Enforcement Administration. Les différentes utilisations particulières, à savoir le suivi des immigrants non autorisés et des criminels présumés, pourraient être intégrées dans des systèmes en réseau de surveillance de masse.
2. Les systèmes sont imparfaits. Les reconnaissances faussement positives — Bailey note que la technologie a associé par erreur 28 membres du Congrès à des suspects criminels — entraîneront la détention de personnes innocentes et les soumettront aux dangers d'une intervention policière.
3. Pourtant, la police, les bureaucrates et les autres responsables de la gouvernance peuvent également commettre des erreurs, mentir intentionnellement et faire le mal. L'utilisation accrue d'algorithmes dans la gouvernance minimiserait-elle les erreurs, les biais et les méfaits intentionnels ? Algocratie est définie comme « une gouvernance algorithmique qui utilise l'exploration de données et l'analyse prédictive/descriptive pour contraindre et contrôler le comportement humain ».
4. La personne moyenne interagit désormais fréquemment avec des appareils numériques connectés : smartphones, Fitbits, systèmes de paiement, caméras de sécurité, distributeurs automatiques. Alors que les véhicules autonomes, les implants médicaux, les commandes domotiques telles qu'Alexa et l'affichage numérique deviennent de plus en plus omniprésents, on prévoit que d'ici 2025, chacun d'entre nous « interagira avec des appareils numériques connectés près de 4 800 fois par jour ».
5. Qui contrôle les informations et les actions possibles avec celles-ci devient donc une question politique fondamentale. Allons-nous chacun contrôler les nôtres, serons-nous poussés par une combinaison de décisions personnelles, d'entreprises et de gouvernements, ou serons-nous contrôlés par des forces impersonnelles dont nous sommes largement ignorants ? L'esprit d'entreprise connaîtra un essor à mesure que l'accélération créera de nouvelles opportunités et que « le temps nécessaire pour mobiliser des capitaux d'amorçage est passé de plusieurs années à quelques minutes » (23).
6. L'un des futurs possibles est capitalisme de surveillance, dans laquelle nous communiquons nos données personnelles à des entreprises privées qui « utilisent ensuite leurs technologies d'analyse des données pour proposer des suggestions personnalisées de services et de produits qui, selon elles, répondront à nos besoins et à nos désirs ». Nous participerons volontairement car nous pensons que les algorithmes utilisés seront plus bienveillants que malveillants.
7. Une autre possibilité est communisme de surveillance: les gouvernements dictatoriaux utilisent des algorithmes pour orienter le comportement des citoyens vers les résultats souhaités par le gouvernement plutôt que vers ceux des citoyens individuels. L'expérience du crédit social en Chine qui a débuté en 2014 constitue une étape importante dans cette voie, au bout de laquelle se trouve la dystopie décrite dans le roman de George Orwell Dix-neuf quatre-vingt-quatre, dans lequel la police de la pensée découvre et punit non seulement les « mauvaises actions » mais aussi les « crimes de pensée », c'est-à-dire les pensées personnelles proscrites par le Parti.

​

Lisez L'article complet de Ronald Bailey ici. Résumé de Stephen Hicks, 2020.

‍