Algorithmic accountability – Work in progress

2824863959_4fe17cc109_oIl y a peu les géants du digital lançaient le partenariat pour l’IA . C’est peut être ce colloque à la NYU qui en a cristallisé l’idée. C’est déjà dans le livre de Franck Pasquale. La question du rôle social des algorithmes et de leur responsabilité, notamment celle de rendre des comptes devient centrale dans nos sociétés. Elle l’est en particulier pour les pratiques de marketing qui s’expriment de plus en plus via leurs calculs sur des volumes toujours accrues de données, les plateformes en sont le champs d’expression principal.

Recommander des produits, des relations, évaluer des risques, définir des prix, calculer des parcours, lancez des alertes personnalisées, qualifier des offres, commandez des machines, la panoplie des outils ne fait que s’étendre et se raffiner. Ces pratiques ne font-elles que ce qu’elles doivent faire? Entrainent-elle pas des réponses de ses sujets? Lesquelles? Quels sont leurs effets secondaires?

De l’économie collaborative au gouvernement algorithmique des plateformes

5928727544_fdc9ecc4e5_zCe texte résume l’intervention réalisée dans le cadre de la Conférence Internationale de Gouvernance CIG 2016 à l’Université de Montpellier : Gouvernance et gouvernementalité à l’heure du big data : quels enjeux pour les entreprises ? La version originale de cet article a été publiée sur The Conversation.

Avec le développement de l’économie collaborative, ou d’économie on-demand, le modèle de plateforme prend un nouvel élan. On l’a découvert avec les plateformes-produits, il s’est conforté avec les marketplaces, il s’épanouit avec les réseaux sociaux. Désormais il règle les échanges de services et le prêt des biens. Une grande partie des 150 licornes (start-up valant plus d’un milliard de dollars) est constituée par des plateformes, on en dénombre plusieurs milliers, dont Uber, BlaBlaCar ou Ola dans le transport, Airbnb ou Booking.com pour hébergement à courte durée, Oscaro, Lending Club ou Indiegogo dans le crowdfunding, Amazon, Alibaba pour les places de marché, mais aussi Esty dans une version plus collaborative, Deliveroo ou Hero delivery dans la logistique du dernier kilomètre, Fiverr et Taskrabbit pour les services à domicile.

Du crowdsourcing et des algorithmes

Le propre des plateformes réside dans deux éléments. Le premier est une généralisation du crowdsourcing qui, ouvrant très largement l’approvisionnement en actifs productifs, en travail et en consommations intermédiaires, donne une place importante à des acteurs que l’on peut qualifier d’amateurs. Le second est du recours intensif aux algorithmes pour assurer la coordination des activités à une échelle très importante (des centaines de millions d’individus) et très fine du point de vue de l’espace et du temps. La combinaison de ces deux éléments conduit à un modèle d’organisation d’un type nouveau, fondé sur la maîtrise des algorithmes qui pose des questions de gouvernance, d’autant plus fortes que les machines sont faillibles.

Le moteur de croissance des plateformes s’analyse au travers de la combinaison de plusieurs mécanismes économiques. Le premier est celui du crowdsourcing et il se révèle dans la capacité à mobiliser des actifs sous-utilisés, du travail parfois non rémunéré et de l’information et des idées partagées. Il engendre un second mécanisme de la longue traîne, plus justement décrit par la notion d’économie de la diversité. Le troisième est l’interaction positive entre les populations qui constituent les différents versants de marché : l’attractivité de la plateforme sur le versant client est d’autant plus grande que la diversité des offres est forte et réciproquement.

Elle est amplifiée par la maîtrise des capacités d’appariement (matching markets) qui permettent de résoudre la faiblesse d’une offre trop large et trop diverse pour les capacités cognitives des demandeurs, par le biais de score d’appariement (comme sur les plateformes de rencontre) et de moteurs de recommandation (comme dans le cas les places de marchés). L’ensemble produit des externalités de réseaux et de standard qui soutiennent la politique de crowdsourcing.

Gouvernementalité algorithmique

L’analyse économique permet de rendre compte a posteriori des succès des plateformes, mais dit peu de la manière dont ils sont menés.

C’est dans la manière dont les plateformes gouvernent leurs populations qu’on peut trouver une réponse. Avec le concept de gouvernementalité de Michel Foucault, définit rapidement comme l’influence sur les conduites qui transforme les populations en ressources, un cadre d’analyse cohérent peut être formulé. La gouvernementalité se manifeste par trois grands éléments : l’architecture des plateformes qui capacite ou restreint l’action de ses membres et des populations ; une capacité normative et de surveillance -une police ; un dispositif incitatif qui stimule l’activité des acteurs individuels et mobilise les foules.

La spécificité de ces politiques est d’être largement algorithmique, se nourrissant d’un flux de données important (le big data) qui à la fois permet de produire la connaissance nécessaire et la mise en œuvre des politiques dans le flux des microdécisions prises par l’organisation et les individus. Un mécanisme comme le surge pricing de Uber en est un exemple remarquable : à l’échelle de quelques minutes et d’un quartier, Uber peut faire varier les tarifs en fonction de l’offre de VTC et de la demande, dans le but principal de limiter l’attente à moins de cinq minutes.

Le calcul n’est pas neutre

On a tendance à surestimer leur efficacité et leur neutralité. Ils produisent des effets de dispersion des prix, de polarisation des opinions, de discrimination sociale. Autant d’effets que leurs concepteurs n’ont pas envisagés. C’est le fruit d’une forte dépendance aux données : les paramètres des algorithmes dépendent des données qu’ils traitent, et certains groupes d’acteurs peuvent les troubler. Le calcul qu’ils produisent n’est pas neutre, son résultat est souvent performatif et les populations qui en sont la cible s’y adaptent par une sorte de social computing.

Les effets de ranking en sont un exemple, le classement renforçant la performance. Des effets inattendus, parfois néfastes, sont observés : extrême variance des prix de marchés, biais de sélection, polarisation des opinions, ségrégation sociale. C’est ce qu’on peut appeler la politique des algorithmes et qu’on définit comme l’effet résiduel et non intentionnel de la gouvernementalité.

Les plateformes font ainsi naître un double risque : celui d’une interférence dans les libertés et celui des externalités sociales liées à la construction même des algorithmes. Cette analyse conduit à s’interroger sur la gouvernance des plateformes et les mécanismes qui permettent de gouverner le gouvernement des plateformes. Quelle politique de confidentialité des données personnelles ? Quel degré de transparence des algorithmes ? Quel degré de participation des usagers à la conception et aux pilotages de ces modèles ? Quel degré de régulation par la puissance publique ?

Avec leur surgissement et leur déploiement planétaire, ces questions deviennent clés. Elles justifient que l’idée de redevabilité algorithmique soit de plus en plus élaborée, et surtout mise en œuvre.

Référence des travaux présentés : C. Benavent (2016) « Plateformes : sites collaboratifs, marketplaces, réseaux sociaux… Comment ils influencent nos choix », Fyp.

The Conversation

Christophe Benavent, Professeur Sciences de Gestion, Université Paris Ouest Nanterre La Défense – Université Paris Lumières

 

Un peu de marketing public…

4310270710_bf489a3c4e_oC’est une invitation de Patrick Gibert, et je suis ravi d’y avoir répondu. Le séminaire PMP avait aujourd’hui un angle marketing public. Romain Laufer, dans l’exactitude d’une pensée en écrevisse, l’oeil qui ne laisse rien passer, et le tricotage d’une immense culture. Saluons Gérald Orange, Philippe Zarlowski, des étudiants, des doctorants. Et l’intervention de Christophe Alaux, une jolie synthèse du marketing territorial.

Pour ma part, c’est en crabe que j’ai attaqué le sujet. Après tout, l’Etat n’est-il pas le bon modèle du marketing? Et ne faut-il pas le chercher dans les nouvelles formes d’entreprises. Les plateformes sont un terrain formidable. Leur objet de gestion ce sont les population, le même objet que ce que Michel Foucault désigne par population. Plutôt que d’ajuster le marketing à la politique, il vaudrait mieux mettre de la politique dans le marketing.

 

Alimentation et digital : du travail du consommateur à la gouverne de ses conduites.

17039872067_cf7f22e4a8_kVoici une présentation qui a été donnée pour le Fond Français pour l’Alimentation et la Santé le 6 octobre 2015 au CEDIAS. J’avoue avoir souffert sur ce sujet, Il y a aussi un texte, en ligne dans la série des lettres scientifiques de la FFAS , en voici cependant les slides qui en est une autre interprétation, plus imagée, en attendant la vidéo.

J’aurais eu un grand plaisir à la préparer, car si ce domaine semble le moins concerné par la digitalisation, y réfléchir en donne toute la profondeur. Rien n’est plus culturel, rien n’est plus inscrit dans les pratiques sociales, rien n’est plus proche de cette crête qui se dresse entre la marchandisation et ce que qui nous fait vivre : l’expérience. Rien n’est plus proche du monde futur où notre intimité sera gouvernée par les exigences sociales et équitables, les impératifs de la santé, la dictature de la ligne, l’obligation du bien-être au travers de la débauche technique par l’ingénierie et l’architecture de la décision. Les objets connectés et les appareils de notre consommation seront le support de la machinerie des nudges. C’est sans doute sur ce champs de bataille que se joue aussi notre consommation.

La vidéo complète (90mn – pour une lecture plus structurée et séquencée la lire sur le site du FFAS)

Gafa presque souverains

17034261188_d656b18a22_oC’était en Juillet, une occasion supplémentaire de parler de plateforme et de gouvernementalité, ce sera assurément un des mes sujets phare cette année, notamment dans le cadre du Master MOPP. Une interview en parallèle avec Jean-Gabriel Ganascia du LIP6.

Un observateur avisé a remarqué le papier,et l’on reviendra certainement sur un point clé, la politique des algorithmes ce n’est pas seulement le glissement du politique vers la sphère privée ( et oui leur rôle est aussi de faire la police !) mais aussi plus globalement la remise en cause de la  souveraineté et pas que numérique. Vaste débat de société!

crédit Photo : Id iom