jeudi 28 janvier 2010

Etrange perspicacité collective (2)

Part2: crowdsourcing ou la clairvoyance collective en action

Passons aux travaux pratiques du billet précédent. En économie, le crowdsourcing désigne la mise à contribution de la clairvoyance collective, que ce soit pour reconnaître des caractères manuscrits, tel le système ReCaptcha qui sert en même à éviter le spam comme l'explique très bien le Dr Goulu, pour faire un traducteur collectif ou pour labelliser des images sur Flickr. Les 80 000 "clickworkers" inscrits volontairement sur le site de la NASA ont ainsi classifié tous les cratères visibles sur Mars et le leur effort collectif donne des résultats dont la qualité est très proche de celle des meilleurs géologues (malheureusement le lien de la NASA est manifestement HS).

L'application la plus fascinante du crowdsourcing est sans aucun doute le système PageRankde Google qui estime la popularité d'une page Web en fonction du nombre de liens qui pointent vers cette page, comme si chaque lien était un vote. Mais -c'est là toute l'astuce- tous les liens ne se valent pas! Un lien de A vers B a d'autant plus de poids que que sa page d'origine (A) est ele-même populaire. A partir de ce système de votes pondérés Google calcule le score de toutes les pages du Web. Plus une page est populaire, meilleur est son classement dans les résultats du moteur de recherche. Ce système très simple a fait l'efficacité légendaire du moteur de Google. Evidemment ce système n'est pas parfait: puisque la popularité d'une page est boostée lorsqu'elle est pointée depuis un site très populaire, les petits malins postent souvent de tels liens en commentaires des blogs prestigieux. Même si personne ne clique sur ces liens auto-promotionnels, la popularité PageRank de leur site est automatiquement améliorée.

Lire l'avenir grâce aux paris?
Peut-on gagner au tiercé grâce au théorème de la prédiction par la diversité? Bon, à vrai dire la théorie ne casse pas des briques au turf. Certes, un cheval qui est misé "à trois contre un" n'a pas loin d'une chance sur 4 de gagner. Mais la spéculation biaise pas mal la précision de ces prédictions car on mise moins qu'on le devrait sur les favoris (parce que c'est moins drôle?) et trop sur les outsiders (à cause du jack-pot qu'on touche s'il gagne?).
En revanche, les résultats sont assez spectaculaires sur les services de pari en ligne aux Etats-Unis notamment. Sur le site TradeSports.com, par exemple, on peut parier sur n'importe quoi en lien avec le sport: le vainqueur d'un match de baseball, ou le score d'une partie de football américain. Comme pour le tiercé, le prix d'une option est directement proportionnel au niveau de confiance collectif pour que cette option se réalise. Pour savoir si le marché prédit correctement, il suffit de compter pour chaque niveau de prix, la probabilité qu'un option soit gagnante. Il ne reste plus qu'à comparer le nuage de points ainsi obtenu avec ce qui serait une prédiction parfaite (la ligne en pointillé). Le résultat parle de lui-même:

(source: ici)

De tels systèmes de paris en ligne ont fleuri sur tous les sujets, que ce soit avec de l'argent réel ou de la monnaie de singe. Le Hollywood Stock Exchange permet ainsi de parier sur le succès au box-office des films qui vont sortir en salle, ou sur les vainqueurs aux prochains Oscars.

(Source: ici)
Dans le domaine de la politique, le marché électronique de l'Université de l'Iowa (IEM) est devenu une référence pour prédire l'issue des élections présidentielles américaines. Il faut dire que là encore, son pouvoir prédictif est impressionnant:
(source: ici)
Plus besoin de sondages?
Une étude récente a comparé la précision de 964 sondages électoraux depuis 1988 avec les prédictions de l'IEM aux mêmes dates. L'IEM est plus fiable dans les 3/4 des cas, et la différence est encore plus net dans les trois mois précédents le scrutin. Plusieurs explications sont avancées pour expliquer cette performance:
- Contrairement aux sondés qui répondent sans s'engager, les parieurs prennent un risque réel en misant de l'argent sur un candidat. Ils sont donc incités à estimer le mieux possible l'issue du scrutin, en mettant à profit toute l'information à leur disposition.
- Alors que les sondés se valent tous, les parieurs pondèrent naturellement leur pari en misant plus ou moins, en fonction de leur (in)certitude; ceux qui sont sûrs de leur prédiction misent plus et donc pèsent davantage sur le marché que les incertains qui ont misé trois clopinettes;
- Enfin, les parieurs prédisent un événement réel (le résultat d'une élection), tandis que les sondés répondent souvent à une question irréaliste du type "si vous deviez aujourd'hui voter, quel candidat aurait votre préférence?". Cette différence pourrait expliquer pourquoi les prédictions du marché "sur-réagissent" beaucoup moins que les sondages aux événements de la campagne, tel que les cérémonies d'investiture des candidats.

Reste que les marchés peuvent aussi être victimes de la "hype" du moment. Lors de la dernière élection, ils se sont par exemple complètement plantés pour les primaires du New Hampshire, pronostiquant à tort une victoire assurée à 95% pour Obama. En restreignant la diversité d'opinion, l'Obamania a eu raison de la légendaire clairvoyance de l'IEM.

Dans les entreprises: boule de cristal ou lunettes du prince?
Bref, toujours est-il qu'ils ne sont pas bien malins, à l'Elysée: au lieu de dépenser des fortunes dans des sondages pas précis, ils feraient mieux d'organiser gratuitement des paris en ligne! C'est ce que font des entreprises astucieuses, comme HP, Microsoft, Mittal ou Google, en invitant leurs salariés à parier sur l'actualité future de leur société. Pour Google par exemple, on parie par exemple sur l'ouverture prochaine d'un bureau en Russie, ou sur le nombre d'utilisateurs de Gmail à la fin du trimestre. On y gagne des Roobles (jeu de mots!) convertibles en primes. Je n'ai pas réussi à savoir à quel point les prédictions sont correctes, mais des chercheurs ont déjà constaté des biais dans le système:
- les jeunes recrues sont beaucoup trop optimistes sur les performances de leur entreprise dont ils connaissent encore mal les limites;
- les parieurs s'influencent lorsqu'ils sont voisins de bureau (un comble pour une société où on ne jure que par l'email et l'IM!). Or l'indépendance des paris est garante d'un résultat collectif pertinent...

En tous cas, lorsque la question porte sur le respect de l'échéance d'un projet, ce système constitue un thermomètre idéal pour le management. Et dans le fond, n'est-ce pas l'essentiel? L'intérêt de ce type de marché est peut-être moins de prédire l'avenir que de permettre au management de saisir enfin le fond de la pensée des employés, dépouillée de tout "politiquement correct". Une information devenue vitale tant les conseils d'administrations sont parfois adeptes de la pensée unique et frappés dès lors de cécité stratégique. Comme disait Tocqueville
"Lorsqu'une opinion (...) s'est établie dans l'esprit du plus grand nombre elle subsiste ensuite d'elle-même et se perpétue sans efforts, parce que personne ne l'attaque(...) Il arrive quelquefois que le temps, les événements ou l'effort individuel et solitaire des intelligences, finissent par ébranler ou par détruire peu à peu une croyance sans qu'il en paraisse au dehors. (...) Ses sectateurs la quittent un à un sans bruit; mais chaque jour quelques-uns l'abandonnent jusqu'à ce qu'enfin elle ne soit plus partagée que par le petit nombre. En cet état elle règne encore.(...) La majorité ne croit plus; mais elle a encore l'aire de croire et ce vain fantôme d'une opinion publique suffit pour glacer les novateurs, et les tenir dans le silence et le respect."
Robert Burgelman, professeur de stratégie d'entreprise à Stanford, décrit ainsi l'aveuglement d'Intel dans les années 1980:
"La sortie de Intel du marché des mémoires, leur cœur de métier, a été le résultat, non pas d'une décision stratégique de la direction générale après analyse du marché, mais d'une série de décisions et d'actions à des niveaux "inférieurs" de l'entreprise. La direction générale n'a fait que prendre acte, en 1986, que l'entreprise n'était plus une entreprise de mémoires, mais de microprocesseurs, et ce alors que les mémoires représentaient moins de 50% de leur chiffre d'affaire depuis 1982 déjà" (d'après le compte-rendu qu'en fait Philippe Silberzahn raconte dans son blog).

Pour éviter d'en arriver là, le verdict des paris en ligne constituent un bon indicateur du niveau de confiance des salariés dans la stratégie et les produits de leur entreprise. De nouvelles lunettes pour le prince en quelque sorte.

Eloge de la diversité en management
Ces réflexions sur les liens étroits entre diversité et perspicacité collective jettent finalement un drôle d'éclairage sur la "chasse aux talents" déployée pour doter les comités exécutifs des meilleurs experts. Les critères d'excellence étant peu nombreux, les "meilleurs" ont tendance à se ressembler tous, surtout quand ils ont suivi le même type de formation (grandes écoles par exemple) et plus ou moins le même cursus professionnel. Or l'excellence individuelle est synonyme de médiocrité collective quand elle appauvrit la diversité du groupe, car un groupe trop homogène a plus de mal à se remettre en cause en cas de coup dur. Pour améliorer les performances d'un comité de direction déjà composé d'excellents professionnels, Scott Page -le chercheur de l'Université de Michigan dont on a parlé dans le dernier billet- suggère qu'il est probablement plus efficace de recruter quelqu'un d'un peu éclectique, avec des compétences très différentes qui apportera sa touche de diversité à la pensée commune. Voilà qui devrait combler les partisans de la discrimination positive en faveur des minorités de toutes sortes...

Sources:
Pennock et al., The Power Of Play, efficiency and forecast accuracy in Web Market Games, 2001.
Berg, Nelson, Rietz, Prediction market accuracy in the long run, 2008
L'article de Business Week d'août 2006 sur les entreprises utilisant les paris en ligne internes
Les applications du crowdsourcing ici
Toqueville "De la démocratie en Amérique" (la citation est tirée du chapitre XXI)

Billets connexes:
Etrange perspicacité collective (1)