Les humains peuvent-ils gagner au progrès avec la coordination ?

Un merci spécial à Karl Floersch et Jinglan Wang pour leurs commentaires et leurs critiques.

Voir également:

• Sur la collusion
• Ingénierie de la sécurité par des problèmes de coordination
• Modèles de confiance
• Le sens de la décentralisation

La coordination - la capacité pour de grands groupes d'acteurs de travailler ensemble pour leur intérêt commun - est l'une des forces les plus puissantes de l'univers.

C'est la différence entre un roi dirigeant confortablement un pays comme une dictature oppressive, et le peuple se rassemblant et le renversant.

C'est la différence entre la température globale qui monte de 3 à 5°C et la température qui monte d'une quantité beaucoup plus petite si nous travaillons ensemble pour l'arrêter.

Et c'est le facteur qui rend possibles les entreprises, les pays et toute organisation sociale plus grande que quelques personnes.

La coordination peut être améliorée de plusieurs façons : diffusion plus rapide de l'information, meilleures normes qui identifient les comportements classés comme tricherie ainsi que des sanctions plus efficaces, organisations plus fortes et plus puissantes, outils comme les contrats intelligents qui permettent des interactions avec des niveaux de confiance réduits, technologies de gouvernance (vote, actions, marchés de décision...), et bien plus encore.

Et en effet, en tant qu'espèce, nous nous améliorons dans toutes ces choses au fil des décennies qui passent.

Mais il y a aussi un côté sombre très philosophiquement contre-intuitif à la coordination.

S'il est tout à fait vrai que "chacun se coordonne avec tout le monde" conduit à de bien meilleurs résultats que "chacun pour soi", ce que cela n'implique PAS, c'est que chaque pas individuel vers plus de coordination est nécessairement bénéfique .

Si la coordination est améliorée de manière déséquilibrée, les résultats peuvent facilement être néfastes.

Nous pouvons considérer cela visuellement comme une carte, bien qu'en réalité la carte ait plusieurs milliards de "dimensions" plutôt que deux :

Le coin inférieur gauche, "chacun pour soi", est l'endroit où nous ne voulons pas être. Le coin supérieur droit, la coordination totale, est idéal, mais probablement irréalisable.

Mais le paysage au milieu est loin d'être une pente uniforme, avec de nombreux endroits raisonnablement sûrs et productifs dans lesquels il vaut peut-être mieux s'installer et de nombreuses grottes sombres et profondes à éviter.

Maintenant, quelles sont ces formes dangereuses de coordination partielle, où quelqu'un qui se coordonne avec certains autres humains mais pas avec d'autres conduit à un trou noir profond ? Il est préférable de les décrire en donnant des exemples :

• Citoyens d'une nation se sacrifiant vaillamment pour le plus grand bien de leur pays dans une guerre... quand ce pays s'avère être l'Allemagne ou le Japon de la Seconde Guerre mondiale

  
  

• Un lobbyiste offrant un pot-de-vin à un politicien en échange de l'adoption par ce politicien des politiques préférées du lobbyiste

  
  

• Quelqu'un qui vend son vote lors d'une élection

  
  

• Tous les vendeurs d'un produit sur un marché s'entendent pour augmenter leurs prix en même temps

  
  

• Les grands mineurs d'une blockchain s'entendent pour lancer une attaque à 51%

Dans tous les cas ci-dessus, nous voyons un groupe de personnes se rassembler et coopérer les unes avec les autres, mais au grand détriment d'un groupe qui se trouve en dehors du cercle de coordination, et donc au détriment net du monde dans son ensemble.

Dans le premier cas, ce sont toutes les personnes qui ont été victimes de l'agression des nations susmentionnées qui sont en dehors du cercle de coordination et qui en souffrent lourdement ; dans les deuxième et troisième cas, ce sont les personnes concernées par les décisions prises par l'électeur et le politicien corrompus, dans le quatrième cas, ce sont les clients, et dans le cinquième cas, ce sont les mineurs non participants et les utilisateurs de la blockchain.

Ce n'est pas un individu qui fait défection contre le groupe, c'est un groupe qui fait défection contre un groupe plus large, souvent le monde dans son ensemble.

Ce type de coordination partielle est souvent appelé "collusion", mais il est important de noter que l'éventail des comportements dont nous parlons est assez large.

Dans le discours normal, le mot « collusion » a tendance à être utilisé plus souvent pour décrire des relations relativement symétriques, mais dans les cas ci-dessus, il existe de nombreux exemples à fort caractère asymétrique.

Même les relations d' extorsion ("votez pour mes politiques préférées ou je révélerai publiquement votre affaire") sont une forme de collusion dans ce sens. Dans le reste de cet article, nous utiliserons « collusion » pour désigner la « coordination indésirable » en général.

Évaluez les intentions, pas les actions (!!)

Une propriété importante, en particulier dans les cas de collusion les plus bénins, est qu'il est impossible de déterminer si une action fait ou non partie d'une collusion non souhaitée simplement en examinant l'action elle-même.

La raison en est que les actions qu'une personne entreprend sont une combinaison des connaissances, des objectifs et des préférences internes de cette personne ainsi que des incitations imposées de l'extérieur à cette personne, et donc les actions que les gens entreprennent en cas de collusion, par rapport aux actions que les gens entreprennent par eux-mêmes. la volonté (ou la coordination de manière bénigne) se chevauchent souvent.

Prenons par exemple le cas de la collusion entre vendeurs (un type de violation des lois antitrust ). S'il opère de manière indépendante, chacun des trois vendeurs peut fixer un prix pour un produit entre 5 $ et 10 $ ; les différences au sein de la fourchette reflètent des facteurs difficiles à voir tels que les coûts internes du vendeur, sa propre volonté de travailler à des salaires différents, des problèmes de chaîne d'approvisionnement, etc.

Mais si les vendeurs s'entendent, ils pourraient fixer un prix entre 8 et 13 dollars. Encore une fois, la fourchette reflète différentes possibilités concernant les coûts internes et d'autres facteurs difficiles à voir.

Si vous voyez quelqu'un vendre ce produit pour 8,75 $, fait-il quelque chose de mal ? Sans savoir s'ils se sont coordonnés ou non avec d'autres vendeurs, vous ne pouvez pas le dire !

Faire une loi qui dit que vendre ce produit pour plus de 8 $ serait une mauvaise idée ; il y a peut-être des raisons légitimes pour lesquelles les prix doivent être élevés à l'heure actuelle.

Mais faire une loi contre la collusion et l'appliquer avec succès donne le résultat idéal - vous obtenez le prix de 8,75 $ si le prix doit être si élevé pour couvrir les coûts des vendeurs, mais vous n'obtenez pas ce prix si les facteurs qui font monter les prix sont naturellement faibles.

Cela s'applique également aux affaires de corruption et de vente de votes : il se peut que certaines personnes votent légitimement pour le parti orange, mais que d'autres votent pour le parti orange parce qu'elles ont été payées.

Du point de vue de quelqu'un qui détermine les règles du mécanisme de vote, il ne sait pas à l'avance si le Parti Orange est bon ou mauvais.

Mais ce qu'ils savent , c'est qu'un vote où les gens votent en fonction de leurs sentiments internes honnêtes fonctionne raisonnablement bien, mais un vote où les électeurs peuvent librement acheter et vendre leurs votes fonctionne terriblement.

C'est parce que la vente de votes a une tragédie des communs : chaque électeur ne gagne qu'une petite partie de l'avantage de voter correctement, mais gagnerait le pot-de-vin complet s'il vote comme le veut le pot-de-vin, et donc le pot-de-vin requis pour attirer chaque électeur individuel est beaucoup plus petit que le pot-de-vin qui compenserait réellement la population pour les coûts de la politique que le pot-de-vin souhaite.

Par conséquent, les votes où la vente de votes est autorisée s'effondrent rapidement en ploutocratie .

Comprendre la théorie des jeux

Nous pouvons zoomer plus loin et regarder cela du point de vue de la théorie des jeux. Dans la version de la théorie des jeux qui se concentre sur le choix individuel - c'est-à-dire la version qui suppose que chaque participant prend des décisions de manière indépendante et qui ne permet pas la possibilité que des groupes d'agents travaillent comme un seul pour leur bénéfice mutuel, il existe des preuves mathématiques qui au moins un équilibre de Nash stable doit exister dans tout jeu.

En fait, les concepteurs de mécanismes ont une très grande latitude pour "concevoir" des jeux afin d'obtenir des résultats spécifiques. Mais dans la version de la théorie des jeux qui permet la possibilité de coalitions travaillant ensemble (c'est-à-dire "collusion"), appelée théorie des jeux coopératifs , nous pouvons prouver qu'il existe de grandes classes de jeux qui n'ont pas de résultat stable (appelé un " noyau ").

Dans de tels jeux, quel que soit l'état actuel des choses, il y a toujours une coalition qui peut s'en écarter avec profit.

Une partie importante de cet ensemble de jeux intrinsèquement instables est les jeux majoritaires . Un jeu majoritaire est formellement décrit comme un jeu d'agents où n'importe quel sous-ensemble de plus de la moitié d'entre eux peut capturer une récompense fixe et la partager entre eux - une configuration étrangement similaire à de nombreuses situations de gouvernance d'entreprise, de politique et de nombreuses autres situations de la vie humaine. .

Autrement dit, s'il existe une situation avec un pool fixe de ressources et un mécanisme actuellement établi pour distribuer ces ressources, et qu'il est inévitablement possible que 51 % des participants conspirent pour prendre le contrôle des ressources, quel que soit le courant configuration est qu'il y a toujours un complot qui peut émerger qui serait profitable pour les participants.

Cependant, cette conspiration serait alors à son tour vulnérable à de nouvelles conspirations potentielles, incluant éventuellement une combinaison de conspirateurs et de victimes antérieurs... et ainsi de suite.

Ce fait, l'instabilité des jeux majoritaires dans la théorie des jeux coopératifs, est sans doute hautement sous-estimé en tant que modèle mathématique général simplifié expliquant pourquoi il pourrait bien n'y avoir aucune «fin de l'histoire» en politique et aucun système qui se révèle pleinement satisfaisant; Je pense personnellement que c'est beaucoup plus utile que le plus célèbre théorème d'Arrow , par exemple.

Notez encore une fois que la dichotomie de base ici n'est pas "individuel contre groupe" ; pour un concepteur de mécanismes, « individu contre groupe » est étonnamment facile à gérer. C'est « groupe contre groupe élargi » qui présente le défi.

La décentralisation comme anti-collusion

Mais il y a une autre conclusion, plus brillante et plus exploitable, de cette ligne de pensée : si nous voulons créer des mécanismes stables, nous savons qu'un ingrédient important pour ce faire est de trouver des moyens de rendre plus difficile les collusions, en particulier les grandes -des collusions à l'échelle, se produire et se maintenir.

Dans le cas du vote, nous avons le scrutin secret - un mécanisme qui garantit que les électeurs n'ont aucun moyen de prouver à des tiers comment ils ont voté, même s'ils veulent le prouver ( MACI est un projet essayant d'utiliser la cryptographie pour étendre le secret- principes du scrutin dans un contexte en ligne).

Cela perturbe la confiance entre les électeurs et les corrupteurs, limitant fortement les collusions indésirables qui peuvent se produire. Dans ce cas d'antitrust et d'autres malversations d'entreprise, nous comptons souvent sur les lanceurs d'alerte et leur donnons même des récompenses , incitant explicitement les participants à une collusion préjudiciable à faire défection.

Et dans le cas des infrastructures publiques plus largement, nous avons ce concept ô combien important : la décentralisation .

Une vision naïve de la raison pour laquelle la décentralisation est précieuse est qu'il s'agit de réduire les risques liés à des points uniques de défaillance technique. Dans les systèmes distribués "d'entreprise" traditionnels, c'est souvent vrai, mais dans de nombreux autres cas, nous savons que cela ne suffit pas à expliquer ce qui se passe.

Il est instructif ici de regarder les blockchains. Un grand pool de minage montrant publiquement comment ils ont distribué en interne leurs nœuds et leurs dépendances réseau ne fait pas grand-chose pour calmer les membres de la communauté qui ont peur de la centralisation du minage.

Et des images comme celles-ci, montrant que 90% de la puissance de hachage de Bitcoin à l'époque était capable de se présenter au même panel de conférence, font un peu peur aux gens :

Mais pourquoi cette image fait-elle peur ? Du point de vue de la « décentralisation comme tolérance aux pannes », le fait que les grands mineurs puissent se parler ne cause aucun mal.

Mais si nous regardons la « décentralisation » comme étant la présence de barrières à la collusion nuisible, alors l'image devient assez effrayante, car elle montre que ces barrières ne sont pas aussi fortes que nous le pensions.

Or, en réalité, les barrières sont encore loin de zéro ; le fait que ces mineurs puissent facilement effectuer une coordination technique et soient probablement tous dans les mêmes groupes Wechat ne signifie pas , en fait, que Bitcoin est "en pratique un peu mieux qu'une entreprise centralisée".

Quels sont donc les obstacles restants à la collusion ? Certains principaux incluent:

• Barrières morales . Dans Menteurs et Aberrants , Bruce Schneier rappelle que de nombreux "systèmes de sécurité" (cadenas sur les portes, panneaux d'avertissement rappelant les punitions...) remplissent également une fonction morale, rappelant aux éventuels mauvais comportements qu'ils sont sur le point de commettre une faute grave et s'ils ils veulent être une bonne personne, ils ne devraient pas le faire. La décentralisation remplit sans doute cette fonction.

  
  

• Échec de la négociation interne . Les entreprises individuelles peuvent commencer à exiger des concessions en échange de leur participation à la collusion, ce qui pourrait conduire à un blocage pur et simple des négociations (voir « problèmes de résistance » en économie).

  
  

• Contre-coordination . Le fait qu'un système soit décentralisé permet aux participants qui ne participent pas à la collusion de créer facilement un fork qui élimine les attaquants complices et continue le système à partir de là.

  
  

  Les obstacles pour que les utilisateurs rejoignent le fork sont faibles, et l' intention de décentralisation crée une pression morale en faveur de la participation au fork.

  
  

• Risque de défection . Il est toujours beaucoup plus difficile pour cinq entreprises de s'unir pour faire quelque chose largement considéré comme mauvais que de s'unir dans un but non controversé ou bénin.

  
  

  Les cinq entreprises ne se connaissent pas trop bien, il y a donc un risque que l'une d'entre elles refuse de participer et dénonce rapidement, et les participants ont du mal à juger du risque. Les employés individuels au sein des entreprises peuvent également dénoncer.

Pris ensemble, ces obstacles sont en effet considérables - souvent suffisamment importants pour arrêter les attaques potentielles dans leur élan, même lorsque ces cinq entreprises sont simultanément parfaitement capables de se coordonner rapidement pour faire quelque chose de légitime.

Les mineurs de blockchain Ethereum, par exemple, sont parfaitement capables de coordonner les augmentations de la limite de gaz , mais cela ne signifie pas qu'ils peuvent si facilement s'entendre pour attaquer la chaîne.

L'expérience de la blockchain montre comment la conception de protocoles en tant qu'architectures institutionnellement décentralisées, même lorsqu'il est bien connu à l'avance que l'essentiel de l'activité sera dominé par quelques entreprises, peut souvent être une chose très précieuse.

Cette idée ne se limite pas aux blockchains ; il peut également être appliqué dans d'autres contextes (par exemple, voir ici pour les applications à l'antitrust).

Forking comme contre-coordination

Mais nous ne pouvons pas toujours empêcher efficacement les collusions préjudiciables de se produire. Et pour gérer les cas où une collusion préjudiciable a lieu, il serait bien de créer des systèmes plus robustes contre eux - plus coûteux pour ceux qui sont en collusion et plus faciles à récupérer pour le système.

Il existe deux principes de fonctionnement de base que nous pouvons utiliser pour atteindre cet objectif : (1) soutenir la contre-coordination et (2) peau dans le jeu .

L'idée derrière la contre-coordination est la suivante : nous savons que nous ne pouvons pas concevoir des systèmes passivement robustes aux collusions, en grande partie parce qu'il existe un très grand nombre de façons d'organiser une collusion et qu'il n'existe aucun mécanisme passif capable de les détecter, mais ce que nous pouvons faire, c'est répondre activement aux collusions et riposter.

Dans les systèmes numériques tels que les chaînes de blocs (cela pourrait également être appliqué à des systèmes plus courants, par exemple le DNS), une forme majeure et cruciale de contre-coordination est le forking .

Si un système est pris en charge par une coalition nuisible, les dissidents peuvent se rassembler et créer une version alternative du système, qui a (principalement) les mêmes règles, sauf qu'elle supprime le pouvoir de la coalition attaquante de contrôler le système.

Le fork est très facile dans un contexte de logiciel open-source ; le principal défi dans la création d'un fork réussi est généralement de rassembler la légitimité (théoriquement considérée comme une forme de " connaissance commune ") nécessaire pour que tous ceux qui ne sont pas d'accord avec la direction de la coalition principale vous suivent.

Ce n'est pas seulement de la théorie; cela a été accompli avec succès, notamment dans la rébellion de la communauté Steem contre une tentative de prise de contrôle hostile, conduisant à une nouvelle blockchain appelée Hive dans laquelle les antagonistes d'origine n'ont aucun pouvoir.

Marchés et Skin in the Game

Une autre classe de stratégie de résistance à la collusion est l'idée de peau dans le jeu . Skin in the game, dans ce contexte, signifie essentiellement tout mécanisme qui tient les contributeurs individuels dans une décision individuellement responsables de leurs contributions.

Si un groupe prend une mauvaise décision, ceux qui ont approuvé la décision doivent souffrir plus que ceux qui ont tenté de s'opposer. Cela évite la "tragédie des biens communs" inhérente aux systèmes de vote.

Le forking est une forme puissante de contre-coordination précisément parce qu'il introduit de la peau dans le jeu.

Dans Hive, le fork communautaire de Steem qui a rejeté la tentative de prise de contrôle hostile, les pièces qui ont été utilisées pour voter en faveur de la prise de contrôle hostile ont été largement supprimées dans le nouveau fork.

Les personnes clés qui ont participé à l'attaque en ont individuellement souffert.

Les marchés sont en général des outils très puissants précisément parce qu'ils maximisent la peau dans le jeu. Les marchés de décision (marchés de prédiction utilisés pour guider les décisions ; également appelés futarchie ) sont une tentative d'étendre cet avantage des marchés à la prise de décision organisationnelle.

Cela dit, les marchés de décision ne peuvent résoudre que certains problèmes ; en particulier, ils ne peuvent pas nous dire pour quelles variables nous devrions optimiser en premier lieu.

Coordination Structurante

Tout cela nous amène à une vision intéressante de ce que font les gens qui construisent des systèmes sociaux.

L'un des objectifs de la construction d'un système social efficace est, en grande partie, de déterminer la structure de coordination : quels groupes de personnes et dans quelles configurations peuvent se réunir pour promouvoir leurs objectifs de groupe, et quels groupes ne le peuvent pas ?

Différentes structures de coordination, différents résultats

Parfois, plus de coordination est bonne : c'est mieux quand les gens peuvent travailler ensemble pour résoudre collectivement leurs problèmes.

À d'autres moments, plus de coordination est dangereuse : un sous-ensemble de participants pourrait se coordonner pour priver tous les autres de leurs droits. Et à d'autres moments encore, une plus grande coordination est nécessaire pour une autre raison : permettre à la communauté au sens large de "riposter" contre une collusion qui attaque le système.

Dans ces trois cas, différents mécanismes peuvent être utilisés pour atteindre ces objectifs. Bien sûr, il est très difficile d'empêcher la communication pure et simple, et il est très difficile de rendre la coordination parfaite.

Mais il existe de nombreuses options intermédiaires qui peuvent néanmoins avoir des effets puissants.

Voici quelques techniques possibles de structuration de la coordination :

• Technologies et normes qui protègent la vie privée

  
  

• Moyens technologiques qui rendent difficile la preuve de votre comportement (votes secrets, MACI et technologies similaires)

  
  

• Décentralisation délibérée, distribuant le contrôle de certains mécanismes à un large groupe de personnes connues pour ne pas être bien coordonnées

  
  

• Décentralisation dans l'espace physique, séparant différentes fonctions (ou différentes parts de la même fonction) à différents endroits (par exemple, voir Samo Burja sur les liens entre la décentralisation urbaine et la décentralisation politique )

  
  

• Décentralisation entre les circonscriptions basées sur les rôles, séparant différentes fonctions (ou différentes parts d'une même fonction) à différents types de participants (par exemple, dans une blockchain : "développeurs principaux", "mineurs", "détenteurs de pièces", "développeurs d'applications" , "utilisateurs")

  
  

• Schelling points , permettant à de grands groupes de personnes de se coordonner rapidement autour d'un seul chemin vers l'avant. Des points de Schelling complexes pourraient même être implémentés dans le code (par exemple, la récupération après des attaques à 51 % peut en bénéficier).

  
  

• Parler une langue commune (ou alternativement, partager le contrôle entre plusieurs circonscriptions qui parlent des langues différentes)

  
  

• Utiliser le vote par personne au lieu du vote par (pièce/part) pour augmenter considérablement le nombre de personnes qui auraient besoin de s'entendre pour influer sur une décision

  
  

• Encourager et compter sur les transfuges pour alerter le public sur les collusions à venir

Aucune de ces stratégies n'est parfaite, mais elles peuvent être utilisées dans divers contextes avec différents niveaux de réussite.

De plus, ces techniques peuvent et doivent être combinées avec une conception de mécanisme qui tente de rendre les collusions nuisibles moins rentables et plus risquées dans la mesure du possible ; skin in the game est un outil très puissant à cet égard.

La combinaison qui fonctionne le mieux dépend en fin de compte de votre cas d'utilisation spécifique.

Publié à l'origine sous le titre « Coordination, bon et mauvais ».