¿Pueden los humanos ganar en el progreso con la coordinación?

Un agradecimiento especial a Karl Floersch y Jinglan Wang por sus comentarios y revisión.

Ver también:

• sobre colusión
• Ingeniería de seguridad a través de problemas de coordinación
• Modelos de confianza
• El significado de la descentralización

La coordinación, la capacidad de grandes grupos de actores para trabajar juntos por su interés común, es una de las fuerzas más poderosas del universo.

Es la diferencia entre un rey que gobierna cómodamente un país como una dictadura opresiva y la gente que se une y lo derroca.

Es la diferencia entre el aumento de la temperatura global de 3 a 5 ºC y el aumento de la temperatura en una cantidad mucho menor si trabajamos juntos para detenerlo.

Y es el factor que hace posible que las empresas, los países y cualquier organización social sean más grandes que unas pocas personas.

La coordinación se puede mejorar de muchas maneras: difusión más rápida de la información, mejores normas que identifiquen qué comportamientos se clasifican como engaño junto con castigos más efectivos, organizaciones más fuertes y poderosas, herramientas como contratos inteligentes que permiten interacciones con niveles reducidos de confianza, tecnologías de gobernanza (voto, acciones, mercados de decisión...), y mucho más.

Y, de hecho, nosotros, como especie, estamos mejorando en todas estas cosas con cada década que pasa.

Pero también hay un lado oscuro filosóficamente contrario a la intuición de la coordinación.

Si bien es enfáticamente cierto que "todos coordinándose con todos" conduce a resultados mucho mejores que "cada hombre por sí mismo", lo que eso NO implica es que cada paso individual hacia una mayor coordinación sea necesariamente beneficioso .

Si se mejora la coordinación de forma desequilibrada, los resultados pueden ser fácilmente perjudiciales.

Podemos pensar en esto visualmente como un mapa, aunque en realidad el mapa tiene miles de millones de "dimensiones" en lugar de dos:

La esquina inferior izquierda, "sálvese quien pueda", es donde no queremos estar. La esquina superior derecha, coordinación total, es ideal, pero probablemente inalcanzable.

Pero el paisaje en el medio está lejos de ser una pendiente uniforme, con muchos lugares razonablemente seguros y productivos en los que podría ser mejor establecerse y muchas cuevas profundas y oscuras que evitar.

Ahora, ¿cuáles son estas formas peligrosas de coordinación parcial, donde alguien que se coordina con algunos compañeros humanos pero no con otros conduce a un agujero oscuro y profundo? Es mejor describirlos dando ejemplos:

• Ciudadanos de una nación que se sacrifican valientemente por el bien de su país en una guerra... cuando ese país resulta ser Alemania o Japón de la Segunda Guerra Mundial

  
  

• Un cabildero que le da un soborno a un político a cambio de que ese político adopte las políticas preferidas del cabildero.

  
  

• Alguien vendiendo su voto en una elección

  
  

• Todos los vendedores de un producto en un mercado coludiéndose para subir sus precios al mismo tiempo

  
  

• Grandes mineros de una cadena de bloques se confabulan para lanzar un ataque del 51%

En todos los casos anteriores, vemos un grupo de personas que se unen y cooperan entre sí, pero en gran detrimento de algún grupo que está fuera del círculo de coordinación y, por lo tanto, en detrimento neto del mundo en su conjunto.

En el primer caso, son todas las personas que fueron víctimas de la agresión de las naciones antes mencionadas las que están fuera del círculo de coordinación y sufren mucho por ello; en el segundo y tercer caso son las personas afectadas por las decisiones que está tomando el votante y político corrupto, en el cuarto caso son los clientes, y en el quinto caso son los mineros no participantes y los usuarios de la cadena de bloques.

No es un individuo que deserta contra el grupo, es un grupo que deserta contra un grupo más amplio, a menudo el mundo en su conjunto.

Este tipo de coordinación parcial a menudo se denomina "colusión", pero es importante tener en cuenta que la gama de comportamientos de la que estamos hablando es bastante amplia.

En el habla normal, la palabra "colusión" tiende a usarse más a menudo para describir relaciones relativamente simétricas, pero en los casos anteriores hay muchos ejemplos con un fuerte carácter asimétrico.

Incluso las relaciones exorbitantes ("vota por mis políticas preferidas o revelaré públicamente tu aventura") son una forma de colusión en este sentido. En el resto de esta publicación, usaremos "colusión" para referirnos a "coordinación no deseada" en general.

Evaluar intenciones, no acciones (!!)

Una propiedad importante, especialmente en los casos más leves de colusión, es que no se puede determinar si una acción es o no parte de una colusión no deseada simplemente observando la acción misma.

La razón es que las acciones que realiza una persona son una combinación del conocimiento interno, los objetivos y las preferencias de esa persona junto con los incentivos impuestos externamente sobre esa persona, por lo que las acciones que realizan las personas cuando se coluden, frente a las acciones que realizan las personas por su cuenta. la voluntad (o la coordinación en formas benignas) a menudo se superponen.

Por ejemplo, considere el caso de colusión entre vendedores (un tipo de violación antimonopolio ). Si operan de manera independiente, cada uno de los tres vendedores podría establecer un precio para algún producto entre $5 y $10; las diferencias dentro del rango reflejan factores difíciles de ver, como los costos internos del vendedor, su propia voluntad de trabajar con diferentes salarios, problemas de la cadena de suministro y similares.

Pero si los vendedores se ponen de acuerdo, podrían fijar un precio entre $8 y $13. Una vez más, el rango refleja diferentes posibilidades con respecto a los costos internos y otros factores difíciles de ver.

Si ve a alguien vendiendo ese producto por $ 8.75, ¿está haciendo algo mal? Sin saber si se coordinaron o no con otros vendedores, ¡no se puede decir!

Hacer una ley que diga que vender ese producto por más de $8 sería una mala idea; tal vez haya razones legítimas por las que los precios tienen que ser altos en el momento actual.

Pero hacer una ley contra la colusión y aplicarla con éxito da el resultado ideal: obtiene el precio de $ 8.75 si el precio tiene que ser tan alto para cubrir los costos de los vendedores, pero no obtiene ese precio si los factores que elevan los precios naturalmente son bajos.

Esto también se aplica en los casos de soborno y venta de votos: bien puede ser el caso de que algunas personas voten por el Partido Naranja legítimamente, pero otras votan por el Partido Naranja porque les pagaron.

Desde el punto de vista de alguien que determina las reglas para el mecanismo de votación, no sabe de antemano si el Partido Naranja es bueno o malo.

Pero lo que sí saben es que una votación en la que las personas votan en función de sus sentimientos internos honestos funciona razonablemente bien, pero una votación en la que los votantes pueden comprar y vender libremente sus votos funciona terriblemente.

Esto se debe a que la venta de votos tiene una tragedia de los comunes: cada votante solo obtiene una pequeña parte del beneficio de votar correctamente, pero obtendría el soborno completo si vota de la manera que quiere el sobornador, por lo que el soborno requerido para atraer a cada votante individual es mucho menor que el soborno que realmente compensaría a la población por los costos de cualquier política que quiera el sobornador.

Por lo tanto, los votos en los que se permite la venta de votos colapsan rápidamente en la plutocracia .

Comprender la teoría del juego

Podemos alejarnos más y mirar esto desde la perspectiva de la teoría de juegos. En la versión de la teoría de juegos que se enfoca en la elección individual, es decir, la versión que asume que cada participante toma decisiones de forma independiente y que no permite la posibilidad de que grupos de agentes trabajen como uno solo para su beneficio mutuo, existen pruebas matemáticas de que debe existir al menos un equilibrio de Nash estable en cualquier juego.

De hecho, los diseñadores de mecanismos tienen una latitud muy amplia para "diseñar" juegos para lograr resultados específicos. Pero en la versión de la teoría de juegos que permite la posibilidad de que las coaliciones trabajen juntas (es decir, "en colusión"), llamada teoría de juegos cooperativos , podemos demostrar que hay grandes clases de juegos que no tienen ningún resultado estable (llamados " núcleo ").

En tales juegos, cualquiera que sea el estado actual de las cosas, siempre hay alguna coalición que puede desviarse de él de forma rentable.

Una parte importante de ese conjunto de juegos inherentemente inestables son los juegos mayoritarios . Un juego mayoritario se describe formalmente como un juego de agentes en el que cualquier subconjunto de más de la mitad de ellos puede capturar una recompensa fija y dividirla entre ellos: una configuración inquietantemente similar a muchas situaciones en el gobierno corporativo, la política y muchas otras situaciones en la vida humana. .

Es decir, si hay una situación con algún grupo fijo de recursos y algún mecanismo actualmente establecido para distribuir esos recursos, y es inevitablemente posible que el 51% de los participantes conspiren para tomar el control de los recursos, sin importar cuál sea la situación actual. configuración es que siempre puede surgir alguna conspiración que sería rentable para los participantes.

Sin embargo, esa conspiración sería a su vez vulnerable a posibles nuevas conspiraciones, posiblemente incluyendo una combinación de conspiradores y víctimas anteriores... y así sucesivamente.

Podría decirse que este hecho, la inestabilidad de los juegos mayoritarios bajo la teoría de juegos cooperativos, está muy subestimado como un modelo matemático general simplificado de por qué es posible que no haya un "fin de la historia" en la política y ningún sistema que resulte completamente satisfactorio; Personalmente, creo que es mucho más útil que el famoso teorema de Arrow , por ejemplo.

Tenga en cuenta una vez más que la dicotomía central aquí no es "individuo versus grupo"; para un diseñador de mecanismos, "individuo versus grupo" es sorprendentemente fácil de manejar. Es "grupo versus grupo más amplio" lo que presenta el desafío.

La descentralización como anticolusión

Pero hay otra conclusión más brillante y procesable de esta línea de pensamiento: si queremos crear mecanismos que sean estables, entonces sabemos que un ingrediente importante para hacerlo es encontrar formas de dificultar las colusiones, especialmente las grandes -Escala de colusiones, de suceder y de mantenerse.

En el caso de la votación, tenemos el voto secreto , un mecanismo que asegura que los votantes no tengan forma de probar a terceros cómo votaron, incluso si quieren probarlo ( MACI es un proyecto que intenta usar la criptografía para extender el secreto). principios de votación a un contexto en línea).

Esto interrumpe la confianza entre los votantes y los sobornadores, lo que restringe en gran medida las colusiones no deseadas que pueden ocurrir. En ese caso de antimonopolio y otras fechorías corporativas, a menudo confiamos en los denunciantes e incluso les damos recompensas , incentivando explícitamente a los participantes en una colusión dañina para desertar.

Y en el caso de la infraestructura pública en general, tenemos ese concepto tan importante: la descentralización .

Una visión ingenua de por qué la descentralización es valiosa es que se trata de reducir el riesgo de puntos únicos de falla técnica. En los sistemas distribuidos "empresariales" tradicionales, esto suele ser cierto, pero en muchos otros casos sabemos que esto no es suficiente para explicar lo que está sucediendo.

Aquí es instructivo observar las cadenas de bloques. Un gran grupo de minería que muestra públicamente cómo han distribuido internamente sus nodos y las dependencias de la red no hace mucho para calmar a los miembros de la comunidad que temen la centralización de la minería.

E imágenes como estas, que muestran que el 90% del poder de hash de Bitcoin en ese momento es capaz de aparecer en el mismo panel de la conferencia, hacen bastante para asustar a la gente:

Pero, ¿por qué esta imagen da miedo? Desde una perspectiva de "descentralización como tolerancia a fallas", el hecho de que los grandes mineros puedan comunicarse entre sí no causa daño.

Pero si consideramos la "descentralización" como la presencia de barreras a la colusión dañina, entonces la imagen se vuelve bastante aterradora, porque muestra que esas barreras no son tan fuertes como pensábamos.

Ahora, en realidad, las barreras aún están lejos de cero; el hecho de que esos mineros puedan realizar fácilmente la coordinación técnica y probablemente estén todos en los mismos grupos de Wechat , de hecho, no significa que Bitcoin sea "en la práctica poco mejor que una empresa centralizada".

Entonces, ¿cuáles son las barreras restantes a la colusión? Algunos de los principales incluyen:

• Barreras morales . En Liars and Outliers , Bruce Schneier nos recuerda que muchos "sistemas de seguridad" (cerraduras en las puertas, señales de advertencia que recuerdan a las personas los castigos...) también cumplen una función moral, recordando a los posibles malportadores que están a punto de cometer una transgresión grave y si quieren ser buenas personas, no deben hacer eso. Podría decirse que la descentralización cumple esa función.

  
  

• Fallo en la negociación interna . Las empresas individuales pueden comenzar a exigir concesiones a cambio de participar en la colusión, y esto podría llevar a que la negociación se estanque por completo (ver "problemas de resistencia" en economía).

  
  

• Contracoordinación . El hecho de que un sistema esté descentralizado facilita que los participantes que no participan en la colusión creen una bifurcación que elimine a los atacantes coludidos y continúe el sistema desde allí.

  
  

  Las barreras para que los usuarios se unan a la bifurcación son bajas y la intención de descentralización crea una presión moral a favor de participar en la bifurcación.

  
  

• Riesgo de deserción . Todavía es mucho más difícil que cinco empresas se unan para hacer algo que se considera malo en general que hacerlo con un propósito benigno o no controvertido.

  
  

  Las cinco empresas no se conocen demasiado bien, por lo que existe el riesgo de que una de ellas se niegue a participar y dé la alarma rápidamente, y los participantes tienen dificultades para juzgar el riesgo. Los empleados individuales dentro de las empresas también pueden hacer sonar el silbato.

En conjunto, estas barreras son de hecho sustanciales, a menudo lo suficientemente sustanciales como para detener posibles ataques, incluso cuando esas cinco empresas son simultáneamente perfectamente capaces de coordinarse rápidamente para hacer algo legítimo.

Los mineros de blockchain de Ethereum, por ejemplo, son perfectamente capaces de coordinar aumentos al límite de gas , pero eso no significa que puedan coludirse tan fácilmente para atacar la cadena.

La experiencia de blockchain muestra cómo el diseño de protocolos como arquitecturas institucionalmente descentralizadas, incluso cuando se sabe de antemano que la mayor parte de la actividad estará dominada por unas pocas empresas, a menudo puede ser algo muy valioso.

Esta idea no se limita a las cadenas de bloques; también se puede aplicar en otros contextos (por ejemplo, consulte aquí para aplicaciones antimonopolio).

Bifurcación como contracoordinación

Pero no siempre podemos prevenir eficazmente que se produzcan colusiones perjudiciales. Y para manejar aquellos casos en los que se lleva a cabo una colusión dañina, sería bueno crear sistemas que sean más robustos contra ellos, más costosos para los que coluden y más fáciles de recuperar para el sistema.

Hay dos principios operativos básicos que podemos usar para lograr este fin: (1) apoyar la contracoordinación y (2) la piel en el juego .

La idea detrás de la contracoordinación es la siguiente: sabemos que no podemos diseñar sistemas que sean pasivamente robustos frente a las colusiones, en gran parte porque hay un número extremadamente grande de formas de organizar una colusión y no existe un mecanismo pasivo que pueda detectarlas. pero lo que podemos hacer es responder activamente a las colusiones y contraatacar.

En sistemas digitales como blockchains (esto también podría aplicarse a sistemas más convencionales, por ejemplo, DNS), una forma importante y crucial de contracoordinación es la bifurcación .

Si una coalición dañina se hace cargo de un sistema, los disidentes pueden unirse y crear una versión alternativa del sistema, que tiene (en su mayoría) las mismas reglas, excepto que elimina el poder de la coalición atacante para controlar el sistema.

La bifurcación es muy fácil en un contexto de software de código abierto; el principal desafío para crear una bifurcación exitosa suele ser reunir la legitimidad (teóricamente vista como una forma de " conocimiento común ") necesaria para lograr que todos aquellos que no están de acuerdo con la dirección de la coalición principal lo sigan.

Esto no es solo teoría; se logró con éxito, sobre todo en la rebelión de la comunidad de Steem contra un intento de adquisición hostil, lo que llevó a una nueva cadena de bloques llamada Hive en la que los antagonistas originales no tienen poder.

Mercados y Skin en el Juego

Otra clase de estrategia de resistencia a la colusión es la idea de la piel en el juego . Skin in the game, en este contexto, básicamente significa cualquier mecanismo que responsabilice individualmente a los contribuyentes en una decisión por sus contribuciones.

Si un grupo toma una mala decisión, los que aprobaron la decisión deben sufrir más que los que intentaron disentir. Esto evita la "tragedia de los comunes" inherente a los sistemas de votación.

La bifurcación es una poderosa forma de contracoordinación precisamente porque introduce piel en el juego.

En Hive, la bifurcación comunitaria de Steem que descartó el intento de adquisición hostil, las monedas que se usaron para votar a favor de la adquisición hostil se eliminaron en gran medida en la nueva bifurcación.

Las personas clave que participaron en el ataque sufrieron individualmente como resultado.

Los mercados son, en general, herramientas muy poderosas precisamente porque maximizan la piel en el juego. Los mercados de decisión (mercados de predicción utilizados para guiar las decisiones; también llamados futarquía ) son un intento de extender este beneficio de los mercados a la toma de decisiones organizacional.

Dicho esto, los mercados de decisión solo pueden resolver algunos problemas; en particular, no pueden decirnos para qué variables deberíamos optimizar en primer lugar.

Coordinación de Estructuración

Todo esto nos lleva a una visión interesante de lo que hacen las personas que construyen sistemas sociales.

Uno de los objetivos de construir un sistema social eficaz es, en gran parte, determinar la estructura de coordinación : ¿qué grupos de personas y en qué configuraciones pueden unirse para promover sus objetivos de grupo y qué grupos no pueden?

Diferentes estructuras de coordinación, diferentes resultados

A veces, una mayor coordinación es buena: es mejor cuando las personas pueden trabajar juntas para resolver colectivamente sus problemas.

En otras ocasiones, una mayor coordinación es peligrosa: un subconjunto de participantes podría coordinarse para privar a todos los demás de sus derechos. Y en otros momentos, se necesita más coordinación por otra razón: permitir que la comunidad en general "contraataque" contra una colusión que ataca el sistema.

En los tres casos, existen diferentes mecanismos que se pueden utilizar para lograr estos fines. Por supuesto, es muy difícil evitar la comunicación por completo, y es muy difícil lograr una coordinación perfecta.

Pero hay muchas opciones intermedias que, sin embargo, pueden tener efectos poderosos.

Aquí hay algunas posibles técnicas de estructuración de la coordinación:

• Tecnologías y normas que protegen la privacidad

  
  

• Medios tecnológicos que dificultan la comprobación de su comportamiento (votos secretos, MACI y similares)

  
  

• Descentralización deliberada, distribuyendo el control de algún mecanismo a un amplio grupo de personas que se sabe que no están bien coordinadas

  
  

• Descentralización en el espacio físico, separando diferentes funciones (o diferentes partes de la misma función) en diferentes ubicaciones (por ejemplo, ver Samo Burja sobre las conexiones entre la descentralización urbana y la descentralización política )

  
  

• Descentralización entre grupos basados en roles, separando diferentes funciones (o diferentes partes de la misma función) para diferentes tipos de participantes (por ejemplo, en una cadena de bloques: "desarrolladores principales", "mineros", "poseedores de monedas", "desarrolladores de aplicaciones" , "usuarios")

  
  

• Puntos de Schelling , lo que permite que grandes grupos de personas se coordinen rápidamente en torno a un único camino a seguir. Los puntos complejos de Schelling podrían incluso implementarse en el código (p. ej., la recuperación del 51 % de los ataques puede beneficiarse de esto).

  
  

• Hablar un idioma común (o, alternativamente, dividir el control entre múltiples distritos electorales que hablan diferentes idiomas)

  
  

• Usar la votación por persona en lugar de la votación por (moneda/acción) para aumentar en gran medida la cantidad de personas que necesitarían coludirse para afectar una decisión

  
  

• Alentar y confiar en los desertores para alertar al público sobre las próximas colusiones.

Ninguna de estas estrategias es perfecta, pero pueden usarse en varios contextos con diferentes niveles de éxito.

Además, estas técnicas pueden y deben combinarse con un diseño de mecanismos que intente hacer que las colusiones dañinas sean menos rentables y más riesgosas en la medida de lo posible; skin in the game es una herramienta muy poderosa en este sentido.

Qué combinación funciona mejor depende en última instancia de su caso de uso específico.

Publicado originalmente como “ Coordinación, bueno y malo ”.