La Ley Goodhart

Acaba el trimestre. Toca analizar el cumplimiento de métricas objetivo y diseñar las métricas del trimestre que viene. ¿Qué métrica objetivo nos ponemos? ¿Cómo afecta la elección de éstas métricas a nuestro negocio y a nuestra organización?

Organizar a los equipos en base a métricas es la mejor de manera de fomentar foco en la organización basado en outcomes y no en outputs como ya vimos en informes pasados.

Sin embargo, la elección de métricas y su utilización como objetivos puede llevarnos a flujos perversos tanto para el negocio como para los equipos si no tenemos cuidado.

De hecho, la denominada Ley Goodhart acuñada así en base al economista británico Charles Goodhart dice lo siguiente:

De alguna manera, cuando una métrica la convertimos en un objetivo, lo que hacemos es ofrecer una cierta recompensa a usuarios y/o empleados por empujar dicha métrica en cierta dirección.

La asignación de estas recompensas o incentivos han de realizarse con mucho cuidado para no crear incentivos perversos, incentivos que produzcan un resultado no deseado que sea contrario a las intenciones de sus diseñadores.

Y, ojo, aquí dejo mensaje para los equipos que trabajan en IA. Esta situación también sucede cuando queremos crear sistemas de aprendizaje de automático a los que forzamos a maximizar una cierta métrica.

El efecto cobra

En la India todavía bajo dominio británico, el gobierno de la colonia estaba preocupado por la cantidad de cobras venenosas en Delhi. El gobierno decidió reclutar a la población local para reducir el número de serpientes ofreciendo una recompensa por cada cobra muerta que trajera a su puerta.

Al comienzo, la iniciativa funcionó a la perfección. La población fue entregando al gobierno colonial un gran número de serpientes sacrificadas.

Sin embargo, a medida que pasaba el tiempo, la población comenzó a buscar la manera de sacar mayor rendimiento del proceso lanzándose a criar cobras en cautividad con la intención de matarlas más tarde para maximizar sus ingresos.

Cuando el gobierno británico descubrió éstas prácticas, cerró de un plumazo la iniciativa.

Esta decisión conllevó que todos los criadores de cobras soltaran sus cobras en la naturaleza ante la falta de incentivo económico para mantenerlas y Delhi experimentó de nuevo un incremento de serpientes. Vuelta al punto de partida.

El efecto cobra no es simplemente una anédocta de la India, es un efecto que ocurre con frecuencia en la sociedad y que pone en evidencia la Ley Goodhart y la peligrosidad de generar incentivos perversos para cumplir métricas objetivo.

De hecho, Wikipedia tiene un listado de ejemplos históricos en los que se visualiza claramente el efecto. Desde la organización en las fábricas de la Unión Soviética hasta la reciente crisis financiera de 2008 en EEUU.

Cómo protegernos

La mejor manera de evitar estos efectos contrarios de organizar a nuestros equipos y productos en base a una métrica objetivo es no centrarnos en una única métrica objetivo. Evitar que el árbol no nos deje ver el bosque.

Esto no quiere decir que nos olvidemos de tener a los equipos centrados en base a un único objetivo, si no que los equipos deban maximizar una cierta métrica pero manteniendo a raya otras métricas “sanitarias”.

Si acompañamos a nuestra métrica objetivo de otras métricas de protección que nos permita evitar incentivos perversos logramos eliminar la visión túnel que a veces generan las métricas objetivo.

Además, la definición de estas métricas de protección nos obliga a dedicar tiempo a pensar qué efectos contrarios podemos estar produciendo en nuestros usuarios o en la organización si llevamos la maximización de esta métrica al extremo. Esta reflexión es de gran valor.

Desde las cobras en Delhi hasta la reciente crisis de las subprime son pruebas visibles de los resultados que podemos obtener si no nos paramos a pensar en la Ley Goodhart a la hora de asignar métricas objetivo.

La próxima vez que tengas que asignar métricas objetivos a tus equipos, de tus usuarios o de tu modelo de inteligencia artificial, acuérdate de la Ley Goodhart. Evita generar incentivos perversos.