Una forma de pensar sobre la intrusión no deseada de la IA en nuestras vidas se puede resumir con la Ley de Godhardt: "Cuando una medida se convierte en un objetivo, deja de ser una buena medida": 1/

Si desea leer o compartir una versión en formato de ensayo de este hilo, aquí hay un enlace a él en , mi blog sin vigilancia, sin publicidad, sin rastreadores: 2/

La Ley de Goodhart es una amante dura. Es *increíblemente* emocionante descubrir una nueva forma de medir aspectos de un sistema complejo de manera que te permita entender (y por lo tanto controlar) eso.

En 1998, Sergey Brin y Larry Page se dieron cuenta de que todos los enlaces creados por todos los que alguna vez hicieron una página web representaban una especie de mapa latente del valor y la autoridad de cada sitio web. 4/

Podríamos inferir que las páginas que tenían más enlaces apuntando a ellas eran consideradas más notables que las páginas que tenían menos enlaces entrantes. 5/

Además, podríamos tratar esas páginas con muchos enlaces como *autoritarias* e inferir que cuando enlazaban a *otra* página, esta también era probablemente importante. 6/

Esta idea, llamada "PageRank," fue la que impulsó la sorprendente entrada de Google en el mercado de búsqueda, que fue fácilmente uno de los desarrollos tecnológicos más emocionantes de la década. 7/

Toda la web simplemente *encajó* en su lugar como un sistema útil para recuperar información que había sido creada por un vasto y descoordinado ejército de escritores web, alojada en un sistema distribuido sin ningún control central. 8/

Entonces vino la venganza de la Ley de Goodhart. Antes de que Google se convirtiera en el mecanismo dominante para localizar páginas web, la única razón por la que alguien enlazaba a una página o sitio dado era porque había algo allí que pensaban que deberías ver. 9/

Google recopiló todas esas señales de "Creo que deberías ver esto" y las convirtió en un mapa de la relevancia y autoridad de la web. 10/

Pero hacer un enlace a una página web es fácil. Una vez hubo *otra* razón para hacer un enlace entre dos páginas web: atraer tráfico, que podría convertirse en dinero y/o influencia; entonces, los actores malintencionados hicieron *muchos* enlaces espurios entre sitios web. 11/

Crearon granjas de enlaces, llenaron comentarios de blogs de spam, hackearon sitios web con el único propósito de agregar un montón de enlaces invisibles para humanos, legibles por Google, a las páginas. 12/

La métrica ("¿cuántos enlaces hay a esta página?") se convirtió en un objetivo ("hacer enlaces a esta página") y dejó de ser una métrica útil. La Ley de Goodhart sigue siendo una plaga en la calidad de búsqueda de Google. 13/

"El abuso de reputación" es un cibercrimen cometido por sitios venerables como Forbes, Fortune y Better Homes and Gardens, que abusan de la autoridad otorgada por toneladas de enlaces entrantes acumulados durante décadas al crear sitios de reseñas de productos falsos y spam llenos de enlaces de afiliados. 14/

Google clasifica estos más alto que los sitios de revisión reales y rigurosos debido a todo ese jugo acumulado de Google: La Ley de Goodhart tiene 50 años, pero los responsables de políticas son terriblemente ignorantes de ella y continúan operando como si no les aplicara. 15/

Esto es especialmente pronunciado cuando los responsables de políticas están decididos a Hacer Algo sobre un servicio público que ha sido despojado de fondos, pateado como un balón político hasta el punto en que se ha degradado y ha comenzado a indignar al público. 16/

Cuando esto sucede, los responsables de políticas tienden a culpar a los servidores públicos - en lugar de a sí mismos - por esta degradación, y luego se proponen llevar la responsabilidad a esos empleados públicos. 17/

El NHS hizo esto con los tiempos de respuesta de las ambulancias, que son muy malos, y ese hecho es, a su vez, *muy* malo. La razón por la que los tiempos de respuesta de las ambulancias son tan malos no es difícil de descubrir: no se está gastando suficiente dinero en ambulancias, conductores y médicos. 18/

Pero esa no es una conclusión políticamente popular, especialmente en el Reino Unido, que ha estado bajo una austeridad brutal y en empeoramiento desde los años de Blair. 19/

(No te preocupes, eventualmente harán suficiente austeridad y las cosas realmente cambiarán, porque, como dice el viejo refrán, "Una buena política consiste en hacer lo mismo una y otra vez y esperar un resultado diferente.") 20/

En lugar de culpar la falta de financiamiento por los pobres tiempos de respuesta de las ambulancias, los políticos culparon a la "ineficiencia", impulsada por una mala motivación. 21/

Así que establecieron un métrico: las ambulancias deben llegar dentro de un cierto número de minutos (y establecieron una consecuencia: recortes masivos a cualquier servicio de ambulancia que no cumpliera con el métrico). 22/

Ahora, "una ambulancia donde se necesita dentro de un tiempo determinado" puede *sonar* como una métrica sencilla, y lo era - retrospectivamente. 23/

Es decir, podíamos decir que el servicio de ambulancias estaba en problemas porque las ambulancias tardaban media hora o más en llegar. Pero *prospectivamente*, después de que esa métrica se convirtió en un objetivo, dejó de ser una buena métrica de inmediato. 24/

Los servicios de ambulancia, enfrentados a la tarea imposible de mejorar los tiempos de respuesta sin gastar dinero, comenzaron a despachar *motos* de ambulancia que no podían llevar el 95% de las cosas necesarias para responder a una emergencia médica y no tenían forma de llevar a los pacientes de regreso a los hospitales. 25/

Mi ejemplo favorito de esto es el Roomba impulsado por IA que fue programado para encontrar un camino eficiente que minimizara las colisiones con los muebles, medido por un sensor orientado hacia adelante que enviaba una señal cada vez que el Roomba chocaba con algo. 28/