Uma maneira de pensar sobre a intrusão indesejada da IA em nossas vidas pode ser resumida com a Lei de Godhardt: "Quando uma medida se torna um alvo, ela deixa de ser uma boa medida": 1/

Se você quiser uma versão em formato de ensaio deste tópico para ler ou compartilhar, aqui está um link para ele em , meu blog sem vigilância, sem anúncios e sem rastreadores: 2/

A Lei de Goodhart é uma amante severa. É *incrivelmente* emocionante descobrir uma nova maneira de medir aspectos de um sistema complexo de uma forma que permite entendê-lo (e, portanto, controlá-lo). 3/

Em 1998, Sergey Brin e Larry Page perceberam que todos os links criados por todos que já haviam feito uma página da web representavam uma espécie de mapa latente do valor e da autoridade de cada site. 4/

Poderíamos inferir que as páginas que tinham mais links apontando para elas eram consideradas mais notáveis do que as páginas que tinham menos links de entrada. 5/

Além disso, poderíamos tratar essas páginas fortemente vinculadas como * autoritárias * e inferir que, quando elas vinculavam a * outra * página, isso também provavelmente seria importante. 6/

Esse insight, chamado "PageRank", estava por trás da impressionante entrada do Google no mercado de buscas, que foi facilmente um dos desenvolvimentos tecnológicos mais empolgantes da década. 7/

Toda a web apenas * encaixado * no lugar como um sistema útil para recuperar informações que haviam sido criadas por um vasto exército descoordenado de escritores da web, hospedados em um sistema distribuído sem nenhum controle central. 8/

Então veio a vingança da Lei de Goodhart. Antes de o Google se tornar o mecanismo dominante para localizar páginas da web, a única razão para alguém criar um link para uma determinada página ou site era porque havia algo lá que eles achavam que você deveria ver. 9/

O Google agregou todos aqueles sinais de "acho que você deveria ver isso" e os transformou em um mapa da relevância e autoridade da web. 10/

Mas fazer um link para uma página da web é fácil. Uma vez que havia *outro* motivo para fazer um link entre duas páginas da web - para angariar tráfego, que poderia ser convertido em dinheiro e/ou influência - então os malfeitores fizeram um *muito* link espúrio entre sites. 11/

Eles criaram linkfarms, enviaram spam para comentários de blogs, invadiram sites com o único propósito de adicionar um monte de links legíveis por raspadores do Google e invisíveis às páginas. 12/

A métrica ("quantos links existem para esta página?") tornou-se um alvo ("fazer links para esta página") e deixou de ser uma métrica útil. A Lei de Goodhart ainda é uma praga na qualidade da pesquisa do Google. 13/

"Abuso de reputação" é um crime na web cometido por sites veneráveis como Forbes, Fortune e Better Homes and Gardens, que abusam da autoridade transmitida por toneladas de links de entrada acumulados ao longo de décadas, criando sites de avaliação de produtos falsos e com spam recheados de links afiliados. 14/

O Google classifica esses sites de avaliação mais altos do que os reais e rigorosos por causa de tudo o que o googlejuice acumulou: A Lei de Goodhart tem 50 anos, mas os formuladores de políticas são lamentavelmente ignorantes sobre ela e continuam a operar como se não se aplicasse a eles. 15/

Isso é especialmente pronunciado quando os formuladores de políticas estão determinados a fazer algo sobre um serviço público que está faminto de financiamento chutado como um futebol político a ponto de se degradar e começar a indignar o público. 16/

Quando isso acontece, os formuladores de políticas tendem a culpar os servidores públicos - e não a si mesmos - por essa degradação e, em seguida, se propõem a responsabilizar esses funcionários públicos. 17/

O NHS fez isso com os tempos de resposta das ambulâncias, que são muito ruins, e esse fato é, por sua vez, * muito * ruim. A razão pela qual os tempos de resposta das ambulâncias são péssimos não é difícil de entender: não há dinheiro suficiente sendo gasto em ambulâncias, motoristas e médicos. 18/

Mas essa não é uma conclusão politicamente popular, especialmente no Reino Unido, que está sob austeridade brutal e cada vez pior desde os anos Blair. 19/

(Não se preocupe, eventualmente eles farão austeridade suficiente e as coisas realmente mudarão, porque, como diz o velho ditado, "Uma boa formulação de políticas consiste em fazer a mesma coisa repetidamente e esperar um resultado diferente".) 20/

Em vez de culpar o financiamento inadequado pelos tempos de resposta das ambulâncias, os políticos culparam a "ineficiência", impulsionada por uma motivação fraca. 21/

Então, eles estabeleceram uma métrica: as ambulâncias devem chegar dentro de um certo número de minutos (e eles estabeleceram uma consequência: cortes maciços em qualquer serviço de ambulância que não atendesse à métrica). 22/

Agora, "uma ambulância onde é necessária dentro de um determinado período de tempo" pode *soar* como uma métrica direta, e foi - retrospectivamente. 23/

Tipo, poderíamos dizer que o serviço de ambulância estava com problemas porque as ambulâncias estavam demorando meia hora ou mais para chegar. Mas *prospectivamente*, depois que essa métrica se tornou um alvo, ela imediatamente deixou de ser uma boa métrica. 24/

Os serviços de ambulância, diante da tarefa impossível de melhorar os tempos de resposta sem gastar dinheiro, começaram a despachar ambulâncias * motocicletas * que não podiam transportar 95% do material necessário para responder a uma emergência médica e não tinham como levar os pacientes de volta aos hospitais. 25/

Meu exemplo favorito disso é o Roomba com inteligência artificial que foi programado para encontrar um caminho eficiente que minimizasse as colisões com móveis, conforme medido por um sensor voltado para a frente que enviava um sinal sempre que o Roomba esbarrava em alguma coisa. 28/