Uma maneira de pensar sobre a intrusão indesejada da IA nas nossas vidas pode ser resumida na Lei de Godhardt: "Quando uma medida se torna um alvo, deixa de ser uma boa medida": 1/

Se gostaria de uma versão em formato de ensaio deste tópico para ler ou compartilhar, aqui está um link para ele no meu blog, livre de vigilância, sem anúncios e sem rastreadores: 2/

A Lei de Goodhart é uma amante severa. É *incrivelmente* emocionante descobrir uma nova forma de medir aspectos de um sistema complexo de uma maneira que permite compreendê-lo (e, assim, controlá-lo). 3/

Em 1998, Sergey Brin e Larry Page perceberam que todos os links criados por todos que alguma vez fizeram uma página web representavam uma espécie de mapa latente do valor e da autoridade de cada website. 4/

Podemos inferir que as páginas que tinham mais links apontando para elas eram consideradas mais notáveis do que as páginas que tinham menos links de entrada. 5/

Além disso, poderíamos tratar essas páginas fortemente vinculadas como *autoritárias* e inferir que, quando elas vinculavam a *outra* página, esta também era provavelmente importante. 6/

Esta visão, chamada "PageRank", foi a responsável pela impressionante entrada do Google no mercado de busca, que foi facilmente um dos desenvolvimentos tecnológicos mais emocionantes da década. 7/

A web inteira simplesmente *se encaixou* como um sistema útil para recuperar informações que haviam sido criadas por um vasto e descoordenado exército de escritores da web, hospedados em um sistema distribuído sem nenhum controle central. 8/

Então veio a vingança da Lei de Goodhart. Antes de o Google se tornar o mecanismo dominante para localizar páginas da web, a única razão para alguém ligar a uma determinada página ou site era porque havia algo lá que achavam que você deveria ver. 9/

O Google agregou todos esses sinais de "acho que você deveria ver isso" e os transformou em um mapa da relevância e autoridade da web. 10/

Mas fazer um link para uma página da web é fácil. Uma vez houve *outra* razão para fazer um link entre duas páginas da web - para atrair tráfego, que poderia ser convertido em dinheiro e/ou influência - então, atores mal-intencionados fizeram *muitos* links espúrios entre sites. 11/

Eles criaram fazendas de links, spamaram comentários em blogs, hackearam sites com o único propósito de adicionar um monte de links invisíveis para humanos e legíveis por scrapers do Google às páginas. 12/

A métrica ("quantos links existem para esta página?") tornou-se um alvo ("criar links para esta página") e deixou de ser uma métrica útil. A Lei de Goodhart ainda é uma praga na qualidade da pesquisa do Google. 13/

"Abuso de reputação" é um crime cibernético cometido por sites veneráveis como Forbes, Fortune e Better Homes and Gardens, que abusam da autoridade conferida por toneladas de links de entrada acumulados ao longo de décadas, criando sites de avaliação de produtos falsos e spammys recheados de links de afiliados. 14/

O Google classifica estes mais altamente do que sites de revisão reais e rigorosos devido a todo esse "googlejuice" acumulado: A Lei de Goodhart tem 50 anos, mas os formuladores de políticas estão lamentavelmente ignorantes sobre ela e continuam a operar como se não se aplicasse a eles. 15/

Isto é especialmente pronunciado quando os responsáveis políticos estão determinados a Fazer Algo sobre um serviço público que tem sido privado de financiamento, tratado como uma bola política a ponto de se degradar e começar a indignar o público. 16/

Quando isso acontece, os responsáveis políticos tendem a culpar os servidores públicos - em vez de a si mesmos - por essa degradação, e depois se propõem a trazer responsabilidade a esses funcionários públicos. 17/

O NHS fez isso com os tempos de resposta das ambulâncias, que são muito maus, e esse fato é, por sua vez, *muito* mau. A razão pela qual os tempos de resposta das ambulâncias são tão ruins não é difícil de descobrir: não está a ser gasto dinheiro suficiente em ambulâncias, motoristas e médicos. 18/

Mas essa não é uma conclusão politicamente popular, especialmente no Reino Unido, que tem estado sob uma austeridade brutal e em piora desde os anos Blair. 19/

(Não se preocupe, eventualmente eles farão austeridade suficiente e as coisas realmente mudarão, porque, como diz o velho ditado, "Uma boa formulação de políticas consiste em fazer a mesma coisa repetidamente e esperar um resultado diferente.") 20/

Em vez de culpar o financiamento inadequado pelos maus tempos de resposta das ambulâncias, os políticos culparam a "ineficiência", impulsionada por uma má motivação. 21/

Assim, estabeleceram uma métrica: as ambulâncias devem chegar dentro de um certo número de minutos (e definiram uma consequência: cortes massivos em qualquer serviço de ambulância que não cumprisse a métrica). 22/

Agora, "uma ambulância onde é necessária dentro de um determinado período de tempo" pode *parecer* uma métrica simples, e era - retrospectivamente. 23/

Como assim, podíamos perceber que o serviço de ambulâncias estava em apuros porque as ambulâncias estavam a demorar meia hora ou mais a chegar. Mas *prospectivamente*, depois que essa métrica se tornou um alvo, deixou imediatamente de ser uma boa métrica. 24/

Os serviços de ambulância, confrontados com a tarefa impossível de melhorar os tempos de resposta sem gastar dinheiro, começaram a despachar *motocicletas* de ambulância que não conseguiam transportar 95% das coisas necessárias para responder a uma emergência médica e não tinham como levar os pacientes de volta aos hospitais. 25/

O meu exemplo favorito disto é o Roomba alimentado por IA que foi programado para encontrar um caminho eficiente que minimizasse as colisões com os móveis, medido por um sensor de frente que enviava um sinal sempre que o Roomba colidia com algo. 28/