En måte å tenke på AIs uvelkomne inntrengning i livene våre kan oppsummeres med Godhardts lov: «Når et tiltak blir et mål, slutter det å være et godt mål»: 1/

Hvis du vil ha en essayformatert versjon av denne tråden å lese eller dele, her er en lenke til den på min overvåkingsfrie, annonsefrie, sporingsfrie blogg: 2/

Goodharts lov er en streng elskerinne. Det er *utrolig* spennende å oppdage en ny måte å måle aspekter av et komplekst system på en måte som lar deg forstå (og dermed kontrollere) det. 3/

I 1998 innså Sergey Brin og Larry Page at alle lenkene som ble opprettet av alle som noen gang hadde laget en nettside, representerte et slags latent kart over verdien og autoriteten til hvert nettsted. 4/

Vi kan utlede at sider som hadde flere lenker som pekte til dem ble ansett som mer bemerkelsesverdige enn sider som hadde færre inngående lenker. 5/

Videre kan vi behandle de sterkt lenkede sidene som *autoritative* og utlede at når de lenket til *en annen* side, var det sannsynligvis også viktig. 6/

Denne innsikten, kalt "PageRank", lå bak Googles fantastiske inntreden i søkemarkedet, som lett var en av tiårets mest spennende teknologiske utviklinger. 7/

Hele nettet bare *klikket* på plass som et nyttig system for å hente informasjon som var skapt av en enorm, ukoordinert hær av web-skribenter, vert i et distribuert system uten noen sentrale kontroller. 8/

Så kom hevnen fra Goodharts lov. Før Google ble den dominerende mekanismen for å finne nettsider, var den eneste grunnen til at noen lenket til en gitt side eller et gitt nettsted fordi det var noe der de mente du burde se. 9/

Google samlet alle disse "Jeg synes du burde se dette"-signalene og gjorde dem om til et kart over nettets relevans og autoritet. 10/

Men det er enkelt å lage en lenke til en nettside. Når det var *en annen* grunn til å lage en lenke mellom to nettsider - for å skaffe trafikk, som kunne konverteres til penger og/eller innflytelse - så laget dårlige aktører *mye* falske lenker mellom nettsteder. 11/

De opprettet lenkefarmer, de spammet bloggkommentarer, de hacket nettsteder med det eneste formål å legge til en haug med menneske-usynlige, Google-skraper-lesbare lenker til sider. 12/

Beregningen («hvor mange lenker er det til denne siden?») ble et mål («lag lenker til denne siden») og sluttet å være en nyttig beregning. Goodharts lov er fortsatt en pest på Googles søkekvalitet. 13/

"Omdømmemisbruk" er en nettforbrytelse begått av ærverdige nettsteder som Forbes, Fortune og Better Homes and Gardens, som misbruker autoriteten gitt av tonnevis av innkommende lenker akkumulert over flere tiår ved å lage spammy, falske produktanmeldelsessider fylt med tilknyttede lenker. 14/

Google rangerer disse høyere enn ekte, strenge anmeldelsessider på grunn av all den akkumulerte googlejuice: Goodharts lov er 50 år gammel, men beslutningstakere er sørgelig uvitende om den og fortsetter å operere som om den ikke gjelder for dem. 15/

Dette er spesielt uttalt når beslutningstakere er fast bestemt på å gjøre noe med en offentlig tjeneste som har blitt sulteforet på finansiering, sparket rundt som en politisk fotball til det punktet hvor den har forringet og begynt å forarge offentligheten. 16/

Når dette skjer, er beslutningstakere tilbøyelige til å klandre offentlige tjenestemenn - i stedet for seg selv - for denne forringelsen, og deretter sette i gang med å bringe ansvarlighet til de offentlig ansatte. 17/

NHS gjorde dette med ambulanseresponstider, som er veldig dårlige, og det faktum er igjen *veldig* dårlig. Grunnen til at ambulansens responstider suger er ikke vanskelig å blunke ut: det brukes ikke nok penger på ambulanser, sjåfører og leger. 18/

Men det er ikke en politisk populær konklusjon, spesielt ikke i Storbritannia, som har vært under brutale og forverrede innstramminger siden Blair-årene. 19/

(Ikke bekymre deg, til slutt vil de gjøre nok innstramminger, og ting vil virkelig snu, fordi, som det gamle ordtaket sier, "God politikkutforming består av å gjøre det samme om og om igjen og forvente et annet resultat.") 20/

I stedet for å skylde på utilstrekkelig finansiering for dårlige responstider for ambulanser, skyldte politikerne på «ineffektivitet», drevet av dårlig motivasjon. 21/

Så de etablerte en beregning: ambulanser må ankomme innen et visst antall minutter (og de satte en konsekvens: massive kutt i enhver ambulansetjeneste som ikke oppfylte beregningen). 22/

Nå kan "en ambulanse der det trengs innen en bestemt tidsperiode" *høres * ut som en enkel beregning, og det var det - retrospektivt. 23/

Som i kunne vi se at ambulansetjenesten var i trøbbel fordi ambulanser brukte en halvtime eller mer på å ankomme. Men *prospektivt*, etter at den beregningen ble et mål, sluttet den umiddelbart å være en god beregning. 24/

Ambulansetjenestene, som sto overfor den umulige oppgaven med å forbedre responstidene uten å bruke penger, begynte å sende ambulansemotorsykler som ikke kunne frakte 95 % av tingene som trengtes for å reagere på en medisinsk nødsituasjon, og som ikke hadde noen måte å få pasienter tilbake til sykehusene. 25/

Mitt favoritteksempel på dette er den AI-drevne Roomba som ble programmert til å finne en effektiv bane som minimerte kollisjoner med møbler, målt av en forovervendt sensor som sendte et signal hver gang Roomba støtte på noe. 28/