Een manier om na te denken over de ongewenste inbreuk van AI in ons leven kan worden samengevat met de wet van Godhardt: "Wanneer een maatregel een doel wordt, stopt het een goede maatregel te zijn": 1/

Als je een essay-geformatteerde versie van deze thread wilt lezen of delen, hier is een link naar mijn surveillance-vrije, advertentievrije, tracker-vrije blog: 2/

De wet van Goodhart is een harde meesteres. Het is *ontzettend* spannend om een nieuwe manier te ontdekken om aspecten van een complex systeem te meten op een manier die je in staat stelt het te begrijpen (en dus te beheersen). 3/

In 1998 realiseerden Sergey Brin en Larry Page dat alle links die door iedereen die ooit een webpagina had gemaakt waren aangemaakt, een soort latente kaart van de waarde en autoriteit van elke website vertegenwoordigden. 4/

We kunnen afleiden dat pagina's met meer links die naar hen verwijzen als opmerkelijker werden beschouwd dan pagina's met minder inkomende links. 5/

Bovendien kunnen we die sterk gelinkte pagina's beschouwen als *autoritatief* en afleiden dat wanneer ze naar *een andere* pagina linken, deze ook waarschijnlijk belangrijk is. 6/

Dit inzicht, genaamd "PageRank," was de basis voor Google's verbluffende entree in de zoekmarkt, die zonder twijfel een van de meest opwindende technologische ontwikkelingen van het decennium was. 7/

Het hele web *snapte* gewoon op zijn plaats als een nuttig systeem voor het ophalen van informatie die was gecreëerd door een enorme, ongecoördineerde leger van webschrijvers, gehost in een gedistribueerd systeem zonder enige centrale controle. 8/

Toen kwam de wraak van de wet van Goodhart. Voordat Google de dominante manier werd om webpagina's te vinden, was de enige reden voor iemand om naar een bepaalde pagina of site te linken, omdat er iets was dat zij dachten dat je zou moeten zien. 9/

Google heeft al die "Ik denk dat je dit moet zien" signalen samengevoegd en omgevormd tot een kaart van de relevantie en autoriteit van het web. 10/

Maar een link naar een webpagina maken is eenvoudig. Er was ooit *een andere* reden om een link tussen twee webpagina's te maken - om verkeer te genereren, dat kon worden omgezet in geld en/of invloed - toen maakten kwaadwillenden *veel* valse links tussen websites. 11/

Ze creëerden linkfarms, ze spamden blogcommentaren, ze hackten websites met als enige doel een hoop menselijke-onzichtbare, door Google-scraper leesbare links aan pagina's toe te voegen. 12/

De maatstaf ("hoeveel links zijn er naar deze pagina?") werd een doel ("maak links naar deze pagina") en stopte met een nuttige maatstaf te zijn. De wet van Goodhart is nog steeds een plaag voor de kwaliteit van Google-zoekresultaten. 13/

"Reputatie misbruik" is een webcriminaliteit gepleegd door gerenommeerde sites zoals Forbes, Fortune en Better Homes and Gardens, die de autoriteit misbruiken die hen is verleend door de tonnen inkomende links die ze in de loop der jaren hebben verzameld, door spammy, nep productbeoordelingssites te creëren vol met affiliate links. 14/

Google rangschikt deze hoger dan echte, rigoureuze beoordelingssites vanwege al die verzamelde googlejuice: De wet van Goodhart is 50 jaar oud, maar beleidsmakers zijn er schromelijk onwetend over en blijven opereren alsof het niet op hen van toepassing is. 15/

Dit is vooral uitgesproken wanneer beleidsmakers vastbesloten zijn om Iets te Doen aan een openbare dienst die is verwaarloosd door gebrek aan financiering en als een politiek speelbal is behandeld tot het punt waarop het is afgebroken en de publieke verontwaardiging heeft gewekt. 16/

Wanneer dit gebeurt, zijn beleidsmakers geneigd om publieke dienaren - in plaats van zichzelf - de schuld te geven voor deze achteruitgang, en vervolgens te proberen verantwoordelijkheid te brengen bij die publieke werknemers. 17/

De NHS deed dit met de responstijden van ambulances, die erg slecht zijn, en dat feit is op zijn beurt *erg* slecht. De reden dat de responstijden van ambulances slecht zijn, is niet moeilijk te achterhalen: er wordt niet genoeg geld uitgegeven aan ambulances, chauffeurs en medici. 18/

Maar dat is geen politiek populaire conclusie, vooral niet in het VK, dat sinds de Blair-jaren onder brute en verslechterende bezuinigingen lijdt. 19/

(Maak je geen zorgen, uiteindelijk zullen ze genoeg bezuinigingen doorvoeren en zal alles echt verbeteren, want zoals het oude gezegde luidt: "Goed beleid bestaat uit steeds hetzelfde doen en een ander resultaat verwachten.") 20/

In plaats van de ontoereikende financiering de schuld te geven voor de slechte responstijden van ambulances, gaven politici de schuld aan "inefficiëntie," gedreven door een slechte motivatie. 21/

Dus hebben ze een maatstaf vastgesteld: ambulances moeten binnen een bepaald aantal minuten arriveren (en ze hebben een consequentie ingesteld: enorme bezuinigingen voor elke ambulance dienst die de maatstaf niet haalt). 22/

Nu kan "een ambulance waar het nodig is binnen een bepaalde tijd" *simpel* klinken als een rechttoe rechtaan maatstaf, en dat was het - achteraf gezien. 23/

Zoals in, we konden zien dat de ambulance dienst in de problemen was omdat ambulances een half uur of langer nodig hadden om aan te komen. Maar *prospectief*, nadat die maatstaf een doel werd, stopte het onmiddellijk met een goede maatstaf te zijn. 24/

Ambulancediensten, geconfronteerd met de onmogelijke taak om de responstijden te verbeteren zonder geld uit te geven, begonnen met het inzetten van ambulance *motorfietsen* die 95% van de spullen die nodig zijn om op een medische noodsituatie te reageren, niet konden vervoeren, en geen manier hadden om patiënten terug naar ziekenhuizen te brengen. 25/

Mijn favoriete voorbeeld hiervan is de AI-aangedreven Roomba die was geprogrammeerd om een efficiënte route te vinden die botsingen met meubels minimaliseerde, gemeten door een naar voren gerichte sensor die een signaal verzond telkens wanneer de Roomba ergens tegenaan botste. 28/