Jeden způsob, jak přemýšlet o nevítaném vměšování umělé inteligence do našich životů, lze shrnout do Godhardtova zákona: "Když se opatření stane terčem, přestává být dobrým opatřením": 1/

Pokud byste chtěli verzi tohoto vlákna ve formátu eseje k přečtení nebo sdílení, zde je odkaz na ni na , můj blog bez sledování, reklam a sledování: 2/

Goodhartův zákon je krutá milenka. Je *neuvěřitelně* vzrušující objevovat nový způsob měření aspektů složitého systému způsobem, který vám umožní jej pochopit (a tedy ovládat). 3/

V roce 1998 si Sergey Brin a Larry Page uvědomili, že všechny odkazy vytvořené každým, kdo kdy vytvořil webovou stránku, představují jakousi latentní mapu hodnoty a autority každé webové stránky. 4/

Mohli bychom odvodit, že stránky, které měly více odkazů na ně směřujících, byly považovány za pozoruhodnější než stránky, které měly méně příchozích odkazů. 5/

Navíc bychom mohli považovat tyto silně odkazované stránky za *autoritativní* a odvodit, že když odkazují na *jinou* stránku, je pravděpodobné, že je to také důležité. 6/

Tento vhled, nazvaný "PageRank", stál za ohromujícím vstupem Googlu na trh vyhledávání, který byl snadno jedním z nejzajímavějších technologických vývojů desetiletí. 7/

Celý web prostě *zapadl* na své místo jako užitečný systém pro získávání informací, které byly vytvořeny obrovskou, nekoordinovanou armádou webových spisovatelů, hostovaných v distribuovaném systému bez jakéhokoli centrálního ovládání. 8/

Pak přišla pomsta Goodhartova zákona. Než se Google stal dominantním mechanismem pro vyhledávání webových stránek, jediným důvodem, proč kdokoli odkazoval na danou stránku nebo web, bylo to, že tam bylo něco, o čem si myslel, že by se tam mělo vidět. 9/

Google shromáždil všechny tyto signály "Myslím, že byste to měli vidět" a přeměnil je na mapu relevance a autority webu. 10/

Vytvoření odkazu na webovou stránku je však snadné. Jakmile existoval "další" důvod pro vytvoření odkazu mezi dvěma webovými stránkami – aby se zvýšila návštěvnost, která by mohla být převedena na peníze a/nebo vliv – pak špatní aktéři vytvořili "spoustu" falešných odkazů mezi webovými stránkami. 11/

Vytvářeli linkfarmy, spamovali komentáře na blozích, hackovali webové stránky pouze za účelem přidání hromady lidsky neviditelných odkazů čitelných Googlem na stránky. 12/

Metrika ("kolik je odkazů na tuto stránku?") se stala terčem ("vytvořit odkazy na tuto stránku") a přestala být užitečnou metrikou. Goodhartův zákon je stále morem pro kvalitu vyhledávání Google. 13/

"Zneužití reputace" je webový zločin spáchaný ctihodnými weby jako Forbes, Fortune a Better Homes and Gardens, které zneužívají autoritu udělenou tunami příchozích odkazů nahromaděných za desetiletí vytvářením spamových, falešných stránek s recenzemi produktů plných přidružených odkazů. 14/

Google je hodnotí více než skutečné, přísné recenzované weby kvůli všemu, co se nahromadilo googlejuice: Goodhartův zákon je 50 let starý, ale politici o něm žalostně nevědí a dál fungují, jako by se jich netýkal. 15/

To je obzvláště výrazné, když jsou tvůrci politik odhodláni udělat něco s veřejnou službou, která byla vyhladovělá a okopávána jako politický fotbalový míč do té míry, že se zhoršila a začala pobuřovat veřejnost. 16/

Když k tomu dojde, tvůrci politik mají sklon obviňovat z tohoto ponižování státní zaměstnance - spíše než sami sebe, a pak se rozhodnou přenést odpovědnost na tyto státní zaměstnance. 17/

NHS to udělala s dobou odezvy sanitky, která je velmi špatná, a tato skutečnost je zase "velmi" špatná. Důvod, proč je doba odezvy sanitek na nic, není těžké rozluštit: na sanitky, řidiče a zdravotníky se neutrácí dost peněz. 18/

To však není politicky populární závěr, zejména ve Velké Británii, která je od Blairových let pod brutálními a zhoršujícími se úspornými opatřeními. 19/

(Nebojte se, nakonec udělají dost úsporných opatření a věci se skutečně obrátí, protože, jak říká staré přísloví: "Dobrá tvorba politiky spočívá v dělání stejných věcí znovu a znovu a v očekávání jiného výsledku.") 20/

Místo toho, aby politici obviňovali nedostatečné financování ze špatné odezvy sanitek, obviňovali "neefektivitu" poháněnou špatnou motivací. 21/

A tak zavedli metriku: sanitky musí dorazit do určitého počtu minut (a stanovili důsledek: masivní škrty ve všech záchranných službách, které tuto metriku nesplnily). 22/

Nyní může "sanitka, kde je potřeba ve stanoveném čase" "znít" jako přímočará metrika, a byla – zpětně. 23/

Mohli jsme říct, že záchranná služba má potíže, protože sanitkám trvalo půl hodiny nebo déle, než přijely. Ale *výhledově*, poté, co se tato metrika stala cílem, okamžitě přestala být dobrou metrikou. 24/

Záchranné služby, čelící nemožnému úkolu zlepšit dobu odezvy bez utrácení peněz, začaly vysílat sanitní *motocykly*, které nemohly přepravit 95% věcí potřebných k reakci na lékařskou pohotovost a neměly způsob, jak dostat pacienty zpět do nemocnic. 25/

Mým oblíbeným příkladem je Roomba poháněná umělou inteligencí, která byla naprogramována tak, aby našla efektivní cestu, která minimalizuje kolize s nábytkem, jak bylo měřeno senzorem směřujícím dopředu, který vyslal signál, kdykoli Roomba do něčeho narazila. 28/