Un modo per pensare all'intrusione indesiderata dell'IA nelle nostre vite può essere riassunto con la Legge di Godhardt: "Quando una misura diventa un obiettivo, smette di essere una buona misura": 1/

Se desideri una versione in formato saggio di questo thread da leggere o condividere, ecco un link al mio blog, privo di sorveglianza, senza pubblicità e senza tracker: 2/

La legge di Goodhart è una padrona severa. È *incredibilmente* emozionante scoprire un nuovo modo di misurare aspetti di un sistema complesso in un modo che ti consente di comprenderlo (e quindi controllarlo). 3/

Nel 1998, Sergey Brin e Larry Page si resero conto che tutti i link creati da chiunque avesse mai realizzato una pagina web rappresentavano una sorta di mappa latente del valore e dell'autorità di ogni sito web. 4/

Potremmo dedurre che le pagine che avevano più link che puntavano a loro erano considerate più degne di nota rispetto alle pagine che avevano meno link in entrata. 5/

Inoltre, potremmo considerare quelle pagine fortemente collegate come *autoritari* e dedurre che quando collegavano a *un'altra* pagina, anche essa era probabilmente importante. 6/

Questa intuizione, chiamata "PageRank," è stata alla base dell'ingresso straordinario di Google nel mercato della ricerca, che è stato senza dubbio uno degli sviluppi tecnologici più entusiasmanti del decennio. 7/

L'intero web è appena *scattato* in posizione come un sistema utile per recuperare informazioni create da un vasto esercito di scrittori web non coordinati, ospitati in un sistema distribuito senza alcun controllo centrale. 8/

Poi è arrivata la vendetta della Legge di Goodhart. Prima che Google diventasse il meccanismo dominante per localizzare le pagine web, l'unico motivo per cui qualcuno collegava a una determinata pagina o sito era perché c'era qualcosa che pensavano dovessi vedere. 9/

Google ha aggregato tutti quei segnali "Penso che dovresti vedere questo" e li ha trasformati in una mappa della rilevanza e dell'autorità del web. 10/

Ma creare un collegamento a una pagina web è facile. Una volta c'era *un altro* motivo per creare un collegamento tra due pagine web: attirare traffico, che poteva essere convertito in denaro e/o influenza - poi attori malintenzionati hanno creato *molti* collegamenti spurii tra i siti web. 11/

Hanno creato linkfarms, hanno riempito di spam i commenti dei blog, hanno hackerato siti web con l'unico scopo di aggiungere un sacco di link invisibili per gli esseri umani, leggibili dai Google scraper, alle pagine. 12/

La metrica ("quanti link ci sono a questa pagina?") è diventata un obiettivo ("crea link a questa pagina") e ha smesso di essere una metrica utile. La Legge di Goodhart è ancora una piaga sulla qualità della ricerca di Google. 13/

L'"abuso di reputazione" è un crimine informatico commesso da siti venerabili come Forbes, Fortune e Better Homes and Gardens, che abusano dell'autorità conferita da tonnellate di link in entrata accumulati nel corso dei decenni creando siti di recensioni di prodotti spammy e falsi, pieni di link affiliati. 14/

Google classifica questi più in alto rispetto ai veri e rigorosi siti di recensioni a causa di tutto quel googlejuice accumulato: La Legge di Goodhart ha 50 anni, ma i responsabili politici ne sono tristemente ignari e continuano a operare come se non si applicasse a loro. 15/

Questo è particolarmente evidente quando i responsabili politici sono determinati a fare qualcosa riguardo a un servizio pubblico che è stato privato di fondi, calciato come un pallone politico fino al punto in cui si è degradato e ha iniziato a indignare il pubblico. 16/

Quando ciò accade, i responsabili politici tendono a incolpare i funzionari pubblici - piuttosto che se stessi - per questa degradazione, e poi si propongono di portare responsabilità a quegli impiegati pubblici. 17/

Il NHS ha fatto questo con i tempi di risposta delle ambulanze, che sono molto scarsi, e quel fatto è, a sua volta, *molto* negativo. La ragione per cui i tempi di risposta delle ambulanze sono così scadenti non è difficile da scoprire: non vengono spesi abbastanza soldi per ambulanze, autisti e medici. 18/

Ma questa non è una conclusione politicamente popolare, specialmente nel Regno Unito, che è stato sotto un'austerità brutale e in peggioramento sin dai tempi di Blair. 19/

(Non preoccuparti, alla fine faranno abbastanza austerità e le cose si sistemeranno davvero, perché, come dice il vecchio adagio, "Una buona politica consiste nel fare la stessa cosa più e più volte e aspettarsi un risultato diverso.") 20/

Invece di incolpare il finanziamento inadeguato per i lunghi tempi di risposta delle ambulanze, i politici hanno incolpato l'"inefficienza", guidata da una scarsa motivazione. 21/

Quindi hanno stabilito un parametro: le ambulanze devono arrivare entro un certo numero di minuti (e hanno stabilito una conseguenza: tagli massicci a qualsiasi servizio di ambulanza che non rispettasse il parametro). 22/

Ora, "un'ambulanza dove è necessaria entro un certo periodo di tempo" può *sembrare* una metrica semplice, e lo era - retrospettivamente. 23/

Come dire, potevamo dire che il servizio di ambulanza era in difficoltà perché le ambulanze impiegavano mezz'ora o più per arrivare. Ma *prospetticamente*, dopo che quella metrica è diventata un obiettivo, ha immediatamente smesso di essere una buona metrica. 24/

I servizi di ambulanza, di fronte all'impossibile compito di migliorare i tempi di risposta senza spendere soldi, hanno iniziato a inviare *motoambulanze* che non potevano trasportare il 95% delle cose necessarie per rispondere a un'emergenza medica e non avevano modo di riportare i pazienti negli ospedali. 25/

Il mio esempio preferito di questo è il Roomba alimentato da intelligenza artificiale che è stato programmato per trovare un percorso efficiente che minimizzasse le collisioni con i mobili, misurato da un sensore frontale che inviava un segnale ogni volta che il Roomba urtava qualcosa. 28/