Un mod de a ne gândi la intruziunea nedorită a IA în viețile noastre poate fi rezumat cu Legea lui Godhardt: "Când o măsură devine o țintă, încetează să mai fie o măsură bună": 1/

Dacă doriți o versiune formatată de eseu a acestui subiect pentru a o citi sau a o distribui, iată un link către el pe blogul meu fără supraveghere, fără reclame, fără tracker: 2/

Legea lui Goodhart este o amantă aspră. Este *incredibil* interesant să descoperi un nou mod de a măsura aspectele unui sistem complex într-un mod care îți permite să-l înțelegi (și, astfel, să-l controlezi). 3/

În 1998, Sergey Brin și Larry Page și-au dat seama că toate link-urile create de toți cei care au creat vreodată o pagină web reprezintă un fel de hartă latentă a valorii și autorității fiecărui site web. 4/

Am putea deduce că paginile care aveau mai multe legături care indicau spre ele erau considerate mai demne de remarcat decât paginile care aveau mai puține legături de intrare. 5/

Mai mult, am putea trata acele pagini puternic legate ca fiind *autoritare* și să deducem că atunci când se leagă de o altă pagină, și aceasta este probabil să fie importantă. 6/

Această perspectivă, numită "PageRank", a stat în spatele intrării uimitoare a Google pe piața de căutare, care a fost cu ușurință una dintre cele mai interesante dezvoltări tehnologice ale deceniului. 7/

Întregul web s-a instalat ca un sistem util pentru preluarea informațiilor care au fost create de o armată vastă, necoordonată de scriitori web, găzduiți într-un sistem distribuit fără niciun control central. 8/

Apoi a venit răzbunarea Legii lui Goodhart. Înainte ca Google să devină mecanismul dominant pentru localizarea paginilor web, singurul motiv pentru care cineva se conecta la o anumită pagină sau site era pentru că acolo credeau că ar trebui să vedeți. 9/

Google a agregat toate acele semnale "Cred că ar trebui să vedeți asta" și le-a transformat într-o hartă a relevanței și autorității web-ului. 10/

Dar crearea unui link către o pagină web este ușoară. Odată ce a existat un alt motiv pentru a face o legătură între două pagini web - pentru a strânge trafic, care ar putea fi transformat în bani și/sau influență - atunci actorii răi au făcut o *mulțime* de legături false între site-uri web. 11/

Au creat linkfarm-uri, au spamat comentarii pe bloguri, au piratat site-uri web cu unicul scop de a adăuga o grămadă de link-uri invizibile pentru oameni, care pot fi citite de Google-scraper la pagini. 12/

Metrica ("câte link-uri sunt către această pagină?") a devenit o țintă ("faceți link-uri către această pagină") și a încetat să mai fie o valoare utilă. Legea lui Goodhart este încă o plagă pentru calitatea căutării Google. 13/

"Abuzul de reputație" este o infracțiune comisă de site-uri venerabile precum Forbes, Fortune și Better Homes and Gardens, care abuzează de autoritatea conferită de tone de link-uri de intrare acumulate de-a lungul deceniilor prin crearea de site-uri spam, false de recenzii de produse, umplute cu link-uri afiliate. 14/

Google le clasează mai sus decât site-urile de recenzii reale și riguroase din cauza a tot ceea ce a acumulat googlejuice: Legea lui Goodhart are 50 de ani, dar factorii de decizie politică sunt ignoranți și continuă să funcționeze ca și cum nu li s-ar aplica. 15/

Acest lucru este deosebit de pronunțat atunci când factorii de decizie politică sunt hotărâți să facă ceva în legătură cu un serviciu public care a fost lipsit de finanțare, a fost aruncat ca o minge de fotbal politică până la punctul în care s-a degradat și a început să indigneze publicul. 16/

Când se întâmplă acest lucru, factorii de decizie politică sunt înclinați să dea vina pe funcționarii publici - mai degrabă decât pe ei înșiși - pentru această degradare și apoi își propun să aducă responsabilitatea acelor angajați publici. 17/

NHS a făcut acest lucru cu timpii de răspuns ai ambulanței, care sunt foarte proști, iar acest fapt este, la rândul său, *foarte* rău. Motivul pentru care timpii de răspuns ai ambulanțelor nu este greu de înțeles: nu se cheltuiesc suficienți bani pe ambulanțe, șoferi și medici. 18/

Dar aceasta nu este o concluzie populară din punct de vedere politic, mai ales în Marea Britanie, care a fost supusă unei austerități brutale și din ce în ce mai grave din anii lui Blair. 19/

(Nu vă faceți griji, în cele din urmă vor face suficientă austeritate și lucrurile se vor schimba cu adevărat, pentru că, așa cum spune vechea zicală, "Elaborarea politicilor bune constă în a face același lucru din nou și din nou și a aștepta un rezultat diferit"). 20/

În loc să dea vina pe finanțarea inadecvată pentru timpii slabi de răspuns ai ambulanțelor, politicienii au dat vina pe "ineficiență", determinată de o motivație slabă. 21/

Așa că au stabilit o măsură: ambulanțele trebuie să ajungă într-un anumit număr de minute (și au stabilit o consecință: reduceri masive ale oricărui serviciu de ambulanță care nu îndeplinea măsura). 22/

Acum, "o ambulanță acolo unde este nevoie într-o anumită perioadă de timp" poate *suna* ca o măsură simplă, și a fost - retrospectiv. 23/

De exemplu, am putut spune că serviciul de ambulanță avea probleme pentru că ambulanțele aveau nevoie de o jumătate de oră sau mai mult pentru a ajunge. Dar *prospectiv*, după ce acel indicator a devenit o țintă, a încetat imediat să mai fie un indicator bun. 24/

Serviciile de ambulanță, confruntate cu sarcina imposibilă de a îmbunătăți timpii de răspuns fără a cheltui bani, au început să trimită motociclete de ambulanță care nu puteau transporta 95% din lucrurile necesare pentru a răspunde la o urgență medicală și nu aveau nicio modalitate de a duce pacienții înapoi la spitale. 25/

Exemplul meu preferat în acest sens este Roomba alimentat de inteligență artificială, care a fost programat să găsească o cale eficientă care să minimizeze coliziunile cu mobilierul, măsurat de un senzor orientat spre față care trimitea un semnal ori de câte ori Roomba se ciocnește de ceva. 28/