Jednym ze sposobów myślenia o niepożądanej ingerencji AI w nasze życie można podsumować za pomocą Prawa Godhardta: "Gdy miara staje się celem, przestaje być dobrą miarą": 1/

Jeśli chcesz wersji tego wątku w formacie eseju do przeczytania lub udostępnienia, oto link do niego na moim blogu, wolnym od nadzoru, reklam i trackerów: 2/

Prawo Goodharta to surowa pani. To *niesamowicie* ekscytujące odkrywać nowy sposób mierzenia aspektów złożonego systemu w sposób, który pozwala go zrozumieć (a tym samym kontrolować). 3/

W 1998 roku Sergey Brin i Larry Page zdali sobie sprawę, że wszystkie linki stworzone przez każdego, kto kiedykolwiek stworzył stronę internetową, reprezentują rodzaj ukrytej mapy wartości i autorytetu każdej strony internetowej. 4/

Możemy wywnioskować, że strony, które miały więcej linków prowadzących do nich, były uważane za bardziej znaczące niż strony, które miały mniej linków przychodzących. 5/

Ponadto, moglibyśmy traktować te mocno powiązane strony jako *autorytatywne* i wnioskować, że kiedy one linkowały do *innej* strony, ta również mogła być ważna. 6/

To spostrzeżenie, zwane "PageRank", stało za oszałamiającym wejściem Google na rynek wyszukiwania, które było jednym z najbardziej ekscytujących osiągnięć technologicznych dekady. 7/

Cała sieć po prostu *zaskoczyła* jako użyteczny system do pozyskiwania informacji, które zostały stworzone przez ogromną, niekoordynowaną armię twórców internetowych, hostowanych w rozproszonym systemie bez żadnych centralnych kontroli. 8/

Następnie nadeszła zemsta Prawa Goodharta. Zanim Google stał się dominującym mechanizmem do lokalizowania stron internetowych, jedynym powodem, dla którego ktokolwiek linkował do danej strony lub witryny, było to, że znajdowało się tam coś, co uważali, że powinieneś zobaczyć. 9/

Google zebrał wszystkie te sygnały "Myślę, że powinieneś to zobaczyć" i przekształcił je w mapę istotności i autorytetu w sieci. 10/

Ale stworzenie linku do strony internetowej jest łatwe. Kiedyś istniał *inny* powód, aby stworzyć link między dwiema stronami internetowymi - aby zdobyć ruch, który mógł być przekształcony w pieniądze i/lub wpływy - wtedy źli aktorzy stworzyli *wiele* fałszywych linków między stronami internetowymi. 11/

Stworzyli farmy linków, spamowali komentarzami na blogach, hakowali strony internetowe w celu dodania mnóstwa linków niewidocznych dla ludzi, a czytelnych dla skryptów Google na stronach. 12/

Metryka ("ile linków prowadzi do tej strony?") stała się celem ("twórz linki do tej strony") i przestała być użyteczną metryką. Prawo Goodharta wciąż jest plagą dla jakości wyszukiwania Google. 13/

"Nadużycie reputacji" to przestępstwo internetowe popełniane przez szanowane strony takie jak Forbes, Fortune i Better Homes and Gardens, które nadużywają autorytetu nadanego przez setki przychodzących linków zgromadzonych przez dziesięciolecia, tworząc spamowe, fałszywe strony z recenzjami produktów wypełnione linkami afiliacyjnymi. 14/

Google ocenia te strony wyżej niż prawdziwe, rzetelne strony recenzujące, z powodu całego tego zgromadzonego googlejuice: Prawo Goodharta ma 50 lat, ale decydenci są go żałośnie nieświadomi i nadal działają, jakby ich to nie dotyczyło. 15/

Jest to szczególnie wyraźne, gdy decydenci są zdeterminowani, aby coś zrobić w sprawie usługi publicznej, która była pozbawiona funduszy, traktowana jak piłka polityczna do tego stopnia, że uległa degradacji i zaczęła oburzać opinię publiczną. 16/

Kiedy to się dzieje, decydenci mają tendencję do obwiniania pracowników publicznych - zamiast siebie - za tę degradację, a następnie dążą do wprowadzenia odpowiedzialności dla tych pracowników publicznych. 17/

NHS zrobił to z czasami reakcji karetek, które są bardzo złe, a ten fakt jest z kolei *bardzo* zły. Powód, dla którego czasy reakcji karetek są kiepskie, nie jest trudny do wyciągnięcia: nie wydaje się wystarczająco dużo pieniędzy na karetki, kierowców i medyków. 18/

Ale to nie jest politycznie popularne wnioski, szczególnie w Wielkiej Brytanii, która od lat Blaira zmaga się z brutalną i pogarszającą się oszczędnością. 19/

(Nie martw się, w końcu wprowadzą wystarczająco dużo oszczędności i rzeczywiście się poprawi, ponieważ, jak mówi stare przysłowie, "Dobre podejmowanie decyzji polega na robieniu tego samego w kółko i oczekiwaniu innego wyniku.") 20/

Zamiast obwiniać niewystarczające finansowanie za słabe czasy reakcji karetek, politycy obwinili "nieefektywność", spowodowaną słabą motywacją. 21/

Ustanowili więc wskaźnik: karetki muszą przybyć w ciągu określonej liczby minut (a ustalili konsekwencję: ogromne cięcia dla każdej usługi ambulansowej, która nie spełniła wskaźnika). 22/

Teraz, "karetka tam, gdzie jest potrzebna w określonym czasie" może *brzmieć* jak prosta miara, i rzeczywiście była - z perspektywy czasu. 23/

Jak widać, mogliśmy stwierdzić, że usługa ambulansowa miała problemy, ponieważ karetki przyjeżdżały w pół godziny lub dłużej. Ale *perspektywnie*, po tym, jak ten wskaźnik stał się celem, natychmiast przestał być dobrym wskaźnikiem. 24/

Usługi ambulansowe, stając przed niemożliwym zadaniem poprawy czasów reakcji bez wydawania pieniędzy, zaczęły wysyłać *motocykle* ambulansowe, które nie mogły przewieźć 95% rzeczy potrzebnych do odpowiedzi na sytuację medyczną i nie miały sposobu, aby przewieźć pacjentów z powrotem do szpitali. 25/

Moim ulubionym przykładem jest odkurzacz Roomba zasilany sztuczną inteligencją, który został zaprogramowany, aby znaleźć efektywną trasę minimalizującą kolizje z meblami, mierzona przez czujnik skierowany do przodu, który wysyłał sygnał za każdym razem, gdy Roomba uderzał w coś. 28/