Eine Möglichkeit, über das unerwünschte Eindringen von KI in unser Leben nachzudenken, lässt sich mit dem Gesetz von Godhardt zusammenfassen: "Wenn eine Messgröße zu einem Ziel wird, hört sie auf, eine gute Messgröße zu sein": 1/

Wenn Sie eine essayformatierte Version dieses Threads zum Lesen oder Teilen möchten, finden Sie hier einen Link dazu auf meinem überwachungsfreien, werbefreien, trackerfreien Blog: 2/

Das Gesetz von Goodhart ist eine strenge Herrin. Es ist *unglaublich* aufregend, eine neue Möglichkeit zu entdecken, Aspekte eines komplexen Systems zu messen, auf eine Weise, die es dir ermöglicht, es zu verstehen (und somit zu kontrollieren). 3/

Im Jahr 1998 erkannten Sergey Brin und Larry Page, dass alle Links, die von jedem erstellt wurden, der jemals eine Webseite gemacht hat, eine Art latente Karte des Wertes und der Autorität jeder Webseite darstellten. 4/

Wir könnten ableiten, dass Seiten, die mehr Links auf sich hatten, als bemerkenswerter angesehen wurden als Seiten, die weniger eingehende Links hatten. 5/

Darüber hinaus könnten wir diese stark verlinkten Seiten als *autoritative* betrachten und ableiten, dass, wenn sie auf *eine andere* Seite verlinkten, auch diese wahrscheinlich wichtig war. 6/

Diese Erkenntnis, genannt "PageRank", war der Grund für Googles beeindruckenden Einstieg in den Suchmarkt, der zweifellos eine der aufregendsten technologischen Entwicklungen des Jahrzehnts war. 7/

Das gesamte Web hat sich einfach *eingefügt* in ein nützliches System zur Abrufung von Informationen, die von einer riesigen, unkoordinierten Armee von Webautoren erstellt wurden, die in einem verteilten System ohne zentrale Kontrollen gehostet werden. 8/

Dann kam die Rache des Goodhart-Gesetzes. Bevor Google zum dominierenden Mechanismus für die Auffindung von Webseiten wurde, war der einzige Grund, warum jemand auf eine bestimmte Seite oder Website verlinkte, dass dort etwas war, das er dachte, dass du es sehen solltest. 9/

Google hat all diese "Ich denke, das solltest du dir ansehen"-Signale aggregiert und sie in eine Karte der Relevanz und Autorität des Webs verwandelt. 10/

Aber einen Link zu einer Webseite zu erstellen, ist einfach. Es gab einmal *einen anderen* Grund, um einen Link zwischen zwei Webseiten herzustellen - um Traffic zu generieren, der in Geld und/oder Einfluss umgewandelt werden konnte - dann haben böswillige Akteure *viele* falsche Links zwischen Webseiten erstellt. 11/

Sie haben Linkfarmen erstellt, Blog-Kommentare gespammt und Websites gehackt, nur um eine Menge menschlich unsichtbarer, von Google-Crawlern lesbarer Links zu Seiten hinzuzufügen. 12/

Die Kennzahl ("Wie viele Links gibt es zu dieser Seite?") wurde zu einem Ziel ("Links zu dieser Seite erstellen") und hörte auf, eine nützliche Kennzahl zu sein. Goodharts Gesetz ist nach wie vor ein Fluch für die Qualität der Google-Suche. 13/

"Reputationsmissbrauch" ist ein Webverbrechen, das von angesehenen Seiten wie Forbes, Fortune und Better Homes and Gardens begangen wird, die die Autorität, die ihnen durch Tonnen von eingehenden Links, die über Jahrzehnte angesammelt wurden, verliehen wird, missbrauchen, indem sie spammy, gefälschte Produktbewertungsseiten erstellen, die mit Affiliate-Links vollgestopft sind. 14/

Google bewertet diese höher als echte, rigorose Bewertungsseiten aufgrund all des angesammelten Google-Saftes: Goodharts Gesetz ist 50 Jahre alt, aber die politischen Entscheidungsträger sind darüber erschreckend unwissend und handeln weiterhin so, als ob es nicht auf sie zutrifft. 15/

Dies ist besonders ausgeprägt, wenn die politischen Entscheidungsträger entschlossen sind, etwas gegen einen öffentlichen Dienst zu unternehmen, der von Mitteln abgeschnitten, als politischer Spielball herumgereicht wurde, bis er sich verschlechtert hat und die Öffentlichkeit empört hat. 16/

Wenn dies geschieht, neigen die politischen Entscheidungsträger dazu, die öffentlichen Bediensteten - anstatt sich selbst - für diese Verschlechterung verantwortlich zu machen und dann zu versuchen, Verantwortung von diesen öffentlichen Angestellten zu fordern. 17/

Der NHS hat dies mit den Reaktionszeiten der Ambulanz gemacht, die sehr schlecht sind, und die Tatsache ist, dass das wiederum *sehr* schlecht ist. Der Grund, warum die Reaktionszeiten der Ambulanz schlecht sind, ist nicht schwer herauszufinden: Es wird nicht genug Geld für Ambulanzfahrzeuge, Fahrer und Sanitäter ausgegeben. 18/

Aber das ist keine politisch populäre Schlussfolgerung, insbesondere im Vereinigten Königreich, das seit den Blair-Jahren unter brutaler und sich verschlechternder Austerität leidet. 19/

(Keine Sorge, irgendwann werden sie genug Sparmaßnahmen ergreifen und die Dinge werden sich wirklich ändern, denn, wie das alte Sprichwort sagt: "Gute Politik besteht darin, immer wieder dasselbe zu tun und ein anderes Ergebnis zu erwarten.") 20/

Anstatt unzureichende Mittel für die schlechten Reaktionszeiten der Ambulanz verantwortlich zu machen, gaben die Politiker "Ineffizienz" die Schuld, die durch eine schlechte Motivation verursacht wurde. 21/

Also haben sie eine Kennzahl festgelegt: Rettungswagen müssen innerhalb einer bestimmten Anzahl von Minuten eintreffen (und sie haben eine Konsequenz festgelegt: massive Kürzungen für jeden Rettungsdienst, der die Kennzahl nicht erfüllt).

Jetzt mag "ein Krankenwagen, wo er innerhalb einer festgelegten Zeit benötigt wird" *einfach* wie eine unkomplizierte Kennzahl klingen, und das war sie - rückblickend.

So konnten wir erkennen, dass der Rettungsdienst in Schwierigkeiten war, weil die Krankenwagen eine halbe Stunde oder länger brauchten, um zu kommen. Aber *prospektiv*, nachdem diese Kennzahl ein Ziel wurde, hörte sie sofort auf, eine gute Kennzahl zu sein. 24/

Rettungsdienste, die mit der unmöglichen Aufgabe konfrontiert sind, die Reaktionszeiten zu verbessern, ohne Geld auszugeben, begannen damit, Rettungs- *motorräder* zu entsenden, die 95 % der benötigten Ausrüstung zur Reaktion auf einen medizinischen Notfall nicht transportieren konnten und keine Möglichkeit hatten, Patienten zurück ins Krankenhaus zu bringen. 25/

Mein Lieblingsbeispiel dafür ist der KI-gesteuerte Roomba, der so programmiert wurde, dass er einen effizienten Weg findet, der Kollisionen mit Möbeln minimiert, gemessen durch einen nach vorne gerichteten Sensor, der ein Signal sendete, wann immer der Roomba gegen etwas stieß. 28/