關於人工智慧不受歡迎的介入我們生活的方式，可以用戈德哈特法則來總結："當一個指標成為目標時，它就不再是一個好的指標"： 1/

如果您想閱讀或分享此帖子的文章格式版本，請在我的無監控、無廣告、無跟蹤器的博客上提供連結： 2/

古德哈特法則是一位嚴厲的女主人。發現一種新的方式來衡量複雜系統的各個方面，讓你能夠理解（並因此控制）它，這是*令人難以置信*的興奮。 3/

在1998年，謝爾蓋·布林和拉里·佩奇意識到，所有曾經創建網頁的人的所有鏈接代表了一種潛在的地圖，顯示了每個網站的價值和權威。 4/

我們可以推斷，指向某些頁面的鏈接越多，這些頁面就被認為越重要，而指向鏈接較少的頁面則相對不那麼重要。 5/

此外，我們可以將那些與之高度相關的頁面視為*權威*，並推斷當它們鏈接到*另一個*頁面時，該頁面也可能是重要的。 6/

這一見解稱為「PageRank」，是谷歌驚人進入搜索市場的背後原因，這無疑是十年來最令人興奮的技術發展之一。 7/

整個網絡就像*啪*的一聲，變成了一個有用的信息檢索系統，這些信息是由一支龐大而無序的網絡寫手軍隊創建的，並且托管在一個沒有任何中央控制的分佈式系統中。 8/

然後來了古德哈特法則的報復。在谷歌成為尋找網頁的主導機制之前，任何人鏈接到特定頁面或網站的唯一原因是因為那裡有他們認為你應該看到的東西。 9/

Google 將所有這些「我認為你應該看看這個」的信號進行了彙總，並將其轉化為網絡的相關性和權威性的地圖。 10/

但建立網頁之間的連結是很簡單的。曾經有*另一個*理由來建立兩個網頁之間的連結——以獲取流量，這可以轉換成金錢和/或影響力——然後不良行為者在網站之間建立了*大量*虛假的連結。 11/

他們創建了鏈接農場，刷了博客評論，黑客入侵網站，唯一目的是在頁面上添加一堆人類看不見、Google 爬蟲可讀的鏈接。 12/

這個指標（"這個頁面有多少個鏈接？"）變成了一個目標（"為這個頁面建立鏈接"），並不再是一個有用的指標。 古德哈特法則仍然是谷歌搜索質量的一個災難。 13/

"聲譽濫用" 是一種網絡犯罪，由像 Forbes、Fortune 和 Better Homes and Gardens 這樣的知名網站所犯，他們濫用數十年來積累的大量內部鏈接所賦予的權威，創建充滿聯盟鏈接的垃圾、虛假的產品評價網站。 14/

Google 將這些網站的排名提高，超過了真正的、嚴謹的評價網站，因為所有累積的 googlejuice： 古德哈特法則已經有 50 年歷史，但政策制定者對此無知，仍然繼續運作，彷彿這條法則與他們無關。 15/

當政策制定者決心對一項因資金不足而受到忽視、被當作政治工具踢來踢去，最終導致其退化並開始激起公眾憤怒的公共服務採取行動時，這一點尤為明顯。 16/

當這種情況發生時，政策制定者往往會將責任歸咎於公務員——而不是自己——對這種退化負責，然後開始追求對這些公職人員的問責。

英國國民健康服務（NHS）在救護車反應時間上做了這件事，這些反應時間非常糟糕，而這個事實反過來又是*非常*糟糕的。救護車反應時間糟糕的原因並不難找出：在救護車、司機和醫護人員上的支出不足。 18/

但這並不是一個在政治上受歡迎的結論，特別是在英國，自布萊爾時期以來，英國一直在經歷殘酷且日益惡化的緊縮政策。 19/

（別擔心，最終他們會進行足夠的緊縮政策，事情會真正好轉，因為，正如老話所說，"好的政策制定就是不斷重複同樣的事情，卻期待不同的結果。"） 20/

政治人物並不是將救護車反應時間不佳的責任歸咎於資金不足，而是將其歸咎於「低效率」，這是由於動機不佳所驅動。 21/

因此，他們建立了一個指標：救護車必須在一定的分鐘數內到達（並且他們設置了一個後果：對任何未達到該指標的救護服務進行大幅削減）。 22/

現在，「在設定的時間內將救護車送到需要的地方」聽起來可能是一個簡單的指標，實際上也是如此——從回顧的角度來看。 23/

例如，我們可以看出救護車服務遇到了麻煩，因為救護車到達需要半小時或更長時間。但*前瞻性地*，在那個指標成為目標之後，它立即不再是一個好的指標。 24/

救護車服務面臨著在不花錢的情況下改善反應時間的艱鉅任務，開始派遣無法攜帶95%醫療急救所需物品的救護*摩托車*，而且無法將病人送回醫院。 25/

我最喜歡的例子是這個由人工智慧驅動的Roomba，它被編程為找到一條有效的路徑，以最小化與家具的碰撞，這是通過一個向前的傳感器來測量的，當Roomba碰到任何東西時，該傳感器會發送信號。 28/