Một cách để suy nghĩ về sự xâm nhập không mong muốn của AI vào cuộc sống của chúng ta có thể được tóm gọn bằng Định luật Godhardt: "Khi một thước đo trở thành mục tiêu, nó không còn là một thước đo tốt nữa": 1/

Nếu bạn muốn một phiên bản định dạng bài luận của chủ đề này để đọc hoặc chia sẻ, đây là liên kết đến nó trên blog của tôi, nơi không có giám sát, không có quảng cáo và không có theo dõi: 2/

Luật Goodhart là một người tình khắc nghiệt. Thật *hết sức* thú vị khi khám phá một cách đo lường các khía cạnh của một hệ thống phức tạp theo cách cho phép bạn hiểu (và do đó kiểm soát) nó. 3/

Vào năm 1998, Sergey Brin và Larry Page nhận ra rằng tất cả các liên kết được tạo ra bởi mọi người đã từng tạo một trang web đại diện cho một loại bản đồ tiềm ẩn về giá trị và quyền lực của mọi trang web. 4/

Chúng ta có thể suy ra rằng những trang có nhiều liên kết trỏ đến hơn thì được coi là quan trọng hơn so với những trang có ít liên kết vào.

Hơn nữa, chúng ta có thể coi những trang có liên kết mạnh mẽ như là *có thẩm quyền* và suy ra rằng khi chúng liên kết đến *một* trang khác, trang đó cũng có khả năng quan trọng.

Thông tin này, được gọi là "PageRank," đã đứng sau sự gia nhập ấn tượng của Google vào thị trường tìm kiếm, điều này dễ dàng trở thành một trong những phát triển công nghệ thú vị nhất của thập kỷ.

Toàn bộ web vừa *khớp* lại với nhau như một hệ thống hữu ích để truy xuất thông tin được tạo ra bởi một đội quân viết web khổng lồ, không có sự phối hợp, được lưu trữ trong một hệ thống phân tán mà không có bất kỳ kiểm soát trung tâm nào. 8/

Sau đó là sự trả thù của Định luật Goodhart. Trước khi Google trở thành cơ chế thống trị để tìm kiếm các trang web, lý do duy nhất để ai đó liên kết đến một trang hoặc một trang web nào đó là vì có điều gì đó ở đó mà họ nghĩ bạn nên xem. 9/

Google đã tổng hợp tất cả những tín hiệu "Tôi nghĩ bạn nên xem điều này" và biến chúng thành một bản đồ về sự liên quan và quyền lực của web. 10/

Nhưng việc tạo liên kết đến một trang web thì dễ dàng. Một thời điểm nào đó đã có *một* lý do khác để tạo liên kết giữa hai trang web - để thu hút lưu lượng truy cập, có thể được chuyển đổi thành tiền và/hoặc ảnh hưởng - thì những kẻ xấu đã tạo ra *rất nhiều* liên kết giả mạo giữa các trang web. 11/

Họ đã tạo ra các linkfarm, họ đã spam bình luận trên blog, họ đã hack các trang web chỉ với mục đích thêm một loạt các liên kết không thể nhìn thấy bởi con người, nhưng có thể đọc được bởi Google-scraper vào các trang.

Chỉ số ("có bao nhiêu liên kết đến trang này?") đã trở thành mục tiêu ("tạo liên kết đến trang này") và không còn là một chỉ số hữu ích. Định luật Goodhart vẫn là một căn bệnh đối với chất lượng tìm kiếm của Google. 13/

"Lạm dụng danh tiếng" là một tội phạm mạng được thực hiện bởi những trang web uy tín như Forbes, Fortune và Better Homes and Gardens, những trang này lạm dụng quyền lực được trao bởi hàng triệu liên kết vào tích lũy qua nhiều thập kỷ bằng cách tạo ra các trang web đánh giá sản phẩm giả mạo, đầy rẫy các liên kết tiếp thị liên kết.

Google xếp hạng những điều này cao hơn các trang đánh giá thực sự, nghiêm túc vì tất cả những gì đã tích lũy được từ googlejuice: Định luật Goodhart đã 50 năm tuổi, nhưng các nhà hoạch định chính sách thì hoàn toàn không biết đến nó và tiếp tục hoạt động như thể nó không áp dụng cho họ. 15/

Điều này đặc biệt rõ ràng khi các nhà hoạch định chính sách quyết tâm Làm Gì đó về một dịch vụ công đã bị thiếu hụt ngân sách và bị đá qua đá lại như một quả bóng chính trị đến mức nó đã bị suy thoái và bắt đầu khiến công chúng phẫn nộ. 16/

Khi điều này xảy ra, các nhà hoạch định chính sách thường có xu hướng đổ lỗi cho các công chức - thay vì tự trách mình - về sự suy giảm này, và sau đó bắt đầu tìm cách Đưa Trách Nhiệm cho những nhân viên công này. 17/

NHS đã làm điều này với thời gian phản hồi của xe cứu thương, điều này rất tệ, và thực tế đó, ngược lại, *rất* tệ. Lý do thời gian phản hồi của xe cứu thương kém không khó để tìm ra: không đủ tiền được chi cho xe cứu thương, tài xế và nhân viên y tế. 18/

Nhưng đó không phải là một kết luận được ưa chuộng về mặt chính trị, đặc biệt là ở Vương quốc Anh, nơi đã trải qua những biện pháp thắt lưng buộc bụng tàn khốc và ngày càng tồi tệ kể từ thời kỳ của Blair. 19/

(Đừng lo, cuối cùng họ sẽ thực hiện đủ biện pháp thắt lưng buộc bụng và mọi thứ sẽ thực sự thay đổi, vì như câu nói cũ vẫn thường nói, "Làm chính sách tốt là làm đi làm lại một điều và mong đợi một kết quả khác.") 20/

Thay vì đổ lỗi cho việc thiếu kinh phí dẫn đến thời gian phản ứng của xe cứu thương kém, các chính trị gia đã đổ lỗi cho "sự không hiệu quả," do động lực kém.

Vì vậy, họ đã thiết lập một chỉ số: xe cứu thương phải đến nơi trong một khoảng thời gian nhất định (và họ đã đặt ra một hậu quả: cắt giảm mạnh đối với bất kỳ dịch vụ xe cứu thương nào không đạt chỉ số đó). 22/

Bây giờ, "một chiếc xe cứu thương đến nơi cần thiết trong một khoảng thời gian nhất định" có thể *nghe* như một chỉ số đơn giản, và thực sự là - khi nhìn lại.

Chúng tôi có thể thấy rằng dịch vụ xe cứu thương đang gặp khó khăn vì xe cứu thương mất nửa giờ hoặc hơn để đến nơi. Nhưng *triển vọng*, sau khi chỉ số đó trở thành mục tiêu, nó ngay lập tức không còn là một chỉ số tốt.

Dịch vụ xe cứu thương, đối mặt với nhiệm vụ không thể là cải thiện thời gian phản hồi mà không tốn tiền, đã bắt đầu điều động xe cứu thương *xe máy* mà không thể chở 95% những thứ cần thiết để ứng phó với một tình huống y tế khẩn cấp, và không có cách nào để đưa bệnh nhân trở lại bệnh viện. 25/

Ví dụ yêu thích của tôi về điều này là chiếc Roomba được trang bị AI, được lập trình để tìm ra một lộ trình hiệu quả nhằm giảm thiểu va chạm với đồ đạc, được đo bằng một cảm biến hướng về phía trước gửi tín hiệu mỗi khi Roomba va vào bất cứ thứ gì. 28/