Один із способів подумати про небажане втручання штучного інтелекту в наше життя можна підсумувати законом Годхардта: «Коли міра стає мішенню, вона перестає бути хорошим заходом»: 1/

Якщо ви хочете прочитати або поділитися версією цієї теми у форматі есе, ось посилання на неї в моєму блозі без спостереження, без реклами та трекерів: 2/

Закон Гудхарта – сувора господиня. Це неймовірно захоплююче відкривати для себе новий спосіб вимірювання аспектів складної системи таким чином, щоб ви могли зрозуміти (і, отже, контролювати) її. 3/

У 1998 році Сергій Брін і Ларрі Пейдж зрозуміли, що всі посилання, створені кожним, хто коли-небудь створював веб-сторінку, являють собою свого роду латентну карту цінності і авторитету кожного веб-сайту. 4/

Ми можемо зробити висновок, що сторінки, які мали більше посилань, що вказують на них, вважалися більш вартими уваги, ніж сторінки, які мали менше вхідних посилань. 5/

Більше того, ми могли б розглядати ці сторінки, на які сильно посилаються, як «авторитетні» і робити висновок, що коли вони посилаються на «іншу» сторінку, це теж, швидше за все, буде важливим. 6/

Ця статистика під назвою "PageRank" стояла за приголомшливим виходом Google на ринок пошуку, який легко став однією з найцікавіших технологічних розробок десятиліття. 7/

Весь Інтернет просто став на своє місце як корисна система для отримання інформації, яка була створена величезною, нескоординованою армією веб-райтерів, розміщених у розподіленій системі без будь-якого центрального контролю. 8/

Потім настала помста закону Гудхарта. До того, як Google став домінуючим механізмом для пошуку веб-сторінок, єдиною причиною, через яку будь-хто посилався на певну сторінку або сайт, було те, що, на їхню думку, ви повинні побачити. 9/

Google агрегував усі ці сигнали «я думаю, ви повинні це бачити» і перетворив їх на карту релевантності та авторитету Інтернету. 10/

Але зробити посилання на веб-сторінку просто. Як тільки з'явилася ще одна причина зробити посилання між двома веб-сторінками - для збору трафіку, який можна було б конвертувати в гроші та/або вплив - тоді зловмисники зробили *багато* фальшивих посилань між веб-сайтами. 11/

Вони створювали лінкферми, вони розсилали спам коментарям до блогів, вони зламували веб-сайти з єдиною метою – додати на сторінки купу невидимих для людини посилань, які читаються в Google scraper. 12/

Метрика ( «скільки посилань на цю сторінку?») стала цільовою ( «зробити посилання на цю сторінку») і перестала бути корисною метрикою. Закон Гудхарта досі залишається чумою для якості пошуку Google. 13/

«Зловживання репутацією» — це веб-злочин, скоєний маститими сайтами, такими як Forbes, Fortune та Better Homes and Gardens, які зловживають авторитетом, наданим безліччю вхідних посилань, накопичених протягом десятиліть, створюючи спам, фальшиві сайти з відгуками про продукти, наповнені партнерськими посиланнями. 14/

Google оцінює їх вище, ніж реальні, суворі сайти з відгуками, через все те, що накопичено в Googlejuice: Закону Гудхарта вже 50 років, але політики жахливо не знають про нього і продовжують діяти так, ніби він їх не стосується. 15/

Це особливо помітно, коли політики сповнені рішучості щось зробити з державною службою, яка була позбавлена фінансування, розгромлена як політичний футбол до такої міри, що вона деградувала і почала обурювати громадськість. 16/

Коли це трапляється, політики схильні звинувачувати державних службовців, а не себе, у цій деградації, а потім беруться за притягнення до відповідальності цих державних службовців. 17/

Національна служба охорони здоров'я зробила це з часом реагування швидкої допомоги, який дуже поганий, а цей факт, у свою чергу, *дуже* поганий. Причину, через яку час реагування швидкої допомоги скорочується, не важко зрозуміти: не вистачає грошей витрачається на машини швидкої допомоги, водіїв та медиків. 18/

Але це не дуже популярний з політичної точки зору висновок, особливо у Великій Британії, яка з часів правління Блера зазнає жорстоких заходів жорсткої економії, що посилюються. 19/

(Не хвилюйтеся, врешті-решт вони докладуть достатньо заходів жорсткої економії, і все дійсно зміниться, тому що, як каже стара приказка: «Хороша політика полягає в тому, щоб робити одне й те саме знову і знову і очікувати іншого результату».) 20/

Замість того, щоб звинувачувати недостатнє фінансування у поганому часі реагування швидкої допомоги, політики звинувачували «неефективність», спричинену поганою мотивацією. 21/

Тому вони встановили метрику: «швидкі» мають прибути протягом певної кількості хвилин (і встановили наслідок: масові скорочення будь-якої служби швидкої, яка не відповідала метриці). 22/

Тепер «швидка допомога там, де вона потрібна протягом встановленого періоду часу» може звучати як простий показник, і так було – ретроспективно. 23/

Наприклад, ми могли сказати, що служба швидкої допомоги потрапила в біду, тому що швидким потрібно було півгодини або більше, щоб приїхати. Але після того, як ця метрика стала ціллю, вона відразу перестала бути хорошою метрикою. 24/

Служби швидкої допомоги, зіткнувшись з неможливим завданням скоротити час реагування без витрат грошей, почали відправляти машини швидкої допомоги *мотоцикли*, які не могли перевозити 95% речей, необхідних для реагування на невідкладну медичну допомогу, і не мали можливості доставити пацієнтів назад до лікарень. 25/

Моїм улюбленим прикладом цього є Roomba на основі штучного інтелекту, яка була запрограмована на пошук ефективної траєкторії, що мінімізує зіткнення з меблями, що вимірюється датчиком, спрямованим вперед, який посилає сигнал щоразу, коли Roomba стикається з чимось. 28/