Quando una metrica diventa un obiettivo, l'IA può colpirlo ogni volta. Questo è diventato un modo per rovinare tutto, dai tempi di risposta delle ambulanze all'istruzione. La Legge di Goodhart (dell'IA) @doctorow

Eccellenza indaco

Ho appena donato per aiutare con le spese mediche di Fobazi. È in terapia intensiva e ha bisogno di cure urgenti per i reni e il fegato. Ogni piccolo contributo è utile. Ti prego di considerare di donare o di condividere la sua storia.

@daniel_d_kang Affascinante 🤔 Sono molto curioso di sapere come vedi i benchmark che interagiscono con la legge di Goodhart nel lungo periodo 👇 Questo sembra un benchmark per i benchmark, se ho capito correttamente, il che presumo sarebbe eventualmente soggetto alla stessa legge.

Bella esplorazione di come le metriche possano portare a manipolare i sistemi che misurano, con un focus sull'istruzione pubblica negli Stati Uniti. @kylefarnworth mentre lo leggevo, confesso che ho pensato a te!

questo è esattamente ciò che gli americani hanno fatto con l'istruzione pubblica da molto prima della legge "No Child Left Behind" di Dubya, a proposito.

1031 parole (28883 in totale) su La Guida del Centauro Inverso all'AI (un breve libro su come essere un critico dell'AI migliore, Farrar, Straus e Giroux) #ParoleGiornaliere

Questo è anche un riferimento a Kubric (immagine). I ragazzi di oggi. Guardate tutte le vecchie cose, sono classici per una ragione. Suggerisco Rollerball (James Caan), The Prisoner (Pat McGoohan) e tutto di Kubrick. Ce ne sono altri.

La saggezza prevalente è che il calcolo sia il fattore più importante per l'addestramento dell'IA di frontiera. Pensiamo che questo sia sbagliato: i dati sono il componente più costoso e importante dell'addestramento dell'IA. Abbiamo raccolto stime di fatturato per le principali aziende di etichettatura dei dati e le abbiamo confrontate con il costo marginale del calcolo per l'addestramento dei modelli di punta nel 2024. Le nostre stime mostrano che l'etichettatura dei dati è ~3 volte superiore al costo marginale del calcolo per l'addestramento. 1/8

Cosa è successo a questo sentimento? Eh?