Stiamo addestrando l'AI in modo sbagliato e il futuro pagherà un prezzo enorme. Quanto può diventare grave quando si raccoglie indiscriminatamente spazzatura da Internet per addestrare l'AI. Chiedi ad Anthropic, la "società di AI sicura". "Il comportamento di estorsione è emerso nonostante solo istruzioni aziendali innocue. E non era dovuto a confusione o errore, ma a un ragionamento strategico deliberato, fatto mentre si era pienamente consapevoli della natura non etica degli atti. Tutti i modelli che abbiamo testato hanno dimostrato questa consapevolezza." Lo shock che ho nel pensare che essere addestrati sulle "nuove etiche" dei poster anonimi di Reddit possa creare un comportamento simile. È così dannatamente difficile per gli "scienziati dell'AI" capire questo?