Żyjemy wśród wielu katastrof moralnych, wszystkie jednocześnie. Technologiczna i materialna obfitość dała nam możliwość stworzenia naprawdę kwitnącego świata, a my całkowicie zmarnowaliśmy tę szansę. Czy to samo będzie prawdą w przyszłości?

Niestety, myślę, że to prawdopodobne. Wątek.

Dziś: Po prostu rozważmy nasz wpływ na zwierzęta hodowlane. Co roku dziesiątki miliardów zwierząt hodowlanych żyją w nędzy.

Uważam, że dobrostan ludzki znacznie się poprawił w ciągu ostatnich kilku stuleci. Jednak cierpienie bezpośrednio spowodowane hodowlą zwierząt - to tylko jeden błąd moralny! - wystarcza, aby przeważyć wiele lub wszystkie te zyski.

Może nie obchodzi cię dobrostan zwierząt. Ale pomyśl wtedy o skrajnej biedzie, nierównościach, wojnie, konsumpcjonizmie lub globalnych ograniczeniach wolności. To wszystko oznacza, że świat jest daleki od tego, jak dobry mógłby być.

W rzeczywistości uważam, że większość perspektyw moralnych powinna postrzegać dzisiejszy świat jako związany z katastrofalną utratą wartości w porównaniu do tego, co moglibyśmy osiągnąć.

To nie znaczy, że dzisiejszy świat jest *zły*, w sensie gorszym niż nic. Mówi to, że świat, dzisiaj, jest tylko ułamkiem tak dobrym, jak mógłby być.

To jest dzisiaj. Ale może przyszłość będzie bardzo różna? Po superinteligencji będziemy mieli obfitość materialną i poznawczą, więc każdy będzie niezwykle bogaty i dobrze poinformowany, a to umożliwi każdemu zdobycie większości tego, czego pragnie - czy to nie wystarczy?

Myślę, że nie. Myślę, że prawdopodobnie w przyszłości ludzie zmarnują większość potencjału, który mógłby zostać osiągnięty - częściowo dlatego, że istnieje wiele subtelnych sposobów, w jakie rzeczy mogą pójść źle.

Rozważ etykę populacyjną. Czy idealne przyszłe społeczeństwo ma małą populację z bardzo wysokim dobrostanem na osobę, czy bardzo dużą populację z niższym dobrostanem na osobę? Czy życia, które mają pozytywny, ale niski dobrostan, czynią świat lepszym, ogólnie?

Etyka populacyjna jest notoriously trudna - w rzeczywistości istnieją "teoremy niemożliwości", które pokazują, że żadna teoria etyki populacyjnej nie może spełnić wszystkich oczywistych aksjomatów etycznych.

A różne poglądy doprowadzą do radykalnie różnych wizji bliskiej, najlepszej przyszłości. Z perspektywy całościowej, idealna przyszłość mogłaby obejmować ogromną liczbę istot, z których każda ma stosunkowo niższy dobrostan; mała populacja żyjących w wysokim dobrostanie przegapiłaby prawie wszelką wartość. Jednak w przypadku poglądów na poziomie krytycznym lub zmiennej wartości, może być odwrotnie.

Jeśli przyszłe społeczeństwo źle oceni etykę populacji (czy to z powodu błędnych wartości, czy dlatego, że po prostu nie obchodzi go etyka populacji w żaden sposób), to łatwo może stracić prawie cały potencjalny wartość.

A to tylko jeden sposób, w jaki społeczeństwo mogłoby wszystko zepsuć. Rozważ także błędy, które przyszłe pokolenia mogłyby popełnić w kwestii: Postaw wobec cyfrowych istot Postaw wobec natury dobrostanu Alokacji zasobów przestrzennych Kompromisów między szczęściem a cierpieniem Towarów zakazanych Kompromisów między podobieństwem a różnorodnością Równości lub nierówności Stóp dyskontowych Teorii decyzji Poglądów na symulację Poglądów na nieskończoną wartość Procesów refleksyjnych

W przypadku większości z tych problemów nie ma "bezpiecznej" opcji, w której świetny wynik jest gwarantowany z większości rozsądnych perspektyw moralnych. Przyszli decydenci będą musieli wiele rzeczy zrobić dobrze.

I wydaje się, że popełnienie choćby jednego z tych błędów może wystarczyć do utraty znacznej lub większości osiągalnej wartości. Pojedyncza wada może być wystarczająca, aby przyszłe społeczeństwo było znacznie gorsze, niż mogłoby być.

To znaczy, możemy przedstawić wartość jako iloczyn wielu czynników. Jeśli tak, to naprawdę wspaniała przyszłość musi radzić sobie bardzo dobrze w zasadzie w każdym z tych czynników; źle radzenie sobie z którymkolwiek z nich wystarczy, aby stracić większość wartości.

Nie trzeba mówić, że to duże wyzwanie. Aby uzyskać znacznie więcej dyskusji na te tematy, zobacz "No Easy Eutopia":

@William_Kiely "Możliwe, że *same wątpliwości moralne* byłyby wystarczające, aby powstrzymać nas przed wyborem przyszłości, która jest przynajmniej 0,1% optymalna, nawet jeśli mielibyśmy pełną moc, aby wybrać dowolną konkretną przyszłość, jaką chcemy." - nie, jeśli bylibyśmy w pełni zdolni do refleksji.