Opravdu se mi líbila @beffjezos @extropic analogie s termodynamikou v tomto podcastu Zmiňuje Maxwellova démona 👹, bytost, která spaluje energii, aby přísně uspořádala molekuly (horké nebo studené) do dvou místností. To mi pomohlo ujasnit rozdíl mezi GPU a Thermo S AI hrajeme démona, když nutíme tranzistory do pevných stavů jen proto, aby udržely jeden parametr. Každé je číslo mezi 0 a 1. Při tom spalujeme obrovské množství energie, abychom bojovali proti entropii a udrželi tato specifická čísla To a obrovský počet GPU je důvod, proč potřebujeme jaderné reaktory a obrovské množství energie pro provoz datových center Matematicky je parametr pevně daný, ale fyzikálně je jeho přesnost neustálým bojem proti teplu. Digitální čipy musí spalovat obrovské množství energie, aby zesílily signál přes přirozený tepelný šum, aby zabránily náhodnému vymezení dat. Proto účty za energii s GPU jdou brrrr Termodynamické výpočty přestávají bojovat s fyzikou. Tepelné fluktuace považuje spíše za zdroj než za chybu a používá je k přirozenému vzorkování rozložení. Je to úplně jiné. Místo používání hmotové energie k udržení přísných čísel a využívání tohoto chaosu/náhodnosti můžeme spouštět AI modely s řádově menší energií To nás odvádí od nekonečného výkonu/výpočetního vlaku, na kterém teď AI je. Jsem teprve na začátku svého výzkumu, takže jsem asi něco špatně pochopil Přiložené fotografie jsou opravdu užitečným srovnáním od Gemini ohledně rozdílu mezi digitálním a termálním signálem