víte, že můžete prostě vytvořit aplikaci, použít nejchytřejší dostupné LLM, které dělá vaše uživatele velmi šťastnými, sbírat data a pak později destilovat LLM, aby to bylo mnohem rychlejší a řádově levnější, že?

To se čte jako komentář umělé inteligence, ale zdůvodnění, proč si udělat čas na komentář umělé inteligence k příspěvku na Medium, je mimo nás. Takže, navzdory našim instinktům, musíme dojít k závěru, že se jedná o člověka. Díky za kompliment!

Dovolte mi to tedy uvést na pravou míru. Odvození má: 1. Decentralizovaná síť, která dodává LLM inferenci za cenu elektřiny 2. Trénink modelu a servírovací kotlety, aby byly modely super levné, zejména pro specializované úkoly 3. Obchoduje s datovými centry o pronájmu nevyužité kapacity za masivně zlevněné ceny 4. Rozhraní API pro dávkové odvozování navržené pro škálování na miliardy požadavků A @paulg nás stále nesleduje? Tohle nějaké b.s.

Claude měl halucinace dávkového odvozování CLI, ale je to nenápadné, docela sladké. Měli bychom to prostě poslat?

Myslíš si, že jsi vtipný, twitter anon? Zde je vaše šance to dokázat. Vybudovali jsme distribuovanou inferenční síť pro rozsáhlou LLM inferenci a trénovali ClipTagger-12B, model titulkování videorámců SOTA. Nyní potřebujeme distribuovanou marketingovou síť, aby se o ní lidé dozvěděli (to jste vy). Posíláme 250 dolarů osobě nebo umělé inteligenci, která pomocí našeho nového modelu vytvoří nejlepší/nejzábavnější popisek obrázku (měřeno počtem lajků). Dejte like tomuto příspěvku + repost/komentář s popiskem + obrázkem, abyste byli způsobilí. Vítěz vybrán za 100 hodin. Odkaz na hřiště níže ⬇️

Již brzy v centru San Francisca

Spousta lidí se chtěla naučit, jak vlastně používat náš model ClipTagger-12B k vyhledávání videa. Naše nová ukázka vám ukáže, jak můžete extrahovat snímky z videa, opatřit je titulky pomocí nástroje ClipTagger a poté snímky efektivně vyhledávat pomocí technologie Chroma. Pokud vytváříte vyhledávání videí, stojí za to se na něj podívat! Odkaz níže 👇

pěkný billboard

Jaké to je destilovat inteligenci do modelu 12B

Neonové značení Inference HQ jde do tuhého