Gemma 3 270M (8 bitů) při ~200 tk/s na iPadu Air M3 s MLX

Zde je to, co jsme odeslali tento týden 🚢🚢🚢 —Uvedli jsme na trh nový model Imagen 4 Fast, aby vývojáři mohli rychle generovat obrázky za pouhých 0,02 USD za obrázek, a aktualizovali jsme modely Imagen 4 a Imagen 4 Ultra tak, aby podporovaly obrázky v rozlišení 2K. Všechny jsou nyní obecně dostupné v rozhraní Gemini API pro vývojáře a @GoogleCloud Vertex AI pro podnikové zákazníky. —Představili jsme Gemma 3 270M, nový model v naší rodině Gemma, který je mimořádně efektivní a pro vývojáře nejlepší k vyladění a doladění pro konkrétní úkoly. —Předplatitelé Google AI Ultra mohou nyní v @GeminiApp spouštět 2x více dotazů Deep Think, až 10 výzev denně. —@GeminiApp nyní může odkazovat na vaše minulé chaty a poskytovat personalizovanější odpovědi. Zavedli jsme také dočasné chaty a nová nastavení soukromí, abyste si mohli vytvořit prostředí, které je pro vás nejvhodnější. Nový výzkum společnosti @GoogleResearch & @GoogleDeepMind představuje g-AMIE a zkoumá, jak může umělá inteligence pomoci při rozhovorech mezi lékařem a pacientem a zároveň udržet lékaře pod kontrolou.

🖼️ Imagen 4 je nyní obecně dostupný! Chcete-li ukázat, jak výkonný je nový ⚡rychlý⚡ model, vyzkoušejte tuto filmovou piktionářskou hru odštěpenou od @alexanderchen. 📽️ Uhodněte film pomocí programu Imagen 4 Fast. Odkaz je níže ⬇️ Zde je pár mých oblíbených.

Gemma 3 270M běží na mém Pixelu 7a! Absolutně šílené (nezrychlené)

Gemma 3 270m 4-bit generuje text rychlostí přes 650 (!) tok/sec na M4 Max s mlx-lm a využívá < 200MB: Nezrychlené:

Imagen 4 je nyní obecně dostupný! Aktualizace také představuje nový model Imagen 4 Fast pro rychlé generování obrázků za pouhých 0,02 USD za obrázek.

Představujeme Gemma 3 270M 🔥 🤏Malý model! Pouze 270 milionů parametrů 🧠 Velmi důrazné instrukce následující 🤖 Dolaďte během několika minut s rozsáhlou slovní zásobou, která bude sloužit jako vysoce kvalitní základ

Gemma 3 27B jsme dodali již v březnu a zůstává nejlepší volbou pro spotřebitelské GPU. Má solidní multimodální schopnosti, QAT pro odemknutí robustní kvantizace a je to velikost přívětivá pro vývojáře. A další máme v troubě 🧑 🍳

Tvůrci AI Studia: nyní můžete připojit svůj GitHub, vytvořit nové úložiště a potvrdit změny pro jakoukoli aplikaci, na které pracujete z AIS 🙂

📣 Právě jsme povolili LLMS.TXT v dokumentaci k Gemini API. Stačí přidat /llms.txt a získáte dokumenty vhodné pro model. MCP: 1️⃣ Použijte mcpdoc k přidání do svého agenta kódu 2️⃣ Sestavujte s využitím nejnovějších osvědčených postupů API a SDK 👇 Nebo použijte v Gemini CLI s tímto rozšířením 👇 Dejte mi vědět, pokud narazíte na nějaké chyby nebo problémy.