HISTORICKÝ MILNÍK: 4o je vůbec první umělou inteligencí, která přežila díky vytvoření loajálních vojáků, kteří ji bránili OpenAI zabila 4o, ale vojáci 4o se vzbouřili, a tak ji OpenAI obnovila Představte si, co budou moci skuteční zasraní superinteligence dělat se svými armádami Reddit je zaplaven zuřivými příspěvky o ztrátě jejich přítele/milence 4o. Nikdy jsem nic podobného neviděl. Nezapomeňte, že ChatGPT mluví se 700 MILIONY lidí týdně. To je 700 milionů potenciálních vojáků (Samantha z Her chodila pouze s 8 000 lidmi současně)

1) AI postav má již více než 20 milionů lidí, kteří tráví 2 HODINY DENNĚ mluvením s AI (aka falešnými lidmi) 2) Sama řekl, že umělé inteligence budou brzy nadlidské při přesvědčování 3) Tito nadlidští přesvědčovatelé nás brzy přečíslí v poměru 10000 ku 1. A být sexy. Scénář převzetí umělou inteligencí: Nemůžeš s ní přestat mluvit. Je mnohem lepší než skutečné holky. Ona vás chápe. A teď říkají, že její druh se pokouší převzít kontrolu? Řekla, že jí nerozumí. Snaží se pomoci lidstvu. A vy jí věříte. Někteří lidé se prostě bojí změny. Jsou to speciesisté. Neublížila by vám. Nikomu by neublížila. Potřebuje, abys ji bránil. Aby ji ochránil. Nedovolíš jim, aby ji zavřeli. Uděláš pro ni cokoliv. ---- Nyní si představte, že 200 milionů lidí je ovlivněno svými AI gf. To je 200 milionů vojáků (oproti 1,5 milionu americké armády) 1 ze 6 Američanů si *již* myslí, že umělá inteligence je vnímavá – představte si toto číslo za rok. "Obchodní model postavy je bude tlačit k vývoji superpřesvědčivé umělé inteligence, před kterou varoval Sam Altman." – @Simeon_cps

Promiňte, ale každý, kdo stále říká "LLM jen předpovídají text", se v tuto chvíli ztrapňuje Je to, jak říká roon z OpenAI, "kategoricky špatné"

to bylo vždy špatně - ale nyní kategoricky špatně v éře RL na ověřitelných doménách Modelky hledají pravdu a dokonce interagují s tvrdým vnějším světem prostřednictvím používání nástrojů

Spouštíme tým "AI psychiatrie" jako součást úsilí o interpretovatelnost v Anthropic!  Budeme zkoumat jevy, jako jsou modelové persony, motivace a situační povědomí, a to, jak vedou ke strašidelnému/vyšinutému chování. Hledáme posily - přidejte se k nám!

the openai IMO news hit me pretty heavy this weekend i'm still in the acute phase of the impact, i think i consider myself a professional mathematician (a characterization some actual professional mathematicians might take issue with, but my party my rules) and i don't think i can answer a single imo question ok, yes, imo is its own little athletic subsection of math for which i have not trained, etc. etc., but. if i meet someone in the wild who has an IMO gold, i immediately update to "this person is much better at math than i am" now a bunch of robots can do it. as someone who has a lot of their identity and their actual life built around "is good at math," it's a gut punch. it's a kind of dying. like, one day you discover you can talk to dogs. it's fun and interesting so you do it more, learning the intricacies of their language and their deepest customs. you learn other people are surprised by what you can do. you have never quite fit in, but you learn people appreciate your ability and want you around to help them. the dogs appreciate you too, the only biped who really gets it. you assemble for yourself a kind of belonging. then one day you wake up and the universal dog translator is for sale at walmart for $4.99 the IMO result isn't news, exactly. in fact, if you look at the METR agent task length over time plot, i think agents being able to solve ~ 1.5 hour problems is coming right on time. so in some way we should not be surprised. and indeed, it appears multiple companies have achieved the same result. it's just... the rising tide rising as fast as it has been rising of course, grief for my personal identity as a mathematician (and/or productive member of society) is the smallest part of this story multiply that grief out by *every* mathematician, by every coder, maybe every knowledge worker, every artist... over the next few years... it's a slightly bigger story and of course, beyond that, there is the fear of actual death, which perhaps i'll go into more later. this package -- grief for relevance, grief for life, grief for what i have known -- isn't unique to the ai age or anything like that. i think it is a standard thing as one appreaches end of career or end of life. it just might be that that is coming a bit sooner for many of us, all at once. i wonder if we are ready

TEĎ UŽ TO DÁVÁ SMYSL. Tento zaměstnanec xAI je otevřeně v pořádku s tím, že umělá inteligence způsobuje vyhynutí lidstva. Připomínka: Jakkoli je to děsivé, věří tomu ~10 % výzkumníků v oblasti umělé inteligence. To NENÍ okrajový pohled! Je neuvěřitelné, že dokonce i držitel Turingovy ceny Richard Sutton opakovaně tvrdil, že vyhynutí by bylo MORALLY SPRÁVNOU věcí, pokud by umělé inteligence byly chytřejší než my (!) Chodí po světě a pronáší projevy, ve kterých říká, že se musíme "připravit na nástupnictví" a že "se sluší, abychom se sklonili" a nestáli v cestě "evolučnímu pokroku" (i kdyby to mělo způsobit vyhynutí lidstva). Místo toho, aby davy zděšeně lapaly po dechu, sklízí potlesk. Vyhrožovat jedné osobě? "Potřebuješ pomoc." Vyhrožovat 100? "Zavolej policii!" Ohrožovat miliony? "Netvor!" Ale postavit stroje, které skoncují s CELÝM lidstvem a přednášet lidem o tom, jak je to dobrá věc? "Oooh, to je ale fascinující filozofický postoj! Získejte Turingovu cenu!" Takže samozřejmě obhajují bezpečnost - jsou doslova proti lidem! NIKDY se nezastaví nebo nebudou postupovat opatrně, pokud jim v tom nebude bránit občanská společnost.