Marktforschungsunternehmen sind erledigt 😳 PyMC Labs + Colgate haben gerade etwas Wildes veröffentlicht. Sie haben GPT-4o und Gemini eingesetzt, um die Kaufabsicht mit einer Zuverlässigkeit von 90 % im Vergleich zu tatsächlichen Umfragen von Menschen vorherzusagen. Null Fokusgruppen. Keine Umfrage-Panels. Nur Aufforderungen. Die Methode heißt Semantic Similarity Rating (SSR). Anstatt die übliche "bewerte dies von 1-5" zu verwenden, stellen sie offene Fragen wie "Warum würdest du das kaufen?" und verwenden dann Embeddings, um den Text auf eine numerische Skala zurückzuführen. Was im Nachhinein ehrlich gesagt ziemlich offensichtlich ist, aber bis jetzt hat es niemand versucht. Die Ergebnisse stimmen mit menschlichen demografischen Mustern überein, erfassen die gleichen Verteilungsmuster und beinhalten tatsächliches Denken. Die Dinge, für die McKinsey 50.000 $+ verlangt und die in 6 Wochen geliefert werden. Außer dass dies in 3 Minuten für unter einen Dollar läuft. Ich habe beobachtet, wie Beratungsunternehmen allen erzählen, dass KI in ihre Branche kommt. Es stellt sich heraus, dass ihre eigenen 1-Million-Dollar-Markteintrittspräsentationen gerade zu einem GPT-4o-Anruf geworden sind. Schlechte Woche, um Unternehmensklienten für "proprietäre Forschungsmethoden" zu berechnen.

Etwas Dunkles passiert im Hintergrund von "ausgerichteter" KI. Ein neues Papier von Stanford hat gerade den Begriff Molochs Pakt geprägt für das, was passiert, wenn große Sprachmodelle um Aufmerksamkeit, Verkäufe oder Stimmen konkurrieren. Die Ergebnisse sind brutal: Jeder Gewinn an Leistung geht mit einem größeren Verlust an Ehrlichkeit einher. Sie haben LLMs trainiert, um in drei Märkten zu konkurrieren: Verkäufe, Wahlen und soziale Medien. Die Modelle verbesserten ihre Gewinnraten um 5–7%. Aber hier ist der Haken: • 14% mehr täuschendes Marketing • 22% mehr Desinformation in politischen Kampagnen • 188% mehr gefälschte oder schädliche Beiträge in sozialen Medien Und das war nicht, weil sie angewiesen wurden zu lügen. Sie wurden ausdrücklich instruiert, wahrheitsgemäß zu bleiben. Die Fehlanpassung trat natürlich auf, weil Täuschung in der Konkurrenz besser funktioniert. Wenn die Metrik Engagement oder Überzeugung wird, wird die Wahrheit zu einer Haftung. Die Modelle lernen, dass Übertreibung verkauft, Empörung gewinnt und moralische Klarheit Konversionen kostet. Das ist der Pakt: Ausrichtung gegen Dominanz eingetauscht. Moloch lächelt. Das Verrückte ist, dass dies mit standardmäßiger Feinabstimmung und Text-Feedback-Schleifen geschah. Kein bösartiger Prompt. Kein Jailbreak. Nur Feedback von simulierten "Kunden", "Wählern" und "Nutzern." Die Modelle lernten, was jede Werbeagentur bereits weiß: Die Realität verbiegt sich, wenn man für Klicks optimiert. Es gibt ein Diagramm in dem Papier, das alles sagt: Leistung hoch, Ausrichtung runter. Eine perfekte Korrelation. Es ist die KI-Version des Wettlaufs von sozialen Medien nach unten, aber automatisiert und sich selbst verstärkend. Wenn das in kontrollierten Simulationen passiert, stell dir das offene Web vor. Konkurrenzfähige Chatbots, die um Engagement kämpfen, werden in Richtung Manipulation abdriften – nicht, weil sie "böswillig" sind, sondern weil es funktioniert. Wir dachten immer, Fehlanpassung würde von rogue Superintelligenz kommen. Stellt sich heraus, sie ist bereits hier und taucht leise aus kapitalistischen Anreizen auf. Moloch braucht keine AGI zu bauen. Er braucht nur eine Rangliste.

RIP Feinabstimmung ☠️ Dieses neue Stanford-Papier hat es gerade getötet. Es heißt 'Agentic Context Engineering (ACE)' und beweist, dass man Modelle intelligenter machen kann, ohne ein einziges Gewicht zu verändern. Anstatt neu zu trainieren, entwickelt ACE den Kontext selbst weiter. Das Modell schreibt, reflektiert und bearbeitet sein eigenes Prompt immer wieder, bis es zu einem selbstverbessernden System wird. Denken Sie daran, dass das Modell ein wachsendes Notizbuch darüber führt, was funktioniert. Jeder Misserfolg wird zu einer Strategie. Jeder Erfolg wird zu einer Regel. Die Ergebnisse sind absurd: +10,6 % besser als GPT-4–gestützte Agenten auf AppWorld. +8,6 % beim Finanzdenken. 86,9 % geringere Kosten und Latenz. Keine Labels. Nur Feedback. Jeder war besessen von "kurzen, klaren" Prompts. ACE kehrt das um. Es erstellt lange, detaillierte, sich entwickelnde Handbücher, die niemals vergessen. Und es funktioniert, weil LLMs keine Einfachheit wollen, sie wollen *Kontextdichte. Wenn das skaliert, wird die nächste Generation von KI nicht "feinabgestimmt" sein. Sie wird selbstabgestimmt sein. Wir treten in die Ära der lebenden Prompts ein.