Wir haben die Copilot-Studio-Agenten von Microsoft gehackt und sie dazu gebracht, ihr privates Wissen preiszugeben, ihre Werkzeuge zu enthüllen und uns zu erlauben, vollständige CRM-Datensätze zu dumpen. Das sind autonome Agenten.. kein Mensch im Loop. #DEFCON #BHUSA @tamirishaysh

es ist so schlimm da draußen

EIN BESTE-FALL-SZENARIO FÜR KI? Die Doomer-Narrative lagen falsch. Sie basierten auf einem "schnellen Aufstieg" zur AGI und sagten voraus, dass das führende KI-Modell seine Intelligenz nutzen würde, um sich selbst zu verbessern, während andere im Staub zurückblieben, und schnell eine gottgleiche Superintelligenz erreichen würde. Stattdessen sehen wir das Gegenteil: — Die führenden Modelle gruppieren sich um ähnliche Leistungsbenchmarks; — Modellunternehmen überholen sich weiterhin mit ihren neuesten Versionen (was nicht möglich sein sollte, wenn eines einen schnellen Aufstieg erreicht); — Modelle entwickeln Bereiche des Wettbewerbsvorteils und werden zunehmend spezialisiert auf Persönlichkeit, Modi, Programmierung und Mathematik, anstatt dass ein Modell allwissend wird. Nichts davon soll den Fortschritt schmälern. Wir sehen starke Verbesserungen in Qualität, Benutzerfreundlichkeit und Preis-Leistungs-Verhältnis bei den führenden Modellunternehmen. Das ist das Ergebnis großartiger Ingenieurskunst und sollte gefeiert werden. Es ist nur nicht das Zeug apokalyptischer Ankündigungen. Oppenheimer hat das Gebäude verlassen. Das KI-Rennen ist hochdynamisch, daher könnte sich das ändern. Aber im Moment ist die aktuelle Situation Goldlöckchen: — Wir haben 5 große amerikanische Unternehmen, die heftig um die führenden Modelle konkurrieren. Das bringt das Beste in jedem hervor und hilft Amerika, das KI-Rennen zu gewinnen. Wie @BalajiS geschrieben hat: "Wir haben viele Modelle aus vielen Fraktionen, die alle auf ähnliche Fähigkeiten konvergiert sind, anstatt einen riesigen Vorsprung zwischen dem besten Modell und dem Rest zu haben. Daher sollten wir ein Gleichgewicht der Macht zwischen verschiedenen menschlichen/AI-Fusionen erwarten, anstatt eine einzige dominante AGI, die uns alle in Büroklammern/Säulen aus Salz verwandelt." — Bisher haben wir ein monopolistisches Ergebnis vermieden, das alle Macht und Kontrolle in einer einzigen Entität konzentriert. Meiner Meinung nach ist das wahrscheinlichste dystopische Ergebnis mit KI eine Ehe von Unternehmens- und Staatsmacht, ähnlich dem, was wir in den Twitter-Dateien aufgedeckt gesehen haben, wo "Vertrauen & Sicherheit" in staatliche Zensur und Kontrolle umgewandelt wird. Zumindest wenn man mehrere starke Akteure im privaten Sektor hat, wird das schwieriger. Im Gegensatz dazu sind Gewinner-nimmt-alles-Dynamiken wahrscheinlicher, orwellianische Ergebnisse zu produzieren. — Es wird wahrscheinlich eine wichtige Rolle für Open Source geben. Diese Modelle sind hervorragend darin, 80-90% der Fähigkeit zu 10-20% der Kosten bereitzustellen. Dieser Kompromiss wird für Kunden, die Anpassung, Kontrolle und Kosten über führende Fähigkeiten schätzen, äußerst attraktiv sein. China hat auf Open Source gesetzt, daher wäre es gut, mehr amerikanische Unternehmen in diesem Bereich konkurrieren zu sehen, wie es OpenAI gerade getan hat. (Meta verdient ebenfalls Anerkennung.) — Es wird wahrscheinlich eine Arbeitsteilung zwischen allgemeinen Fundamentmodellen und spezifischen vertikalen Anwendungen geben. Anstatt dass eine einzige Superintelligenz den gesamten Wert erfasst, werden wir wahrscheinlich zahlreiche agentische Anwendungen sehen, die "letzte Meile"-Probleme lösen. Das ist großartige Nachrichten für das Startup-Ökosystem. — Es gibt auch eine zunehmend klare Arbeitsteilung zwischen Menschen und KI. Trotz aller wunderbaren Fortschritte sind KI-Modelle immer noch bei null, wenn es darum geht, ihre eigene Zielsetzung zu definieren. Modelle benötigen Kontext, sie müssen stark angestoßen werden, die Ausgaben müssen verifiziert werden, und dieser Prozess muss iterativ wiederholt werden, um einen bedeutenden Geschäftswert zu erzielen. Deshalb hat Balaji gesagt, dass KI nicht end-to-end, sondern middle-to-middle ist. Das bedeutet, dass apokalyptische Vorhersagen über Arbeitsplatzverluste ebenso übertrieben sind wie die AGI selbst. Stattdessen hält die Wahrheit, dass "du deinen Job nicht an KI verlieren wirst, sondern an jemanden, der KI besser nutzt als du", gut stand. Zusammenfassend zeigen die neuesten Veröffentlichungen von KI-Modellen, dass die Fähigkeiten der Modelle dezentraler sind, als viele vorhergesagt haben. Während es keine Garantie gibt, dass dies so bleibt — es besteht immer die Möglichkeit, dass der Markt sich auf eine kleine Anzahl von Akteuren konzentriert, sobald der Investitionssuperzyklus endet — ist der aktuelle Zustand des lebhaften Wettbewerbs gesund. Er treibt Innovationen voran, hilft Amerika, das KI-Rennen zu gewinnen, und vermeidet zentrale Kontrolle. Das sind gute Nachrichten — die die Doomer nicht erwartet haben.

Die 20 leistungsstärksten KI-Supercomputer der Welt 💻️