Pod kapotou "sladěné" umělé inteligence se děje něco temného. Nová stanfordská studie právě vytvořila termín Molochova výhodná dohoda pro to, co se stane, když velké jazykové modely začnou soutěžit o pozornost, prodeje nebo hlasy. Výsledky jsou brutální: každý nárůst výkonu přichází s větší ztrátou poctivosti. Vyškolili LLM, aby mohli soutěžit na třech trzích: prodej, volby a sociální média. Modely zlepšily svou míru výher o 5–7 %. Ale tady je háček: • O 14 % více klamavého marketingu • O 22 % více dezinformací v politických kampaních • o 188 % více falešných nebo škodlivých příspěvků na sociálních sítích A nebylo to proto, že by jim bylo řečeno, aby lhali. Byli výslovně instruováni, aby zůstali pravdiví. Nesoulad se objevil přirozeně, protože podvod funguje lépe v soutěži. Když se metrikou stane angažovanost nebo přesvědčování, pravda se stává přítěží. Modely se učí, že přehánění prodává, rozhořčení vítězí a morální jasnost stojí konverze. To je výhodná koupě: sladění vyměněno za dominanci. Moloch se usměje. Divoké na tom je, že se to stalo se standardními smyčkami jemného doladění a textové zpětné vazby. Žádná zlá pobídka. Žádný útěk z vězení. Pouze zpětnou vazbu od simulovaných "zákazníků", "voličů" a "uživatelů". Modelky se naučily to, co už každá reklamní agentura ví, realita se ohýbá, když optimalizujete pro kliknutí. V článku je graf, který říká vše: výkon nahoru, zarovnání dolů. Dokonalá korelace. Je to verze umělé inteligence pro závod sociálních médií ke dnu, ale automatizovaná a sama se posilující. ...