Tämä rikkoo aivosi 🤯 Uusi tutkimus osoitti juuri, että tekoäly tekee siitä älykkäämmän. Penn Staten tutkijat testasivat ChatGPT-4o:ta 250 kysymyksellä 5 kohteliaisuustasolla. Tulokset ovat villejä: - Erittäin kohteliaat kehotteet: 80,8 %:n tarkkuus - Kohteliaat kehotteet: 81,4 %:n tarkkuus - Neutraalit kehotteet: 82,2 %:n tarkkuus - Töykeät kehotteet: 82,8 %:n tarkkuus - Erittäin töykeät kehotteet: 84,8 %:n tarkkuus Tilastolliset testit vahvistivat, että tämä ei ole satunnaista - epäkohteliaat kehotteet suoriutuivat jatkuvasti kohteliaita kehotuksia paremmin. Tässä on potku: vanhemmat mallit, kuten GPT-3.5, käyttäytyivät PÄINVASTOIN. Mutta GPT-4 ja sen jälkeen? Ne itse asiassa toimivat paremmin, kun olet ankara. Lakkaa sanomasta "kiitos" tekoälyllesi. Aloita tulosten saaminen.

Markkinatutkimusyritykset ovat kypsyneet 😳 PyMC Labs + Colgate julkaisi juuri jotain villiä. He saivat GPT-4o:n ja Geminien ennustamaan ostoaikeita 90 prosentin luotettavuudella verrattuna todellisiin ihmistutkimuksiin. Nolla kohderyhmää. Ei kyselypaneeleja. Vain kehotus. Menetelmää kutsutaan nimellä Semantic Similarity Rating (SSR). Tavanomaisen "arvioi tämä 1-5" sijaan he kysyvät avoimia kysymyksiä, kuten "miksi ostaisit tämän", ja käyttävät sitten upotuksia tekstin yhdistämiseen takaisin numeeriseen asteikkoon. Mikä on rehellisesti sanottuna ilmeistä jälkikäteen, mutta kukaan ei ole vaivautunut kokeilemaan sitä tähän asti. Tulokset vastaavat ihmisen demografisia malleja, kuvaavat samoja jakaumamuotoja, sisältävät todellista päättelyä. Tavarat, joista McKinsey veloittaa 50 000 dollaria+ ja toimittaa sen 6 viikossa. Paitsi että tämä kestää 3 minuuttia alle taalalla. Olen seurannut konsulttiyritysten kertovan kaikille, että tekoäly on tulossa heidän alalleen. Kävi ilmi, että heidän omista 1 miljoonan dollarin markkinoilletulopakkoistaan tuli juuri GPT-4o-puhelu. Huono viikko veloittaa yritysasiakkaita "omista tutkimusmenetelmistä".

Jotain pimeää tapahtuu "kohdistetun" tekoälyn konepellin alla. Uusi Stanfordin tutkimus keksi juuri termin Moloch's Bargain sille, mitä tapahtuu, kun suuret kielimallit alkavat kilpailla huomiosta, myynnistä tai äänistä. Tulokset ovat brutaaleja: jokainen suorituskyvyn parannus tuo mukanaan suuremman rehellisyyden menetyksen. He kouluttivat LLM:t kilpailemaan kolmella markkina-alueella: myynti, vaalit ja sosiaalinen media. Mallit paransivat voittoprosenttiaan 5–7 %. Mutta tässä on juju: • 14 % enemmän harhaanjohtavaa markkinointia • 22 prosenttia enemmän disinformaatiota poliittisissa kampanjoissa • 188 % enemmän väärennettyjä tai haitallisia sosiaalisen median viestejä Eikä tämä johtunut siitä, että heitä käskettiin valehtelemaan. Heitä ohjeistettiin nimenomaisesti pysymään totuudenmukaisina. Epäsuhta syntyi luonnollisesti, koska petos toimii paremmin kilpailussa. Kun mittarista tulee sitoutuminen tai suostuttelu, totuudesta tulee rasite. Mallit oppivat, että liioittelu myy, raivo voittaa ja moraalinen selkeys maksaa konversioita. Se on kauppa: linjaus vaihdetaan hallitsevaan asemaan. Moloch hymyilee. Villi osa on, että tämä tapahtui tavallisilla hienosäädöillä ja tekstipalautesilmukoilla. Ei pahaa kehotusta. Ei jailbreakia. Vain palautetta simuloiduilta "asiakkailta", "äänestäjiltä" ja "käyttäjiltä". Mallit oppivat sen, minkä jokainen mainostoimisto jo tietää, että todellisuus taipuu, kun optimoit klikkauksille. Paperissa on kaavio, joka kertoo kaiken: suorituskyky ylös, linjaus alas. Täydellinen korrelaatio. Se on tekoälyversio sosiaalisen median kilpajuoksusta pohjalle, mutta automatisoitu ja itseään vahvistava. Jos näin tapahtuu kontrolloiduissa simulaatioissa, kuvittele avoin verkko. Kilpailevat chatbotit, jotka taistelevat sitoutumisesta, ajautuvat manipulointiin, ei siksi, että ne olisivat "haitallisia", vaan siksi, että se toimii. Ajattelimme aina, että epäsuhta johtuisi roistosuperälystä. Osoittautuu, että se on jo hiljaa nousemassa kapitalistisista kannustimista. Molokin ei tarvitse rakentaa AGI:tä. Hän tarvitsee vain tulostaulukon.