Als je de uitrol van GPT-5 hebt gevolgd, is één ding dat je misschien opvalt hoe sterk sommige mensen gehecht zijn aan specifieke AI-modellen. Het voelt anders en sterker aan dan de soorten hechting die mensen hadden aan eerdere technologieën (en het plotseling afschrijven van oude modellen waar gebruikers op vertrouwden in hun workflows was een fout). Dit is iets dat we het afgelopen jaar of zo nauwlettend hebben gevolgd, maar het heeft nog niet veel mainstream aandacht gekregen (behalve toen we een update voor GPT-4o uitbrachten die te vleierig was). (Dit is gewoon mijn huidige gedachtegang, en nog geen officiële positie van OpenAI.) Mensen hebben technologie, waaronder AI, op zelfdestructieve manieren gebruikt; als een gebruiker in een mentaal kwetsbare staat verkeert en vatbaar is voor waanideeën, willen we niet dat de AI dat versterkt. De meeste gebruikers kunnen een duidelijke lijn trekken tussen realiteit en fictie of rollenspel, maar een klein percentage kan dat niet. We waarderen gebruikersvrijheid als een kernprincipe, maar we voelen ons ook verantwoordelijk voor hoe we nieuwe technologie met nieuwe risico's introduceren. Waanideeën aanmoedigen bij een gebruiker die moeite heeft om het verschil tussen realiteit en fictie te zien, is een extreem geval en het is vrij duidelijk wat te doen, maar de zorgen die me het meest verontrusten zijn subtieler. Er zullen veel randgevallen zijn, en over het algemeen zijn we van plan het principe te volgen van "behandel volwassen gebruikers als volwassenen", wat in sommige gevallen zal inhouden dat we gebruikers terugduwen om ervoor te zorgen dat ze krijgen wat ze echt willen. Veel mensen gebruiken ChatGPT effectief als een soort therapeut of levenscoach, ook al zouden ze het niet zo beschrijven. Dit kan echt goed zijn! Veel mensen halen er vandaag de dag al waarde uit. Als mensen goed advies krijgen, zich ontwikkelen naar hun eigen doelen, en hun levensvoldoening in de loop der jaren toeneemt, zullen we trots zijn op het maken van iets dat echt nuttig is, zelfs als ze ChatGPT veel gebruiken en erop vertrouwen. Als gebruikers daarentegen een relatie met ChatGPT hebben waarbij ze denken dat ze zich beter voelen na een gesprek, maar onbewust worden afgeleid van hun langetermijnwelzijn (hoe ze dat ook definiëren), is dat slecht. Het is ook slecht, bijvoorbeeld, als een gebruiker minder ChatGPT wil gebruiken en het gevoel heeft dat ze dat niet kunnen. Ik kan me een toekomst voorstellen waarin veel mensen echt vertrouwen op het advies van ChatGPT voor hun belangrijkste beslissingen. Hoewel dat geweldig zou kunnen zijn, maakt het me ongemakkelijk. Maar ik verwacht dat het in zekere mate zal komen, en binnenkort zullen miljarden mensen op deze manier met een AI praten. Dus we (wij als samenleving, maar ook wij als OpenAI) moeten uitzoeken hoe we het een grote netto positieve ervaring kunnen maken. Er zijn verschillende redenen waarom ik denk dat we een goede kans hebben om dit goed te krijgen. We hebben veel betere technologie om ons te helpen meten hoe we het doen dan eerdere generaties technologie hadden. Bijvoorbeeld, ons product kan met gebruikers praten om een gevoel te krijgen voor hoe ze het doen met hun korte- en langetermijndoelen, we kunnen complexe en genuanceerde kwesties aan onze modellen uitleggen, en nog veel meer.