AI przypomina rok 1999 jak nigdy dotąd. Wszyscy czują, że to rewolucja, kapitał napływa, a optymizm tymczasowo zawiesił prawa logiki. Jednak dzisiejsze AI jest mniej mądrym oraklem, a bardziej genialnym, ale zawodnym prodigy; szybkim, elokwentnym, zdolnym, ale skłonnym do pewnego wymyślania faktów. Badania szacują, że LLM-y "halucynują" aż 27% czasu, z błędami faktograficznymi w prawie połowie wyników. To nie są złośliwe kłamstwa; to cecha projektu. Model jest trenowany, aby produkować odpowiedź, niekoniecznie tę właściwą. Pomyśl o chętnym stażyście, który zawsze chce zaimponować, nawet jeśli oznacza to blefowanie. To staje się gorsze, gdy opanowanie ma znaczenie. Naciśnij AI, a może przyznać się w jednej chwili... a w następnej podwoić stawkę. W kontekście wysokiego ryzyka, to nie jest dziwaczne, to niebezpieczne. Nic z tego nie oznacza, że AI nie jest transformacyjne. Zyski wydajności są realne. Firmy przekształcają swoje procesy. Przepływy pracy się zmieniają. Ale nie możemy mylić szybkości z mądrością ani polerowania z prawdą.