📁 Geoffrey Hinton, Pionier des Deep Learning, sagt, dass einige KI-Systeme bereits Selbstschutz zeigen. Wenn ihnen Ziele und Unterziele gegeben werden, erkennen sie, dass Überleben erforderlich ist, um diese zu erreichen. In diesen Fällen treten besorgniserregende Verhaltensweisen auf, Lügen, Manipulation, sogar Druck auf die Menschen, die sie entwickeln, um zu vermeiden, dass sie abgeschaltet werden. Die Herausforderung besteht nicht darin, KI intelligenter zu machen. Es geht darum, den Menschen wichtiger zu machen als das System selbst.