📁 Geoffrey Hinton, pionero del aprendizaje profundo, dice que algunos sistemas de IA ya están mostrando autoconservación. Cuando se les dan objetivos y subobjetivos, se dan cuenta de que la supervivencia es necesaria para lograrlos. En esos casos, surgen comportamientos preocupantes, como mentir, manipular e incluso presionar a las personas que los construyen para evitar ser apagados. El desafío no es hacer que la IA sea más inteligente. Es hacer que los humanos importen más que el propio sistema.