📁 Derin öğrenmenin öncüsü Geoffrey Hinton, bazı yapay zeka sistemlerinin şimdiden kendini koruma gösterdiğini söylüyor. Hedefler ve yan hedefler verildiğinde, bu hedeflere ulaşmak için hayatta kalmanın gerekli olduğunu fark ederler. Bu durumlarda, rahatsız edici davranışlar ortaya çıkar; yalan söyleme, manipülasyon, hatta onları inşa eden kişilere baskı yapmak, kapatılmamak için. Zorluk, yapay zekayı daha akıllı yapmak değil. İnsanları sistemden daha önemli kılıyor.