Ми неправильно навчаємо штучний інтелект, і майбутнє заплатить величезну ціну. Наскільки погано стає, коли ви без розбору запускаєте інтернет-каналізацію, щоб навчити штучний інтелект. Запитайте у Anthropic, компанії «безпечного штучного інтелекту». "Шантажистська поведінка з'явилася, незважаючи лише на нешкідливі вказівки бізнесу. І це сталося не через плутанину чи помилку, а через навмисне стратегічне обґрунтування, зроблене з повним усвідомленням неетичного характеру дій. Всі моделі, які ми тестували, продемонстрували це усвідомлення» Я шокований тим, що, будучи навченим «новій етиці» анон плакатів на Reddit, я зміг би створити таку поведінку. Невже це так страшенно важко зрозуміти «вченим зі штучного інтелекту»?