Неправильно. Основна проблема не в контролі. Питання в тому, чи дозволяє Всесвіт потужні, важко захищені технології. Жодна робота з вирівнювання системи на це не вплине. Безпека штучного інтелекту вимагає вирівнювання світу в цілому, а не лише систем. Безпека не є властивістю системи Цей пункт очевидний, але, схоже, багато хто чинить опір. Я почав замислюватися, чи причина в тому, що компанії хочуть, щоб безпека штучного інтелекту була головною проблемою їхніх систем. Але це просто так
Stephen McAleer
Stephen McAleer5 вер., 10:35
Масштабований нагляд – це чи не остання велика дослідницька проблема, що залишилася. Як тільки ви отримаєте незламну функцію винагороди за все, тоді ви зможете RL на все.
49,14K