Это крайне хорошо, что Anthropic не отступил, и это значимо, что OpenAI занял аналогичную позицию.
В будущем будут гораздо более сложные ситуации подобного рода, и будет критически важно, чтобы соответствующие лидеры поднялись к этому вызову, чтобы жесткие конкуренты отложили свои разногласия в сторону. Приятно видеть, что это происходит сегодня.
Очень хорошо, что Anthropic не отступила, и это значимо, что OpenAI теперь приняла те же условия.
В будущем будут гораздо более сложные ситуации подобного рода, и будет критически важно, чтобы соответствующие лидеры поднялись к этому вызову, чтобы жестокие конкуренты отложили свои разногласия в сторону. Приятно видеть, что это произошло сегодня.
Одна мысль, которую я высказал, но она не была понята:
- Масштабирование текущего процесса будет продолжать приводить к улучшениям. В частности, это не остановится.
- Но что-то важное продолжит отсутствовать.
вот самые важные моменты из сегодняшнего подкаста Ильи Сутскевера:
- суперинтеллект через 5-20 лет
- текущее масштабирование сильно застопорится; мы вернулись к настоящим исследованиям
- суперинтеллект = супербыстрый непрерывный обучающийся, а не законченный оракул
- модели обобщают в 100 раз хуже, чем люди, это главный блокирующий фактор для AGI
- нужна совершенно новая парадигма ML (у меня есть идеи, не могу поделиться сейчас)
- влияние ИИ будет сильным, но только после экономического распространения
- прорывы исторически требовали почти никакой вычислительной мощности
- SSI имеет достаточно сосредоточенных вычислительных ресурсов для победы
- текущее RL уже потребляет больше вычислительных ресурсов, чем предварительное обучение