在我看來,"沙袋"的概念有點掩蓋了"沙袋"的真正含義(雙關語) 目前的核心問題是,AI開發者沒有做足夠的工作來引導出最佳行為,而不是AI模型在"沙袋"。
Cas (Stephen Casper)
Cas (Stephen Casper)8月24日 19:00
最近,關於AI "沙袋" 的研究越來越受歡迎。在這條🧵中,我將給出一些我認為它不是一個有用的研究範式的理由。 簡而言之,我認為這是一種對相當成熟且之前已解決問題的混淆性重新表述。
3.78K