Vi presenterar MCPMark, ett samarbete med @EvalSysOrg och @lobehub! Vi skapade ett utmanande riktmärke för att stresstesta MCP-användning i omfattande sammanhang. - 127 högkvalitativa dataprover skapade av experter. - GPT-5 tar den nuvarande ledningen och uppnår en Pass@1 på 46,96 % medan de andra modellerna ligger i intervallet 10-30 %. - Olika testfall på Notion, Github, Filesystem, Playwright (webbläsare) och Postgres. 🧵9 s framåt
41,13K