realmente es bastante curioso cómo las inyecciones de prompt no se han discutido o abordado más ampliamente - tal vez solo muestra cuán arcaica sigue siendo la práctica real de LLM (con actores malintencionados también) no podría estar más optimista sobre los agentes, pero vaya que hay que tener cuidado es muy complicado de resolver
zack (in SF)
zack (in SF)Hace 21 horas
¿Por qué nadie está hablando de esto? Esta es la razón por la que no uso un navegador AI Literalmente puedes ser víctima de un ataque de inyección de comandos y tu cuenta bancaria puede ser drenada por el doomscrolling en reddit:
2,36K