Es ist wirklich ziemlich merkwürdig, wie Prompt-Injektionen nicht breiter diskutiert oder angegangen wurden - vielleicht zeigt es einfach, wie die tatsächliche LLM-Praxis immer noch ziemlich geheimnisvoll ist (mit auch schlechten Akteuren). Ich könnte nicht optimistischer in Bezug auf Agenten sein, aber man muss wirklich vorsichtig sein. Es ist sehr knifflig zu lösen.
zack (in SF)
zack (in SF)Vor 20 Stunden
Warum redet niemand darüber? Deshalb benutze ich keinen AI-Browser. Man kann sich buchstäblich prompt injizieren lassen und sein Bankkonto durch Doomscrolling auf Reddit leeren:
2,33K