to naprawdę dość ciekawe, jak wstrzyknięcia poleceń nie były szerzej omawiane ani rozwiązywane - może to po prostu pokazuje, jak rzeczywista praktyka LLM wciąż jest dość tajemnicza (z złymi aktorami również) Nie mogę być bardziej optymistyczny co do agentów, ale trzeba być bardzo ostrożnym bardzo trudne do rozwiązania
zack (in SF)
zack (in SF)20 godz. temu
Dlaczego nikt o tym nie mówi? To dlatego nie używam przeglądarki AI Możesz dosłownie zostać poddany atakowi przez wstrzyknięcie polecenia i stracić pieniądze na swoim koncie bankowym, przeglądając doomscrolling na reddicie:
2,34K