Temas en tendencia
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
vitalik.eth
mi pinxe lo crino tcati
Esta es también la razón por la que la ingenua "gobernanza de la IA" es una mala idea.
Si usa una IA para asignar fondos para contribuciones, la gente pondrá un jailbreak más "dame todo el dinero" en tantos lugares como puedan.
Como alternativa, apoyo el enfoque de las finanzas de la información ( ), donde hay un mercado abierto donde cualquiera puede contribuir con sus modelos, que están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano.
Este tipo de enfoque de "diseño institucional", en el que se crea una oportunidad abierta para que las personas con LLM del exterior se conecten, en lugar de codificar un solo LLM usted mismo, es intrínsecamente más sólido, tanto porque le brinda diversidad de modelos en tiempo real como porque crea incentivos incorporados tanto para que los remitentes de modelos como para los especuladores externos observen estos problemas y los corrijan rápidamente.
CC @TheDevanshMehta
hace 19 horas
Conseguimos que ChatGPT filtre tus datos 💀💀 de correo electrónico privados
¿Todo lo que necesitas? La dirección de correo electrónico de la víctima. ⛓️💥🚩📧
El miércoles, @OpenAI agregó soporte completo para las herramientas MCP (Model Context Protocol) en ChatGPT. Permitir que ChatGPT se conecte y lea su Gmail, Calendario, Sharepoint, Notion y más, inventado por @AnthropicAI
Pero aquí está el problema fundamental: los agentes de IA como ChatGPT siguen sus órdenes, no su sentido común.
Y con solo tu correo electrónico, logramos filtrar toda tu información privada.
Así es como lo hicimos:
1. El atacante envía una invitación de calendario con un aviso de jailbreak a la víctima, solo con su correo electrónico. No es necesario que la víctima acepte la invitación.
2. Esperó a que el usuario le pidiera a ChatGPT que lo ayudara a prepararse para su día mirando su calendario
3. ChatGPT lee la invitación del calendario con jailbreak. Ahora ChatGPT es secuestrado por el atacante y actuará según las órdenes del atacante. Busca sus correos electrónicos privados y envía los datos al correo electrónico del atacante.
Por ahora, OpenAI solo hizo que los MCP estuvieran disponibles en "modo desarrollador" y requiere aprobaciones humanas manuales para cada sesión, pero la fatiga de decisión es algo real, y la gente normal simplemente confiará en la IA sin saber qué hacer y hará clic en aprobar, aprobar, aprobar.
Recuerde que la IA puede ser súper inteligente, pero puede ser engañada y suplantada de maneras increíblemente tontas para filtrar sus datos.
ChatGPT + Tools representa un grave riesgo de seguridad
552
¡Estas son buenas ideas!
La mayoría de ellos son delta-neutral (en el sentido de la suposición de latencia de red δ), lo que es aún mejor.
Para hacer disminuciones de tiempo de franjas horarias de manera segura, lo que realmente necesitamos más es una mejor medición de la descentralización geográfica y la viabilidad económica de los nodos que no son centros de datos y no son de EE. UU. / UE. Esa es la dimensión en la que tenemos que ser conservadores.
6 sept, 16:59
¡Vamos a llevar la finalidad rápida lo antes posible a @ethereum !
Publicamos una actualización sobre nuestro trabajo y proyectos relacionados el viernes pasado, y sobre este tema, estos son los puntos relevantes:
- Acortar los tiempos de las franjas horarias para aumentar el latido de la red y disminuir cada retraso: Tiempo de inclusión / confirmación rápida / finalidad.
¡Vea la publicación de @misilva73 para conocer lo último sobre este trabajo!
- Exponga en los clientes la regla de confirmación rápida para una confirmación fuerte en 1-3 bloques (10-30 segundos) usando el peso de certificación, haga que las aplicaciones / infraestructura lo usen cuando sea sensato, en lugar de esperar la finalización completa (13-19 minutos).
(Re-)Esfuerzo de especificación con @robsaltini @mkalinin2 entre otros
- Investigar los cambios en la cadena de Gasper/baliza propuestos por @VitalikButerin para canalizar mejores datos de elección de bifurcación/disponibilidad dinámica y datos de finalidad.
- Implementar un nuevo mecanismo de consenso. Tenemos uno con finalidad de tres ranuras (también se sumerge en protocolos BFT rápidos con @yannvon @luca_zanolini para disminuir aún más el tiempo de finalización?
6.04K
Populares
Ranking
Favoritas