Vitalik: La seguridad y la experiencia del usuario no son campos independientes, el objetivo es minimizar la desviación entre la intención y el comportamiento del sistema

Foresight News informa que Vitalik Buterin en Farcaster afirmó que el objetivo de la seguridad es minimizar la desviación entre la intención del usuario y el comportamiento real del sistema. La “experiencia del usuario” puede definirse de manera similar, por lo que la seguridad y la experiencia del usuario no son campos independientes; la seguridad se enfoca más en los riesgos de cola (alto costo de desviación) y en los riesgos derivados de comportamientos adversarios. La seguridad perfecta es imposible, ya que la “intención del usuario” en sí misma es extremadamente compleja y difícil de expresar claramente (por ejemplo, en “enviar 1 ETH a Bob”, Bob no puede definirse matemáticamente). Objetivos más complejos como “proteger la privacidad” también son difíciles de definir (la fuga de metadatos supera con creces la encriptación en sí). Esto es similar a los problemas de seguridad en IA temprana: los objetivos son difíciles de definir de manera robusta.

Las características que debe tener una buena solución de seguridad incluyen: que la intención del usuario se exprese de manera múltiple y superpuesta, y que el sistema solo actúe cuando estas expresiones estén alineadas desde múltiples ángulos. Ejemplos incluyen sistemas de tipos en programación, verificación formal, simulación de transacciones, afirmaciones post-transacción, multi-firma / recuperación social, límites de gasto y confirmaciones de anomalías, todo mediante redundancia para reducir riesgos. Además, los modelos de lenguaje grande (LLM) pueden usarse como simuladores de intención (los LLM generales aproximan el conocimiento común humano, y el ajuste fino por el usuario acerca el LLM a la intención del usuario), pero nunca deben decidir la intención por sí solos, sino solo como una forma adicional de perspectiva para aumentar la efectividad de la redundancia.