Davide Crapis, director de IA de la Fundación Ethereum, y Vitalik Buterin, cofundador de Ethereum, han propuesto una forma de usar pruebas de conocimiento cero y otros métodos para asegurar que las interacciones de un usuario con los grandes modelos de lenguaje sean privadas, mientras se previene el spam y el abuso.
Las llamadas API ocurren cada vez que un usuario envía un mensaje a una aplicación de software, como un chatbot de IA. Crapis y Buterin dijeron en una publicación de blog el miércoles que un desafío central tanto para los usuarios como para los proveedores es la privacidad, la seguridad y la eficiencia.
“Necesitamos un sistema donde un usuario pueda depositar fondos una vez y hacer miles de llamadas API de forma anónima, segura y eficiente”, dijeron.
“El proveedor debe tener garantizado el pago y la protección contra el spam, mientras que el usuario debe tener garantizado que sus solicitudes no pueden vincularse a su identidad o entre sí”, añadieron.
Con el aumento del uso de los chatbots de IA, las filtraciones de datos de los LLM se han convertido en una preocupación creciente. Los chatbots a menudo manejan datos altamente sensibles, y vincular el uso a las identidades puede crear importantes riesgos de privacidad, legales y de seguridad. Los registros de uso pueden incluso utilizarse en procedimientos judiciales.
La solución de Crapis y Buterin para usuarios y proveedores
Crapis y Buterin dijeron que los proveedores actualmente se ven obligados a elegir entre dos “caminos subóptimos”: el acceso basado en la identidad, con usuarios obligados a entregar información sensible como un correo electrónico o una tarjeta de crédito, lo que crea riesgos de privacidad; o pagos on-chain por solicitud, que son lentos, costosos y rastreables.
El dúo propone un sistema donde los usuarios depositan fondos en un contrato inteligente y luego realizan llamadas API sin revelar su identidad ni vincular solicitudes, aprovechando pruebas de conocimiento cero y rate-limit nullifiers para pagos y aplicación anti-spam.
“Un usuario deposita 100 USDC en un contrato inteligente y realiza 500 consultas a un LLM alojado. El proveedor recibe 500 solicitudes válidas y pagadas, pero no puede vincularlas al mismo depositante, ni entre sí, mientras que las indicaciones del usuario permanecen desvinculables de la identidad del usuario”, dijeron Crapis y Buterin.
“El modelo aplica la solvencia al requerir que el usuario pruebe que su gasto acumulado, representado por su índice de ticket actual, se mantiene estrictamente dentro de los límites de su depósito inicial y su historial de reembolso verificado.”
Engañar al sistema podría reducir tu depósito
Para disuadir a estafadores, la generación de contenido ilegal, intentos de jailbreaking y otras violaciones de los términos de servicio, Crapis y Buterin proponen un sistema de doble stake.
Si un usuario es sorprendido intentando doble gasto, su depósito puede ser reclamado por cualquiera, incluido el servidor. Sin embargo, los usuarios que violen los términos de servicio verán su depósito enviado a una dirección de quema, y el evento de slashing se registra on-chain.
“Por ejemplo, un usuario podría enviar una indicación pidiendo al modelo que genere instrucciones para construir un arma o que le ayude a eludir los controles de seguridad, solicitudes que violarían las políticas de uso de muchos proveedores”, dijeron Crapis y Buterin.
“Aunque la identidad del usuario permanece oculta, la comunidad puede auditar la tasa a la que el Servidor quema stakes y la evidencia publicada para estas quemas.”
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.
