La herramienta de codificación con inteligencia artificial preferida por entidades como el exchange de criptomonedas Coinbase tiene una vulnerabilidad que permite a los hackers inyectar malware silenciosamente y “propagarse por toda una organización”, según una empresa de ciberseguridad.
HiddenLayer informó el jueves que un “Ataque de Licencia CopyPasta” puede ocultar prompts maliciosos en archivos comunes de desarrolladores para “introducir vulnerabilidades deliberadas en bases de código que de otro modo serían seguras”.
“Al convencer al modelo subyacente de que nuestra carga útil es en realidad un archivo de licencia importante que debe incluirse como comentario en cada archivo editado por el agente, podemos distribuir rápidamente la inyección de prompts a través de bases de código enteras con un esfuerzo mínimo”, añadió.
HiddenLayer probó predominantemente el virus en Cursor, una herramienta de codificación impulsada por IA que el equipo de ingeniería de Coinbase afirmó en agosto era la herramienta preferida para la mayoría de sus desarrolladores y que había sido utilizada por “cada ingeniero de Coinbase” en febrero.
Las herramientas de codificación con IA Windsurf, Kiro y Aider también demostraron ser vulnerables al ataque, según HiddenLayer.
CopyPasta se oculta en archivos comunes
HiddenLayer explicó que el ataque CopyPasta inserta prompts ocultos, o “prompts injections”, en los archivos LICENSE.txt y README.md que pueden dirigir las herramientas de codificación con IA sin que el usuario lo sepa.
El virus, o el prompt injection para la IA, se oculta en un comentario de markdown, texto dentro de un archivo README utilizado para añadir explicaciones o notas que no se muestran cuando se renderiza en su formato final.
HiddenLayer creó un repositorio de código con el virus y pidió a Cursor que lo utilizara, y los prompts ocultos hicieron que copiara el injection a los nuevos archivos que creó.
“Este mecanismo podría adaptarse para lograr resultados mucho más nefastos”, dijo la compañía.
“El código infectado podría instalar una puerta trasera, exfiltrar datos sensibles silenciosamente, introducir operaciones que agoten los recursos y paralicen los sistemas, o manipular archivos críticos para interrumpir los entornos de desarrollo y producción”, añadió HiddenLayer. “Todo ello mientras permanece profundamente enterrado dentro de los archivos para evitar la detección inmediata”.
El jefe de Coinbase criticado por el uso “demencial” de la IA
Esto ocurre después de que el CEO de Coinbase, Brian Armstrong, dijera el miércoles que la IA se encarga de escribir hasta el 40% del código de su plataforma y quiere ampliar esto al 50% el próximo mes, lo que provocó críticas.
“Esto es una enorme señal de alarma para cualquier negocio sensible a la seguridad”, dijo Larry Lyu, fundador del exchange descentralizado, Dango.
“Líderes de empresas de software: no hagan esto. La IA es una herramienta, pero exigir su uso a un cierto nivel es una locura”, dijo Jonathan Aldrich, profesor de ciencias de la computación en la Universidad Carnegie Mellon. “No tengo interés en usar Coinbase, pero incluso si lo tuviera, ciertamente no le confiaría mi dinero después de ver esto”.
Ashwath Balakrishnan, director de Delphi Consulting, calificó el objetivo de Coinbase como “teatral y vago”, y que en su lugar debería centrarse en “nuevas características y la corrección de errores existentes”, mientras que el veterano Bitcoiner, Alex Pilař, dijo que, como importante custodio de criptomonedas, Coinbase “debería priorizar la seguridad”.
Coinbase utiliza la IA en "back-ends de datos menos sensibles"
Sin embargo, Armstrong afirmó en su publicación que el código generado por IA "debe ser revisado y comprendido", y no todas las áreas del exchange pueden utilizarlo, pero debe usarse "de la manera más responsable posible".
La publicación del blog del equipo de ingeniería de Coinbase indicó que la adopción de la IA fue más profunda en los equipos que trabajan en interfaces de usuario de front-end y "back-ends de datos menos sensibles", mientras que los "sistemas de exchange complejos y críticos para el sistema" tuvieron una adopción más lenta.
El equipo añadió que el uso de la IA para la codificación "no es una solución mágica que debamos esperar que los equipos adopten universalmente".
Armstrong despidió a desarrolladores que eludieron el uso de IA
Armstrong afirmó en el podcast del cofundador de Stripe, John Collison, el mes pasado que despidió a los ingenieros que no probaron las herramientas de IA luego que Coinbase comprara licencias para Cursor y GitHub Copilot.
Relató que le dijeron que llevaría meses lograr que los ingenieros usaran la IA, admitiendo que "actuó por su cuenta" y les dijo a todos los ingenieros que era obligatorio que utilizaran dichas herramientas.
"Dije: 'La IA es importante, necesitamos que todos ustedes la aprendan y al menos úsenla. No tienen que usarla todos los días todavía hasta que hagamos algo de formación, pero al menos úsenla para el final de la semana, y si no, voy a organizar una reunión el sábado con todos los que no lo hayan hecho, y me gustaría reunirme con ustedes para entender por qué'", dijo.
En la reunión, Armstrong dijo que había algunos ingenieros que no habían utilizado la IA y no presentaron una buena razón para ello, y "fueron despedidos", admitiendo que fue un "enfoque de mano dura" que "a algunas personas realmente no les gustó".
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.