Investigadores de la Universidad de Chicago han desarrollado una herramienta que brinda a los artistas la capacidad de "contaminar" su arte digital para evitar que los desarrolladores entrenen sistemas de inteligencia artificial (IA) con su trabajo.
Llamada "Nightshade", en referencia a la familia de plantas, algunas de las cuales son conocidas por sus bayas venenosas, la herramienta modifica imágenes de tal manera que su inclusión contamina los conjuntos de datos utilizados para entrenar a la IA con información incorrecta.
Según un informe de MIT's Technology Review, Nightshade cambia los píxeles de una imagen digital para engañar a un sistema de IA y que lo interprete incorrectamente. Como ejemplos, Tech Review menciona convencer a la IA de que una imagen de un gato es un perro y viceversa.
De esta manera, la capacidad de la IA para generar respuestas precisas y coherentes teóricamente se vería dañada. Usando el ejemplo anterior, si un usuario solicitara una imagen de un "gato" a la IA contaminada, podrían obtener un perro etiquetado como un gato o una amalgama de todos los "gatos" en el conjunto de entrenamiento de la IA, incluyendo aquellos que son en realidad imágenes de perros modificadas por la herramienta Nightshade.
Un experto que revisó el trabajo, Vitaly Shmatikov, profesor de la Universidad de Cornell, opinó que los investigadores "aún no conocen defensas sólidas contra estos ataques". La implicación es que incluso modelos sólidos como ChatGPT de OpenAI podrían estar en riesgo.
El equipo de investigación detrás de Nightshade está liderado por el profesor Ben Zhao de la Universidad de Chicago. La nueva herramienta es en realidad una expansión de su software de protección para artistas llamado Glaze. En su trabajo anterior, diseñaron un método mediante el cual un artista podría oscurecer o "glasear" el estilo de su obra de arte.
Un artista que creó un retrato a carboncillo, por ejemplo, podría glasearse para que pareciera a un sistema de IA como arte moderno.
Según Technology Review, Nightshade finalmente se implementará en Glaze, que actualmente está disponible de forma gratuita para su uso en la web o para su descarga en el sitio web de la Universidad de Chicago.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.
