La Comisión Europea requerirá que plataformas tecnológicas como TikTok, X y Facebook detecten contenido generado por inteligencia artificial (IA) para salvaguardar las próximas elecciones europeas contra la desinformación.
La comisión ha iniciado una consulta pública sobre las directrices propuestas de seguridad electoral para plataformas en línea muy grandes (VLOP) y motores de búsqueda en línea muy grandes (VLOSE). Las recomendaciones tienen como objetivo reducir las amenazas democráticas planteadas por la IA generativa y los deepfakes.
Las directrices preliminares ofrecen ejemplos de posibles medidas para abordar los riesgos relacionados con las elecciones, incluidas acciones específicas relacionadas con el contenido generado por IA, la planificación para la mitigación de riesgos antes o después de un evento electoral, y proporcionar orientación clara para las elecciones al Parlamento Europeo.
La IA generativa puede engañar a los votantes o manipular procesos electorales mediante la creación y difusión de contenido sintético inauténtico y engañoso sobre actores políticos, falsa representación de eventos, encuestas electorales, contextos o narrativas.
Asegurar la integridad electoral significa proteger el discurso público, gran parte del cual ocurre en línea.
— Comisión Europea (@EU_Commission) 8 de febrero de 2024
Estamos buscando opiniones sobre nuestras directrices preliminares de la Ley de Servicios Digitales para abordar los riesgos emergentes en línea para los procesos electorales mientras protegemos los cimientos de nuestras democracias ↓
Asegurar la integridad electoral significa proteger el discurso público, gran parte del cual ocurre en línea.
Estamos buscando opiniones sobre nuestras directrices preliminares de la Ley de Servicios Digitales para abordar los riesgos emergentes en línea para los procesos electorales mientras protegemos los cimientos de nuestras democracias
Actualmente abiertas para consulta pública en la Unión Europea hasta el 7 de marzo, las directrices preliminares de seguridad electoral recomiendan alertar a los usuarios en plataformas relevantes sobre posibles inexactitudes en el contenido producido por IA generativa.
Según el borrador, las directrices también sugieren guiar a los usuarios hacia fuentes de información autorizadas y establecen que las grandes empresas tecnológicas deben implementar salvaguardias para evitar la generación de contenido engañoso con un potencial significativo para influir en el comportamiento del usuario.
Respecto al texto generado por IA, la recomendación actual es que los VLOP/VLOSE indiquen, cuando sea posible, en las salidas generadas las fuentes concretas de la información utilizada como datos de entrada para permitir a los usuarios verificar la confiabilidad y contextualizar aún más la información.
Las "mejores prácticas" propuestas para la mitigación de riesgos en las directrices preliminares se inspiran en la propuesta legislativa recientemente aprobada de la UE, la Ley de IA, y su contraparte no vinculante, el Pacto de IA.
Preocupaciones sobre sistemas de IA avanzados, como los grandes modelos de lenguaje, han surgido desde el aumento viral de la IA generativa en 2023, haciendo que herramientas como ChatGPT de OpenAI sean ampliamente conocidas.
La comisión no especificó cuándo exactamente las empresas estarán obligadas a etiquetar el contenido manipulado bajo la ley de moderación de contenido de la UE, la Ley de Servicios Digitales.
Sin embargo, en una publicación en el blog de la empresa, Meta anunció planes para introducir nuevas directrices sobre contenido generado por IA en Facebook, Instagram y Threads en los próximos meses. Cualquier contenido reconocido como generado por IA, ya sea a través de metadatos o marcas de agua intencionales, recibirá una etiqueta visible.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión