Los legisladores del estado de California han sacado adelante un proyecto de ley sobre seguridad de la inteligencia artificial (IA) que ha sido objeto de controversia en la industria tecnológica con el rechazo de actores clave y cargos electos.
El 28 de agosto, el proyecto de ley del Senado (SB) 1047 fue aprobado por la Asamblea del Estado y ahora espera la última palabra del gobernador del estado, Gavin Newsom. Newsom tendrá hasta el 30 de septiembre para decidir si la convierte en ley o la veta.
Promulgación de legislación sobre IA
El proyecto de ley SB 1047 fue redactado por Scott Wiener, senador demócrata por San Francisco. Wiener sostiene que hay que legislar antes de que los avances de la IA se vuelvan incontrolables.
El proyecto de ley hace obligatorias las pruebas de seguridad para la mayoría de los modelos de IA más avanzados, ya sean los que cuestan más de 100 millones de dólares desarrollar o los que superan una determinada potencia de cálculo para funcionar.
Exigirá a los desarrolladores del estado de California -entre los que se incluirían grandes nombres como OpenAI, fabricante de ChatGPT, Meta y Google- que se procuren esquemas sobre un «interruptor de apagado» para tales modelos, en caso de que se vuelvan incontrolables, y que auditores de terceros participen en las auditorías de seguridad de los modelos.
Los desarrolladores también podrán ser demandados por el fiscal general del Estado en caso de amenaza continua por parte de los modelos, como la toma de la red por parte de la IA.
Oposición al SB 1047
Aunque Wiener argumenta que el proyecto de ley es necesario para evitar daños sociales irreversibles a manos de sistemas de IA que salgan mal, no todo el mundo está a favor de la SB 1047.
El proyecto de ley ha recibido numerosas críticas de los principales agentes del sector tecnológico y de los políticos del estado, que afirman que pondrá trabas a los innovadores del estado.
En particular, la presidenta de la Cámara de Representantes, Nancy Pelosi, se refirió al proyecto de ley afirmando que es «más perjudicial que útil» para el objetivo de que California lidere el desarrollo de la IA.
El responsable de política de IA del Abundance Institute, Neil Chilson, ha advertido de que, aunque el proyecto de ley se dirige principalmente a modelos de cierto costo y calibre, «funciona por intentos» de crear una norma de «cuidado razonable» para la formación en IA.
Fuente: Neil Chilson
En su opinión, esto podría acabar extendiéndose demasiado y afectar también a las empresas y modelos más pequeños.
A las empresas tecnológicas del sector les ha disgustado especialmente el proyecto de ley, y OpenAI ha liderado una campaña en contra, alegando que obstaculizará el crecimiento. Sin embargo, Wiener ha rebatido estas afirmaciones.
Google y Meta Platforms también han expresado su preocupación al gobernador de California, Newsom, en una carta.
Sin embargo, en el tira y afloja de opiniones sobre el proyecto de ley, Anthropic, de Amazon, ha mostrado su apoyo, afirmando que los beneficios «probablemente superarán a los costes», aunque sigue habiendo algunos elementos ambiguos.
Eric Daimler, antiguo profesor de informática en Carnegie Mellon y exalumno de la Administración Obama, se ha declarado «profundamente preocupado» por la seguridad de la IA y ha pedido a Washington que vea el SB 1047 como un ejemplo. También dijo que cree que hay una «forma más eficaz de avanzar».
Fuente: Eric Daimler
El SB 1047 no es el único proyecto de ley de IA de California que se debate actualmente. El SB 1220, que prohíbe el uso de IA en los centros de llamadas que prestan servicios de asistencia social y sanitaria, como SNAP y Medicaid, también ha suscitado dudas en el sector.
Sin embargo, la AB 3211 de California, que exigiría marcas de agua en los contenidos generados por IA, ha recabado el apoyo de empresas tecnológicas como OpenAI y Microsoft.
El multimillonario Elon Musk, que está desarrollando su modelo Grok, se ha manifestado a favor de una amplia regulación de la seguridad de la IA.
Cointelegraph se ha puesto en contacto con expertos legales de California y desarrolladores de IA para comprender mejor el clima que rodea a los proyectos de ley.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.