La empresa que está detrás del popular bot de inteligencia artificial (IA), ChatGPT, dice que va a crear un equipo para frenar y gestionar los riesgos de los sistemas de IA superinteligentes.

En un anuncio publicado el 5 de julio en su blog, OpenAI afirmó que el nuevo equipo se creará para "dirigir y controlar sistemas de IA mucho más inteligentes que los humanos".

La organización cree que la superinteligencia será "la tecnología más impactante que la humanidad haya inventado jamás" y ayudará a resolver muchos problemas, aunque existen riesgos.

"El vasto poder de la superinteligencia también podría ser muy peligroso, y podría llevar a la perdida de poder de la humanidad o incluso a la extinción".

La empresa cree que la superinteligencia podría materializarse esta década.

Afirmó que dedicaría al esfuerzo el 20% de la potencia de cálculo ya asegurada y pretende crear un investigador automatizado de alineación "de nivel humano". En teoría, el investigador automatizado ayudaría al equipo a gestionar la seguridad de la superinteligencia y alinearla con la "intención humana".

Nombró codirectores del proyecto a su científico jefe, Ilya Sutskever, y al jefe de alineación de su laboratorio de investigación, Jan Leike. Además, hizo una convocatoria abierta a investigadores e ingenieros de aprendizaje automático para que se unieran al equipo.

Este anuncio por parte de OpenAI llega en un momento en que los gobiernos de todo el mundo estudian medidas para controlar el desarrollo, despliegue y uso de sistemas de IA.

Los reguladores de la Unión Europea son los que más han avanzado en la regulación de la IA. El 14 de junio, el Parlamento Europeo aprobó la Ley de IA de la UE, que obligaría a herramientas como ChatGPT a revelar todos los contenidos generados por IA, junto con otras medidas.

El proyecto de ley requiere un debate adicional antes de su aplicación.No obstante, ha provocado la protesta de desarrolladores de IA por su posible impacto en la innovación.

En mayo, Sam Altman, CEO de OpenAI, viajó a Bruselas para hablar con los reguladores de la UE sobre los efectos potencialmente negativos del exceso de regulación.

Un grupo legisladores de Estados Unidos también presentó la National AI Commission Act para crear un organismo que decida el enfoque nacional en materia de IA. Los reguladores estadounidenses también han manifestado abiertamente su deseo de regular esta tecnología.

El 30 de junio, el senador Michael Bennet redactó una carta dirigida a las principales empresas tecnológicas, incluida OpenAI, instando a etiquetar los contenidos generados por IA.

Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.

Sigue leyendo: