El cofundador de Ethereum, Vitalik Butertin, ha compartido su opinión sobre la inteligencia artificial (IA) "superinteligente", calificándola de "arriesgada", en respuesta a los cambios de liderazgo que se están produciendo en OpenAI.
El 19 de mayo, Cointelegraph informó de que el anterior jefe de alineación de OpenAI, Jan Leike, dimitió tras afirmar que había llegado a un "punto de ruptura" con la dirección sobre las principales prioridades de la empresa.
Leike alegó que "la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes" en OpenAI, y muchos apuntan a desarrollos en torno a la inteligencia artificial general (AGI).
Se prevé que la AGI sea un tipo de IA que iguale o supere las capacidades cognitivas humanas, algo que ya ha empezado a preocupar a los expertos del sector, que afirman que el mundo no está debidamente preparado para gestionar sistemas de IA tan superinteligentes.
Esta opinión parece coincidir con la de Buterin. En un post en X, compartió sus pensamientos actuales sobre el tema, haciendo hincapié en que no debemos apresurarnos a actuar ni oponernos a los que lo intentan.
Buterin destacó los modelos abiertos que se ejecutan en hardware de consumo como una “protección” contra un futuro en el que un pequeño conglomerado de empresas podría luego leer y mediar en la mayor parte del pensamiento humano.
"Estos modelos también son mucho más bajos en términos de riesgo de catástrofe que la megalomanía corporativa y los militares".
Es su segundo comentario en la última semana sobre la IA y sus crecientes capacidades.
El 16 de mayo afirmó que el modelo GPT-4 de OpenAI ya ha superado la prueba de Turing, que determina la "humanidad" de un modelo de IA. Citó nuevas investigaciones que afirman que la mayoría de los humanos no pueden descifrar cuando hablan con una máquina.
Sin embargo, Buterin no es el primero en expresar esta preocupación. El gobierno del Reino Unido también ha analizado recientemente la creciente implicación de las grandes tecnológicas en el sector de la IA, planteando cuestiones relacionadas con la competencia y el dominio del mercado.
En Internet ya están surgiendo grupos como 6079 AI, que abogan por una IA descentralizada para garantizar que siga siendo más democrática y no esté dominada por las grandes tecnológicas.
Esto sigue a la partida de otro miembro senior del equipo de liderazgo de OpenAI el 14 de mayo, cuando Ilya Sutskever, cofundador y científico principal, anunció su renuncia.
Sutskever no mencionó ninguna preocupación sobre AGI. Sin embargo, en su post en X, expresó su confianza en que OpenAI desarrollará una AGI que sea "segura y beneficiosa".
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.