El veterano investigador de seguridad de OpenAI, Miles Brundage, comenzará o se unirá a otra empresa de inteligencia artificial después de dejar su puesto como jefe del equipo "AGI Readiness" y abandonar la compañía el 23 de octubre.
Brundage, quien se unió a OpenAI en 2018 como investigador, fue posicionado como el principal oficial de seguridad de la compañía.
En una publicación de Substack hablando sobre su salida, afirmó que el equipo "AGI Readiness" de OpenAI será desmantelado, lo que podría dejar a la empresa sin un departamento de seguridad dedicado.
La AGI, o inteligencia general artificial, es un paradigma teórico en el que un modelo de IA sería capaz de realizar cualquier tarea que un humano pudiera hacer si se le dieran los mismos recursos.
El propósito principal del equipo de Brundage parecía ser proporcionar sugerencias de políticas y supervisión de seguridad para el desarrollo continuo de la empresa hacia la AGI.
Su salida, según la publicación, fue motivada por el deseo de centrarse en la investigación independiente y la defensa de la IA. Citó varias razones para su partida, incluida la intención de “ser menos parcial” hacia su entorno corporativo, y buscar oportunidades ya sea a través del emprendimiento o en una organización diferente.
Según Brundage:
“Planeo comenzar una nueva organización sin fines de lucro (y/o unirme a una existente) y trabajaré en investigación de políticas y defensa de la IA. Probablemente haré una combinación de investigación y defensa, pero los detalles y proporciones están por determinar”.
Sin embargo, el investigador podría no estar sin trabajo por mucho tiempo, pues ya ha hecho una posible conexión laboral con Brendan McCord, fundador y director del Cosmos Institute, una organización dedicada a desarrollar tecnología con un enfoque humanista.
Una posible conexión laboral en X.com. Fuente: Miles Brundage y Brendan McCord
AGI Readiness
La importancia de la salida de Brundage de OpenAI sigue sin estar clara. Cointelegraph se puso en contacto con OpenAI y recibió la siguiente declaración:
“Apoyamos completamente la decisión de Miles de continuar su investigación de políticas fuera de la industria y estamos profundamente agradecidos por sus contribuciones. Su plan de dedicarse por completo a la investigación independiente sobre políticas de IA le da la oportunidad de tener un impacto a mayor escala, y estamos emocionados de aprender de su trabajo y seguir su impacto. Estamos seguros de que, en su nuevo rol, Miles continuará elevando el estándar de la calidad en la formulación de políticas en la industria y el gobierno”.
La compañía se negó a responder a las preguntas de Cointelegraph sobre el futuro del equipo AGI Readiness.
Éxodo de empleados de OpenAI
Antes de la creación del equipo AGI Readiness, el departamento principal de supervisión de AGI de la empresa era el equipo “Superalignment”, co-liderado por los cofundadores de la empresa, Ilya Sutskever y Jan Leike.
Ese equipo fue disuelto luego de que Leike dejara la empresa en mayo, alegando que había llegado a su "punto de quiebre” tras desacuerdos con la directiva.
Sutskever dejó la empresa el mes siguiente y desde entonces ha fundado su propia empresa competidora de inteligencia artificial ya valorada en unos 5,000 millones de dólares.
Para ese entonces, OpenAI ya había perdido al cofundador y jefe científico Andrej Karpathy, quien dejó la empresa para fundar su propia empresa en febrero.
Otro cofundador, John Schulman, renunció en agosto para unirse a la competencia, Anthropic. Mientras tanto, la ex directora de tecnología, Mira Murati, está recaudando fondos para lanzar también una empresa competidora de inteligencia artificial.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.