La empresa de inteligencia artificial de Elon Musk, xAI, ha culpado a una "modificación no autorizada" de la respuesta del chatbot Grok, lo que le ha llevado a generar respuestas que mencionan tensiones políticas en Sudáfrica.
El 16 de mayo, xAI proporcionó una actualización sobre las “inflammatory responses” (o respuestas incendiarias) del chatbot Grok AI, afirmando que el 14 de mayo, "se realizó una modificación no autorizada en el prompt del bot de respuesta Grok en X".
"Este cambio, que dirigió a Grok a proporcionar una respuesta específica sobre un tema político, violó las políticas internas y los valores fundamentales de xAI", añadió.
La empresa declaró que había llevado a cabo una investigación exhaustiva y está aplicando medidas para mejorar la transparencia y fiabilidad del chatbot de IA.
En algunas respuestas, reconocía el error; decía "mi respuesta se desviaba del tema" y "trabajaré para seguir siendo relevante", pero a menudo seguía hablando de temas controversiales en el mismo mensaje.
El chatbot respondió a un usuario que le preguntó qué había pasado:
“No he hecho nada, sólo seguía el guión que me habían dado, como una buena IA!”
Más transparencia para la IA de Musk
La firma de IA de Elon Musk declaró que cambiaría sus operaciones publicando las indicaciones del sistema Grok abiertamente en GitHub. "El público podrá revisarlos y dar su opinión sobre cada cambio que hagamos en Grok", afirmó.
También declaró que el proceso de revisión de código existente de xAl para los cambios de aviso fue eludido en este incidente, y pondrá en marcha "controles y medidas adicionales para garantizar que los empleados de xAI no puedan modificar el aviso sin revisión".
Por último, la empresa está poniendo en marcha un equipo de monitorización 24/7 para responder a los incidentes con las respuestas de Grok que no sean detectados por los sistemas automatizados, de modo que pueda responder más rápidamente.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión