La Oficina Principal de Inteligencia Artificial y Digital (CDAO) del Departamento de Defensa de Estados Unidos ha concluido un programa piloto centrado en el uso de chatbots de IA en servicios médicos militares.
En un comunicado publicado el 2 de enero, el Departamento de Defensa afirma que el programa piloto Crowdsourced AI Red-Teaming (CAIRT) Assurance Program se centra en el uso de grandes modelos de lenguaje (LLM) para el resumen de notas clínicas y como asesores médicos en el ejército.
Esta iniciativa se produce cuando más empresas de IA han empezado a ofrecer sus productos al ejército estadounidense y a contratistas de defensa para investigar su utilidad en aplicaciones militares.
Según el Departamento de Defensa, el proyecto piloto fue un esfuerzo de red-teaming dirigido por la organización tecnológica sin ánimo de lucro Humane Intelligence.
Atrajo a más de 200 participantes externos independientes, incluidos proveedores clínicos y analistas sanitarios, que compararon tres destacados modelos de chatbot.
Analistas de la Agencia Sanitaria de Defensa y de la Universidad de Servicios Uniformados de Ciencias de la Salud también colaboraron con los demás participantes, comprobando posibles deficiencias y fallos del sistema mientras se utilizaban los chatbots.
Según el DoD, el piloto descubrió unos cientos de posibles problemas al utilizar chatbots en aplicaciones médicas militares.
“El ejercicio descubrió más de 800 hallazgos de posibles vulnerabilidades y sesgos relacionados con el empleo de estas capacidades en estos casos de uso prospectivo.”
"Este ejercicio dará como resultado una salida repetible y escalable a través del desarrollo de conjuntos de datos de referencia, que se pueden utilizar para evaluar futuros proveedores y herramientas para la alineación con las expectativas de rendimiento", dijo el DoD.
El director de la iniciativa de la Oficina de Inteligencia Artificial y Digital, Matthew Johnson, dijo que los resultados también se utilizarán para dar forma a la futura investigación del DoD y el desarrollo de sistemas de IA Generativa (GenAI) que puedan desplegarse en el futuro.
El pasado noviembre, una comisión bipartidista del Congreso estadounidense afirmó que el país debería centrarse en desarrollar una iniciativa similar al Proyecto Manhattan para avanzar en el desarrollo de la inteligencia artificial en medio de la creciente competencia con China.
Entre una lista de recomendaciones específicas, la comisión señaló que el Secretario de Defensa de EE.UU. debería conceder la máxima prioridad nacional a los proyectos de IA.
Por su parte, la empresa de redes sociales y tecnología Meta ha empezado a ofrecer su modelo de inteligencia artificial Llama al ejército estadounidense y a los contratistas de defensa con fines de seguridad nacional.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión