Una empresa de inteligencia artificial que tiene contratos con el gobierno de EE. UU. dice que el análisis de grandes conjuntos de datos de su sistema de inteligencia artificial puede producir resultados casi perfectos.
PrimerAI anunciado el 14 de octubre que una actualización de su plataforma de inteligencia artificial puede lograr una tasa de alucinaciones cercana a cero, un resultado que la compañía cree que tiene implicaciones más amplias para el Departamento de Defensa y la industria de defensa en su conjunto.
El término «alucinaciones» en el lenguaje de la IA se refiere a modelos que arrojan resultados incorrectos.
«En entornos de alto riesgo donde la precisión y los plazos son cruciales, la plataforma mejorada de Primer emerge como una solución revolucionaria», decía el comunicado de prensa de la compañía.
El director ejecutivo de PrimerAI, Sean Moriarty, explicó lo que es importante sobre el cambio en el sistema en una entrevista telefónica con Military Times.
Si bien muchas plataformas de inteligencia artificial experimentan una tasa de alucinaciones del 10%, dijo Moriarty, PrimerAI la había reducido al 0,3%.
La mayor ventaja de la actualización fue la capacidad de verificar sus propios resultados.
Este sistema patentado, que según la compañía captura más del 99% de los errores antes de que lleguen a los usuarios, se denomina sistema de verificación de generación aumentada de recuperación. Los modelos de lenguaje grande, o LLM, que son sistemas de inteligencia artificial que pueden comprender y procesar el lenguaje humano, ya utilizan la generación aumentada de recuperación cuando se les da una indicación. ChatGPT es un buen ejemplo.
Lo que hace que el sistema de PrimerAI sea novedoso es que una vez que genera una respuesta o resumen, genera un reclamo para el resumen y corrobora ese reclamo con los datos de origen, según Cindy Ma, gerente senior de productos de PrimerAI.
Esta capa adicional de revisión conduce a errores exponencialmente reducidos, dijo Ma, quien realizó una demostración en persona del sistema en la conferencia anual de la Asociación del Ejército de los Estados Unidos en Washington, DC.., el 14 de octubre.
RELACIONADO
PrimerAI cree que para el Departamento de Defensa, proporcionar un gran amortiguador contra la inexactitud es primordial porque las pequeñas alucinaciones pueden desencadenar respuestas dramáticas.
«Imagínense un mundo en el que un LLM diga que un adversario tiene cinco veces más portaaviones de los que realmente tiene», dijo Moriarty.
Moriarty reconoció que siempre hay margen de error a pesar del objetivo de lograr la perfección. Incluso si los datos de referencia de alta calidad son la base del análisis de un sistema de IA, todavía hay piezas del rompecabezas que se deforman. Los datos mismos pueden verse contaminados por el juicio humano.
«Nuestro mundo actual no es un mundo sin defectos, aunque nos esforzamos por lograrlo», dijo Moriarty.
Riley Ceder es miembro editorial de Military Times, donde cubre noticias de última hora, justicia penal e historias de interés humano. Anteriormente trabajó como estudiante de prácticas de investigación en The Washington Post, donde contribuyó a la investigación en curso de Abused by the Badge.
