Investigadores del Instituto Tecnológico de Massachusetts (MIT) presentaron esta semana una herramienta de inteligencia artificial que detecta y corrige la información equivocada que los robots almacenan sobre los objetos que observan.
Detección de incertidumbre
El método, llamado UQ-DAAAM (Uncertainty Quantification for Describe Anything, Anywhere, at Any Moment), evalúa la confianza del modelo de visión-lenguaje al generar cada descripción. Luego compara esas descripciones con versiones obtenidas a partir de imágenes del mismo elemento capturadas desde distintos ángulos. La combinación de ambas mediciones produce un puntaje que indica cuán fiable es la información.
"Queremos que el robot reconozca cuándo su propia descripción es dudosa y actúe en consecuencia", explicaron los investigadores del MIT.
Selección de vistas útiles
En lugar de procesar todas las imágenes, el algoritmo aplica reglas para elegir aquellas tomas adicionales que pueden aclarar la duda. Por ejemplo, si el robot confunde una chimenea con otro objeto, seleccionará una foto que muestre humo saliendo del conducto para confirmar la identidad.
Una vez obtenidas las vistas seleccionadas, un modelo de lenguaje de gran escala combina las nuevas descripciones, dando mayor peso a las más recientes y menos ambiguas. La versión revisada se guarda en la memoria del robot para consultas futuras.
Resultados y próximos pasos
En pruebas realizadas, el proceso corrigió errores en alrededor del 92 % de los objetos analizados, necesitando sólo dos descripciones adicionales por elemento. Además, la estrategia de selección redujo notablemente la carga computacional, permitiendo su uso en robots con recursos limitados.
Los autores indican que seguirán afinando el umbral de incertidumbre y explorando aplicaciones en entornos industriales y domésticos.
