Un equipo de investigadores del Instituto de Tecnología de Massachusetts (MIT) presentó recientemente HardFlow, un algoritmo que asegura el cumplimiento de restricciones de seguridad estrictas en modelos de IA generativa sin sacrificar la calidad de sus respuestas, informó MIT News.

Por qué la precisión absoluta es crucial

En entornos de alto riesgo, como fábricas automatizadas, una trayectoria de robot que solo “casi” evita a un operario puede desencadenar un accidente. Allí, las salidas de la IA deben respetar condiciones inquebrantables de seguridad, físicas o de la tarea, sin margen de error.

Cómo funciona HardFlow

A diferencia de los métodos tradicionales que obligan al modelo a cumplir restricciones en cada paso intermedio, HardFlow permite mayor libertad durante la generación y verifica las condiciones solo al final. El algoritmo reformula el problema como una optimización de trayectorias, aplicando herramientas de control óptimo para guiar la solución hacia el objetivo deseado. > "Lo que importa en última instancia es el resultado final del modelo, ya que el proceso interno se descarta. Al no exigir que cada paso intermedio satisfaga las restricciones, le damos al modelo más libertad para encontrar soluciones de alta calidad que sigan siendo viables al final", señaló Zeyang Li, estudiante de posgrado en ingeniería mecánica y autor principal del trabajo.

Implicaciones y próximos pasos

La propuesta se diseñó para integrarse a modelos ya existentes, como Stable Diffusion o FLUX, sin necesidad de reentrenarlos. Los investigadores lo probaron en tareas de robótica y visión por computadora, demostrando que puede cumplir normas de seguridad rígidas manteniendo la fidelidad de la salida. > "La teoría de control nos proporciona un marco poderoso para formalizar la manera óptima de realizar estas correcciones", explicó Navid Azizan, profesor asociado del Departamento de Ingeniería Mecánica y autor senior del Laboratorio de Información y Sistemas de Decisión (LIDS) del MIT. Según la publicación en IEEE Transactions on Pattern Analysis and Machine Intelligence, el método abre la puerta al uso de IA generativa en sectores donde un error marginal no es tolerable, como la planificación de rutas robotizadas o la edición de imágenes guiada por texto.