La siguiente gran batalla de la inteligencia artificial podría no ser conseguir modelos más poderosos, sino aprender a vigilarlos.
Los llamados agentes de IA están evolucionando para realizar tareas con mayor autonomía, desde buscar información hasta interactuar con programas y ejecutar diferentes pasos para alcanzar un objetivo.
Esa autonomía crea un nuevo problema: un sistema puede cometer errores o tomar decisiones no previstas mientras avanza por una tarea.
Por ello, empresas del sector tecnológico trabajan en mecanismos de evaluación y supervisión capaces de revisar lo que hacen otros sistemas de inteligencia artificial.
La paradoja es evidente: conforme las máquinas reciben más autonomía, también aumenta la necesidad de desarrollar nuevas herramientas para asegurarse de que esa autonomía permanezca bajo control.
