El ser humano en el bucle: Qué, cómo y por qué

Introducción

From processing invoices to medical diagnoses, the most advanced AI systems still need a secret ingredient to succeed: humans. The human element ensures AI systems are intelligent and aligned with our values and needs, enabling more trustworthy and robust outcomes. This is where the concept of «human-in-the-loop» comes into play.

What is human-in-the-loop (HITL)? Come along as I explore this concept and its importance in machine learning. We’ll discuss the definitions and real-world applications of HITL, analysing its benefits and challenges to understand its role in the future of AI.

Qué es el enfoque Human-In-The-Loop

Human-in-the-loop (HITL) combina la inteligencia humana con las capacidades de aprendizaje automático. Implica una participación humana activa y continua, integrando a los humanos en el flujo del proceso de IA. El objetivo es utilizar la aportación humana para maximizar el potencial de la IA al tiempo que se mitigan sus riesgos.

El concepto surgió de la inteligencia artificial (IA) y la interacción persona-ordenador (HCI). A medida que los sistemas de IA se hacían más complejos, los investigadores y desarrolladores reconocían la necesidad de la intervención y orientación humanas para garantizar la precisión, la seguridad y las consideraciones éticas.

¿Significa esto que en otros sistemas de IA no intervienen seres humanos? Aquí es donde la cosa se complica un poco más y, para entenderlo, tenemos que analizar un concepto relacionado: «human-on-the-loop».

Humano en el bucle frente a humano en el bucle (y fuera de él)

El enfoque humano en el bucle (o humano sobre el bucle) también combina la inteligencia humana con el aprendizaje automático para mejorar los resultados, de forma muy parecida al enfoque humano en el bucle. Piense en ello como un sistema en el que un humano actúa como supervisor, interviniendo cuando es necesario. Seguimos teniendo el elemento humano, pero el usuario final puede ver los resultados del sistema antes de la verificación humana. En este enfoque, el ser humano no participa en todas las decisiones, pero puede intervenir para corregir errores, ajustar parámetros o gestionar excepciones.

En el enfoque humano en el bucle, los usuarios finales no pueden ver los resultados hasta que un humano los verifica. Los humanos participan activa y continuamente en el proceso de toma de decisiones. HITL implica un enfoque más práctico, en el que los humanos proporcionan información, corrigen errores y guían el modelo de IA a lo largo del proceso.

He aquí una tabla comparativa de los dos modelos:

Enfoque	Human-in-the-Loop (HITL)	Human-on-the-Loop
Participación humana	Participación activa y continua. Los humanos están integrados en el flujo del proceso de IA.	Supervisa el sistema de IA. Solo interviene cuando es necesario.
Participación activa y continua.	Se requiere intervención humana antes de presentar los resultados al usuario final. Los resultados de la IA se bloquean hasta que haya una revisión humana..	Los resultados de la IA se presentan directamente al usuario final, aunque no sean perfectos. La intervención humana ocurre después.
Naturaleza de la participación	Los humanos proporcionan retroalimentación, corrigen errores y guían el modelo de IA durante todo el proceso. La intervención humana determina el resultado de la IA y su procesamiento futuro.	Los humanos tienen un papel más supervisor, corrigiendo los resultados después de que se han generado y presentado a los usuarios.
Casos de uso	Adecuado para casos de uso donde la precisión es crucial. Ejemplos: evaluación de riesgo crediticio, diagnóstico médico.	Adecuado para casos donde se aceptan algunos errores y la velocidad es una prioridad. Ejemplos: etiquetado de documentos y moderación de contenido.
Tolerancia al error	Baja tolerancia a errores.	Mayor tolerancia a los errores.
Objetivo	Maximizar la precisión, la confiabilidad y las consideraciones éticas, al tiempo que se permite el aprendizaje continuo del modelo de IA.	Proporcionar rápidamente resultados de IA, con cierta supervisión humana.
Feedback	La retroalimentación humana modifica activamente la salida de la IA para que sea más correcta.	La retroalimentación humana corrige errores en la salida después de su generación.

En resumen, si bien ambos enfoques implican la participación humana, lo hacen de diferentes maneras. El enfoque de intervención humana integra a las personas directamente en el proceso de IA para refinar los resultados continuamente, mientras que los sistemas de intervención humana utilizan la supervisión humana para corregir los resultados una vez generados. En el segundo enfoque, la retroalimentación humana también puede utilizarse para el reentrenamiento, pero no forma parte inherente del proceso. La elección entre ambos depende de las necesidades y limitaciones específicas del caso de uso.

Humano fuera del bucle

Pero ¿qué pasa si eliminamos al ser humano del circuito? Los sistemas con intervención humana fuera del bucle operan sin intervención humana. Estos sistemas toman decisiones y realizan acciones de forma independiente basándose en su programación y datos de entrenamiento. Si bien los seres humanos pueden haber diseñado el sistema y establecido sus parámetros iniciales, no participan activamente en su funcionamiento continuo. Estos sistemas requieren una toma de decisiones autónoma, donde la intervención humana excesiva en el proceso no es práctica ni deseable.

¿Cómo funciona el sistema Human-In-The-Loop y cómo implementarlo?

El proceso human-in-the-loop (HITL) es iterativo, con un ciclo continuo de recopilación de datos, entrenamiento del modelo, retroalimentación humana y refinamiento del modelo.

Veamos cómo implementar un sistema con intervención humana analizando cada ciclo:

1. Configuración inicial y recopilación de datos
   
   • Definir el problema: Defina claramente el desafío y los objetivos que desea alcanzar. Considere el resultado deseado, ya sea mayor precisión, mayor eficiencia o mayor confianza.
   • Recopilar datos iniciales: Recopila los datos necesarios para entrenar el modelo de IA. Pueden ser datos etiquetados existentes o nuevos. Si no existen datos etiquetados, solicite a los responsables del proceso que etiqueten un pequeño conjunto inicial de datos.
   • Preparación de datos: Prepara los datos para su uso por parte de una IA. Esto puede implicar la transformación de texto u otros formatos de datos a un formato que un algoritmo de IA pueda utilizar.

2. Entrenamiento del modelo y resultados iniciales
   
   • Entrenar un modelo inicial: Usar los datos etiquetados para entrenar un modelo preliminar de IA. Este modelo inicial no necesita ser muy preciso.
   • Generar resultados iniciales: Usar el modelo de IA para generar resultados basados ​​en nuevos datos. En esta etapa, la precisión del modelo probablemente no sea perfecta.

3. Retroalimentación y verificación humana
   
   • Revisión humana: Los resultados del modelo deben ser revisados ​​por personas, marcando cualquier error y caso extremo.
   • Corrección activa: En esta etapa, las personas corrigen errores y proporcionan directrices para un procesamiento correcto.
   • Recopilación de retroalimentación: Configura sistemas para recopilar retroalimentación, correcciones e información adicional de las personas involucradas.

4. Refinamiento e iteración del modelo
   
   • Reentrenar el modelo: Incorporar los datos corregidos por el usuario al conjunto de entrenamiento y reentrenar el modelo.
   • Aprendizaje activo: Utilizar técnicas de aprendizaje activo para seleccionar los ejemplos más informativos para el refinamiento del modelo. Por ejemplo, se puede entrenar el modelo utilizando casos extremos y valores atípicos para mejorar la precisión en estas áreas.
   • Iterar: Repetir la generación de resultados, la recopilación de retroalimentación y el reentrenamiento del modelo. Este es un ciclo continuo. Con cada iteración, el modelo debería ser más preciso y requerir menos intervención humana.

Implementando sistemas HITL

Disponemos de varias opciones a la hora de elegir herramientas y plataformas para la implementación de HITL. Los proveedores de nube ofrecen servicios gestionados y herramientas integrales para crear sistemas escalables y flexibles de intervención humana, lo que los hace ideales para grandes proyectos o para quienes necesitan integrarse con la infraestructura de nube existente. Las plataformas especializadas de HITL, como Scale AI y Labelbox, priorizan la facilidad de uso y ofrecen soluciones integrales, mientras que las herramientas de código abierto ofrecen alta flexibilidad y personalización, pero requieren mayor experiencia técnica.

Devoteam colabora con los principales proveedores de nube como AWS, Microsoft Azure y GCP, así como con la plataforma empresarial en la nube ServiceNow. Nuestros expertos pueden ayudarte a desarrollar sistemas de intervención humana integrados con su infraestructura existente, utilizando herramientas fácilmente disponibles o diseñando una solución personalizada.

Consulté con los expertos en IA de Devoteam para que me compartieran una visión general de la implementación de soluciones de intervención humana para cada plataforma.

Esto es lo que ofrecen los principales proveedores para la implementación con intervención humana:

¿Por qué necesitamos la intervención humana?

Ahora sabemos qué es la intervención humana y cómo funciona, pero también debemos preguntarnos por qué usaríamos este enfoque. La respuesta más obvia es que aborda varias limitaciones críticas de los sistemas de IA totalmente automatizados y mejora su rendimiento general y confiabilidad. Para obtener más información sobre las posibles desventajas de la IA y la importancia de las prácticas responsables de IA, incluido el papel de la supervisión humana, consulte nuestro artículo sobre los lados oscuros de la IA.

Veamos más a fondo las razones por las que HITL es esencial:

Mejora en la Medición del Rendimiento: Con un humano en el circuito, hay una manera estructurada de medir el rendimiento de un modelo de aprendizaje automático.Esto es esencial para calcular el retorno de la inversión de los casos de uso de IA.

Precisión y Fiabilidad: La intervención humana compensa las limitaciones de la IA en la toma de decisiones matizadas, casos extremos y escenarios complejos.Por ejemplo, la supervisión humana es crucial en áreas sensibles como los diagnósticos médicos, las revisiones legales y la evaluación de riesgos financieros.

Consideraciones éticas y mitigación de sesgos: Los humanos pueden identificar y corregir sesgos en algoritmos y datos de entrenamiento, lo que garantiza la equidad y el despliegue responsable de la IA.Los modelos de IA pueden perpetuar inadvertidamente los sesgos existentes en los datos, lo que lleva a resultados discriminatorios.La intervención humana es crucial para garantizar que los sistemas de IA no se utilicen para reforzar las desigualdades sociales.

Adaptabilidad y Aprendizaje Continuo: Los humanos proporcionan retroalimentación y etiquetas para refinar los modelos de IA, lo que permite una mejora continua y adaptación a nuevos datos y situaciones inesperadas.Los modelos de IA no son estáticos; necesitan adaptarse a nueva información y entornos en evolución.La retroalimentación humana es esencial para volver a entrenar el modelo e incorporar nuevos casos y casos extremos para mejorar.De esta manera, el enfoque de humano en el bucle facilita el aprendizaje continuo.

Construyendo confianza y aceptación del usuario: La participación humana aumenta la transparencia y la explicabilidad de la IA, lo cual es crucial para fomentar la confianza en los sistemas de IA, especialmente en dominios sensibles.La IA explicable permite a las personas comprender el razonamiento detrás de los resultados producidos por un sistema de IA.Entender por qué la IA produjo ciertos resultados y saber que el juicio humano fue parte del proceso hace que las personas sean más propensas a confiar y aceptarlos.También puede reducir el miedo a los sistemas totalmente automatizados.

Optimización de Flujos de Trabajo: El sistema agiliza los procesos y optimiza los flujos de trabajo al equilibrar la entrada humana y la máquina.Puede ayudar a reducir la carga de trabajo de los empleados automatizando tareas rutinarias y repetitivas, permitiéndoles centrarse en su misión principal.

Limitaciones

Aunque son valiosos, los sistemas de humano en el bucle (HITL) tienen limitaciones. Requieren monitoreo y ajuste continuos para mantener la precisión, lo cual puede ser un proceso que consume mucho tiempo. Además, los sistemas HITL pueden ser innecesarios para algunas tareas. En algunos casos de uso, el sistema humano-sobre-el-bucle o incluso la automatización completa podrían ser más beneficiosos. Por eso siempre elegimos el modelo más adecuado para un caso de uso específico.

Casos de Uso y Aplicaciones de Human-In-The-Loop

Elegir el modelo adecuado para un caso de uso requiere una cuidadosa consideración de varios factores, incluyendo la naturaleza de la tarea, el nivel de precisión requerido, las implicaciones éticas y las limitaciones prácticas.Esto suele identificarse durante las sesiones de descubrimiento.No obstante, hay algunos casos de uso en los que a menudo se sugiere el sistema de humano en el bucle.

Aquí hay algunos casos comunes donde el enfoque HITL es beneficioso:

Procesamiento de Documentos: HITL puede automatizar la extracción de información de documentos como facturas.Un modelo inicial de IA extrae la información, y los trabajadores humanos verifican y corrigen los resultados, proporcionando datos para el reentrenamiento y la mejora del modelo de IA.Vea el proyecto que Devoteam completó para una empresa fintech que buscaba automatizar la extracción de información de las facturas de los clientes o lea cómo Document AI integra el humano en el bucle.

Moderación de Contenidos: HITL se utiliza a menudo para filtrar contenido dañino o inapropiado en plataformas en línea.Esto implica que humanos revisen el contenido señalado por algoritmos de IA para asegurarse de que no viole las pautas comunitarias o las regulaciones legales.

Servicio al Cliente: HITL puede mejorar las interacciones con los clientes utilizando chatbots y asistentes virtuales.En este caso, la IA puede generar respuestas preliminares, pero un representante humano añade un toque personal al modificar el mensaje según la situación específica y el contexto del usuario.Esto asegura un servicio al cliente eficiente y preciso.

Salud: HITL puede ayudar en el diagnóstico médico y la planificación del tratamiento.Por ejemplo, la IA puede analizar imágenes médicas y proporcionar diagnósticos iniciales, y los médicos pueden revisar los resultados para verificar su precisión y tomar la decisión final, así como identificar casos extremos.

Coches Autónomos: HITL juega un papel crucial en el entrenamiento y la validación de sistemas de conducción autónoma.En este escenario, se recopilarán datos de los usuarios para entender cómo reaccionan las personas en diferentes situaciones de conducción.Esta recopilación de datos podría ser parte de un sistema HITL, que requiere la intervención humana para garantizar que los sistemas de conducción autónoma sean seguros y fiables.

Finanzas: El sistema human-in-the-loop puede ser utilizado para evaluaciones de riesgo de préstamos, donde un banquero revisa el archivo antes de presentarlo al usuario.Lee cómo Devoteam ayudó a agilizar la facturación de agua, gas y electricidad para un Real Estate Investment Trust (REIT) utilizando la solución human-in-the-loop.

Si quieres aprender más sobre el poder transformador de la IA, consulta nuestro ebook con más de 50 casos de uso de IA en diferentes industrias.

Human-In-The-Loop y el futuro de la IA

Creo que el futuro de la IA está estrechamente entrelazado con el papel de los humanos en el circuito, con un enfoque en la colaboración y la mejora continua.Aquí están algunas de mis predicciones sobre cómo podría ser ese futuro:

Roles Humanos en Evolución: Inicialmente, los humanos están muy involucrados en la recolección, etiquetado y corrección de los resultados de la IA.A medida que los modelos mejoren, es probable que la necesidad de intervención humana directa disminuya.Sin embargo, el papel de los humanos evolucionará hacia la supervisión de niveles más altos, la orientación y la toma de decisiones complejas.

IA generativa: Habrá un mayor enfoque en incorporar la intervención humana en la IA generativa.Esto implica utilizar la retroalimentación humana para ajustar los modelos generativos y obtener una mayor precisión y rendimiento.

Consideraciones éticas: Cada vez es más importante mitigar el sesgo en la IA corrigiendo datos y retroalimentando casos extremos al modelo.Esto puede aumentar la transparencia y la responsabilidad de los sistemas de IA.

Avances Tecnológicos: Las técnicas de aprendizaje activo, donde los modelos se entrenan con los datos más informativos, se volverán más prevalentes.

Cambio hacia modelos más especializados: El futuro de la IA se dirige hacia una mayor especialización y eficiencia.Los grandes modelos de lenguaje como Gemini y GPT se destilan en modelos más pequeños y enfocados que son más baratos de ejecutar y están adaptados para tareas específicas.Esto permite a las empresas aprovechar las fortalezas de diferentes plataformas de IA mientras mantienen la independencia de la plataforma en la nube.

En resumen, el futuro de la IA implica un cambio hacia modelos especializados y un mayor énfasis en la supervisión humana. Mientras que la IA se volverá más autónoma, los humanos desempeñarán un papel crucial en guiar, monitorear y asegurar el desarrollo ético de la IA.

Conclusiones

A medida que los sistemas de IA se vuelven cada vez más sofisticados, la necesidad de la inteligencia humana para guiar, refinar y supervisar su operación se vuelve aún más crítica. Este enfoque colaborativo asegura la precisión, permite la medición del rendimiento, mitiga el sesgo, fomenta la confianza y permite que la IA aprenda y se adapte continuamente. Mirando hacia el futuro, el futuro de la IA se trata de encontrar el equilibrio óptimo entre la experiencia humana y la inteligencia artificial, lo que nos permite utilizar todo el potencial de ambos mientras priorizamos los valores humanos y las consideraciones éticas. Creo que el camino hacia una IA verdaderamente inteligente y beneficiosa es colaborativo, donde humanos y máquinas trabajan juntos.