Respuesta rápida

El aprendizaje federado es una forma de entrenar un modelo de IA sin reunir los datos en un solo lugar. Cada dispositivo u organización entrena con sus propios datos y solo comparte actualizaciones del modelo. Reduce el riesgo de privacidad y encaja con la protección de datos desde el diseño. Pero no hace anónimos los datos: necesita agregación segura, cifrado y otras medidas.

Muchas empresas tienen datos valiosos que no pueden o no deben compartir. El aprendizaje federado propone llevar el entrenamiento a los datos, en lugar de llevar los datos al entrenamiento.

Qué es el aprendizaje federado

El aprendizaje federado es un tipo de aprendizaje automático en el que varias fuentes de datos entrenan juntas un modelo compartido. La diferencia con el enfoque clásico es que los datos no salen de su origen. Cada participante entrena en local y solo envía los cambios del modelo.

La idea se dio a conocer con un artículo de investigadores de Google, firmado por McMahan y otros autores en 2016. Se presentó en la conferencia AISTATS de 2017. En él proponían el algoritmo FederatedAveraging, que promedia los modelos entrenados en cada dispositivo. Además, informaban de una reducción de 10 a 100 veces en las rondas de comunicación frente al descenso de gradiente sincronizado.

En abril de 2017, Google explicó en su blog de investigación que lo estaba probando en Gboard, su teclado para Android. El teléfono guardaba en local qué sugerencias se mostraban y cuáles se pulsaban. Con ese historial mejoraba el modelo sin subir los datos. Más tarde, un artículo del equipo de 2018 concluyó que el modelo federado predecía con mejor recall que el entrenado en servidor.

Cómo funciona, paso a paso

El aprendizaje federado con servidor central sigue un ciclo que se repite. La AEPD y el Supervisor Europeo de Protección de Datos lo describen así en su informe TechDispatch de 2025:

1. Envío del modelo inicial. El servidor central manda un modelo de partida a cada participante.
2. Entrenamiento local. Cada participante lo entrena con sus propios datos.
3. Envío de actualizaciones. Cada uno devuelve los parámetros o sus cambios, nunca los datos originales.
4. Combinación. El servidor agrega las actualizaciones y produce un modelo combinado.
5. Redistribución. El modelo combinado vuelve a todos los participantes.
6. Repetición. El ciclo se repite un número fijo de veces o hasta alcanzar el rendimiento buscado.

También existe una versión sin servidor central, llamada aprendizaje federado descentralizado. En ella los participantes intercambian parámetros directamente entre sí. En dispositivos móviles, Google añadía una condición práctica: entrenar solo cuando el teléfono está inactivo, enchufado y conectado a una red inalámbrica gratuita.

Tipos de aprendizaje federado

El aprendizaje federado se clasifica según cómo se reparten los datos y según quiénes participan. El informe de la AEPD y el SEPD distingue estas variantes:

Para una pyme o una empresa mediana, el caso más realista es el de silos. Piensa en una red de franquicias o en varias empresas de un sector. Todas quieren un modelo mejor, pero ninguna quiere entregar sus datos a las demás.

Aprendizaje federado y privacidad por diseño

El aprendizaje federado encaja con la protección de datos desde el diseño porque reduce cuántos datos se mueven y quién los ve. La AEPD y el SEPD señalan que se alinea con dos principios básicos: la minimización de datos y la limitación de la finalidad.

El informe destaca otras ventajas. Mejora la responsabilidad proactiva, porque cada responsable controla mejor el acceso a sus datos. Facilita colaborar con datos sensibles sin compartirlos. Además, sin un almacén central, es muy poco probable que una sola brecha afecte a todos los datos.

En Panamá rige la Ley 81 de 2019 de protección de datos personales. La reglamenta el Decreto Ejecutivo 285 de 2021. Según un análisis del Órgano Judicial, la ley incluye principios como la finalidad, la proporcionalidad y la seguridad. El aprendizaje federado ayuda a cumplirlos. Sin embargo, no te exime de tener una base legal, informar a los titulares y proteger los datos en cada participante.

Riesgos y límites

El aprendizaje federado reduce riesgos, pero no los elimina. El informe TechDispatch identifica varios desafíos que conviene conocer antes de invertir.

Fuga de información por las actualizaciones

Aunque no viajen los datos, un atacante podría inferir información a partir de los gradientes o pesos compartidos. Esto abre la puerta a los ataques de inferencia de pertenencia, que intentan saber si un dato concreto se usó en el entrenamiento.

Envenenamiento e integridad

Un participante malicioso puede inyectar datos falsos para sesgar el modelo común. Según el informe, se mitiga con detección de valores atípicos en las actualizaciones recibidas. Además, la seguridad debe cubrir todo el ecosistema, porque un atacante buscará el eslabón más débil.

Calidad de datos y sesgo

Como los datos no se centralizan, es más difícil comprobar su calidad y compararlos entre fuentes. Por eso hacen falta procedimientos específicos para vigilar el sesgo. El enfoque general está en la guía sobre riesgos de sesgo en IA.

Capacidad y complejidad

Algunos dispositivos no tienen potencia suficiente para entrenar. Además, coordinar participantes distintos, con abandonos y conexiones lentas, añade complejidad técnica.

Frente a estos riesgos, el informe propone combinar el aprendizaje federado con otras tecnologías de privacidad. Cita el cifrado en reposo, la agregación segura, los entornos de ejecución de confianza y la privacidad diferencial.

Cuándo conviene a una empresa

El aprendizaje federado conviene cuando el valor está en combinar datos que no pueden juntarse. Si tus datos ya están en tu propia base y puedes tratarlos legalmente, un enfoque centralizado suele ser más simple y barato.

• Sí suele encajar: consorcios de salud, redes de franquicias, grupos empresariales con filiales en varios países o servicios que aprenden en el propio dispositivo del cliente.
• Quizá no compense: proyectos pequeños, con pocos datos o con un único responsable que ya los tiene centralizados.
• Alternativas que conviene comparar: anonimización, privacidad diferencial o el uso de datos sintéticos.

Antes de decidir, define el problema de negocio y el valor esperado, como en cualquier estrategia de IA para empresas. Encontrarás más guías en la sección de inteligencia artificial.

Preguntas frecuentes

La entrada Aprendizaje federado: entrenar IA sin centralizar los datos aparece primero en Prisma Idea.

Respuesta rápida

El etiquetado manual de datos es el trabajo de personas que asignan a cada ejemplo la respuesta correcta para entrenar o evaluar un modelo. Se considera el estándar de oro porque suele ser la referencia más fiable, pero no es infalible. Funciona bien con una guía clara, varios anotadores por ejemplo, medición del acuerdo entre ellos y revisiones por muestreo.

Un modelo aprende lo que le enseñan sus etiquetas. Si las etiquetas son confusas o contradictorias, ninguna técnica posterior arreglará del todo el resultado.

Qué es el etiquetado manual y por qué es el estándar de oro

El etiquetado manual consiste en que una persona revise cada ejemplo y le asigne la respuesta correcta. Por ejemplo, marcar si un correo es una queja, si una foto muestra un defecto o qué intención tiene una consulta de un cliente. Con esos pares de ejemplo y etiqueta, el modelo aprende a predecir.

El curso de machine learning de Google llama «etiquetas de oro» a las que asignan personas y «etiquetas de plata» a las que asignan máquinas. Las de oro son la referencia porque una persona entiende matices, contexto e ironía que un sistema automático suele pasar por alto.

Sin embargo, Google advierte que eso no garantiza calidad. Errores, sesgos y hasta malicia pueden colarse al recoger o limpiar los datos. Por eso el estándar de oro no es «que lo haga una persona», sino un proceso de etiquetado bien diseñado y comprobado.

Manual, automático, híbrido o colaborativo: comparativa

El etiquetado de datos admite cuatro enfoques principales, y cada uno equilibra de forma distinta la calidad, el coste y la velocidad. Esta tabla te ayuda a elegir.

Los modelos de lenguaje también se usan hoy para etiquetar. En la terminología de Google, eso produce etiquetas de plata. Google recomienda revisarlas en busca de imprecisiones, sesgos y respuestas que no tienen sentido.

Cuándo merece la pena el etiquetado manual

El etiquetado manual de datos merece la pena cuando equivocarse sale caro o cuando la tarea exige criterio. En otros casos, un enfoque híbrido suele bastar.

• El conjunto de prueba: aunque entrenes con etiquetas automáticas, evalúa siempre con etiquetas humanas revisadas. Si no, tus métricas no son fiables.
• Casos ambiguos: sarcasmo en reseñas, quejas mezcladas con elogios o consultas con varias intenciones.
• Dominios especializados: salud, legal o finanzas, donde hace falta formación para decidir.
• Arranque de un proyecto: las primeras etiquetas humanas sirven para definir bien las categorías antes de automatizar.

Google señala otra ventaja menos obvia. Etiquetar a mano obliga a los dueños del conjunto de datos a definir criterios claros y coherentes. Ese ejercicio suele revelar que la pregunta de negocio estaba mal planteada.

Cómo organizar un proyecto de etiquetado

Un proyecto de etiquetado manual funciona cuando se trata como un proceso con control de calidad, no como una tarea suelta. Estos pasos sirven tanto para un equipo interno como para un proveedor.

1. Define las categorías. Pocas, excluyentes y con una definición escrita de cada una.
2. Escribe la guía de etiquetado. Incluye ejemplos claros, casos límite y qué hacer cuando nadie está seguro.
3. Haz un piloto. Etiqueta una muestra pequeña con varias personas y revisa dónde discrepan.
4. Ajusta la guía. Cada desacuerdo repetido es una instrucción que falta o que se entiende mal.
5. Asigna varios anotadores por ejemplo. Al menos en una parte de los datos, para poder medir el acuerdo.
6. Resuelve los desacuerdos. Usa un revisor experto o un criterio de mayoría documentado.
7. Audita por muestreo. Revisa con regularidad una parte de lo etiquetado, también cuando el proyecto ya está en marcha.
8. Documenta el conjunto de datos. Anota quién etiquetó, con qué guía, cuándo y con qué nivel de acuerdo.

El último paso tiene respaldo académico. El artículo «Datasheets for Datasets», de Gebru y otros autores, propone acompañar cada conjunto de datos de una ficha. Esa ficha recoge su motivación, composición, proceso de recogida y usos recomendados.

Cómo medir la calidad de las etiquetas

La calidad de las etiquetas se mide comparando a los anotadores entre sí y con una referencia revisada. Sin esa medición, no sabes si tu modelo falla por culpa del algoritmo o de los datos.

El acuerdo entre anotadores

Google llama acuerdo entre evaluadores a la diferencia entre las decisiones de varias personas sobre el mismo ejemplo. Para medirlo menciona la kappa de Cohen, la correlación intraclase y el alfa de Krippendorff. La kappa de Cohen es la más común con dos anotadores.

Según la documentación de scikit-learn, la kappa va de −1 a 1. Un valor de 1 significa acuerdo total y uno de 0, un acuerdo no mejor que el azar. Su ventaja frente al simple porcentaje de coincidencia es que descuenta el acuerdo que se daría por casualidad.

La comprobación con una referencia

Google propone un control sencillo: etiqueta tú mismo unos 1.000 ejemplos y compáralos con los de tus evaluadores. Si hay diferencias, no des por hecho que los evaluadores tienen razón, sobre todo en juicios subjetivos. En ese caso, mejora las instrucciones y repite la prueba.

Las etiquetas de prueba son la base de todas las métricas del modelo. Si quieres saber qué medir después, revisa la guía sobre métricas de modelos predictivos.

Riesgos que conviene vigilar

Los riesgos del etiquetado manual se concentran en tres frentes: el sesgo, la privacidad y la deriva de criterios. Conviene preverlos desde el principio.

El primero es el sesgo de quien etiqueta. Si todos los anotadores comparten perfil, sus prejuicios pasan al modelo. Este problema se explica a fondo en la guía sobre riesgos de sesgo en IA.

El segundo es la privacidad. Etiquetar implica que otras personas vean datos de clientes, así que limita el acceso, anonimiza cuando puedas y firma acuerdos de confidencialidad. Cuando los datos reales son demasiado sensibles, algunas empresas exploran alternativas; lee antes sobre el uso crítico de datos sintéticos.

El tercero es la deriva. Con los meses, los anotadores reinterpretan las categorías. Por eso la auditoría por muestreo debe ser continua. Además, si tu sistema es de alto riesgo según el Reglamento europeo de IA, su artículo 10 exige gestionar expresamente la anotación y el etiquetado. También pide que los datos sean pertinentes, representativos y, en la medida de lo posible, sin errores. Encontrarás más guías en la sección de inteligencia artificial.

Preguntas frecuentes

La entrada Etiquetado manual de datos: cuándo es el estándar de oro en ML aparece primero en Prisma Idea.

Respuesta rápida

Para ser transparente con el contenido hecho con IA, revisa y verifica todo antes de publicarlo. Firma con autores reales y explica cómo usaste la IA cuando el lector pueda preguntárselo. Google no penaliza la IA en sí, sino el contenido sin valor publicado en masa. En la Unión Europea, el artículo 50 del Reglamento de IA obliga a etiquetar ciertos contenidos desde agosto de 2026.

El problema no es usar IA, sino que el lector descubra después que le ocultaste algo. La transparencia bien hecha protege a la vez tu reputación y tu visibilidad en buscadores.

Por qué la transparencia importa con la IA

La transparencia en el contenido de IA consiste en que tu lector sepa quién responde de lo que lee y cómo se elaboró. No significa poner una etiqueta de advertencia en cada párrafo. Significa no engañar y asumir la responsabilidad de lo publicado.

Google lo plantea con tres preguntas en su guía sobre contenido útil: quién creó el contenido, cómo lo hizo y por qué existe. La tercera es, según Google, quizá la más importante. Si una página existe sobre todo para atraer tráfico de buscadores, no encaja con lo que su sistema quiere premiar.

Para una marca, el riesgo es doble. Por un lado, un error de la IA publicado con tu nombre daña tu credibilidad. Además, si el lector descubre que ocultaste el uso de IA, pierdes más confianza de lo que ahorraste en tiempo. En consecuencia, la transparencia también es una pieza del contenido de calidad que sostiene la reputación digital.

Qué dice Google sobre el contenido con IA

Google no prohíbe el contenido generado con IA, pero exige que sea útil, exacto y revisado. Su guía para sitios web, actualizada el 1 de octubre de 2026, admite la IA como ayuda para investigar y estructurar contenido original.

Al mismo tiempo, la guía advierte que los modelos generativos pueden contener imprecisiones. Por eso pide comprobar los hechos y revisar el texto antes de publicarlo. La revisión incluye lo que Google puede mostrar en los resultados. Es decir, el título, la meta descripción, los datos estructurados y el texto alternativo.

El límite está en las políticas contra el spam. Google considera abuso de contenido a escala usar herramientas de IA para generar muchas páginas sin aportar valor a los usuarios. Fíjate en el matiz: el problema es la falta de valor, se haya hecho como se haya hecho.

Comercio electrónico e imágenes

En tiendas en línea las reglas son más concretas. Según Google, las imágenes de producto generadas con IA deben incluir en sus metadatos el valor IPTC DigitalSourceType TrainedAlgorithmicMedia. Además, los títulos y descripciones de producto generados con IA deben enviarse por separado y marcados como tales en Merchant Center.

Qué exige el Reglamento europeo de IA

El artículo 50 del Reglamento europeo de IA fija obligaciones de transparencia desde el 2 de agosto de 2026. Conviene que lo revises si tu contenido o tus servicios llegan a personas de la Unión Europea.

• Chatbots y asistentes: la persona debe saber que está hablando con una IA, salvo que sea evidente.
• Marcado técnico: los proveedores de sistemas generativos deben marcar sus resultados para que se puedan detectar como artificiales.
• Ultrafalsificaciones: quien publica imágenes, audio o video manipulados que parecen reales debe indicar que son artificiales.
• Textos de interés público: deben indicar que los generó la IA, salvo que hayan pasado por revisión humana o control editorial y alguien asuma la responsabilidad editorial.

Esa excepción es clave para un blog de empresa. Si una persona revisa el texto y la empresa responde de él, el Reglamento no exige la etiqueta en ese caso concreto. Aun así, la transparencia voluntaria sigue siendo buena práctica.

Para aplicarlo, la Comisión Europea publicó un código de buenas prácticas sobre contenido generado con IA. Su versión final es del 10 de junio de 2026. Firmarlo es voluntario. La Comisión también ha creado unos iconos para etiquetar contenido, de uso opcional.

Cómo implementar la transparencia paso a paso

La transparencia en el contenido de IA se implementa con un proceso editorial, no con un aviso al pie. Estos pasos sirven para un blog, una tienda o las redes sociales de una pyme.

1. Escribe una política de uso de IA. Define para qué la usas (ideas, borradores, traducción, imágenes) y para qué no, como opiniones de clientes o datos sin fuente.
2. Asigna un responsable editorial. Una persona con nombre revisa, corrige y aprueba cada pieza. Esa revisión es la que te permite asumir la responsabilidad editorial.
3. Verifica cada dato. Abre la fuente original de cada cifra y cita su procedencia dentro del texto. Te lo explicamos en la guía sobre transparencia, citas y fuentes en AEO.
4. Firma con autores reales. Google pide que quede claro quién creó el contenido y desaconseja los nombres inventados o las credenciales falsas.
5. Explica el «cómo» cuando importe. Añade una nota breve si la IA tuvo un papel relevante, por ejemplo en una traducción o en un análisis de datos.
6. Etiqueta las imágenes. Conserva los metadatos de origen y marca como artificiales las imágenes realistas generadas con IA.
7. Revisa lo publicado. Actualiza o retira las piezas que hayan quedado desfasadas.

Ejemplos de avisos según el tipo de contenido

El aviso de uso de IA debe ser proporcional al papel que tuvo la herramienta. Esta tabla resume criterios prácticos; no son textos legales.

Errores que restan confianza

Los errores de transparencia más dañinos tienen algo en común: intentan aparentar algo que no es. Evita estos:

• Inventar autores o expertos para firmar textos generados.
• Publicar decenas de páginas casi iguales para captar búsquedas.
• Citar estudios o cifras que nadie ha comprobado.
• Ocultar que un asistente de atención al cliente es automático.
• Etiquetar en exceso, hasta que el aviso pierde sentido para el lector.

Además, recuerda que los asistentes de IA citan fuentes que perciben como fiables. Ser claro sobre quién responde del contenido te ayuda también a aparecer en las respuestas de Google y de la IA. Para planificarlo, revisa cómo diseñar una estrategia de contenidos. Encontrarás más recursos en la sección de inteligencia artificial.

Preguntas frecuentes

La entrada Transparencia en contenido con IA: cómo aplicarla sin perder SEO aparece primero en Prisma Idea.

Respuesta rápida

Las métricas de un modelo predictivo que importan son las que reflejan el coste real de sus errores. En clasificación, mira precisión, sensibilidad (recall), F1 y el área bajo la curva, y comprueba la calibración de las probabilidades. En regresión, usa MAE o RMSE. Después, elige el umbral de decisión según lo que te cuesta cada error y mide los resultados por segmento.

Un modelo con un 99 % de aciertos puede ser inútil. Todo depende de qué intenta predecir, de cuántos casos positivos hay y de cuánto te cuesta cada tipo de error.

Por qué la exactitud no basta

La exactitud de un modelo predictivo es el porcentaje de predicciones correctas sobre el total. Parece la medida obvia, pero falla justo en los casos que más interesan a una empresa: los poco frecuentes.

El curso de machine learning de Google lo ilustra con un ejemplo claro. Si solo el 1 % de los casos es positivo, un modelo que responde siempre «negativo» acierta el 99 % de las veces. Sin embargo, no detecta ni un solo caso de lo que buscabas, sea un fraude, un cliente a punto de irse o una avería.

Por eso Google recomienda usar la exactitud solo junto con otras métricas. Antes de elegirlas, necesitas entender de dónde salen todas: la matriz de confusión.

Las métricas de clasificación y qué responde cada una

Las métricas de clasificación se calculan a partir de cuatro números. Son los verdaderos positivos, los falsos positivos, los falsos negativos y los verdaderos negativos. Con ellos se construye la matriz de confusión, que scikit-learn genera con una sola función.

La precisión y el recall suelen moverse en direcciones opuestas. Google lo explica así: si subes el umbral de clasificación, bajan los falsos positivos pero suben los falsos negativos. En cambio, si lo bajas, ocurre lo contrario. Por eso no existe «el mejor modelo» sin saber para qué lo vas a usar.

El AUC merece una aclaración. Según Google, equivale a la probabilidad de que el modelo puntúe un positivo tomado al azar por encima de un negativo tomado al azar. Un AUC de 0,5 equivale a lanzar una moneda. Además, con datos muy desbalanceados, Google sugiere mirar también la curva de precisión y recall.

Métricas para predecir cantidades

Las métricas de regresión se usan cuando el modelo predice un número, como las ventas de la próxima semana o el valor de un cliente. scikit-learn incluye, entre otras, el error absoluto medio (MAE), la raíz del error cuadrático medio (RMSE), el error porcentual absoluto medio (MAPE) y el coeficiente R².

• MAE: el error promedio en las mismas unidades que tu objetivo. Es fácil de explicar a dirección.
• RMSE: castiga más los errores grandes. Úsalo si un fallo enorme es mucho peor que varios pequeños.
• MAPE: expresa el error en porcentaje. Ojo, se dispara cuando los valores reales son cercanos a cero.
• R²: indica cuánta variación explica el modelo frente a predecir siempre la media.

La documentación de scikit-learn añade un matiz útil. Primero decide qué quieres predecir, la media, la mediana o un cuantil. Después, usa una métrica coherente con ese objetivo, tanto para entrenar como para evaluar. Por ejemplo, el error absoluto encaja con la mediana.

Del modelo al negocio: umbral, costes y calibración

El valor de negocio de un modelo predictivo depende sobre todo de dos decisiones: dónde pones el umbral y si puedes fiarte de sus probabilidades. Las métricas técnicas son el punto de partida, no el final.

El umbral de decisión

Por defecto, scikit-learn marca un caso como positivo cuando la probabilidad supera 0,5. Su documentación advierte que ese valor ignora el coste relativo de cada error. Por ejemplo, en un caso de detección de tumores conviene avisar con probabilidades mucho más bajas. La herramienta TunedThresholdClassifierCV busca el umbral que maximiza la métrica que tú elijas. En un ejemplo de la propia documentación, con una métrica de utilidad de una aseguradora, el umbral óptimo baja hasta cerca de 0,02.

Traducir errores a dinero

La forma más directa de unir modelo y negocio es asignar un valor a cada casilla de la matriz de confusión. Calcula cuánto ganas con cada acierto positivo y cuánto pierdes con cada falso positivo y cada falso negativo. Después, elige el umbral que maximiza el resultado neto en datos de validación. Así, la discusión deja de ser «¿qué F1 tiene?» y pasa a ser «¿cuánto nos ahorra?».

La calibración de las probabilidades

Un modelo calibrado da probabilidades en las que puedes confiar. Según scikit-learn, si asigna cerca de 0,8 a un grupo de casos, alrededor del 80 % debería ser positivo. Esto importa si usas la probabilidad para priorizar llamadas o estimar ingresos. Para comprobarlo existen las curvas de calibración, y para corregirlo, métodos como el sigmoide o el isotónico.

Cómo elegir las métricas de tu proyecto

Las métricas de un proyecto se eligen antes de entrenar el modelo, no después de ver los resultados. Este orden evita que el equipo escoja la cifra que mejor queda.

1. Escribe la decisión. ¿Qué harás con la predicción? Llamar a un cliente, revisar una transacción, ajustar un pedido.
2. Estima el coste de cada error. Pon un valor aproximado al falso positivo y al falso negativo con ayuda de finanzas u operaciones.
3. Elige una métrica principal y dos de control. Por ejemplo, recall como principal, y precisión y calibración como control.
4. Define una línea base. Compara con una regla sencilla o un modelo trivial; scikit-learn ofrece estimadores «dummy» para eso.
5. Separa bien los datos. Evalúa con datos que el modelo no vio, del periodo más reciente posible.
6. Desagrega. Calcula las métricas por segmento, canal o región, como recomienda el marco de riesgos del NIST.

Este último paso conecta con otro problema: un modelo puede funcionar bien en promedio y mal para un grupo concreto. Lo explicamos en la guía sobre riesgos de sesgo en IA.

Errores comunes al evaluar un modelo

Los errores al evaluar un modelo predictivo suelen ser de proceso, no de matemáticas. Estos son los más frecuentes:

• Evaluar con los datos de entrenamiento. El resultado siempre parecerá mejor de lo que será en producción.
• Fuga de datos. Incluir variables que solo se conocen después del hecho que quieres predecir.
• Ajustar el umbral con los mismos datos de entrenamiento. scikit-learn advierte que eso provoca sobreajuste.
• Olvidar las etiquetas. Si las etiquetas de prueba tienen errores, todas las métricas mienten; revisa el proceso de etiquetado de datos.
• No volver a medir. Los clientes y el mercado cambian, y el rendimiento del modelo también.

Por último, recuerda que las métricas del modelo no sustituyen a las del negocio. Si el modelo apoya una campaña, sigue midiendo también las métricas de marketing digital que ya usas. Encontrarás más guías como esta en la sección de inteligencia artificial.

Preguntas frecuentes

La entrada Métricas de modelos predictivos: cuáles importan al negocio aparece primero en Prisma Idea.

Respuesta rápida

El sesgo en IA es un error sistemático que lleva a un sistema a tratar peor a ciertos grupos o a equivocarse siempre en la misma dirección. Para detectarlo, define qué daño quieres evitar y mide los resultados por grupo. Para mitigarlo, combina datos representativos, pruebas antes y después del lanzamiento, supervisión humana y documentación de cada decisión.

Un modelo no necesita «mala intención» para discriminar. Basta con que aprenda de datos incompletos o de procesos que ya eran injustos, y que nadie lo compruebe antes de usarlo con clientes reales.

Qué es el sesgo en IA

El sesgo en IA es una desviación sistemática en los resultados de un sistema. No hablamos de un error aleatorio, sino de uno que se repite y que suele perjudicar siempre a los mismos. Por ejemplo, un filtro de currículos que descarta más perfiles de un barrio concreto, o un chatbot que entiende peor a quien escribe con giros locales.

El NIST, el instituto de normalización de Estados Unidos, lo resume en su marco de gestión de riesgos: el sesgo va más allá del equilibrio demográfico y de la representatividad de los datos. Además, puede aparecer aunque nadie tenga intención de discriminar. Por eso no basta con «tener buenos datos»; hay que revisar todo el ciclo de vida del sistema.

Para una pyme, el sesgo es un riesgo de negocio. Puede costarte clientes, quejas, sanciones y reputación. Si estás empezando a usar inteligencia artificial, conviene que lo incluyas desde el principio en tu estrategia de IA para la empresa, y no como un parche posterior.

Los tres tipos de sesgo según el NIST

El sesgo en IA se clasifica en tres familias según la publicación especial SP 1270 del NIST, de marzo de 2022. Conocerlas te ayuda a buscar el problema en el lugar correcto.

El tercer tipo suele olvidarse. Sin embargo, el NIST advierte que los sesgos humanos son implícitos y que conocerlos no basta para controlarlos. De ahí que necesites procedimientos, no solo buena voluntad.

Dónde aparece el sesgo en una empresa

El sesgo en IA aparece sobre todo en los sistemas que deciden sobre personas. Estos son los casos que más vemos en pymes y empresas medianas:

• Selección de personal: filtros de currículos y puntuación de candidatos.
• Crédito y cobro: modelos que asignan límites, plazos o prioridades de cobranza.
• Publicidad y segmentación: audiencias que excluyen sin querer a ciertos grupos de una oferta.
• Atención al cliente: chatbots y agentes de IA que responden peor según el idioma, el dialecto o el canal.
• Precios y recomendaciones: sistemas que ofrecen condiciones distintas según variables que actúan como sustituto de otras sensibles.

En todos ellos el patrón se repite. El sistema aprende de decisiones pasadas y, por tanto, puede copiar sus defectos a mayor velocidad y escala. De hecho, el propio marco del NIST señala que la IA puede aumentar la velocidad y el alcance de los sesgos.

Cómo detectar el sesgo paso a paso

El sesgo en IA se detecta comparando el comportamiento del sistema entre grupos, con una definición previa de qué es un resultado injusto. Este proceso funciona tanto si desarrollas el modelo como si lo compras a un proveedor.

1. Define el daño. Escribe qué decisión toma el sistema y a quién puede perjudicar: rechazar un crédito, no mostrar una oferta, responder mal a un cliente.
2. Elige los grupos que vas a comparar. Por ejemplo, edad, sexo, provincia o idioma, siempre dentro de lo que permita la ley de protección de datos.
3. Revisa los datos de entrenamiento. Comprueba quién está y quién falta, de qué época son y cómo se etiquetaron. Si los etiquetó tu equipo, revisa también el proceso de etiquetado manual.
4. Mide los errores por grupo. No mires solo la exactitud global. Compara falsos positivos y falsos negativos en cada segmento; te lo explicamos en la guía de métricas de modelos predictivos.
5. Prueba casos límite. Prepara ejemplos que solo cambien una variable, como el nombre o el barrio, y observa si cambia la respuesta.
6. Vigila después del lanzamiento. Los datos reales cambian. Repite las mediciones cada cierto tiempo y cuando cambie el uso del sistema.

Cómo mitigar el sesgo

El sesgo en IA se mitiga actuando a la vez sobre los datos, el modelo y las personas. Ninguna medida aislada lo resuelve, porque cada tipo de sesgo nace en un lugar distinto.

En los datos

Amplía la muestra con los grupos que faltan, equilibra el peso de cada uno y elimina variables que funcionan como sustituto de otras sensibles. Cuando no hay datos suficientes, algunas empresas recurren a datos generados; antes de hacerlo, lee sobre el uso crítico de datos sintéticos, porque también pueden heredar sesgos.

En el modelo

Ajusta el umbral de decisión con criterio y compara varios modelos antes de elegir uno. En cambio, no te quedes con el que tenga mejor exactitud global si castiga más a un grupo. El NIST recuerda que las características de una IA confiable chocan entre sí, y que elegir entre ellas exige decisiones transparentes y justificadas.

En las personas y los procesos

Asigna un responsable, define cuándo debe intervenir una persona y documenta cada decisión relevante. Además, forma a quien usa el sistema para que no acepte sus resultados a ciegas. Los equipos diversos ayudan a detectar problemas, aunque no sustituyen a la medición.

Qué exigen las normas y los marcos de referencia

El sesgo en IA ya forma parte de los principales marcos internacionales, aunque con fuerza distinta. Algunos son guías voluntarias y otros, obligaciones legales.

El AI RMF del NIST, publicado el 26 de enero de 2023, es de uso voluntario. Organiza la gestión del riesgo en cuatro funciones: gobernar, mapear, medir y gestionar. Además, sitúa la equidad, con el sesgo dañino gestionado, entre las siete características de una IA confiable.

Los Principios de IA de la OCDE se adoptaron en mayo de 2019 y se actualizaron en mayo de 2024. Según la propia OCDE, cuentan con 47 adherentes. Uno de sus cinco principios basados en valores se refiere a los derechos humanos y los valores democráticos, incluida la equidad.

El Reglamento europeo de IA va más lejos. Su artículo 10 obliga a los proveedores de sistemas de alto riesgo a examinar sus datos en busca de sesgos y a adoptar medidas para detectarlos, prevenirlos y mitigarlos. Según la Comisión Europea, estas normas se aplican a los casos del anexo III, como empleo o educación, desde el 2 de diciembre de 2027. Si vendes en Europa o a empresas europeas, te afecta aunque estés en Panamá.

Para seguir aprendiendo sobre cómo aplicar estos marcos en la práctica, visita nuestra sección de inteligencia artificial.

Preguntas frecuentes

La entrada Sesgo en IA: cómo detectarlo y mitigarlo en tu empresa aparece primero en Prisma Idea.