La IA necesita más datos, pero no todos los datos deben estar disponibles para entrenarla

Imaginemos que una institución pública quiere desarrollar una herramienta de inteligencia artificial para detectar riesgos de enfermedades y mejorar la planeación de los servicios de salud. Cuenta con años de expedientes clínicos, diagnósticos, tratamientos y otra información que podría resultar muy valiosa para desarrollar el sistema. Al mismo tiempo, esos registros contienen algunos de los datos más sensibles que una institución puede tener sobre una persona.

La solución más sencilla parecería ser eliminar los nombres y entregar la base a quienes desarrollarán el modelo. Sin embargo, la protección de la información personal es mucho más compleja: una combinación de edad, código postal, fecha de atención, diagnóstico u otras características puede permitir la identificación de una persona cuando los registros se cruzan con otras fuentes.

Aquí aparece uno de los grandes dilemas del desarrollo de inteligencia artificial. Los sistemas necesitan información de calidad para aprender y mejorar, aunque eso no significa que todos los datos disponibles deban abrirse, copiarse o utilizarse libremente para entrenarlos. La oportunidad está en construir reglas y tecnologías que permitan aprovechar la información sin convertir la privacidad, la seguridad o los derechos de las personas en el costo de la innovación.

Durante los primeros años del desarrollo de los grandes modelos de lenguaje, una parte importante de la estrategia consistió en aumentar el volumen de información utilizada para entrenarlos. Millones de páginas de Internet, libros, imágenes, repositorios de código y otras fuentes se integraron en enormes conjuntos de entrenamiento con la expectativa de que una mayor cantidad de datos permitiera desarrollar sistemas con más capacidades.

Esa lógica está cambiando. Actualmente importa cada vez más conocer la calidad de la información, su procedencia, las condiciones bajo las cuales puede utilizarse y los riesgos que puede contener. Un conjunto enorme de datos puede incluir duplicados, información falsa, datos personales, materiales protegidos por derechos de autor, credenciales de acceso o información confidencial que nunca fue creada pensando en su utilización para entrenar una inteligencia artificial.

La OCDE ha señalado que mejorar el acceso a datos de calidad es importante para desarrollar la inteligencia artificial, al mismo tiempo que deben protegerse otros derechos e intereses, entre ellos la privacidad y la propiedad intelectual. El desafío no consiste entonces en elegir entre acceso o protección, sino en diseñar mecanismos legales, técnicos y organizacionales que permitan encontrar un equilibrio entre ambos objetivos.

Una parte importante de los datos utilizados para desarrollar inteligencia artificial proviene de Internet mediante procesos automatizados de recopilación conocidos como web scraping. Estos mecanismos permiten recorrer grandes cantidades de páginas y extraer textos, imágenes u otro contenido en poco tiempo.

La existencia pública de esa información no resuelve automáticamente la pregunta sobre qué usos pueden hacerse de ella. Una fotografía publicada en una página, una obra artística, un artículo periodístico, una conversación en un foro o determinados datos personales pueden estar disponibles para ser consultados por cualquier persona y, al mismo tiempo, estar sujetos a derechos, condiciones de uso o expectativas legítimas sobre la finalidad para la que fueron publicados.

Esta distinción está cobrando mayor importancia conforme crece el uso de datos para inteligencia artificial. La OCDE publicó en 2025 una taxonomía de los principales mecanismos mediante los cuales se obtienen datos para entrenar sistemas de IA y señala que cada forma de recopilación tiene implicaciones diferentes para desarrolladores, titulares de datos y otras personas que poseen derechos sobre esa información.  

La procedencia importa tanto como el contenido. Saber de dónde salió una base, qué licencia tiene, si existen restricciones sobre su reutilización y qué transformaciones recibió permite tomar mejores decisiones antes de incorporarla a un sistema de inteligencia artificial.

Puede parecer que, una vez que los datos fueron utilizados para entrenar un modelo, la información original desaparece dentro de millones o miles de millones de parámetros matemáticos. La realidad es más compleja, porque los sistemas de inteligencia artificial pueden memorizar parte de la información que procesaron durante su entrenamiento.

Esto no significa que un modelo funcione como una base de datos tradicional ni que sea posible recuperar todo lo que aprendió. En determinadas circunstancias, sin embargo, puede reproducir fragmentos de información incluida en sus datos de entrenamiento o permitir que se infieran algunos atributos asociados con ellos.

La OCDE advierte que los avances en inteligencia artificial generativa aumentan la posibilidad de memorizar información y de inferir atributos personales. Por esta razón, la protección de datos no termina cuando una base entra al proceso de entrenamiento: necesita contemplar todo el ciclo de vida del sistema, desde la recopilación y preparación de la información hasta las pruebas y su utilización posterior.  

Este problema adquiere una dimensión especial en el sector público. Las instituciones cuentan con información fiscal, educativa, laboral, de salud y sobre otros aspectos de la vida de las personas que puede tener un enorme valor para investigación e innovación. Su utilidad no elimina su sensibilidad y, en algunos casos, precisamente los conjuntos con mayor potencial para desarrollar nuevas aplicaciones son aquellos que requieren mayores medidas de protección.

Los riesgos asociados con los datos no se limitan a la privacidad. Una base recopilada sin suficientes controles puede incluir contraseñas, llaves de acceso a sistemas, documentos internos, código vulnerable u otro tipo de información cuya presencia podría generar problemas de ciberseguridad.

Entrenar un modelo con una gran cantidad de datos sin revisar qué contienen puede significar incorporar esos riesgos al propio sistema. Por eso, la preparación de los datos necesita incluir procesos de higiene que permitan detectar información personal innecesaria, secretos, credenciales, archivos maliciosos y otros elementos que no deberían formar parte del conjunto de entrenamiento.

El Perfil de Inteligencia Artificial Generativa del NIST plantea precisamente que la gestión de riesgos debe abarcar todo el ciclo de vida de estos sistemas. Su enfoque incluye riesgos relacionados con privacidad, seguridad de la información, procedencia de los datos y cadena de suministro, lo que ayuda a superar la idea de que la ciberseguridad comienza únicamente después de que el modelo ya fue desarrollado.  

Para una institución mexicana que quiera utilizar sus propios datos para adaptar un modelo, este principio puede traducirse en una pregunta sencilla: ¿sabemos exactamente qué información estamos introduciendo al sistema? Contar con un inventario, clasificar la sensibilidad de los datos y revisar los conjuntos antes del entrenamiento puede prevenir problemas mucho más costosos posteriormente.

Existe una idea que vale la pena aclarar: facilitar el acceso a datos para investigación e inteligencia artificial no significa necesariamente publicarlos en Internet. Entre mantener una base completamente cerrada y permitir que cualquier persona la descargue existe una amplia variedad de alternativas.

Algunos datos pueden ser suficientemente seguros para publicarse de manera abierta. Otros pueden necesitar anonimización o transformaciones adicionales, mientras que los conjuntos más sensibles pueden utilizarse únicamente dentro de entornos controlados. La decisión depende del tipo de información, del riesgo de identificar a las personas, del propósito del análisis y de las posibles consecuencias de una filtración.

Pensar de esta manera permite superar una discusión que frecuentemente se presenta como una elección entre innovación y protección. Es posible generar valor con los datos sin convertir la publicación irrestricta en la única forma de acceso.

Durante los últimos años se han desarrollado diferentes tecnologías de mejora de la privacidad, conocidas como PETs por sus siglas en inglés. Su objetivo general consiste en permitir que instituciones, investigadores o empresas obtengan determinados beneficios de la información mientras reducen la exposición de los datos originales.

Una de ellas es la privacidad diferencial. De manera simplificada, esta técnica introduce modificaciones matemáticamente controladas en los resultados para reducir la posibilidad de saber si la información de una persona específica se encontraba dentro de la base. El NIST publicó en 2025 lineamientos para evaluar estas garantías y señala que la privacidad diferencial permite cuantificar el riesgo para una persona cuando su información aparece en un conjunto de datos.  

Otra alternativa son los datos sintéticos, generados para conservar determinadas características estadísticas de una base real sin reproducir directamente sus registros. Pueden ser útiles para desarrollar prototipos, probar sistemas o realizar ciertos análisis, aunque necesitan evaluarse cuidadosamente porque no siempre conservan todas las relaciones presentes en los datos originales.

Existe además el aprendizaje federado, que permite entrenar un modelo utilizando información almacenada en diferentes instituciones sin concentrar todas las bases en un mismo lugar. Un ejemplo podría ser una red de hospitales que colabora para desarrollar un sistema de diagnóstico mientras los expedientes clínicos permanecen bajo la custodia de cada institución.

Los entornos seguros de procesamiento ofrecen otra posibilidad. En lugar de entregar una copia de una base sensible a un investigador o desarrollador, se le permite trabajar dentro de un espacio controlado, con reglas sobre las consultas permitidas y mecanismos de auditoría. Estas herramientas no son soluciones automáticas y pueden introducir costos o limitaciones técnicas, aunque amplían considerablemente las opciones disponibles entre mantener los datos completamente cerrados y hacerlos públicos.

México tiene grandes cantidades de información que podrían contribuir al desarrollo de soluciones de inteligencia artificial. Los registros administrativos, estadísticas públicas, datos de movilidad, información ambiental, documentos jurídicos y bases generadas por distintos sectores pueden convertirse en insumos para investigación, mejores servicios públicos y nuevas aplicaciones.

Aprovechar ese potencial requiere una política que distinga claramente los diferentes niveles de riesgo. Los datos públicos sin restricciones pueden abrirse y facilitarse mediante formatos reutilizables; los datos con riesgo moderado pueden necesitar anonimización u otras técnicas de protección; la información sensible puede requerir entornos controlados y condiciones estrictas de acceso.

Esta clasificación puede complementarse con reglas claras sobre la procedencia y documentación de los datos. Antes de utilizar un conjunto para entrenar o adaptar un sistema de inteligencia artificial, debería ser posible conocer quién lo generó, qué información contiene, bajo qué condiciones puede utilizarse, qué transformaciones recibió y quién es responsable de su manejo.

La trazabilidad adquiere mayor relevancia frente a una tendencia que Stanford HAI documenta en el AI Index 2026: varios de los sistemas de inteligencia artificial más intensivos en recursos han dejado de divulgar información como el tamaño de sus conjuntos de entrenamiento, la duración del entrenamiento o algunos detalles sobre la metodología utilizada. Esta menor transparencia hace todavía más importante que gobiernos e instituciones establezcan sus propios requisitos cuando adquieren o desarrollan sistemas que utilizarán información pública.

Una institución no necesita desarrollar su propio modelo para exigir buenas prácticas en materia de datos. Cuando compra o contrata un sistema de inteligencia artificial puede solicitar documentación sobre los conjuntos utilizados, las medidas de protección aplicadas, las limitaciones conocidas y las pruebas realizadas para detectar fugas de información.

Esta información puede incluir fichas técnicas de los datos y del modelo, mecanismos para reportar incidentes y evidencia sobre las evaluaciones de privacidad y seguridad realizadas antes del despliegue. Los Principios de IA de la OCDE señalan precisamente la importancia de la trazabilidad y la rendición de cuentas a lo largo del ciclo de vida de estos sistemas.  

Establecer este tipo de requisitos puede permitir que la compra pública impulse mejores estándares sin esperar a que cada tecnología tenga una regulación específica. Una institución que conoce qué sistema está contratando y qué información utilizará se encuentra en mejores condiciones para aprovechar sus capacidades y gestionar sus riesgos.

La inteligencia artificial necesita datos y México cuenta con información que puede contribuir al desarrollo de aplicaciones más útiles para su población. El reto no consiste en liberar indiscriminadamente todos esos recursos ni en mantenerlos cerrados por temor a los riesgos.

Una política moderna de datos puede ofrecer diferentes formas de acceso según la sensibilidad de la información. Puede abrir completamente algunos conjuntos, transformar otros mediante técnicas de protección y permitir el uso de los más sensibles únicamente dentro de espacios seguros y bajo condiciones claramente definidas.

Este enfoque permite cambiar la pregunta. En lugar de discutir solamente si un dato debe estar abierto o cerrado, podemos preguntarnos cómo generar el mayor valor posible de la información manteniendo niveles adecuados de privacidad, seguridad y protección de derechos.

La capacidad de desarrollar inteligencia artificial no dependerá únicamente de quién tenga más datos. Dependerá cada vez más de quién pueda utilizarlos mejor, conocer su procedencia, protegerlos adecuadamente y generar confianza alrededor de su uso. Para México, construir esa gobernanza puede ser tan importante como disponer de los propios datos.

5 octubre, 2026

Lorem