La privacidad, los sesgos y el control de riesgos ocuparon un lugar central en el plan de acción ética presentado durante la Conferencia Mundial de Inteligencia Artificial 2026 de Shanghái. La propuesta busca que el análisis no se limite al producto terminado, sino que acompañe todo el ciclo de vida de un sistema: diseño, entrenamiento, prueba, implementación y retiro.
El documento plantea una idea básica: no todos los sistemas de IA presentan el mismo peligro. Un asistente que ordena notas personales no debería evaluarse igual que una herramienta utilizada para salud, seguridad, contratación, crédito o servicios públicos. Por eso propone clasificar los riesgos y aplicar supervisión proporcional a la función y al impacto potencial.
Privacidad desde el diseño
El plan de acción ética divulgado en Shanghái sostiene que la protección de datos debe incorporarse desde el diseño. Esto implica limitar la recolección de información, definir para qué se utilizará, controlar quién puede acceder y establecer mecanismos para corregir o eliminar datos cuando corresponda.
En el uso cotidiano, la recomendación sigue siendo concreta: no ingresar contraseñas, información bancaria, fichas médicas, documentos de identidad ni datos reservados de otras personas en servicios de IA cuyo tratamiento de información no esté claramente explicado.
Explicaciones y responsabilidad humana
Otro objetivo es mejorar la explicabilidad. Cuando una decisión automatizada afecta a una persona, debería existir una forma comprensible de saber qué información influyó, qué límites tiene el sistema y quién responde por el resultado. Una explicación técnica incomprensible no basta si el usuario no puede cuestionar una decisión.
El plan también propone mantener supervisión humana y canales de reparación. La IA puede ayudar a ordenar antecedentes o detectar patrones, pero la institución que la utiliza no debería traspasar su responsabilidad a un algoritmo. Esto es especialmente relevante cuando existe riesgo de discriminación, exclusión de beneficios o daño económico.
Reducir sesgos y proteger a grupos vulnerables
Los datos utilizados para entrenar sistemas pueden contener desigualdades históricas, omisiones y errores. El documento llama a revisar conjuntos de datos, resultados y tasas de error para evitar que una herramienta funcione bien para un grupo y mal para otro. También menciona la protección reforzada de niños, adultos mayores y personas en situación de vulnerabilidad.
La propuesta no resuelve por sí sola cómo medir cada sesgo ni quién realizará las auditorías. Ese será uno de los puntos decisivos: convertir principios generales en pruebas repetibles, registros de incidentes y consecuencias cuando una organización ignore riesgos conocidos.
Seguridad sin frenar usos beneficiosos
El enfoque por niveles busca evitar dos extremos: liberar sistemas de alto impacto sin controles o imponer las mismas exigencias a todas las aplicaciones. Para empresas, universidades y organismos públicos, esto significa documentar el propósito, identificar riesgos previsibles, probar el sistema y mantener una vía de intervención humana.
La conferencia de Shanghái reunió este plan ético con propuestas sobre datos, capacidad de cómputo, ecosistemas abiertos y cooperación internacional. Puedes revisar el resto del especial en Tecnología.