Ética y Regulación en Inteligencia Artificial
Por el Equipo docente del Instituto Data Science · Actualizado en octubre de 2026
Principios, sesgos, responsabilidad y marcos normativos: qué es obligatorio, qué es una recomendación y qué pasa en Argentina.
Resumen de la guía: la ética de la IA reúne los principios que orientan su diseño y su uso (equidad, transparencia, privacidad y responsabilidad), y la regulación es la parte de esos principios que se vuelve obligatoria por ley. En esta guía vas a ver cómo surgen los sesgos, quién responde por una decisión automatizada, qué dicen la OCDE, la UNESCO, el NIST y la Unión Europea, y cuál es la situación normativa en Argentina a octubre de 2026.
¿Por qué importan la ética y la regulación en IA?
La IA avanza más rápido que las normas que la gobiernan. Hablar de ética ya no es un tema solo académico: es una necesidad operativa, legal y empresarial.
Los modelos generativos, los sistemas de recomendación, el scoring y la automatización de decisiones afectan el acceso al crédito, al empleo, a la salud o a la información. Por eso hacen falta reglas claras que protejan a las personas, den transparencia y reduzcan el riesgo de abuso o discriminación.
Ética y regulación no son lo mismo: la ética son principios y buenas prácticas, muchas veces voluntarios. La regulación es la parte que una ley hace obligatoria y sancionable. Esta guía marca en cada caso cuál es cuál. Para el contexto general del campo, empezá por la guía de Inteligencia Artificial.
Principios éticos de la Inteligencia Artificial
Instituciones como la OCDE, la UNESCO y la Unión Europea coinciden en un conjunto de principios que se repiten con distintas palabras.
Justicia y equidad
La IA no debe reproducir, amplificar ni crear nuevas formas de discriminación.
Transparencia y explicabilidad
Las personas deberían poder entender, al menos de forma básica, cómo se llegó a una decisión.
Privacidad y protección de datos
Los sistemas deben respetar la identidad digital y los derechos de las personas.
Responsabilidad
Alguien tiene que poder responder por el sistema, sus fallos y sus impactos.
Estos principios se aplican a todos los modelos, desde la visión por computadora hasta los LLM. Los vemos formalizados en la sección de marcos internacionales.
Sesgos algorítmicos: cómo surgen y por qué son un problema
Son patrones de injusticia o discriminación que emergen del diseño, el entrenamiento o la implementación de un modelo.
Tipos de sesgo frecuentes
| Tipo | Qué es |
|---|---|
| Sesgo de datos | El conjunto de datos no representa la realidad que el modelo va a enfrentar. |
| Sesgo de selección | Ciertos grupos quedan sistemáticamente excluidos de los datos. |
| Sesgo histórico | Los datos reflejan prácticas discriminatorias del pasado y el modelo las aprende. |
| Sesgo de retroalimentación | El modelo refuerza sus propias predicciones al influir en los datos futuros. |
Consecuencias reales
- Rechazos injustos en el otorgamiento de créditos.
- Discriminación en procesos automatizados de selección de personal.
- Sobrerrepresentación de ciertos grupos en sistemas de vigilancia.
- Sistemas de recomendación que amplifican burbujas informativas.
Ejemplo: si un modelo de selección se entrena con contrataciones pasadas de una empresa que históricamente contrató sobre todo a un perfil, aprende a preferir ese perfil aunque no se lo hayan pedido.
Los sesgos de los modelos de machine learning tienen su origen en los datos y el proceso de entrenamiento, que explicamos en la guía de Machine Learning.
Responsabilidad algorítmica y decisiones automatizadas
Una de las preguntas centrales es quién responde cuando un sistema toma una decisión que afecta la vida de una persona.
Un crédito rechazado
¿Quién explica y revisa la decisión?
Un diagnóstico fallido
¿Cómo se audita un error de un modelo médico?
Una clasificación de riesgo errónea
¿Cómo se corrige y quién responde por el daño?
Información falsa de un chatbot
¿Quién responde si afecta la reputación de alguien?
Una organización no puede delegar su responsabilidad en un algoritmo. Quién responde en concreto (la institución que lo implementa, el desarrollador o el operador) depende del marco legal aplicable y de cada caso.
Marcos internacionales: qué es obligatorio y qué no
La regulación avanza de forma desigual. Lo más importante es distinguir los marcos voluntarios de las leyes que obligan.
| Marco | Qué es | ¿Es obligatorio? |
|---|---|---|
| Principios de la OCDE sobre IA | Primer estándar intergubernamental (2019), actualizado en mayo de 2024. Promueve una IA innovadora, confiable y respetuosa de los derechos humanos. | No, son recomendaciones. |
| Recomendación de la UNESCO sobre la ética de la IA | Adoptada el 23 de noviembre de 2021 por los 193 Estados miembros. Cubre derechos humanos, transparencia, equidad y supervisión humana. | No es vinculante. |
| NIST AI Risk Management Framework 1.0 | Marco de EE. UU. (26 de enero de 2023) con cuatro funciones: gobernar, mapear, medir y gestionar. Tiene un perfil para IA generativa (NIST AI 600-1, julio de 2024). | No, es voluntario. |
| Ley de IA de la Unión Europea (Reglamento 2024/1689) | Primera ley integral del mundo, basada en niveles de riesgo. | Sí, dentro de la UE y para quienes ofrecen sistemas en ese mercado. |
Estados Unidos
El enfoque es descentralizado: combina el marco voluntario del NIST con normas estatales y sectoriales, y está más orientado a la innovación que el europeo. No existe una ley federal integral equivalente a la de la Unión Europea.
América Latina
La región está en un proceso temprano y desparejo: varios países discuten proyectos sobre responsabilidad algorítmica, protección de datos, transparencia y derechos digitales. El estado de cada proyecto cambia con frecuencia, por lo que conviene consultar la fuente oficial de cada país antes de citarlo.
La Ley de IA de la Unión Europea
El Reglamento (UE) 2024/1689 clasifica los sistemas de IA según el riesgo que implican y asigna obligaciones distintas a cada nivel.
Riesgo inaceptable
Prácticas prohibidas, como ciertos usos de manipulación o de puntuación social.
Alto riesgo
Sistemas estrictamente regulados, por ejemplo en empleo, educación, acceso a servicios esenciales como el crédito, o identificación biométrica. Exigen documentación, gestión de riesgos, supervisión humana y trazabilidad.
Riesgo limitado
Obligaciones de transparencia, por ejemplo avisar que se está interactuando con una IA o que un contenido fue generado artificialmente.
Riesgo mínimo
Sin obligaciones específicas.
Además, el reglamento fija obligaciones para los modelos de IA de propósito general, que rigen desde el 2 de agosto de 2025.
Un paquete de simplificación (Reglamento (UE) 2026/1744, el llamado Digital Omnibus sobre IA) pospuso la aplicación de las obligaciones de alto riesgo: hasta el 2 de diciembre de 2027 para los sistemas del Anexo III y hasta el 2 de agosto de 2028 para los del Anexo I. Las fuentes secundarias no coinciden en todas las fechas de las reglas de transparencia, así que confirmá siempre el cronograma vigente en EUR-Lex y en la página de la Comisión Europea.
¿Y en Argentina?
A octubre de 2026, Argentina no tiene una ley integral de inteligencia artificial. Hay varios proyectos en el Congreso y uno del Poder Ejecutivo, pero ninguno fue sancionado hasta donde pudimos verificar.
Ley 25.326 de Protección de Datos Personales
Su artículo 20 establece que las decisiones judiciales o los actos administrativos que impliquen una valoración de conducta humana no pueden basarse únicamente en el tratamiento automatizado de datos que dé una definición del perfil de la persona, y que los actos contrarios son insanablemente nulos.
Disposición 2/2023 de la Subsecretaría de Tecnologías de la Información
Publicada en el Boletín Oficial el 2 de junio de 2023. Contiene recomendaciones, no obligatorias, para una IA confiable en el sector público.
Aunque no exista una ley específica, las normas generales de datos personales, consumo, no discriminación y responsabilidad civil se aplican a los sistemas de IA. Y si trabajás con clientes o usuarios europeos, la ley de la UE puede alcanzarte.
Fuentes: Ley 25.326 · Disposición 2/2023.
Ética en modelos generativos y LLM
Los modelos generativos suman desafíos propios, además de los que ya tenía la IA tradicional.
Pueden generar información falsa con apariencia confiable.
Pueden reproducir estereotipos o lenguaje tóxico.
El entrenamiento con grandes corpus de texto e imágenes abre debates sobre copyright que todavía se están resolviendo.
Contenido realista falso que puede usarse en campañas políticas, manipulación mediática, suplantación de identidad y extorsión digital.
El NIST publicó un perfil específico para estos sistemas, el AI 600-1, que identifica doce riesgos propios de la IA generativa. Cómo funcionan estos modelos lo explicamos en la guía de IA generativa.
Marcos y buenas prácticas para un desarrollo responsable
Organismos como la UNESCO, la OCDE y asociaciones técnicas como IEEE promueven prácticas que cualquier equipo puede adoptar.
Documentar
Describir los datos y los modelos con herramientas como las Datasheets for Datasets y las Model Cards, y llevar registro de versiones, decisiones y entrenamientos.
Evaluar el impacto antes de implementar
Analizar el riesgo para las personas, el impacto social, los posibles sesgos y los mecanismos de auditoría.
Garantizar la explicabilidad
Que usuarios y auditores puedan entender las decisiones del sistema.
Mantener supervisión humana
La IA no debería operar en “piloto automático” en ámbitos sensibles como salud, crédito o empleo.
Monitorear en producción
Verificar que el sistema siga siendo justo y preciso cuando cambian los datos o el contexto.
- ¿Por qué la recomendación de la UNESCO y la ley de la UE no tienen el mismo peso?
Ver respuesta
La recomendación de la UNESCO es un instrumento de referencia no vinculante. La ley europea es un reglamento obligatorio dentro de la UE, con sanciones por incumplimiento.
Hacia una IA centrada en las personas
Una IA responsable debería respetar la dignidad humana, promover el bienestar, evitar automatizar injusticias, generar oportunidades y favorecer la inclusión.
La meta no es frenar la IA sino alinearla con el interés público. La ética y la regulación no son un freno para la innovación: son una condición para que sea sostenible. Cuando empresas, gobiernos, universidades y sociedad civil entienden los riesgos, la IA puede crecer con más confianza, seguridad y legitimidad.
Preguntas frecuentes sobre ética y regulación de la IA
¿Hay una ley de inteligencia artificial en Argentina?
A octubre de 2026, no hay una ley integral sancionada. Rigen normas generales, como la Ley 25.326 de protección de datos personales, y recomendaciones para el sector público. Ver ¿Y en Argentina?
¿Una decisión automatizada puede ser la única base para decidir sobre una persona?
Según el artículo 20 de la Ley 25.326, las decisiones judiciales o actos administrativos que valoren la conducta de una persona no pueden basarse únicamente en el tratamiento automatizado de datos que defina su perfil, y los actos contrarios son insanablemente nulos.
¿Qué es el AI Act europeo y me afecta desde Argentina?
Es el Reglamento (UE) 2024/1689, que regula la IA según su nivel de riesgo. Se aplica dentro de la Unión Europea y a quienes ofrecen sistemas de IA en ese mercado, incluso desde otros países. Ver La Ley de IA de la Unión Europea.
¿Los principios de la OCDE o la UNESCO son obligatorios?
No. Son marcos de referencia adoptados por consenso, que orientan las políticas nacionales sin imponer sanciones. Ver Marcos internacionales.
¿Quién es responsable si una IA se equivoca?
No se puede delegar la responsabilidad en el algoritmo. Quién responde en concreto depende del marco legal y del caso: la organización que lo implementa, quien lo desarrolla o quien lo opera. Ver Responsabilidad algorítmica.
¿Cómo puedo reducir los sesgos en un modelo?
Revisando la representatividad de los datos, evaluando el desempeño por grupos, documentando el modelo y manteniendo supervisión humana. Ver Buenas prácticas y Sesgos algorítmicos.
Cómo seguir después de esta guía
Ya tenés el mapa de principios, riesgos y normas. Estos son los próximos pasos:
- Revisá cómo funcionan los modelos que se regulan: IA generativa y Machine Learning.
- Conocé las distintas ramas de la IA: la guía de ramas de la IA muestra qué se usa en cada caso.
- Mirá los perfiles profesionales: roles y especialidades en datos.
Esta guía es informativa y no reemplaza un plan de estudios ni constituye asesoramiento legal. Si buscás formación estructurada, el instituto ofrece cursos de ciencia de datos online, diplomaturas en ciencia de datos y cursos on demand.
Fuentes oficiales consultadas en octubre de 2026: OCDE – definición actualizada de sistema de IA · UNESCO – Recomendación sobre la ética de la IA · NIST – AI Risk Management Framework · NIST AI 600-1 · Reglamento (UE) 2024/1689 · Comisión Europea – marco regulatorio de la IA · Ley 25.326 · Disposición 2/2023.