Ética de la IA en diseño: sesgos, transparencia y responsabilidad en la práctica

Hace unos meses preparábamos un moodboard para una campaña de una clínica de la Costa del Sol. Pedimos a un generador de imágenes «una doctora atendiendo a un paciente mayor en una consulta luminosa». De las veinte imágenes que salieron, todas las doctoras eran jóvenes, delgadas y de piel clara, y todos los pacientes mayores eran hombres. Nadie le había pedido eso al modelo. Simplemente, eso es lo que el modelo había aprendido que era «lo normal».

No pasó nada grave: era un moodboard interno y lo corregimos enseguida. Pero el episodio nos sirvió para ordenar algo que veníamos pensando. La IA trae al estudio una capacidad enorme, y también una serie de decisiones éticas que antes no teníamos que tomar, o que tomábamos sin darnos cuenta. Esta guía recoge cómo las abordamos, no como un código abstracto sino como hábitos concretos que caben en el día a día de un proyecto.

01Por qué la ética de la IA es un asunto de diseño

Podría parecer que la ética de la IA es cosa de quienes construyen los modelos. En parte lo es. Pero quien diseña decide qué se genera, qué se publica y cómo se presenta al mundo. Esas decisiones tienen consecuencias sobre personas reales: las que aparecen (o no aparecen) en una imagen, las que leen un texto, las que confían en una marca.

El diseño siempre ha tenido una dimensión ética. Elegir a quién se muestra en una campaña, cuánto contraste tiene un texto o qué se esconde en la letra pequeña son decisiones morales, aunque se tomen en una reunión de producción. Lo hemos hablado en la guía sobre patrones oscuros y ética del diseño. La IA no cambia esa responsabilidad; la amplifica, porque permite producir mucho más, mucho más rápido, con decisiones que a veces toma el modelo por nosotros si no estamos atentos.

Para ordenar el tema, nos ayudan cuatro preguntas que nos hacemos en cada proyecto:

1. 01Representación: ¿a quién muestra este contenido y cómo lo muestra?
2. 02Origen: ¿de dónde sale lo que usamos, y respeta el trabajo y los datos de otros?
3. 03Transparencia: ¿saben el cliente y el público lo que necesitan saber sobre cómo se ha hecho?
4. 04Responsabilidad: ¿quién responde del resultado y cómo se corrige si algo falla?

02Sesgos: cuando el modelo decide quién aparece

Los modelos aprenden de enormes cantidades de datos, en buena parte de internet, y internet refleja los desequilibrios del mundo: quién ha sido fotografiado más, quién ha escrito más, qué estereotipos se repiten. El resultado es que los modelos tienden a reproducir esos patrones, y a veces a exagerarlos.

No es una intuición. El estudio Gender Shades, publicado en 2018 por Joy Buolamwini y Timnit Gebru, mostró que varios sistemas comerciales de análisis facial cometían muchos más errores con mujeres de piel oscura que con hombres de piel clara. En 2023, un análisis de Bloomberg sobre miles de imágenes creadas con Stable Diffusion encontró que el modelo asociaba los trabajos mejor pagados con hombres de piel clara con más frecuencia de la que reflejan las estadísticas laborales reales. Los modelos han mejorado desde entonces, pero el mecanismo de fondo sigue ahí.

Dónde aparecen los sesgos en un proyecto de diseño

• →Imágenes de personas: edad, género, origen, tipo de cuerpo, discapacidad. El modelo rellena con su idea de «lo típico» todo lo que no especificas.
• →Textos: tono que asume un lector concreto, ejemplos que siempre usan el mismo tipo de persona, traducciones que asignan género a profesiones.
• →Contextos culturales: una «familia celebrando» o una «boda» que siempre sigue las costumbres de un solo país.
• →Interfaces con IA: sistemas que entienden peor ciertos acentos, nombres o formas de escribir.

Cómo los trabajamos en el estudio

Lo que funciona es dar por hecho que habrá sesgos y diseñar el proceso para encontrarlos:

• →Describir explícitamente la diversidad que buscamos, en lugar de dejar que el modelo elija. Si la clínica atiende a personas de todas las edades y orígenes, el encargo lo dice.
• →Generar en volumen y revisar en conjunto. Mirar veinte imágenes juntas revela patrones que no se ven de una en una.
• →Revisar en grupo. Personas distintas del equipo ven cosas distintas. Una segunda mirada siempre aporta.
• →Contrastar con el público real. Cuando es posible, enseñamos las propuestas a personas del público al que se dirige la marca.
• →Elegir fotografía real cuando importa. Para mostrar a las personas de una comunidad concreta, nada sustituye a fotografiarlas.

Este trabajo conecta con el diseño inclusivo, que va más allá del cumplimiento técnico y se pregunta a quién deja fuera cada decisión.

03Origen: respetar el trabajo y los datos de otros

Los modelos generativos se han entrenado, en muchos casos, con obras de artistas, fotógrafos y escritores que no dieron su permiso. Es un debate abierto, con procesos judiciales en marcha en varios países, y no nos corresponde resolverlo aquí. Sí nos corresponde decidir cómo trabajamos mientras tanto.

Nuestros criterios:

• →No pedir imágenes «al estilo de» artistas vivos con nombre propio. Si nos gusta el trabajo de un ilustrador, lo que corresponde es encargarle el trabajo.
• →Preferir herramientas con un origen de datos más claro cuando el resultado va a publicarse, como las que se entrenan con contenido con licencia y ofrecen garantías para uso comercial.
• →No subir material confidencial del cliente a herramientas que puedan usarlo para entrenar, y revisar las condiciones de privacidad de cada servicio.
• →Respetar las licencias de lo que generamos y documentarlas en la entrega.

Los aspectos legales sobre autoría y derechos los desarrollamos en IA y derechos de autor. Aquí la pregunta es más amplia: incluso cuando algo es legal, ¿es justo con quienes hacen este trabajo? Esa pregunta no siempre tiene una respuesta cerrada, pero hacérsela cambia decisiones.

04Transparencia: contar cómo se ha hecho

La transparencia tiene dos públicos: el cliente que encarga el trabajo y el público que lo ve.

Con el cliente

Un cliente tiene derecho a saber qué herramientas se usan en su proyecto, porque eso afecta a la propiedad de lo que recibe, a la confidencialidad de su información y a cómo podrá comunicarlo. En nuestras propuestas incluimos un párrafo que explica en qué fases usamos IA, con qué tipo de herramientas y qué parte del trabajo es siempre humana. Lo contamos con naturalidad, igual que explicamos qué tipografías llevan licencia o cómo se gestiona el hosting.

Con el público

Con el público, el criterio que seguimos es sencillo: si una imagen, un vídeo o una voz generada puede hacer creer a alguien que algo real ha ocurrido, lo indicamos. No hace falta etiquetar un fondo abstracto o una textura, pero sí una persona que parece real y no existe, o una escena que parece un lugar concreto. El Reglamento Europeo de IA recoge obligaciones de transparencia en esa línea, que veremos en una guía específica.

Hay una forma más sutil de transparencia: no prometer con la imagen lo que el producto no es. Una habitación de hotel generada más amplia y luminosa de lo que es, un plato más abundante, un resultado médico idealizado. Eso no es un problema de IA, es un problema de honestidad, pero la IA lo pone muy fácil.

Clave: la pregunta ética más útil ante cualquier pieza generada es sencilla: si el público supiera exactamente cómo se ha hecho, ¿se sentiría engañado? Si la respuesta es sí, algo hay que cambiar.

05Responsabilidad: siempre hay una persona que responde

Una herramienta no puede asumir responsabilidad. Cuando una pieza sale del estudio, alguien del estudio responde de ella: de su calidad, de su exactitud y de sus efectos. Esto, que parece obvio, tiene consecuencias prácticas.

• →Cada pieza tiene una persona responsable que la ha revisado antes de entregarla.
• →Los datos se verifican. Si la IA ha ayudado a redactar un texto con cifras, fechas o afirmaciones, se comprueban en fuentes primarias.
• →Se documenta el proceso cuando la IA ha tenido un papel relevante, para poder explicar después cómo se llegó a un resultado.
• →Se corrige con rapidez. Si alguien señala un problema de representación, un error o un uso indebido, se agradece, se revisa y se arregla.

Estos principios conectan con marcos internacionales como la Recomendación sobre la Ética de la IA de la UNESCO (2021) o los principios sobre IA de la OCDE (2019), que hablan de supervisión humana, transparencia, equidad y rendición de cuentas. No hace falta conocerlos de memoria para aplicarlos, pero es bueno saber que lo que hacemos en el estudio va en la misma dirección que el consenso internacional.

06Cuatro situaciones habituales y cómo las resolvemos

Los principios se entienden mejor con casos. Estas son situaciones que nos encontramos con frecuencia y la forma en que solemos resolverlas.

Un cliente pide una imagen de «un equipo diverso» para su web corporativa, pero su equipo real es pequeño y homogéneo. Aquí la tentación es generar la diversidad que no existe. Lo que proponemos es mostrar al equipo real con buena fotografía y trabajar la diversidad donde sí es verdad: en sus clientes, en sus colaboradores, en el lenguaje. Mostrar una plantilla que no existe crea una expectativa que el primer contacto desmiente.

Un restaurante quiere imágenes de platos para la carta digital antes de tenerlos fotografiados. Generar platos idealizados es rápido, pero el cliente recibirá otra cosa en la mesa. Solemos usar las imágenes generadas solo como maqueta interna y programar una sesión de fotografía real para la versión pública. Si hay que publicar algo provisional, preferimos ilustraciones o tipografía antes que una foto que parezca real y no lo sea.

Una marca quiere un portavoz virtual con aspecto humano para sus vídeos. Es perfectamente posible hacerlo con ética: dejando claro que es un personaje digital, sin imitar a nadie real y con un tono que no finja experiencias que no ha vivido. Lo que cuidamos es que nadie del público pueda creer que habla con una persona.

Un texto redactado con ayuda de IA incluye datos sobre salud o normativa. Cada afirmación se comprueba en la fuente primaria antes de publicarse, y si no encontramos la fuente, la frase se va. Los modelos de lenguaje pueden escribir datos plausibles que no son ciertos, y en estos temas la precisión forma parte del respeto al lector.

07Una política de IA para tu estudio o tu marca, paso a paso

Todo lo anterior se vuelve mucho más fácil si se escribe. Una política de uso de IA de una o dos páginas da seguridad al equipo y confianza a los clientes. Así la redactamos nosotros:

1. 01Para qué usamos IA. Lista de usos permitidos: exploración visual, borradores de texto, transcripción, tareas técnicas.
2. 02Para qué no la usamos. Por ejemplo, imitar a artistas vivos, generar personas reales sin consentimiento o entregar textos sin revisión.
3. 03Qué herramientas están aprobadas y con qué configuración de privacidad.
4. 04Qué datos pueden usarse. Nunca información confidencial del cliente en herramientas que entrenen con ella; siempre datos mínimos.
5. 05Cómo revisamos. Quién revisa, qué se comprueba (sesgos, datos, derechos) y cómo se documenta.
6. 06Cómo lo contamos. Qué se explica al cliente en la propuesta y cuándo se indica al público.
7. 07Cada cuánto se revisa la política. Las herramientas cambian rápido; recomendamos una revisión semestral.

08Ética como forma de trabajar, no como freno

A veces se habla de ética como si fuera una lista de prohibiciones que frena la creatividad. Nuestra experiencia es la contraria. Hacerse estas preguntas lleva a mejores proyectos: imágenes más representativas del público real, textos más precisos, clientes más tranquilos y marcas más creíbles. La IA nos da una capacidad de producción inmensa; la ética es lo que nos ayuda a decidir qué merece la pena producir.

Volviendo a la clínica del principio: la campaña final se hizo con fotografía real de su equipo y de pacientes que aceptaron participar, y la IA nos ayudó en el moodboard, en las variantes de composición y en la adaptación a formatos. Es un buen ejemplo de lo que defendemos en dirección creativa en la era de la IA: la herramienta al servicio de un criterio humano.

En SIMA trabajamos así desde la primera reunión, y lo contamos en nuestro método. Si quieres incorporar la IA a la comunicación de tu marca con tranquilidad, o redactar tu propia política de uso, escríbenos y lo hablamos.