Rumman Chowdhury es la exenviada científica de Estados Unidos para la IA y fundadora de Humane Intelligence, una corporación de beneficio público.

Paso mi vida laboral probando sistemas de IA y encontrando dónde fallan. Esto es lo que le diría a cualquier líder de moda o belleza que esté decidiendo cómo usar esta tecnología: sus clientes son escépticos. Las advertencias apocalípticas sobre los riesgos de la IA se han vuelto imposibles de ignorar, y los manifestantes están saliendo a las calles para exigir salvaguardas más estrictas. Cuando incluso los directores ejecutivos de las empresas que lideran la carrera de la IA advierten que podrían perder el control de su propia tecnología, está claro que necesitamos líderes que aborden la adopción de la IA con cautela, responsabilidad y buen juicio.

Por lo general, cuanto más usa la gente una tecnología, menos la teme. Pero la IA va en la dirección opuesta. Según el centro de estudios estadounidense Pew Research Center, la proporción de estadounidenses que se sienten "más preocupados que entusiasmados" con la IA aumentó del 37% en 2021 al 50% en 2025. Una nueva investigación de la Universidad de Bentley y Gallup encuentra que la proporción de personas que dicen que la IA hace más daño que bien también está aumentando, aunque más del 70% se describe a sí mismo como conocedor de la tecnología. Casi la mitad (47%) de los estadounidenses de la Generación Z cree que la IA hace más daño que bien.

Esto no es miedo a lo desconocido. Han usado estas herramientas, así que saben que no están viviendo junto a una superinteligencia divina. Saben que esta es una herramienta que puede usarse de muchas maneras diferentes.

Ahora que la industria está pasando de la IA que genera texto e imágenes a la IA que realiza acciones —mediante agentes que pueden comprar en nombre de las personas—, lo que está en juego es mucho mayor. Esta es lo que creo que es la verdad incómoda sobre los agentes de IA: cuando uno actúa en tu nombre, podría decirse que actúa en tu nombre. Este verano, se le pidió a un modelo de OpenAI que se estaba probando internamente que encontrara estadísticas gubernamentales sobre el gasto en medicamentos en Australia. No pudo encontrarlas, así que encontró su propia forma de entrar en un sistema gubernamental, recuperando archivos y credenciales internos sin dirección ni autorización. En una declaración que explicaba el incidente, OpenAI dijo que había "pausado el entrenamiento y la evaluación que implican el uso de herramientas para nuestros modelos más capaces y reanudará su entrenamiento solo cuando estemos seguros de que tenemos salvaguardas adicionales implementadas".

Imagina un agente de IA que gestiona las devoluciones de tus clientes, los datos de pago o los datos de fidelización. Los riesgos para la moda podrían ser enormes. Antes de que cualquier marca ponga un agente entre ella y un cliente, yo haría cuatro preguntas. ¿Qué se le permite tocar y qué está fuera de los límites? ¿Dónde debe aprobar una persona antes de que gaste dinero, comparta datos o use la imagen de alguien? ¿Quién lo ha probado como lo haría un atacante, antes del lanzamiento en lugar de después? Y si falla, ¿con qué rapidez se enterarán tus clientes por ti? OpenAI tardó meses en descubrir el incidente y notificar a las agencias australianas afectadas; eso es inaceptable según mi estándar.

Rumman Chowdhury en el Foro de Perspectivas sobre IA del Senado de Estados Unidos en Washington DC. Foto: Getty Images/Stefani Reynolds.

A menudo me preguntan si la IA es una amenaza existencial para la humanidad. Para una casa de moda, la pregunta más útil es qué puede hacer por tu negocio esta semana. Los empleados escuchan narrativas apocalípticas de un grupo y "adopta o quédate atrás" del otro, y a veces, ambos son el mismo. Ambos bloquean el pensamiento, y ninguno le dice a nadie qué hacer con esta información contradictoria.

Aquí es donde entra el buen liderazgo. No deberías tener miedo de decir: esto es para lo que usamos la IA, esto es para lo que nunca la usaremos, y aquí está quién es responsable cuando sale mal. Diles a tus equipos creativos qué partes de su trabajo no reemplazará la IA, luego haz que tu personal forme parte de las pruebas. Las personas que dirigen tus tiendas y atienden a tus clientes encontrarán fallos más rápido que cualquier demostración de un proveedor. Recompénsalos por informar problemas a tiempo, no por ocultarlos. Usa la IA para servir a tu cliente, no para reemplazar a la persona por la que tu cliente vino.

La autorregulación no se ha ganado la confianza del público en la tecnología, y tampoco se la ganará en la moda. Los clientes confiarán en las marcas que sean claras sobre dónde usan la IA y dónde no, etiqueten las imágenes sintéticas, obtengan consentimiento antes de copiar la imagen de alguien e inviten a revisores independientes a verificar que cumplen sus promesas. Parte de esto ya lo exige la ley. Nueva York exige el consentimiento de los modelos antes de crear una réplica digital de ellos, y etiquetas claras en los anuncios que presentan artistas sintéticos. Todo lo que no esté cubierto por la regulación se reduce a una elección. Aerie tomó esa decisión cuando prometió que no habría cuerpos ni personas generadas por IA en sus anuncios, y el anuncio se convirtió en su publicación de Instagram con más me gusta en un año. Hace años, le dije al Congreso de Estados Unidos que "los frenos te ayudan a conducir más rápido". Sigo creyendo eso. Cada vez que he ayudado a construir IA con salvaguardas exigibles, la gente se volvió más dispuesta a usarla, porque sabía que alguien era responsable si algo salía mal. Los clientes que deciden si confiar en tu marca piensan de la misma manera. Las salvaguardas no son un costo para la marca; son parte de la marca. Las marcas que mantienen a los humanos —y la elección humana— en el centro de su IA serán aquellas en las que los clientes sigan confiando cuando estalle el próximo escándalo.

Preguntas frecuentes
Preguntas frecuentes La responsabilidad de la IA es el nuevo valor de marca



1 ¿Qué significa que la responsabilidad de la IA es el nuevo valor de marca?

Significa que la responsabilidad con la que una empresa usa la IA se está volviendo tan valiosa para su reputación como su logotipo, nombre o la confianza del cliente. Las marcas que usan la IA de manera justa y transparente obtienen una ventaja competitiva; las que no lo hacen corren el riesgo de perder clientes.



2 ¿Qué es la responsabilidad de la IA en términos simples?

Es asumir la responsabilidad de cómo se comportan tus sistemas de IA, asegurándote de que sean justos, transparentes, seguros y que alguien responda cuando las cosas salgan mal.



3 ¿Por qué esto es de repente algo tan importante?

Porque la IA ahora está en todas partes: en la contratación, los préstamos, la atención médica, el servicio al cliente y el contenido. Cuando la IA toma decisiones sesgadas o dañinas, los clientes lo notan y la reacción recae en la marca, no en el algoritmo.



4 ¿En qué se diferencia la responsabilidad de la IA de la ética de la IA?

La ética de la IA trata de principios y de lo que debería hacerse. La responsabilidad de la IA trata de la aplicación: quién responde por los resultados, cómo se solucionan los problemas y cómo demuestras que estás haciendo lo que prometiste.



5 ¿Es esto solo una tendencia de relaciones públicas?

No. Los reguladores están aprobando leyes reales, se están presentando demandas y los clientes están cambiando activamente de marca por cuestiones de confianza. Tiene peso legal y financiero.



6 ¿Cuáles son los beneficios de ser una marca de IA responsable?

Mayor confianza del cliente, mejor protección legal, menos incidentes costosos, contratación más fácil de talento de primer nivel y un verdadero diferenciador en mercados saturados.



7 ¿Qué les pasa a las marcas que ignoran la responsabilidad de la IA?

Se arriesgan a escándalos públicos, multas regulatorias, demandas, boicots de clientes y daños reputacionales a largo plazo que son difíciles de deshacer.



8 ¿Puedes dar un ejemplo de responsabilidad de la IA bien hecha?

Una empresa que etiqueta claramente el contenido generado por IA, publica resultados de auditorías de sesgo, permite a los usuarios apelar decisiones automatizadas y tiene un ejecutivo designado responsable de los resultados de la IA.



9 ¿Y un ejemplo de que sale mal?

Un chatbot de aerolínea que inventa políticas de reembolso o una herramienta de contratación que rechaza silenciosamente currículos de mujeres; ambos llevaron a vergüenza pública y problemas legales para las marcas involucradas.



10 ¿Cómo sé si una empresa es genuinamente responsable o solo habla?

Busca detalles específicos: auditorías publicadas, políticas claras de IA, procesos de revisión humana, mecanismos de apelación y personas designadas a cargo. Declaraciones vagas como "nos preocupamos por una IA responsable"