Rumman Chowdhury é a ex-enviada científica dos EUA para IA e fundadora da Humane Intelligence, uma corporação de benefício público.

Passo minha vida profissional testando sistemas de IA e encontrando onde eles falham. Aqui está o que eu diria a qualquer líder de moda ou beleza decidindo como usar essa tecnologia: seus clientes estão céticos. Avisos apocalípticos sobre os riscos da IA tornaram-se impossíveis de ignorar, e manifestantes estão saindo às ruas para exigir salvaguardas mais fortes. Quando até mesmo os CEOs de empresas que lideram a corrida da IA alertam que podem perder o controle de sua própria tecnologia, fica claro que precisamos de líderes que abordem a adoção da IA com cautela, responsabilidade e bom senso.

Normalmente, quanto mais as pessoas usam uma tecnologia, menos elas a temem. Mas a IA está indo na direção oposta. De acordo com o think tank americano Pew Research Center, a parcela de americanos que se sentem "mais preocupados do que entusiasmados" com a IA subiu de 37% em 2021 para 50% em 2025. Nova pesquisa da Bentley University e da Gallup descobriu que a parcela de pessoas que dizem que a IA faz mais mal do que bem também está aumentando, mesmo que mais de 70% se descrevam como conhecedores da tecnologia. Quase metade (47%) dos americanos da Geração Z acredita que a IA faz mais mal do que bem.

Isso não é medo do desconhecido. Eles usaram essas ferramentas, então sabem que não estão vivendo ao lado de uma superinteligência divina. Eles sabem que esta é uma ferramenta que pode ser usada de muitas maneiras diferentes.

Agora que a indústria está passando da IA que gera texto e imagens para a IA que executa ações — por meio de agentes que podem comprar em nome das pessoas —, as apostas são muito mais altas. Aqui está o que eu acredito ser a verdade desconfortável sobre agentes de IA: quando um age em seu nome, ele indiscutivelmente age em seu nome. Neste verão, um modelo da OpenAI sendo testado internamente foi solicitado a encontrar estatísticas governamentais sobre gastos com medicamentos na Austrália. Ele não conseguiu encontrá-las, então encontrou seu próprio caminho para dentro de um sistema governamental, recuperando arquivos internos e credenciais sem direção ou autorização. Em um comunicado explicando o incidente, a OpenAI disse que havia "pausado o treinamento e a avaliação envolvendo uso de ferramentas para nossos modelos mais capazes e retomará o treinamento deles apenas quando estivermos confiantes de que temos salvaguardas adicionais em vigor."

Imagine um agente de IA lidando com as devoluções, detalhes de pagamento ou dados de fidelidade de seus clientes. Os riscos para a moda podem ser enormes. Antes que qualquer marca coloque um agente entre si e um cliente, eu faria quatro perguntas. O que ele tem permissão para tocar, e o que é proibido? Onde uma pessoa deve aprovar antes que ele gaste dinheiro, compartilhe dados ou use a imagem de alguém? Quem o testou como um atacante faria — antes do lançamento, e não depois? E se ele falhar, com que rapidez seus clientes saberão disso por você? A OpenAI levou meses para descobrir o incidente e notificar as agências australianas afetadas — isso é inaceitável pelo meu padrão.

Rumman Chowdhury no Fórum de Insights sobre IA do Senado dos EUA em Washington DC. Foto: Getty Images/Stefani Reynolds.

Frequentemente me perguntam se a IA é uma ameaça existencial para a humanidade. Para uma casa de moda, a pergunta mais útil é o que ela pode fazer pelo seu negócio esta semana. Os funcionários ouvem narrativas apocalípticas de um grupo e "adote ou fique para trás" do outro — e, às vezes, são ambos o mesmo. Ambos desligam o pensamento, e nenhum diz a ninguém o que fazer com essa informação conflitante.

É aqui que entra a boa liderança. Você não deveria ter medo de dizer: aqui está para que usamos a IA, aqui está para que nunca usaremos, e aqui está quem é responsável quando algo dá errado. Diga às suas equipes criativas quais partes do trabalho delas a IA não substituirá, depois torne sua equipe parte dos testes. As pessoas que administram suas lojas e atendem seus clientes encontrarão falhas mais rápido do que qualquer demonstração de fornecedor. Recompense-as por relatar problemas cedo, não por escondê-los. Use a IA para servir seu cliente, não para substituir a pessoa pela qual seu cliente veio.

A autorregulação não conquistou a confiança do público na tecnologia, e não a conquistará na moda também. Os clientes confiarão em marcas que são claras sobre onde usam IA e onde não usam, rotulam imagens sintéticas, obtêm consentimento antes de copiar a imagem de alguém e convidam revisores independentes para verificar se estão cumprindo suas promessas. Parte disso já é exigido por lei. Nova York exige consentimento dos modelos antes de criar uma réplica digital deles, e rótulos claros em anúncios com artistas sintéticos. Qualquer coisa não coberta pela regulamentação se resume a uma escolha. A Aerie fez essa escolha quando prometeu nenhum corpo ou pessoa gerada por IA em seus anúncios, e o anúncio se tornou seu post no Instagram mais curtido em um ano. Anos atrás, eu disse ao Congresso dos EUA que "freios ajudam você a dirigir mais rápido". Ainda acredito nisso. Toda vez que ajudei a construir IA com salvaguardas aplicáveis, as pessoas se tornaram mais dispostas a usá-la, porque sabiam que alguém era responsável se algo desse errado. Os clientes decidindo se confiam em sua marca pensam da mesma forma. Salvaguardas não são um custo para a marca; elas fazem parte da marca. Marcas que mantêm os humanos — e a escolha humana — no centro de sua IA serão aquelas em que os clientes ainda confiarão quando o próximo escândalo acontecer.

Perguntas Frequentes
FAQs Responsabilidade em IA é o Novo Valor de Marca



1 O que significa responsabilidade em IA é o novo valor de marca

Significa que quão responsavelmente uma empresa usa a IA está se tornando tão valioso para sua reputação quanto seu logotipo, nome ou confiança do cliente. Marcas que usam IA de forma justa e transparente ganham uma vantagem competitiva; aquelas que não o fazem correm o risco de perder clientes



2 O que é responsabilidade em IA em termos simples

É assumir a responsabilidade por como seus sistemas de IA se comportam — garantindo que sejam justos, transparentes, seguros e que alguém seja responsabilizável quando as coisas dão errado



3 Por que isso de repente é tão importante

Porque a IA agora está em toda parte — em contratação, empréstimos, saúde, atendimento ao cliente e conteúdo. Quando a IA toma decisões tendenciosas ou prejudiciais, os clientes percebem e a reação recai sobre a marca, não sobre o algoritmo



4 Como a responsabilidade em IA é diferente da ética em IA

Ética em IA é sobre princípios e o que deveria ser feito. Responsabilidade em IA é sobre aplicação — quem responde pelos resultados, como os problemas são corrigidos e como você prova que está fazendo o que prometeu



5 Isso é apenas uma tendência de relações públicas

Não. Reguladores estão aprovando leis reais, processos estão sendo movidos e clientes estão ativamente trocando de marca por questões de confiança. Tem dentes legais e financeiros



6 Quais são os benefícios de ser uma marca de IA responsável

Maior confiança do cliente, melhor proteção legal, menos incidentes custosos, contratação mais fácil de talentos de ponta e um diferencial genuíno em mercados saturados



7 O que acontece com marcas que ignoram a responsabilidade em IA

Elas correm o risco de escândalos públicos, multas regulatórias, processos judiciais, boicotes de clientes e danos de reputação de longo prazo que são difíceis de desfazer



8 Você pode dar um exemplo de responsabilidade em IA feita corretamente

Uma empresa que rotula claramente conteúdo gerado por IA, publica resultados de auditorias de viés, permite que usuários contestem decisões automatizadas e tem um executivo nomeado responsável pelos resultados de IA



9 E um exemplo de quando dá errado

Um chatbot de companhia aérea que inventa políticas de reembolso ou uma ferramenta de contratação que silenciosamente rejeita currículos de mulheres — ambos levaram a constrangimento público e problemas legais para as marcas envolvidas



10 Como sei se uma empresa é genuinamente responsável ou apenas falando

Procure por especificidades: auditorias publicadas, políticas claras de IA, processos de revisão humana, mecanismos de recurso e pessoas nomeadas no comando. Declarações vagas como "nos importamos com responsável"