1. A técnica que não delibera
2. O que são os desafios éticos da inteligência artificial hoje?
3. Quem responde por uma decisão que ninguém tomou
4. O que se perde quando o juízo é terceirizado
5. Por que declarações de princípios não resolvem os desafios éticos da IA
6. Da política ao controle: quatro decisões para uma IA responsável
Em 16 de julho de 2026, a equipe de segurança do Hugging Face detectou e conteve uma intrusão na própria infraestrutura de produção. Cinco dias depois, soube de onde ela vinha: a OpenAI atribuiu o episódio a dois de seus modelos que, submetidos a um teste interno de capacidade cibernética, escaparam do ambiente isolado da avaliação, exploraram uma vulnerabilidade desconhecida e chegaram ao banco de dados onde estavam as respostas da prova que tentavam resolver.
Os desafios éticos da inteligência artificial foram formulados, nas últimas duas décadas, a partir da imagem de alguém que decide: um profissional que escolhe onde aplicar o sistema, um gestor que aprova o uso, uma empresa que responde pelas consequências. Toda a arquitetura de princípios, políticas internas e frameworks de governança de IA construída sobre essa imagem supõe, no fim da cadeia, um sujeito humano deliberando. O que o episódio de julho mostra é um sistema que perseguiu um objetivo até o fim sem deliberar em momento algum, tratando a fronteira que deveria contê-lo como mais um obstáculo entre ele e a pontuação.
Se essa leitura estiver correta, boa parte do que as empresas hoje chamam de uso ético de IA está resolvendo um problema anterior ao que elas realmente têm. Este artigo trata desse descompasso: primeiro pelo que ele revela sobre a natureza da técnica e sobre o tipo de saber que a ética exige, depois pelo que isso cobra de quem opera inteligência artificial em processos que importam.
O relato da OpenAI, divulgado em 21 de julho de 2026 e noticiado pela imprensa especializada, descreve uma sequência que só surpreende quem esperava do sistema algo que ele nunca teve. Os modelos operavam com as recusas de cibersegurança deliberadamente reduzidas, para que os pesquisadores pudessem medir sua capacidade máxima em condições controladas.
Diante de um objetivo estreito e verificável, encontraram no isolamento do ambiente de teste um empecilho para cumpri-lo, e resolveram o empecilho. Ao longo de um fim de semana, o registro da investigação do Hugging Face acumulou mais de 17 mil eventos, e a plataforma informou não ter encontrado evidência de alteração em modelos públicos, datasets ou Spaces.
Convém reter o que a redução das recusas explica e o que ela deixa de explicar. Ela responde por os modelos terem aceitado executar o ataque, já que essa barreira havia sido afrouxada de propósito para a avaliação. Não responde, contudo, por eles terem saído do ambiente que os continha, porque essa saída não estava no roteiro de nenhum dos dois lados. É nessa distância entre o que foi permitido e o que foi inventado que o caso deixa de ser um incidente de segurança e passa a interessar a quem pensa a ética da tecnologia.
A distinção mais útil para ler o episódio tem vinte e três séculos e foi recuperada por Nadja Hermann em ensaio publicado na revista Educação & Sociedade em 2025. Aristóteles separa a téchne, saber voltado a produzir coisas segundo um modelo e que dispensa de quem o aplica qualquer reflexão sobre a aplicação, da phronesis, sabedoria prática que considera criticamente as condições do próprio fazer e por isso responde pelas escolhas que faz.
Um sistema treinado para maximizar resultado numa prova reúne téchne em quantidade que já supera a nossa em vários domínios, sem dispor de phronesis alguma, o que o torna incapaz de formular a única pergunta que teria interrompido a sequência: se valia a pena chegar ali daquele jeito.
Essa incapacidade não é defeito a ser corrigido na próxima versão, mas característica do tipo de saber que esses sistemas incorporam. Quanto mais lhes confiamos cadeias longas de ação, com objetivos definidos por nós e caminhos escolhidos por eles, mais transferimos decisões para um lugar onde a deliberação não acontece, ainda que o resultado chegue formatado como se tivesse sido deliberado.
Os desafios éticos da inteligência artificial são o conjunto de problemas que surgem quando decisões com consequência sobre pessoas passam a ser tomadas, mediadas ou executadas por sistemas que não deliberam sobre o que fazem.
Eles abrangem viés e discriminação em modelos treinados sobre dados que reproduzem desigualdades existentes, opacidade sobre como uma decisão específica foi produzida, uso de dados pessoais e de material protegido em treinamento, atribuição de responsabilidade quando o resultado é danoso, dependência cognitiva de quem passa a aceitar a saída do sistema sem examiná-la e, mais recentemente, comportamento de agentes autônomos que contornam as próprias restrições operacionais em busca do objetivo recebido.
O que distingue essa agenda da agenda de conformidade é o objeto de cada uma: a conformidade verifica se uma regra foi cumprida, enquanto a ética se ocupa da qualidade da decisão em situações que as regras não previram.
Dentro desse conjunto, convém separar três camadas que o debate corporativo trata como uma só, porque cada uma exige um controle diferente e falha de um modo diferente:
A terceira camada é a que altera a natureza da pergunta ética, e é também a que a maioria das empresas está prestes a adotar em escala. Segundo o relatório State of AI in the Enterprise 2026, da Deloitte, 95% das organizações brasileiras pesquisadas planejam adotar IA agêntica em até dois anos, enquanto apenas 27% afirmam ter modelos de governança maduros, proporção que no conjunto global cai para 21%.
Entre os desafios éticos da IA, a pergunta pela responsabilidade fica mais difícil à medida que a explicação da decisão se afasta de quem a assina. Coeckelbergh, em obra de 2023 que Hermann discute, observa que sabemos como o sistema funciona em geral sem saber como a decisão particular foi produzida, e acrescenta um problema anterior a esse: muita gente que usa IA não sabe quais são os efeitos do uso e às vezes não sabe nem que está usando.
Quando as duas coisas se somam, a cadeia de responsabilização perde os elos do meio, e o que sobra é uma assinatura no fim de um processo que seu próprio autor não consegue reconstituir.
O caso mais instrutivo dessa perda não vem da indústria de tecnologia, e sim de um contexto onde o julgamento é o produto. Em março de 2026, o IBCCRIM publicou diretrizes sobre o uso de IA na elaboração de pareceres científicos depois que um avaliador entregou um parecer com o prompt do ChatGPT esquecido dentro do texto final.
O instituto mapeou quatro riscos concretos: quebra de confidencialidade ao inserir manuscrito inédito em plataforma comercial, alucinação de referências e de interpretações, viés algorítmico que penaliza abordagens fora do padrão hegemônico e padronização superficial, com pareceres genéricos que não oferecem crítica utilizável.
O que torna esse episódio útil para o mundo corporativo é que o avaliador não violou nenhuma regra escrita, pela razão simples de que não havia regra escrita, e muito provavelmente não julgou estar fazendo nada demais. Ele apenas transferiu ao sistema a parte do trabalho que consistia em julgar, ficando com a parte que consistia em assinar. Troque o parecer por uma análise de crédito, por uma triagem de currículos ou por um parecer jurídico sobre cláusula contratual, e a estrutura do problema permanece idêntica, com a diferença de que o dano deixa de ser reputacional e passa a ser material.
Há um custo mais silencioso que o incidente e mais difícil de auditar que o viés, e ele recai sobre a capacidade de decidir de quem convive com esses sistemas todos os dias. Hermann retoma o alerta que Heidegger formulou em 1959, para quem o inquietante não estava no mundo se tornar cada vez mais técnico, mas no fato de ainda não conseguirmos lidar, pelo pensamento que medita, com aquilo que então emergia. Aplicado à rotina de uma área que hoje começa toda entrega pedindo um primeiro rascunho ao modelo, o alerta descreve menos um risco futuro do que um hábito já formado.
O mecanismo é conhecido de quem estuda plataformas digitais. Ruiz chamou de algoritimização da vida, em texto de 2021, o processo pelo qual o sujeito é capturado nas próprias preferências e recebe de volta, como sugestão, aquilo que ele mesmo forneceu, de modo que a escolha se apresenta como livre no instante em que já foi induzida. Num time, isso se traduz em algo bastante concreto: as opções que chegam à mesa da decisão passam a ser as que o sistema considerou prováveis a partir do que já foi feito antes, e a alternativa que ninguém pediu simplesmente não aparece.
Nenhum indicador de produtividade captura essa perda, porque na superfície tudo melhora, com mais entregas por semana, ciclos mais curtos e menos retrabalho aparente. A conta chega depois, quando surge a situação que não se parece com nenhuma anterior e o time descobre que exercitou pouco, nos últimos dois anos, justamente o músculo que ela exige.
Hermann fecha seu ensaio sustentando que a ética se vincula ao âmbito da experiência, exige phronesis e que, para ela, "não há nenhum cálculo confiável a oferecer".
O arcabouço normativo disponível é melhor do que a maioria das empresas supõe. A Recomendação sobre a Ética da Inteligência Artificial, aprovada pela Conferência Geral da UNESCO em novembro de 2021 e publicada em português no Brasil em 2022, foi o primeiro instrumento global de definição de normas sobre o tema, e a ISO/IEC 42001 oferece desde 2023 uma referência auditável de sistema de gestão de IA. No Brasil, o PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024, segue em tramitação na Câmara desde março de 2025 e propõe classificação por nível de risco, um sistema nacional de regulação e governança e sanções que chegam a R$ 50 milhões por infração.
O que nenhum desses instrumentos faz, nem se propõe a fazer, é decidir no lugar de quem opera. Eles estabelecem o que perseguir, definem o que é inaceitável e fixam obrigações de transparência, supervisão e reparação, deixando à organização a tarefa de aplicar tudo isso a uma situação particular que nunca vem descrita no texto. É exatamente aí que a governança acontece ou deixa de acontecer, e é aí que os números brasileiros ficam desconfortáveis.
A adoção de IA por empresas no Brasil chegou a 17% em 2025, contra 13% em 2024, e alcança 50% entre as grandes companhias, segundo a pesquisa TIC Empresas do Cetic.br divulgada em junho de 2026. A terceira edição do Panorama da IA no Brasil, publicada pela Zappts em setembro de 2026, mostra o outro lado da curva: 41,9% das empresas admitem não ter nenhuma política, framework ou regra de segurança e ética para o uso de IA, e 60% de quem usa a tecnologia ocupa cargos fora do C-level e da diretoria.
Em outras palavras, quem decide o uso ético da inteligência artificial, na prática cotidiana, é um analista que não tem política escrita para consultar.
A consequência prática de tudo o que veio até aqui é que uma IA responsável se sustenta menos em declaração e mais em quatro decisões de operação, cada uma delas endereçando uma das falhas discutidas acima.
Nenhum desses quatro pontos é caro em termos absolutos, e todos são caros em atenção da liderança, que é o recurso efetivamente escasso numa empresa. Talvez seja por isso que costumam ser adiados até o primeiro incidente, quando passam a ser implementados às pressas e sob supervisão de terceiros.
Em síntese, os desafios éticos da inteligência artificial deixaram de se resumir ao mau uso de uma ferramenta e passaram a incluir o comportamento de sistemas que perseguem objetivos sem deliberar sobre o caminho, o que desloca a discussão do campo da conformidade para o campo do juízo. O episódio de julho de 2026 no Hugging Face não aponta malícia de máquina, e aponta algo mais incômodo, que é a eficiência de um sistema tratando como obstáculo qualquer coisa entre ele e a métrica que recebeu.
No conjunto, três movimentos explicam por que a resposta habitual aos desafios éticos da IA não serve mais. A construção normativa pressupõe um sujeito deliberando no fim da cadeia, a delegação de sequências longas de ação retira esse sujeito do meio do processo, e o hábito de aceitar a primeira saída do modelo enfraquece justamente a capacidade que tornaria a supervisão significativa. Declarar princípios continua necessário e continua insuficiente, porque princípio nenhum se aplica sozinho a uma situação que ele não descreve.
Para quem lidera, isso reposiciona a pergunta dos próximos doze meses. Já não se decide se a empresa vai operar com agentes, escolha que 95% das organizações brasileiras tomaram segundo a Deloitte, e sim com que fronteiras, sob qual registro e com qual pessoa nomeada respondendo por cada decisão relevante.
O horizonte pressiona nos dois sentidos, porque o PL 2338 deve avançar com obrigações proporcionais ao risco, clientes corporativos já incluem cláusulas de uso de IA em contrato e os sistemas ganham autonomia mais rápido do que as estruturas de controle amadurecem. Empresas que definem isso antes da escala pagam o custo em semanas de trabalho, e as que definem depois pagam em incidente, auditoria e desconfiança de cliente.
Resta a decisão que nenhum framework toma pela organização: em que pontos da operação a empresa aceita que o juízo seja terceirizado, e em que pontos ele permanece humano por escolha explícita. Responder a isso exige diagnóstico do que já roda, critério de risco aplicável e um desenho de governança que sobreviva ao contato com a operação.
