Riscos da Inteligência Artificial: dilemas, desafios e pontos de atenção

É inegável que a Inteligência Artificial está revolucionando o mercado e o universo tecnológico. Porém, essa revolução também traz consigo alguns pontos de atenção e riscos da inteligência artificial que não podemos perder de vista na hora de utilizar essa ferramenta da melhor forma e aproveitar seus inúmeros benefícios. Conheça mais a seguir!Leia também:O que é Inteligência Artificial (IA)? Entenda tudo sobre o assunto do momento!

Consumo energético e IA sustentável: Até 2027, a IA consumirá a mesma quantidade de energia que a Argentina

Frequentemente, observamos a associação das IAs com expressões como "feras devoradoras insaciáveis de dados". No entanto, pesquisas recentes revelam uma faceta adicional e igualmente voraz do “apetite” dessas tecnologias: seu elevado consumo energético.Enquanto o público se encanta com as maravilhas dos chatbots e APIs, nos bastidores tecnológicos, a realidade é alimentada por uma infraestrutura de milhares de chips de alto desempenho. Estudos apontam que, nos próximos anos, o consumo energético desses sistemas poderá equiparar-se ao de países inteiros. Isso representa um grande risco que a inteligência artificial traz para o meio ambiente.Um trabalho acadêmico revisado por diversos especialistas, divulgado no último trimestre do ano passado, traz estimativas preocupantes. Em um cenário moderado, é previsto que até 2027 os servidores de IA consumam entre 85 e 134 terawatts-hora (Twh) anualmente. Só para ilustrar, essa quantidade de energia é comparável ao consumo anual de países como Argentina, Países Baixos e Suécia, o que corresponde a cerca de 0,5% do consumo total de eletricidade no mundo.Nesse sentido, o impacto deste consumo energético na emissão global de carbono é notável, variando conforme a origem da energia utilizada pelos data centers — se de fontes renováveis ou combustíveis fósseis.

Empresas de tecnologia devem considerar seu consumo energético — só em 2022, as big techs utilizaram mais de 1% da eletricidade do mundo

Em 2022, os data centers, que sustentam sistemas como a nuvem da Amazon e o motor de busca do Google, utilizaram cerca de 1 a 1,3% da eletricidade global. Este valor não inclui a energia consumida pela mineração de criptomoedas, responsável por um adicional de 0,4%.Todavia, avaliar com precisão o consumo de energia das IAs é um desafio. Empresas como a OpenAI, referência global em IA generativa, divulgam poucos detalhes operacionais, incluindo a quantidade de chips especializados usados. Para estimar o consumo de eletricidade, pesquisadores analisam as vendas de servidores Nvidia A100, considerados o hardware predominante em 95% do mercado de IA.A Nvidia se destaca na produção de hardware para IA, uma posição que parece se manter estável pelos próximos anos. Contudo, a competição no setor é acirrada e a escassez de chips Nvidia se tornou um obstáculo para o crescimento da IA. Com a corrida pela IA, vimos empresas de diferentes portes buscando adquirir esses componentes essenciais.Especialistas da área sugerem que as empresas de tecnologia considerem o consumo energético ao desenvolverem novos hardwares e softwares de IA. Essa preocupação ambiental, entretanto, encontra obstáculos em um mercado focado em avanços rápidos e constantes.Roberto Verdecchia, professor assistente no Laboratório de Tecnologias de Software da Universidade de Florença, argumenta que talvez seja necessário desacelerar o ritmo de inovação para implementar soluções mais sustentáveis. A prioridade não deve ser apenas aprimorar a precisão e a velocidade, mas também considerar o impacto ambiental dessas inovações.

Garbage in, garbage out: qualidade dos dados no treinamento de inteligências artificiais é imprescindível

O ditado "Garbage in, garbage out" (lixo dentro, lixo fora, em tradução literal, e abreviada como GIGO) em computação e IA ressalta a importância crítica da qualidade dos dados de entrada. Se os dados inseridos em um sistema são de baixa qualidade, os resultados produzidos seguirão a mesma tendência.A qualidade dos dados é fundamental em IA, influenciando diretamente o desempenho, a precisão e a confiabilidade dos modelos. Dados confiáveis e precisos permitem que os modelos de IA façam previsões mais acuradas e gerem resultados mais fidedignos. Com isso, é possível aumentar a confiança dos usuários nas aplicações de IA e diminuir os riscos associados erroneamente a inteligência artificial.Além disso, é crucial que os dados utilizados sejam livres de preconceitos, para evitar a replicação e amplificação de vieses na inteligência artificial e nos resultados gerados por ela. A atenção a esses detalhes é essencial para prevenir tratamentos injustos e discriminatórios contra grupos ou indivíduos específicos.Um conjunto de dados diversificado e representativo melhora a capacidade de generalização dos modelos de IA, assegurando sua eficácia e relevância em uma ampla gama de contextos e para diferentes grupos de usuários. Portanto, manter a integridade dos dados é crucial para realizar o potencial completo dos sistemas de IA em termos de entrega de valor, promoção da inovação e garantia de resultados éticos e justos.

O que impacta a qualidade dos dados?

Os problemas comuns relacionados à qualidade dos dados incluem:

• Inconsistência: Diferenças nos dados entre diversos sistemas.
• Imprecisão: Erros decorrentes de falhas humanas, de sistema ou de transferência de dados.
• Incompletude: Ausência de dados por diversos motivos, como falha na coleta, perda na transferência ou exclusão acidental.
• Duplicação: Repetição de entradas de dados, provocando confusão e análises incorretas.
• Desatualização: Dados que se tornam obsoletos rapidamente, especialmente em setores dinâmicos.
• Irrelevância: Acúmulo de dados que não contribuem para análises eficientes.
• Desafios da segurança de dados

Em síntese, as ferramentas de IA democratizam o acesso a grandes conjuntos de dados. Seu uso permite que indivíduos e organizações encontrem insights e gerem conteúdo em resposta a inputs humanos quase em tempo real. Contudo, os princípios de proteção de dados, como a limitação de finalidade, a minimização de dados e o tratamento especial de dados sensíveis, permanecem fundamentais para mitigar os riscos da inteligência artificial.

A preocupação com a transparência dos dados já é uma realidade

Modelos como o ChatGPT já enfrentaram escrutínio de entidades reguladoras, como a Autoridade Italiana de Proteção de Dados, devido às normativas do GDPR. O desafio para reguladores e Chief Information Security Officers (CISOs) é compreender de forma clara quais dados foram utilizados no treinamento do LLM e como esses dados confidenciais são manuseados após o treinamento, bem como monitorar as entradas dos usuários.O ChatGPT informa que foi treinado com uma ampla variedade de dados textuais da internet, mas assegura que não acessa informações pessoais dos usuários. Contudo, a falta de transparência sobre os dados de treinamento e a dificuldade em rastrear a proveniência dos dados representam desafios significativos.As organizações enfrentam dificuldades em identificar exatamente quais dados possuem, de onde vieram e como garantir uma linhagem de dados auditável e confiável. Essa incerteza torna quase impossível afirmar com certeza que um conjunto de dados de treinamento não contém informações pessoais, aumentando o risco de vazamento acidental de dados sensíveis.Portanto, a segurança dos dados em ambientes de IA é uma questão complexa e multifacetada, exigindo atenção contínua tanto dos desenvolvedores de IA quanto dos reguladores e profissionais de segurança da informação.Leia também:Shadow AI: O que é, quais os riscos e como evitar