Governança GenAI: IA responsável para todos

A inteligência artificial generativa abre um universo de oportunidades para empresas, impulsionando a criação de conteúdo, o desenvolvimento de produtos e a eficiência. Mas como garantir o uso ético e responsável dessa tecnologia disruptiva? A governança da IA Generativa surge como um escudo essencial, blindando as empresas contra os riscos e desafios dessa nova fronteira.

O que é governança da IA Generativa?

A governança da IA Generativa refere-se a um conjunto de práticas e princípios destinados a garantir o uso responsável e ético da IA. Com a crescente adoção de GenAI, as empresas precisam estabelecer políticas claras para gerenciar o desenvolvimento e a implementação dessa tecnologia.

Governança de dados na era da IA Generativa

O estudo da Boston Consulting Group (BCG), intitulado The Solution to Data Management’s GenAI Problem? More GenAI, destaca o potencial da inteligência artificial generativa para transformar a governança de dados em um processo mais eficiente e automatizado. Segundo o levantamento, os algoritmos da GenAI, quando treinados com vastas quantidades de dados não estruturados, podem reduzir a carga de trabalho da equipe de governança ao criar rótulos de metadados, anotar informações de linhagem, aumentar a qualidade e aprimorar a limpeza de dados, além de gerenciar a conformidade com políticas e o anonimato das informações.

Apesar do crescente uso da GenAI para melhorar o atendimento ao cliente e criar valor para os negócios, muitas empresas ainda precisam adaptar suas estratégias, políticas e capacidades para garantir que os dados sejam seguros, precisos e disponíveis. Quando bem implementada, pode separar informações de privacidade ou propriedade intelectual, liberando os profissionais para se concentrarem em funções estratégicas e expandirem os negócios.

O BCG recomenda que os chief data officers (CDOs) preparem a base de dados que será utilizada pela inteligência artificial generativa antes de incorporá-la nos processos de governança e gestão de dados da empresa.

O estudo aponta os 6 principais usos no gerenciamento de dados:

1. Classificação de metadados: a GenAI pode criar descrições para dados não estruturados, como fonte, direitos de uso e relações com outras informações. Isso permite que algoritmos cumpram regulamentos e políticas.
   
2. Obtenção da linhagem das informações: captura e mantém a linhagem dos dados, otimizando o tempo e a eficiência das equipes de governança.
   
3. Curadoria de dados: podem acelerar e automatizar tarefas como remoção de duplicatas, padronização de formatos e preenchimento de lacunas.
   
4. Remoção de ruídos: a tecnologia sintetiza dados e remove “ruído” irrelevante, corrompido ou inutilizável, garantindo resultados confiáveis.
   
5. Gerenciamento de conformidade: bases de conhecimento alimentadas por GenAI realizam verificações de conformidade e recomendam ações, promovendo a observância de políticas de dados.
   
6. Anonimação de dados: remove informações sensíveis ou pessoais, garantindo confidencialidade e privacidade.

Benefícios da governança com GenAI:

A governança robusta da inteligência artificial generativa é a chave para desbloquear todo o seu potencial, impulsionando a confiança, a inovação e a sustentabilidade em diversos setores.

• Confiança amplificada:

Uma governança eficaz gera confiança na IA generativa, dissipando dúvidas e receios relacionados ao seu uso. Ao estabelecer princípios claros e éticos, as empresas podem promover a adoção responsável dessa tecnologia em diversos setores, desde a saúde até a educação. Essa confiança aumentada incentiva a colaboração e o compartilhamento de conhecimento, impulsionando o desenvolvimento e sua aplicação de forma mais ampla e benéfica.

• Inovação desbloqueada:

Um ambiente seguro e ético é essencial para que a GenAI floresça e alcance seu pleno potencial inovador. Ao estabelecer diretrizes claras e transparentes, as empresas podem estimular a criatividade e a experimentação responsável, abrindo caminho para o desenvolvimento de novos produtos, serviços e soluções inovadoras. Isso pode impulsionar o crescimento econômico, gerar novas oportunidades de emprego e melhorar a qualidade de vida das pessoas.

• Riscos mitigados:

A governança eficaz é fundamental para minimizar os riscos potenciais associados à utilização da GenAI. Ao implementar medidas de segurança e controle adequadas, as empresas podem proteger-se de danos e repercussões negativas, como violações de dados, discriminação algorítmica e uso indevido da tecnologia.

• Sustentabilidade aprimorada:

A GenAI tem um enorme potencial para promover a sustentabilidade em diversos setores. Por exemplo, pode ser utilizada para otimizar a cadeia de suprimentos, reduzir o desperdício de energia e desenvolver soluções energéticas renováveis. Uma governança eficaz garante que essa tecnologia seja utilizada de forma responsável e sustentável, contribuindo para um futuro mais verde e próspero para o planeta.

Desafios

Implementar uma governança eficaz para a IA Generativa apresenta diversos desafios. Um dos principais é a necessidade de equilibrar a inovação com a segurança. Sem um controle adequado, a IA pode apresentar riscos significativos, como viés discriminatório e problemas de privacidade. Giuliane Paulista, gerente executiva de IA e Analytics do Banco do Brasil, destaca que “a governança ganha uma importância muito grande” no contexto da IA Generativa.

Outro desafio significativo é a falta de padronização. Com a adoção crescente da GenAI, diferentes departamentos dentro de uma empresa podem começar a usar a tecnologia de maneiras diversas e não regulamentadas, levando a inconsistências e riscos de segurança. Telma Luchetta, líder de estrutura de dados e IA na América Latina da EY, menciona que “o aspecto político é o mais difícil” quando se trata de implementar uma governança eficaz. Isso se refere à necessidade de coordenação entre várias partes interessadas e à obtenção de consenso sobre as melhores práticas e normas.

Oportunidades

Apesar dos desafios, a governança da IA Generativa também oferece inúmeras oportunidades. Quando bem implementada, ela pode acelerar a inovação e aumentar a competitividade das empresas. O engajamento e adesão à governança são cruciais para o sucesso. Práticas robustas de governança podem levar a um uso mais eficiente e seguro da tecnologia, resultando em maior confiança dos clientes e melhores resultados de negócios.

Um exemplo concreto de oportunidade é a possibilidade de usar essa tecnologia para otimizar processos internos, como a análise de dados e a automação de tarefas repetitivas. Isso não só aumenta a eficiência operacional, mas também libera os funcionários para se concentrarem em atividades de maior valor agregado. Além disso, a personalização dos serviços oferecidos aos clientes pode ser aprimorada, resultando em uma experiência mais satisfatória e aumentando a fidelidade do cliente.

Estratégias para implementação

Para implementar uma governança eficaz, as empresas devem seguir algumas estratégias fundamentais. Primeiramente, é essencial estabelecer um laboratório dedicado ao desenvolvimento e teste de IA, garantindo que a tecnologia seja segura antes de sua implementação em larga escala. Além disso, a formação de um centro de treinamento de robôs pode ajudar a manter a qualidade e a precisão das respostas.

Outra estratégia importante é a definição de KPIs e processos claros para monitorar o desempenho dos modelos de IA. Isso inclui tanto a avaliação de custo quanto a medição de impacto. Um exemplo de sucesso na implementação dessas estratégias é o Banco do Brasil, que antes de desenvolver um modelo de IA, já estabelece princípios e condições de governança que devem ser atendidas.

Casos de uso e exemplos práticos

Empresas ao redor do mundo estão adotando a governança da IA Generativa de maneiras inovadoras. A Salesforce, por exemplo, revela que 49% da população em geral já usa a IA Generativa, sendo 34% diariamente. No entanto, a adoção em empresas ainda é lenta, expondo-as a riscos. Implementar uma governança robusta ajuda a mitigar esses riscos e maximizar as oportunidades.

O Banco do Brasil também é um exemplo de sucesso. Utilizando a IA para melhorar processos internos e serviços ao cliente, o banco destaca a importância da governança. Eduardo Rubik, gerente de validação de modelos de IA e machine learning do BB, observa que a IA Generativa “deixou os riscos mais evidentes”, enfatizando a necessidade de uma governança eficaz. Rubik afirma que o trabalho com dados de pessoas, conhecido como “people analytics”, exige ética para evitar uma tendência discriminatória. Ele destaca que “grandes empresas contratam filósofos para trabalhar com IA”, reforçando a importância de um desenvolvimento ético e responsável.

Caminho para sucesso

Para garantir o sucesso na adoção da GenAI, as empresas podem seguir um caminho estruturado em etapas distintas. Inicialmente, é vital promover experimentos através de casos de uso descentralizados. Nessa fase, as empresas podem testar suas diferentes aplicações em um ambiente controlado, identificando quais soluções trazem os melhores resultados e quais ajustes são necessários para otimizar a tecnologia.

A próxima etapa é empoderar as equipes e alinhar a governança. Isso inclui a padronização de processos e a implementação de diretrizes claras para o uso da IA. A formação de equipes dedicadas à curadoria de dados e ao desenvolvimento de aplicações pode ser uma estratégia eficaz para garantir que o sistema esteja funcionando corretamente e fornecendo resultados precisos e confiáveis

Por fim, é o momento de capacitar os negócios para o uso seguro dessa tecnologia em larga escala. Nesta fase, a IA deve estar totalmente integrada aos processos da empresa, proporcionando vantagens competitivas significativas. A padronização de respostas, a definição de diretrizes, a realização de treinamentos e a implementação de controles de prompt são essenciais para garantir que a IA continue a oferecer valor de maneira consistente e segura.

Segurança e uso ético

Um dos principais aspectos da governança da IA Generativa é garantir a segurança e o uso ético da tecnologia. Isso inclui a mitigação de riscos, a atenção à rastreabilidade e transparência das decisões e a criação de normativas contendo orientações sobre melhores práticas. É importante um laboratório dedicado para coordenar os desenvolvimentos e de um centro de treinamento de robôs para garantir que a IA seja alimentada com informações de qualidade e responda corretamente.

Além disso, a formação de squads com equipes de privacidade de dados pode ajudar a garantir que a IA esteja em conformidade com as normas de proteção de dados e os requisitos regulatórios. Essas medidas são fundamentais para construir a confiança dos clientes e stakeholders na tecnologia.

Priorização de Iniciativas

O processo de escolha dos casos de uso de GenAI dentro das organizações exige um equilíbrio entre investimentos e o retorno esperado. A definição de KPIs e processos para colocar uma habilitação em produção é fundamental nesses momentos. Indicadores de performance do modelo e gerenciamento de custo são exemplos que compõem a jornada de avanço de uma aplicação para a fase de pós-experimentação.

Enquanto o acompanhamento de performance de modelo diz respeito ao cumprimento dos processos de curadoria de dados para reduzir o esforço de manutenção da continuidade da aplicação, o acompanhamento de custo se baseia na disponibilidade de funding que a área de negócios demandante precisa ter para manter a aplicação funcionando após o custeio inicial do laboratório na fase de experimentação.

Uso em escala

Um dos maiores desafios do uso em escala é a padronização de respostas. Tendo isso em vista, lideranças apontam que a definição de guidelines, treinamentos, controles de prompt e formação de personas fazem diferença. Para lidar com isso, dois times de curadoria podem entrar em ação: um focado na padronização de documentos e informação e outro time com atuação qualitativa responsável por coletar feedbacks de amostras e melhorar prompts.

Para avaliar o resultado das habilitações em cenários de escala, a segmentação de usuários também se mostrou fundamental. Dividir em grupos de uso que consideram diversos recortes de perfil, como por exemplo a senioridade dos colaboradores que serão usuários, ajuda na mensuração de impactos e aprendizado sobre o que deve ser priorizado entre tantas iniciativas.

Para concluir, o processo de rollout também se beneficia dessa segmentação. Quando realizada por grupos de uso, permite adaptar as aplicações da GenAI às necessidades e particularidades do novo grupo que vai usar.

Transformação setorial: governança e inovação

A GenAI está inovando vários setores, impulsionando eficiência, competitividade e responsabilidade:

Setor financeiro: essa tecnologia desenvolve modelos de análise de risco e crédito mais precisos e transparentes, combatendo vieses e discriminação algorítmica, além de criar produtos financeiros personalizados e seguros. Automatiza também tarefas complexas de forma responsável e implementa chatbots éticos e transparentes.

E-commerce e varejo: otimiza preços e promoções de maneira transparente, gerencia estoque de forma sustentável e melhora a experiência do cliente respeitando sua privacidade.

Saúde: permite diagnósticos precisos, desenvolve tratamentos personalizados e monitora pacientes remotamente com segurança.

Indústria: automatiza tarefas de produção, prevê falhas em equipamentos, otimiza cadeias de suprimentos de forma sustentável e desenvolve produtos éticos.

Educação: personaliza o aprendizado, fornece feedback imediato e automatiza tarefas administrativas, criando ambientes de aprendizado interativos.

Considerações finais

A governança da IA Generativa é crucial para equilibrar inovação e responsabilidade ética. As empresas que implementam práticas robustas de governança estarão em vantagem, protegendo contra riscos e aumentando a confiança e o valor gerado pela IA.

Lidar com grandes volumes de dados, especialmente os não estruturados, exige processos claros de rotulação, classificação e remediação. Nomear um oficial de ética em IA e capacitar equipes especializadas garante o uso seguro e regulamentado da tecnologia.

A IA Generativa pode transformar setores como finanças, saúde e educação, promovendo eficiência e inovação. Com uma abordagem responsável, as empresas podem obter vantagens competitivas significativas e contribuir para um futuro mais ético e sustentável.