Não tenho pessoalmente dúvidas de que a adoção e integração da Inteligência Artificial Generativa (GenAI) nas empresas já está (e vai continuar ainda mais) revolucionando a forma como os negócios operam, inovam e competem.
Por isto mesmo, os conselhos de administração e seus comitês técnicos de assessoramento, como o de riscos (CoRis) e o de auditoria (CoAud), têm todos um papel relevante na direção e supervisão dessa transformação tecnológica que estamos vivendo, garantindo assim que as empresas não apenas aproveitem as oportunidades oferecidas pela GenAI, mas também gerenciem os riscos associados (que são muitos e todos novos).
Queria falar abaixo um pouco mais sobre os principais pontos que os conselhos devem considerar ao lidar com a GenAI, como: a transição da GenAI de uma tecnologia emergente e amplamente discutida para uma ferramenta que proporciona valor tangível aos negócios, passando da experimentação para a implementação em larga escala, destacando a diferença de perspectivas entre diretores e executivos de C-suite sobre os impactos da GenAI e a importância de construir confiança na tecnologia.
Bom falar sobre as formas pelas quais a GenAI pode gerar valor nos negócios, desde a melhoria da produtividade dos trabalhadores do conhecimento até a aceleração do desenvolvimento de novos produtos e serviços, através de estratégias de implementação, como a abordagem de cima para baixo e de baixo para cima, e a importância de quantificar o retorno sobre o investimento para a implantação da GenAI.
Como falamos, a adoção da GenAI traz uma série de riscos que precisam ser gerenciados de maneira proativa, por isto bom olhar para as preocupações principais dos diretores, como a precisão dos dados, cibersegurança e privacidade de dados, e como esses riscos podem ser mitigados, além da conformidade regulatória, propriedade intelectual e reputação, e estratégias de mitigação específicas.
A supervisão eficaz da GenAI pelo conselho de administração requer uma abordagem estruturada e abrangente, com a supervisão do conselho, incluindo a estruturação da governança, benefícios e riscos a curto e longo prazo, esforços de governança e políticas da gestão, monitoramento da conformidade regulatória e proteção contra ameaças adversas, além da importância da educação contínua e da expertise no conselho para supervisionar efetivamente a GenAI.
Por fim, queria falar abaixo sobre a liderança da GenAI entre os membros do C-suite, destacando as responsabilidades específicas do CEO, CTO/CIO e outros executivos, assim como uma nova figura entre os "C": "Chief AI Officer (CAIO)", e as considerações do conselho para garantir que a gestão tenha políticas robustas e uma estrutura de governança clara para a GenAI.
Mas vamos detalhar mais abaixo um pouco mais sobre todos estes pontos acima.
A Inteligência Artificial Generativa (GenAI) tem sido um dos tópicos mais discutidos nas altas esferas executivas, movendo-se rapidamente do status de uma tecnologia emergente para uma ferramenta essencial na criação de valor nos negócios. Este movimento reflete uma transição clara: de simples experimentações para a aplicação em larga escala e transformação potencial das operações empresariais.
Transição de Experimentação para Aplicação em Larga Escala:
A GenAI continua (ou pelo menos deveria) a atrair a atenção de conselhos, seus comitês e das equipes de gestão, algo que está mudando rapidamente da fase de experimentação para a busca de valor comercial tangível, com retornos financeiros mensuráveis.
Pesquisas recentes ilustram onde muitas empresas se encontram atualmente em sua jornada com a GenAI e para onde estão se dirigindo nos próximos 12 meses, tanto da perspectiva dos diretores quanto dos executivos de C-suite.
Uma ligeira maioria dos conselheiros (51%) afirma que suas empresas estão explorando ativamente as capacidades que a GenAI oferece através de pilotos seletivos e provas de conceito, enquanto que quase 20% dos conselheiros indicam que suas empresas, os primeiros adotantes, já começaram a escalar a GenAI amplamente em suas operações, e 4% veem a tecnologia como já central para suas operações empresariais.
Este movimento deve se acelerar, à medida que dois terços dos executivos de C-suite planejam investir bastante dinheiro em GenAI nos próximos 12 meses, sendo direcionado principalmente para a construção de programas de governança responsáveis de GenAI, aquisição de tecnologia GenAI, treinamento da força de trabalho e melhoria da experiência do cliente.
Divergência de Perspectivas entre Conselheiros e Executivos de C-suite:
Interessante ver que as perspectivas dos conselheiros e dos executivos de C-suite sobre o impacto principal esperado da GenAI são diferentes, pois enquanto que a maioria dos executivos de C-suite espera que a GenAI leve à criação de novos modelos de negócios (54%) e/ou novas fontes de receita (46%), do outro lado a maioria dos conselheiros (69%) (entre eles eu) olham no curto prazo apenas melhorias na eficiência operacional.
Apesar dessas diferenças, há um consenso geral sobre a importância de continuar construindo confiança na GenAI e focar em processos de gestão de riscos, qualidade dos dados e cibersegurança para que o valor comercial seja realizado, assim como também um reconhecimento crescente de que a GenAI impactará muitos riscos empresariais previamente na agenda do conselho.
Compreendendo a Tecnologia sob a Perspectiva do Conselho:
Conscientização Instantânea: Enquanto versões anteriores de IA levaram muitos anos para serem adotadas em larga escala pelas empresas, as versões de GenAI para consumidores chegaram a quase todos os smartphones e PCs em questão de meses, o que reduziu radicalmente o tempo de conscientização e adoção em larga escala.
Investimento Mínimo: A maioria das empresas não precisa investir na construção de seus próprios modelos de linguagem grandes (LLMs) para implantar a GenAI, pois já foram construídos por dezenas de empresas de tecnologia que investiram bilhões de dólares em seu treinamento. Mas as empresas ainda precisam investir em tecnologia e dados para conectar esses LLMs aos seus negócios, mas os custos principais já foram cobertos, assim como as empresas podem acessar esses modelos facilmente por uma taxa de assinatura mensal.
Centrado nas Pessoas: A maior parte do benefício comercial esperado da GenAI vem do aumento da produtividade dos trabalhadores do conhecimento, e não de sua substituição. Isso inclui atividades como leitura de documentos, síntese de informações, redação de resumos iniciais e escrita de código de computador.
Evolução Contínua: A GenAI continua a evoluir rapidamente, tornando a supervisão do conselho particularmente desafiadora, e as tendências tecnológicas a serem observadas incluem o desenvolvimento de versões mais poderosas de LLMs, a integração de modelos incorporados em softwares empresariais populares e a promessa dos modelos de ação grandes (LAMs) de automatizar ações repetitivas dentro dos processos empresariais.
A geração de valor nos negócios com a Inteligência Artificial Generativa (GenAI) exige uma compreensão profunda das suas capacidades e uma aplicação estratégica em várias áreas operacionais, e o desafio agora é como as empresas podem transformar a GenAI de uma tecnologia emergente em uma ferramenta essencial para impulsionar a produtividade, inovação e eficiência.
Mudança no Cotidiano dos Trabalhadores do Conhecimento:
A implementação da GenAI em escala está fundamentalmente ligada à mudança no que as pessoas fazem diariamente e como elas trabalham, e para atingir melhorias na produtividade, é necessário não apenas fornecer novas ferramentas tecnológicas, mas também promover mudanças comportamentais significativas, que talvez seja o maior desafio na minha opinião.
Já percebemos que a GenAI é particularmente adequada para tarefas que consomem tempo e não são inspiradoras, como redação, leitura, síntese de informações, relatórios, comentários e estruturação de dados, assim como também como uma ferramenta poderosa na codificação de software e na obtenção de eficiências significativas em interfaces com clientes e centros de atendimento.
Fazendo uma conta simples, usando a "matemática da produtividade" com a GenAI é teoricamente simples: fornecer uma nova ferramenta poderosa e treinamento para um trabalhador do conhecimento, liberando talvez 30% do tempo atualmente gasto, e reinvestir essas horas em algo igualmente ou mais produtivo para a empresa. Aplicando o mesmo princípio a um vendedor, a empresa pode aumentar a receita proporcionalmente ao aumento das horas dedicadas às vendas. Multiplicando isso pelo número de trabalhadores do conhecimento que podem fazer o mesmo, se equipados com as ferramentas e treinamentos corretos, o potencial benefício pode ser significativo e difícil de resistir para muitas empresas.
Desenvolvimento de Novos Produtos e Serviços:
Mas a GenAI também pode ser implantada ao longo de toda a cadeia de valor de várias maneiras, desde acelerar o processo de desenvolvimento de produtos até compreender melhor as necessidades dos clientes e testar novas ofertas nos modelos GenAI.
Esses modelos podem ser instruídos para simular como um cliente com certas preferências reagiria a novos recursos.
Além disso, a funcionalidade da GenAI pode ser incorporada aos produtos atuais da empresa, tornando-os mais poderosos, fáceis e rápidos de usar. Este fenômeno está ocorrendo hoje em muitos setores.
Capturando Valor em Escala:
A captura de valor em escala pode ser realizada através de uma combinação de inovação de cima para baixo e de baixo para cima. Inicialmente muitas empresas adotaram uma abordagem de cima para baixo, escolhendo casos de uso individuais para impulsionar pilotos de prova de conceito, demonstrando valor e, em seguida, expandindo a solução para um número maior de pessoas. No entanto, alguns pilotos não cumpriram suas promessas, pois os casos de uso escolhidos não eram adequados para a tecnologia ou poucas funções se beneficiariam da solução.
Aprendendo com isso, algumas empresas estão explorando "fábricas de casos de uso" para aplicar etapas de processo replicáveis e rapidamente desenvolver novas aplicações com maiores taxas de sucesso.
Já outras empresas estão usando uma abordagem de baixo para cima, fornecendo ferramentas GenAI (com diretrizes) para muitos funcionários em diferentes funções e incentivando o uso da tecnologia no trabalho diário. Monitorando os usos mais produtivos, as empresas podem escalar o que funciona em toda a empresa.
Para garantir a captura do valor, os funcionários precisam adotar as ferramentas, compartilhar ideias e reinvestir horas liberadas em áreas mais produtivas, o que frequentemente consome tempo e testa a capacidade de uma empresa em promover a mudança comportamental necessária em larga escala.
Algumas empresas estão tentando combinar ambas as abordagens, começando com uma análise de onde muitos trabalhadores do conhecimento gastam mais tempo e, em seguida, direcionando o desenvolvimento de casos de uso da GenAI especificamente para aumentar essas tarefas.
Estamos em um momento de exploração e tentativa e erros para achar nosso caminho, mas a direção já sabemos que temos que tomar.
Quantificação do Retorno sobre o Investimento:
A quantificação do retorno sobre o investimento (ROI) para a implementação da GenAI em escala está se tornando uma prioridade para muitas empresas e conselhos, o que é sempre desafiador neste momento, começando primeiro antes de mais nada com a dificuldade de quantificar o benefício, pois o ganho de produtividade depende de quantas horas podem ser liberadas para os trabalhadores do conhecimento e onde essas horas são reinvestidas. Parte do benefício pode ser capturada simplesmente proporcionando acesso seguro a uma ferramenta GenAI independente, sem dados proprietários, o que é rápido e barato. No entanto, uma porção significativa do benefício exigirá que as ferramentas acessem dados proprietários necessários para trabalhos de maior valor agregado, o que demandará investimento e tempo para implementação.
A adoção da Inteligência Artificial Generativa (GenAI) traz consigo uma série de riscos operacionais, legais, regulatórios e técnicos que precisam ser gerenciados e mitigados para garantir uma implantação segura e eficaz da tecnologia, então queria detalhar abaixo uma visão detalhada sobre como os conselhos de administração e seus comitês técnicos, em especial o de riscos (CoRis) podem ajudar a gerenciar esses riscos, abordando desde a precisão dos dados até a conformidade regulatória.
Preocupações Principais dos Conselheiros:
Vejo que os conselheiros estão mais preocupados com a confiabilidade dos dados e resultados suportados pela GenAI, segurança cibernética e privacidade de dados, afinal esses riscos são críticos e precisam ser abordados de maneira proativa pela gestão e supervisionados pelo conselho.
Precisão dos Dados e Resultados: A principal preocupação dos conselheiros é em relação à precisão dos dados, que pode ser comprometida por fatores como má qualidade dos dados ou ações maliciosas, como o envenenamento de dados. E assim resultados inaccurados podem surgir tanto de dados de entrada incorretos quanto de algoritmos aprendendo algo errado ou produzindo respostas falsas ("alucinações"). Para mitigar esses riscos, a gestão pode adotar diversas medidas, incluindo a limpeza dos dados, instruir o modelo a desconsiderar certas fontes de informação ou evitar responder se não tiver certeza. Aplicações da GenAI devem sempre incluir um "humano no loop" antes de qualquer ação ser tomada, e todos os resultados devem ser tratados como rascunhos iniciais, não relatórios finais.
Segurança Cibernética: A GenAI pode ser usada para criar códigos maliciosos e aprimorar fraudes, como deep fakes e phishing, aumentando tanto a quantidade quanto a qualidade das ameaças cibernéticas, elevando significativamente a exposição ao risco cibernético. Por isto mesmo as empresas precisam reavaliar suas estratégias de segurança cibernética para lidar com essas novas ameaças. Isso pode incluir o fortalecimento das defesas cibernéticas e a implementação de novas medidas de segurança especificamente voltadas para os riscos associados à GenAI.
Privacidade de Dados: A privacidade de dados deve ser uma grande preocupação devido ao foco regulatório crescente e à complexidade das leis de privacidade. A questão central é se os modelos de GenAI incluem dados sujeitos a regulamentação de privacidade e se há permissão para usar esses dados. De qualquer forma as empresas devem garantir que estão em conformidade com todas as regulamentações de privacidade aplicáveis e que possuem políticas robustas para proteger a privacidade dos dados utilizados e gerados pela GenAI.
Outros Riscos Novos Emergentes:
Além dos principais riscos mencionados acima, ainda existem outros riscos que merecem sua atenção na minha opinião, ainda mais com a adoção desta nova em larga escala em produção, e deixando de ser uma mera experimentação.
Riscos de Conformidade: Com a aprovação do AI Act pela União Europeia, a primeira tentativa de regular a IA internacionalmente, surgem novos desafios de conformidade. O AI Act cobre qualquer entidade que use um sistema de IA na UE e impõe penalidades significativas para violações. Por isto mesmo a gestão deve monitorar e garantir a conformidade com as legislações e regulamentações em evolução, priorizando a supervisão do conselho nessa área.
Riscos de Propriedade Intelectual: Há riscos associados à divulgação inadvertida de informações sensíveis ou proprietárias para um sistema GenAI aberto, bem como ao uso não intencional de propriedade intelectual de terceiros. Por isto mesmo as empresas devem implementar políticas rigorosas para evitar a divulgação não autorizada de informações e garantir o uso adequado de dados de terceiros. Questões de IP devem ser cuidadosamente monitoradas e gerenciadas.
Riscos Reputacionais: É essencial desenvolver uma política de uso responsável da GenAI para gerenciar os riscos que a tecnologia pode representar para indivíduos, empresas e a sociedade. Neste sentido a gestão deve considerar a atualização do código de conduta da empresa para incluir diretrizes sobre o uso responsável da GenAI, baseando-se em frameworks como o AI Risk Management Framework do NIST, que visa aumentar a confiabilidade dos sistemas de IA.
Riscos Transformacionais:
Temos ainda os riscos relacionados à transformação são igualmente importantes, pois podem atrasar ou impedir a adoção da GenAI pelas empresas, entre eles podemos destacar em especial os riscos relacionados às pessoas, como lacunas de talento, necessidade de requalificação e mudanças culturais.
Com o aumento da demanda por profissionais de tecnologia com habilidades relacionadas à IA, as empresas precisarão não apenas de profissionais de tecnologia, mas também de profissionais não tecnológicos adaptáveis e dispostos a aprender continuamente. Será cada vez mais difícil encontrar pessoas preparadas para este novo futuro.
Para mitigar os riscos associados à GenAI, as empresas devem adotar uma série de medidas, que queria listar abaixo:
- Identificação e Avaliação de Riscos: A gestão deve identificar, avaliar e monitorar continuamente os riscos associados à GenAI, considerando se os riscos mais altos valem a pena ser tomados.
- Estrutura de Governança: Implementar uma estrutura de governança robusta e designar um ponto focal de gestão para a GenAI. Assegurar que a estrutura de governança inclua políticas e processos para gerenciar, mitigar, monitorar e relatar os riscos.
- Planejamento de Cenários: Engajar-se em planejamento de cenários para compreender a magnitude e as interdependências potenciais dos riscos associados à GenAI.
- Investimento em Infraestrutura de TI e Qualidade de Dados: Garantir que os investimentos em infraestrutura de TI e qualidade de dados sejam adequados para apoiar o uso seguro e produtivo da GenAI.
A supervisão eficaz da Inteligência Artificial Generativa (GenAI) pelo conselho de administração e seus comitês técnicos exige uma abordagem estruturada e atenta, focada em uma série de diretrizes e práticas de governança, desde a estrutura de governança até as responsabilidades dos membros do conselho.
Foco e Estruturação da Supervisão:
Nos estágios iniciais de desenvolvimento da GenAI, a supervisão geralmente ocorre no nível do conselho pleno e seus comitês técnicos, onde questões estratégicas e transformacionais são discutidas. Mas com a maturidade vindo com os programas de GenAI evoluindo, a supervisão pode se estender a comitês específicos do conselho próprio para o tema, ainda que os comitês de auditoria, comitê de tecnologia ou comitê de riscos possam (e devem) absorver esta responsabilidade.
De qualquer forma a mensagem a ser passada, assim como o conceito das linhas de defesa assim como para os demais riscos, é que a supervisão da GenAI, assim como a da sustentabilidade, é de responsabilidade de todos.
Para começar o conselho e seus comitês devem fazer um inventário de onde a GenAI está sendo utilizada atualmente, focando nas razões para seu uso, quem é responsável pela accountability algorítmica, de quem são os dados utilizados nos algoritmos, como a empresa está monitorando possíveis vieses nos dados e como os riscos de terceiros e quartos são gerenciados.
Benefícios e Riscos a Curto e Longo Prazo:
Outro ponto que os conselhos e seus comitês devem considerar é em relação dos benefícios, e também dos riscos a curto e longo prazo que a GenAI pode trazer para a empresa e sua estratégia, como o aumento da eficiência operacional, novas fontes de receita, inovação em produtos e serviços, mas riscos em relação a precisão dos dados, cibersegurança, privacidade de dados, conformidade regulatória, propriedade intelectual e riscos reputacionais, como falamos acima.
Esforços de Governança e Políticas da Gestão:
A gestão deve desenvolver e manter uma estrutura de governança robusta e políticas para o desenvolvimento e uso da GenAI, que devem abordar alguns pontos relevantes como:
Mecanismos de Proteção e Cultura: Incorporar diretrizes e práticas de compliance que ajudem a impulsionar a confiança e a transparência, em conjunto com os benefícios operacionais ou transformacionais.
Qualidade de Dados e Infraestrutura de TI: Avaliar e adaptar as políticas de governança de dados, qualidade de dados, infraestrutura de TI e cibersegurança em resposta aos requisitos da GenAI.
Mudanças na Força de Trabalho: Analisar como a força de trabalho pode precisar evoluir ao longo do tempo com a adoção da GenAI, incluindo lacunas de talento e necessidades de requalificação.
Investimentos e Retornos Planejados:
Outra responsabilidade importante dos conselhos e seus comitês é que devem supervisionar os investimentos planejados na GenAI e os retornos esperados, incluindo o impacto no orçamento anual e cenários de como o plano financeiro mudará nos próximos três a cinco anos. Por isto, é mesmo importante entender quanto a empresa investiu em GenAI no ano fiscal atual e quanto será orçado para o próximo ano, assim como os benefícios de produtividade esperados se traduzem em ganhos tangíveis para a empresa.
Monitoramento da Conformidade Regulamentar
Já falamos, mas não custa reforçar a importância do monitoramento da conformidade com a legislação e regulamentação em rápida evolução, através de um monitoramento contínuo e de se manter atualizados das exigências regulatórias em evolução e garantir a conformidade com todas as leis aplicáveis.
Proteção contra Ameaças
As empresas devem assegurar que seus projetos e sistemas de GenAI estão protegidos contra ameaças como a segurança cibernética, ao reforçar medidas de cibersegurança para proteger contra ataques que possam comprometer a integridade dos dados e algoritmos da GenAI, e garantir que os dados utilizados e gerados pela GenAI estão protegidos contra acessos não autorizados e violações de privacidade.
Educação e Expertise no Conselho
Outro ponto que acho importante neste momento é que os conselhos e seus comitês devem avaliar se possuem o conhecimento, acesso a especialistas e educação contínua necessários para supervisionar eficazmente o uso da GenAI pela empresa. Devo pensar bem na necessidade de contratação de especialistas externos, assim como estruturar e organizar apresentações da gestão (CISO), e começar a ler mais a respeito e ter conversas com outros mais experientes no tema.
Uma opção é considerar a formação de um conselho consultivo para fornecer informações atualizadas e de alta qualidade específicas sobre GenAI.
Avaliação do Progresso da Jornada GenAI da Empresa
Além disso, olhando para a realidade do dia a dia, os conselhos e seus comitês devem obter uma visão clara da gestão sobre onde a empresa está em sua jornada com a GenAI, quem está liderando os esforços, quais planos estão em vigor e o nível de urgência da gestão em avançar com a GenAI.
Já tinha escrito outro post ainda sugeria algumas perguntas a se fazer, mas aqui vão um pequeno resumo de algumas delas: Quais são as aspirações da empresa para a GenAI e a estratégia para alcançá-las? Quais são os benefícios e riscos a curto e longo prazo para a empresa e sua estratégia devido à GenAI? Como a adoção da GenAI pelos concorrentes e fornecedores afetará a receita e os custos da empresa nos próximos anos? Quanto a empresa investiu em GenAI este ano fiscal e quanto será orçado para o próximo? Onde a GenAI está sendo usada atualmente, quantos funcionários têm acesso seguro às ferramentas de GenAI e como esses dados estão sendo monitorados para qualidade e viés? Quais são os principais riscos relacionados à IA que precisam ser abordados primeiro? Qual é a estrutura de governança e as políticas implementadas para a GenAI?
Outra pergunta comum que tenho ouvido sempre é: "quem é o responsável pela GenAI?"
A "liderança" da Inteligência Artificial Generativa (GenAI) dentro das empresas é sempre uma questão complexa que frequentemente envolve múltiplos membros da alta administração, cada um com responsabilidades e influências significativas.
Sabemos bem que as responsabilidades por liderar e gerenciar a GenAI podem variar bastante dependendo do setor e da estrutura organizacional da empresa, não existindo apenas uma certa, mas sim diferentes abordagens que as empresas estão adotando para designar a liderança da GenAI.
Normalmente o que vemos é que esta liderança da GenAI frequentemente é distribuída entre o CEO e diversos executivos do C-level, desde a tecnologia até a conformidade e a estratégia de negócios, para que sejam adequadamente gerenciados.
- CEO (Chief Executive Officer): Em muitos casos, o que vemos na prática é que o CEO assume a responsabilidade principal pela GenAI, especialmente em setores como serviços financeiros, manufatura industrial, saúde e ciências da vida. A vantagem aqui é que a liderança do CEO é importante para alinhar a estratégia de GenAI com os objetivos gerais da empresa e garantir o compromisso e suporte necessários em todos os níveis da empresa.
- CTO/CIO (Chief Technology Officer/Chief Information Officer): O CTO ou CIO frequentemente desempenha um papel central na liderança da GenAI. Na maioria das empresas este executivo é responsável por vários aspectos da GenAI, sendo o mais influente, além do CEO. O CTO/CIO é responsável pela integração da GenAI na infraestrutura tecnológica da empresa e pela supervisão de sua implementação técnica. Setores como consumo e varejo, energia e produtos químicos, e tecnologia, mídia e telecomunicações frequentemente designam o CIO como o líder principal para GenAI.
- Outros Executivos do C-suite: Outros membros do C-Level, como o CFO (Chief Financial Officer), CRO (Chief Risk Officer) e COO (Chief Operating Officer) também têm responsabilidades significativas em cerca de 30% a 40% das empresas pesquisadas, sendo que estes executivos contribuem com suas expertises específicas para abordar aspectos legais, financeiros, de risco e operacionais da GenAI.
- Criação de Novos Papéis de Liderança para GenAI:
Algo legal que estamos vendo de novo é que um número crescente de empresas (cerca de 45%) já criou (ou está considerando a criação) um papel específico de liderança para GenAI, como o chamado: "Chief AI Officer" ou: "CAIO".
Este papel é designado para coordenar e dirigir todos os aspectos relacionados à GenAI, desde a estratégia até a implementação e governança, assim a criação de um "CAIO" pode ajudar a centralizar a responsabilidade e fornecer uma visão clara e unificada sobre como a GenAI está sendo usada e integrada na organização.
Considerações para a Supervisão pelo Conselho
Por fim, para terminar este longo post, como vimos acima, dada a importância estratégica da GenAI e as complexidades e riscos associados à tecnologia, é fundamental que o conselho de administração e seus comitês se concentrem nas políticas de gestão para o desenvolvimento, implantação e uso da GenAI, e devem assegurar que:
Decisões de Desenvolvimento e Implantação: Haja uma clara determinação sobre como e quando um sistema ou modelo de GenAI será desenvolvido e implantado, e quem toma essas decisões.
Inventário de Uso de GenAI: A empresa mantenha um inventário atualizado de onde a GenAI está sendo usada.
Ponto Focal de Gestão e Equipe Multifuncional: Seja designado um ponto focal na gestão e uma equipe multifuncional com responsabilidades claras para a GenAI.
Políticas de Uso Responsável: As políticas de uso responsável da GenAI estejam alinhadas com os valores da empresa e abordem questões éticas e de conformidade legal.
Gestão e Mitigação de Riscos: Haja processos robustos para gerenciar, mitigar, monitorar e relatar os riscos associados à GenAI.
Conformidade Regulamentar: A empresa esteja atualizada sobre a evolução do cenário regulatório e em conformidade com as leis aplicáveis.
Qualidade dos Dados: A qualidade dos dados de entrada e resultados da GenAI seja monitorada e garantida.
Como podemos ver acima, a adoção da GenAI está oferecendo um potencial transformador significativo para as empresas, mas também exige uma supervisão cuidadosa e bem-informada por parte dos conselhos de administração, e os conselhos e seus comitês técnicos podem garantir que suas empresas não apenas adotem a GenAI de maneira eficaz, mas também maximizem os benefícios enquanto mitigam os riscos associados. A combinação de uma governança robusta, uma abordagem estratégica para a implementação e uma supervisão diligente permitirá que as empresas naveguem com sucesso pelos desafios e oportunidades apresentadas pela GenAI.
Por fim, para os que desejam mais detalhes, recomendo a leitura do documento (em inglês) da KPMG US que fala disto em:
Material indexado pela Okai.
