IA responsável: governando a IA já presente em sua organização

Carta do Editor

Três maneiras pelas quais a IA entra

A IA entra em qualquer organização de pelo menos três maneiras, e a maioria das políticas de IA responsáveis apenas abrange a primeira. A primeira maneira é a IA que a organização escolhe construir ou adquirir. Para um banco, essa IA pode ser uma ferramenta que decide quem recebe um empréstimo. Para uma empresa agrícola, pode ser um aplicativo que aconselha os agricultores. Para uma fundação, pode ser uma ferramenta que analisa os pedidos de subsídios. A segunda maneira é mais difícil de perceber. A IA agora chega dentro das atualizações normais do software das empresas que gerenciam as contas, os registros de clientes e os pagamentos da organização. A terceira maneira pode ser a mais importante. Os funcionários utilizam ferramentas de IA nos seus próprios telefones e contas porque isso ajuda-os a trabalhar mais rapidamente.

O maior debate sobre IA em setembro abordou um risco diferente. Dario Amodei dirige a empresa de IA Anthropic. Em 12 de setembro, ele argumentou que as empresas de IA que estão desenvolvendo os modelos mais poderosos devem “reduzir o ritmo com o qual estamos a melhorar as capacidades dos modelos de IA”. Sam Altman, da OpenAI, e Elon Musk Concordado em poucas horas. Eu achei interessante que o debate falasse pouco sobre a IA que as organizações já utilizam. Para uma organização que atende pessoas em Nairóbi, Lagos, Chennai, Dhaka ou Bogotá, essa é a área onde a maior parte do risco se concentra atualmente.

Cada uma das três formas pode prejudicar as pessoas a quem a organização serve. Os credores demonstram isso claramente. Uma ferramenta de empréstimo pode recusar um bom mutuante, e ninguém consegue explicar o motivo. Uma atualização de software pode alterar o tom das mensagens de reembolso da noite para o dia. Um funcionário pode colar o cartão de identidade e os dados móveis de um cliente em um aplicativo pessoal de inteligência artificial. Esses dados privados do cliente foram então transferidos para o credor. Para qualquer organização, IA responsável significa evitar essas consequências de todas as três formas, incluindo os sistemas que ela nunca escolheu comprar.

Os primeiros passos são baratos. Pergunte a cinco funcionários de primeira linha o que eles inserem em ferramentas de IA. Escreva uma regra de uma página sobre quais dados de clientes nunca devem ser inseridos em uma ferramenta pública de IA. Pergunte a todos os fornecedores de software, por escrito, quais recursos utilizam IA e quais modelos de IA estão por trás de cada um deles. A diretoria pode então manter uma lista de todas as ferramentas de IA em uso, com uma pessoa nomeada responsável por cada item. A organização permanece responsável por tudo que consta nessa lista, independentemente das promessas dos seus fornecedores. O Portfólio Playbook abaixo transforma esses passos em um plano de um mês.

Há ainda um risco adicional: a própria oferta de IA. Andrew Bailey preside ao Conselho de Estabilidade Financeira (FSB), que reúne os principais reguladores financeiros do mundo. Ele escreveu aos ministros das Finanças e aos presidentes dos bancos centrais dos países do G20, um grupo das maiores economias do mundo. Na carta, publicado em 31 de agosto, ele afirmou que “para o sistema financeiro, a preocupação mais imediata é o potencial impacto da IA avançada no risco cibernético”. Ele também alertou contra a dependência de poucos grandes fornecedores de tecnologia. Para qualquer organização, esse risco é real. A IA alugada de uma empresa pode ser desativada, e a melhor IA de alto desempenho vem principalmente de um único país (veja O custo da migração de IA). Portanto, todas as organizações precisam de um plano para a perda de um modelo de IA.

Accendo Associates Está escrevendo uma série de quatro partes com uma organização parceira sobre como os credores e outros prestadores de serviços financeiros podem elaborar esse plano. Começa com um design simples. A organização se conecta a todos os modelos de inteligência artificial por meio de um único ponto. Nesse ponto, ela decide onde os dados dos clientes serão armazenados e qual modelo executará qual função.

As organizações mais capacitadas para a IA podem não ser as que possuem os modelos mais grandes ou mais recentes. Pelo contrário, podem ser as que sabem o que já está sendo executado dentro delas.

Prateek Shrivastava, sócio-gerente, Accendo Associates

Portfólio Playbook

Um plano prático que um investidor pode implementar com as empresas que apoia neste mês.

Conheça seu AI em apenas quatro semanas

Cada empresa deve começar com uma tarefa. Ela deve descobrir quais os sistemas de inteligência artificial já estão em operação, quem é responsável por cada ferramenta e o que acontece se uma ferramenta parar de funcionar. Um investidor pode solicitar todos os três em um único pedido. Neste plano, inteligência artificial significa qualquer ferramenta que faça previsões, pontuações, classificação ou escrita de algo sem que uma pessoa faça cada passo.

No primeiro mês, uma pequena equipe pode listar todas as ferramentas de IA que a empresa utiliza e apresentar à diretoria o que descobriu. Testar todas as alternativas pode levar mais um ou dois meses, e isso é normal. Duas ferramentas mais adiante nesta edição são úteis. A primeira é quatro perguntas para enviar a todos os fornecedores (veja “Europe and the US Split on AI Rules”). A segunda é uma tabela de alternativas, que mostra o que a empresa mudaria se uma ferramenta de IA parasse de funcionar (veja “The Cost of Switching AI”).

• Primeira semana, a lista. Liste todos os recursos de IA de acordo com as três formas de entrada da tecnologia: inclua o que a empresa construiu ou comprou, o que chegou dentro do software dos fornecedores e o que o pessoal usa em suas próprias contas. Conte também sobre assistentes de chat e ferramentas de codificação. Uma breve pesquisa anonimizada entre a equipe revela recursos que faltam na lista oficial, desde que ninguém seja punido por responder.
• Na segunda semana, os fornecedores. Envie por escrito as quatro perguntas a cada fornecedor. Os grandes provedores de IA raramente preenchem formulários, portanto salve os termos publicados e o link da página na resposta deles. Se um fornecedor não responder após 15 dias úteis, marque como “sem resposta” e apresente a questão na próxima revisão do contrato.
• Terceira semana, a alternativa. Escolha todas as ferramentas de IA que tomam decisões sobre pessoas ou dinheiro. Insira uma linha na tabela de substituição para cada uma delas. A substituição pode ser um segundo fornecedor ou funcionários que realizam o trabalho manualmente por um tempo. Pratique uma mudança para ver quanto tempo isso leva. Verifique também dois pontos que a lei pode exigir. Os dados dos clientes devem permanecer nos locais permitidos por lei, e as pessoas devem poder pedir a uma pessoa que verifique uma decisão tomada por uma máquina.
• Quarta semana, a diretoria. Leve três coisas para a próxima reunião do conselho ou do comitê de risco. São elas: a lista, a pessoa responsável por cada ferramenta e a primeira mudança que a empresa fará. Uma empresa jovem sem conselho pode enviar a mesma nota aos seus principais investidores.

O verdadeiro teste é com as pessoas que a empresa atende. Um bom resultado significa que menos bons clientes são rejeitados, e quem for recusado receberá uma explicação que possa entender. Os dados dos clientes ficam onde devem, e o serviço continua funcionando quando as pessoas mais precisam. Na próxima revisão do portfólio, os investidores poderão solicitar as quatro coisas que o mês produz: a lista, as respostas dos fornecedores, a tabela de fallback e a nota da diretoria.

Portfólio Playbook

As startups podem fazer isso desde o primeiro dia

Empresas jovens podem fazer tudo isso desde o primeiro dia, e isso custa muito menos do que fazer isso mais tarde. Uma startup que está construindo seus primeiros produtos não precisa limpar sistemas antigos. Ela pode configurar sua lista de inteligência artificial, suas perguntas aos fornecedores e sua tabela de fallback no primeiro mês, com o tempo de trabalho de um engenheiro durante algumas semanas. Uma organização estabelecida que faça o mesmo trabalho mais tarde terá que desvendar anos de sistemas. Investidores em empresas em fase inicial, como fundações e fundos de risco, podem solicitar isso antes de investir.

Em agosto e setembro, oito empresas de IA em fase inicial levantaram juntos 32 milhões de dólares, e cada uma delas poderia começar da mesma forma. A Accendo trabalha com investidores e as empresas que apoia, desde empresas em fase inicial até instituições financeiras estabelecidas. Nós ajudamos neste primeiro passo e com o plano de IA que se segue. Se uma empresa que você investiu em se beneficiar, escreva para [email protected].

Líderes

Novas regras responsáveis para IA que podem alcançar suas empresas portfólios através de seus fornecedores e investidores.

Europa e EUA divergem sobre regras de IA

A Europa e os Estados Unidos tratam as regras sobre IA de maneiras diferentes. A União Europeia (UE) possui uma única lei principal sobre IA. Em julho de 2026, ela adiar as regras mais rigorosas até 2 de dezembro de 2027, incluindo as regras para a IA que decide quem recebe crédito. Uma regra está em vigor desde 2 de agosto de 2026: as pessoas devem ser informadas quando estiverem lidando com um sistema de IA.

Os Estados Unidos não têm uma lei nacional sobre IA. Ordem do Presidente de 2025 Tem como objetivo estabelecer uma abordagem nacional e desafiar as leis de IA elaboradas pelos estados individuais. Alguns estados ainda agem sozinhos. Colorado Firmou uma nova lei em maio de 2026, em sistemas informáticos que tomam decisões sobre pessoas. Em 16 de setembro, a Conferência de Supervisores Bancários Estatais (CSBS), o grupo de reguladores dos bancos estatais, divulgou um Lista de verificação de IA que os auditores bancários podem optar por utilizar.

Poucas organizações nos mercados emergentes estão diretamente sob um desses conjuntos de regras, mas ainda assim sentem essas regras de duas maneiras. Os seus fornecedores de software frequentemente vendem nos Estados Unidos e na Europa, pelo que desenvolvem os seus produtos de acordo com essas regras. Os seus investidores frequentemente vêm desses lugares e fazem perguntas com base nessas regras. Assim, na próxima revisão dos fornecedores, qualquer organização pode fazer quatro perguntas por escrito. Quais funcionalidades utilizam IA? Qual modelo de IA está por detrás de cada uma? Para onde vão os dados dos clientes e é utilizada para treinar a IA? Como o fornecedor nos avisará antes de a IA ser alterada? Os investidores podem fazer as mesmas quatro perguntas às suas empresas do portfólio uma vez por ano.

Líderes

A Lei de Inteligência Artificial do Brasil aguarda

A lei de IA do Brasil está suspensa. O deputado Aguinaldo Ribeiro lidera o projeto de lei (Lei 2338/2023) no Congresso. Ele disse no final de agosto que o Congresso votaria sobre isso apenas após as eleições de outubro. Portanto, os credores brasileiros provavelmente não terão uma lei de IA para seguir até o final de 2026.

Até hoje ainda há uma regra a seguir: a lei de proteção de dados do Brasil (LGPD, O Artigo 20) permite que as pessoas solicitem uma revisão das decisões tomadas apenas por um computador. Se você investir em um credor brasileiro, pergunte como ele lida com essas solicitações de decisões de empréstimo atualmente.

Avanços na IA Pequena

A IA foi desenvolvida para funcionar com internet fraca, energia inconstante e computadores mais antigos.

Inteligência artificial do Sudeste Asiático que funciona com menos recursos

Em 18 de setembro de 2026, a AI Singapore, um programa nacional, e a fabricante de chips NVIDIA lançou novos modelos de IA chamados Nemotron-SEA-LION-v4.8. São construídos para idiomas do Sudeste Asiático. Cada modelo é composto por muitas pequenas partes especializadas, e apenas algumas delas funcionam ao mesmo tempo. Isso permite que o modelo mais pequeno funcione em computadores modestos. Ele possui 30 bilhões de parâmetros (as configurações que um modelo aprende), mas apenas cerca de 3 bilhões estão ativos ao mesmo tempo. Ambos os tamanhos também vêm em versões compactadas que podem ser executadas em dispositivos próximos ao usuário. Desde fevereiro, o mesmo programa também oferece SEA-Guard, Modelos de segurança adaptados às línguas e culturas do Sudeste Asiático.

Antes de investir em um produto construído com base nesses modelos, um investidor deve verificar três coisas. Primeiro, verificar a licença, pois a documentação não menciona isso. Em segundo lugar, solicitar resultados de testes no idioma dos clientes. Em terceiro lugar, solicitar o custo real por conversação no dispositivo que executará o aplicativo, medido fora de uma demonstração.

Fluxos de capitais

Para onde o dinheiro da IA foi destinado e para qual parte do sistema de IA foi investido.

Um empréstimo representou 82% do valor total

Nosso Nota do Fundo de Capitais de 28 de setembro As transações de IA ocorreram em cinco regiões do mundo. Entre 1 de agosto e 25 de setembro de 2026, 25 acordos assinados totalizaram US$ 3,79 bilhões. Destes, US$ 3,45 bilhões foram destinados a capacidade de computação, ou seja, a data centers e chips de IA.

Um acordo representou a maior parte do total. A Zankore aluga capacidade de computação de IA na Indonésia. Ela assinou um empréstimo de até US$ 3,1 bilhões com cinco bancos para comprar chips de IA. Esse empréstimo representa 82% de todo o dinheiro. Sem ele, o total cai para US$ 690 milhões e a participação da capacidade de computação cai para 51%.

As empresas que desenvolveram produtos de IA para clientes concluíram 15 das 25 transações, no valor total de 169 milhões de dólares. A maior foi de 125 milhões de dólares para a Kapital Grupo Financiero no México. Oitava startups jovens levantaram 32 milhões de dólares entre si, e três doações adicionaram 11,5 milhões de dólares. O restante não disse quanto arrecadaram.

Leia esses números com duas advertências. Primeiro, o grande empréstimo é contabilizado no seu valor máximo, enquanto os outros acordos são investimentos e subvenções. Assim, os números mostram para onde o dinheiro foi destinado, mas não representam uma comparação justa. Em segundo lugar, 10 dos 25 acordos não apresentaram um valor comum, pelo que todos os percentuais utilizam apenas os acordos que o tinham.

Sudeste Asiático: 3 acordos assinados no valor de 3,1 bilhões de dólares, quase todos eles com o empréstimo Zankore.

África Subsaariana: 3 acordos assinados no valor de 470 milhões de dólares (ver o artigo Regional Spotlight).

América Latina e Caribe: 9 acordos assinados no valor de 206 milhões de dólares, os mais numerosos de qualquer região, liderados pelo Kapital Grupo Financiero.

Ásia do Sul: 4 contratos assinados no valor de 12 milhões de dólares. Projetos de grandes centros de dados em Telangana e Odisha, na Índia, estão sendo anunciados, mas ainda não foram assinados.

Oriente Médio e África do Norte: 6 acordos foram assinados, mas apenas 1,5 milhão de dólares são conhecidos, pois cinco acordos da HUMAIN e da White & Case não apresentaram um valor conjunto.

Os investidores que estão avaliando um negócio de data center ou de chip de inteligência artificial podem começar com uma pergunta: quanto dessa capacidade de computação é reservada por empresas locais? O Capital Flows Map é o registro próprio da Accendo sobre negócios de inteligência artificial divulgados publicamente, e a nota explica como eles são contados.

Reportagem Regional · África Subsaariana

Quênia incorpora inteligência artificial nos regulamentos bancários

Em 10 de setembro de 2026, o Banco Central do Quênia (CBK) Pediu aos cidadãos que comentassem sobre os novos projetos de seus principais livros de regras para bancos. As observações devem ser enviadas até 7 de novembro. Os projetos não possuem um capítulo específico sobre IA. Em vez disso, a IA aparece em três lugares. As diretorias devem garantir que sistemas de alerta precoce baseados em IA estejam implementados. Os auditores internos devem verificar fraudes que utilizam IA. As equipes de segurança devem se defender contra ataques cibernéticos que utilizam IA.

As novas regras atendem a uma demanda clara dos bancos. A CBK Pesquisa própria, Usando dados até o final de 2024, a pesquisa constatou que metade das 125 instituições que responderam já utilizava IA. Quase todas elas, 93%, solicitaram orientação do banco central. Essa orientação agora está dentro das normas normais do banco, e os clientes sentirão isso mais claramente na proteção contra fraudes. Os golpistas podem usar IA para simular uma voz ou enviar mensagens convincentes, e depois esvaziar a carteira de dinheiro móvel do cliente antes que o banco perceba.

As empresas quenianas em que você investe têm até 7 de novembro para comentar, e elas devem verificar duas coisas primeiro. Quais dessas regras se aplicam a elas, já que os bancos de microfinanças e os credores digitais têm regras distintas? O plano de auditoria deste ano já inclui fraudes que utilizam IA?

A maior parte do dinheiro investido na região foi destinada à infraestrutura. Registamos três negócios em agosto e setembro, no valor de 470 milhões de dólares. O maior deles foi um investimento de 300 milhões de dólares na West Indian Ocean Cable Company (WIOCC), uma empresa de infraestrutura digital. O financiamento veio da Africa Finance Corporation e da Vision Invest. O segundo foi um empréstimo de 170 milhões de dólares do Korea Economic Development Cooperation Fund para construir um instituto de inteligência artificial e competências digitais na Tanzânia. É um dos poucos negócios assinados para competências.

Tudo que não se refere à infraestrutura recebe muito pouco apoio. Desde janeiro de 2023, o mapa encontrou apenas 30 projetos na África Subsaariana para projetos que não se referem à infraestrutura. Eles abrangem 23 países e somam cerca de 110 milhões de dólares (USD).Necessário, mas não suficiente). Quando uma empresa em que você investe planeja um produto de IA, pergunte quanto do orçamento é destinado a dados locais e treinamento de pessoal. Em seguida, pergunte quem está financiando essa parte.

Sudeste Asiático: O empréstimo do Zankore representa quase toda a receita proveniente do investimento na região. O lançamento do SEA-LION (veja Avanços na IA Pequena) trouxe novos modelos de IA para as línguas da região.

Ásia do Sul: Reuters Reportado em 1 de setembro, Segundo fontes anônimas, a National Payments Corporation of India (NPCI) está preparando um novo sistema que permitirá que assistentes de inteligência artificial realizem pagamentos menores no UPI, a rede de pagamentos instantâneos da Índia, sem que o usuário tenha que aprovar cada pagamento. A Pine Labs, uma empresa de pagamentos indiana, já utiliza um sistema semelhante desde junho. necessita da permissão do cliente apenas uma vez.

América Latina e Caribe: A CAF, a instituição de desenvolvimento para a América Latina e o Caribe, anunciou um plano de 12 bilhões de dólares para mudanças digitais. O plano ainda não foi assinado.

Oriente Médio e África do Norte: O plano do Egito para um centro de dados nacional de IA também foi anunciado, mas ainda não foi assinado.

O que estamos assistindo

Três prazos. O relatório final do FSB sobre Doze boas práticas para IA responsável A data de entrada em vigor é outubro de 2026. Período de comentários do Colorado sobre suas novas regras sobre IA termina em 26 de outubro. O prazo de comentários do Quênia termina em 7 de novembro.

Um painel. Em 28 de outubro, às 08h00 (horário de Nova York), a Accendo realiza um painel sobre como conseguir mais investimentos em IA na África além dos data centers (Registre-se aqui). Os palestrantes são Nick Williams (Banco Africano de Desenvolvimento), Johan Bosini (Quona Capital) e Snehar Shah (iXAfrica). O painel continua onde o Regional Spotlight terminou.

Duas provas. Primeiro, veremos se os oito maiores projetos de IA não-assinados no Capital Flows Map, no valor de USD 66,6 bilhões, se convertem em acordos assinados. Em segundo lugar, veremos se a NPCI confirma seu sistema de pagamentos para IA.