Liderança Antifrágil · artigo 04

A resposta que cita a fonte: IA corporativa com dados internos, sem expor o que não deve

21 de novembro de 202615 min de leituraTrilion Signature

Fotografia da série Trilion Signature, canal Liderança Antifrágil

IA corporativa com dados internos é o assistente que responde a partir do que a própria empresa sabe, como contratos, atas, manuais e projetos, e mostra de onde tirou cada resposta. O valor dele não está em saber tudo, e sim em saber o que pode dizer a quem pergunta. Em muitas empresas, esse conhecimento vive em pastas que poucos sabem percorrer e na memória de quem está na casa há mais tempo.

A Trilion Signature trata esse assistente como desenho de decisão, e não como compra de ferramenta. Neste guia você entende como ele consulta o arquivo interno, como se escreve o mapa de quem vê o quê, por que cada resposta deve indicar a sua fonte e quais pontos de segurança e de contrato o especialista da empresa confere antes da estreia.

Guarde este guia para a reunião em que alguém propuser ligar a IA ao arquivo da empresa: ele foi escrito para ser lido com a pauta aberta.

IA corporativa com dados internos: o que ela é e o que ela não é

IA corporativa com dados internos é um assistente que busca nos documentos da própria empresa a base de cada resposta, respeita quem pode ver cada documento e indica a fonte, em vez de responder a partir do que aprendeu em público.

Um assistente público responde com o que aprendeu antes de chegar à empresa. Ele conhece o mundo em geral e nada sabe do contrato renovado no ano passado, da especificação aprovada pelo cliente ou da ata que mudou um procedimento. Quando alguém cola nele um documento interno por conta própria, a informação sai de casa sem que ninguém tenha decidido isso.

O assistente interno inverte a ordem. Segundo a Wikipédia, a técnica conhecida como geração aumentada por recuperação, em inglês retrieval-augmented generation, faz o modelo consultar documentos indicados antes de responder, o que permite mostrar as fontes e reduz, sem eliminar, as respostas inventadas. É essa consulta, feita dentro de limites escritos, que dá sentido à ferramenta.

Um assistente interno vale pelo que sabe encontrar e, na mesma medida, pelo que sabe recusar.

Consultar o arquivo não é ensinar a máquina

Na consulta, o assistente lê os documentos no momento da pergunta e devolve um resumo com a origem. Ensinar o modelo com esses documentos é outra decisão, com outros riscos, e depende do que o contrato com o fornecedor permite. Vale separar as duas coisas desde a primeira conversa.

  • Consulta: o documento é lido na hora da pergunta e continua onde estava.
  • Treinamento: o conteúdo passa a fazer parte do modelo, e retirá-lo depois pode não ser simples.
  • Contrato: o especialista da empresa lê o que o fornecedor pode fazer com os dados.

O que um assistente interno costuma responder bem

Ele ajuda onde a resposta já está escrita em algum lugar e só falta encontrá-la. Quanto mais a pergunta depende de um documento conhecido, mais útil ele se mostra.

  • Procedimentos: como a empresa faz uma tarefa, segundo o manual vigente.
  • Histórico de projetos: o que foi aprovado, quando e por quem.
  • Cláusulas localizadas: onde, em um contrato, aparece determinado compromisso, para que o jurídico leia a cláusula inteira.
  • Primeiros dias de quem chega: as dúvidas que antes dependiam de interromper um colega.

O que ele não deve fazer

Os limites também são escritos. Sem eles, a ferramenta tende a ocupar espaços que pertencem a pessoas e a especialistas. Como lembra o guia de gestão antifrágil para a empresa, decisões sobre pessoas ficam com pessoas.

  • Decidir sobre pessoas: contratar, promover ou desligar fica com quem lidera, com revisão humana.
  • Dar parecer jurídico: o assistente aponta o documento; a interpretação é do advogado da empresa.
  • Preencher lacunas com suposição: sem fonte, a resposta correta é dizer que não encontrou.
  • Agir sozinho: enviar, aprovar ou apagar algo pede uma pessoa no circuito.

O mapa de acesso: quem consulta o quê antes da primeira pergunta

Herdar as permissões que já existem

O caminho mais seguro costuma ser fazer o assistente respeitar as permissões que cada pasta já tem. Mas herdar só funciona quando essas permissões fazem sentido, e é comum descobrir o contrário na primeira revisão.

As gavetas que pedem tranca própria

Alguns acervos pedem atenção redobrada, porque o dano de uma resposta indevida ali é maior. Vale nomeá-los antes que alguém pergunte por eles.

Dados pessoais pedem conferência própria

Documentos que identificam pessoas, sejam funcionários ou clientes, seguem regras de proteção de dados que variam conforme o caso e a finalidade do uso. A casa não interpreta essas regras: o especialista da empresa confere se o acervo pode ser consultado, por quem e com que cuidado.

Quem desenha e quem decide

Desenhamos com você o Mapa de acesso: quem consulta o quê. A decisão sobre cada linha é da empresa, e cada linha tem um responsável.

A resposta que mostra de onde veio

Uma resposta confiável de um assistente interno indica o documento de onde partiu, a data e a versão, e diz com franqueza quando o arquivo não traz a informação, para que quem pergunta possa conferir antes de agir.

A confiança em uma ferramenta assim não nasce da segurança com que ela fala. Nasce da possibilidade de abrir o documento indicado e ler, com os próprios olhos, o parágrafo de onde veio a frase. Quando a origem fica à vista, o assistente deixa de ser um oráculo e passa a ser um índice que trabalha a favor de quem pergunta.

Imagine o escritório de projetos de uma fábrica de móveis sob encomenda, num mezanino sobre o galpão, às seis e quarenta de uma segunda-feira, antes do turno. O cheiro de serragem e verniz sobe pela escada, o ruído da serra começa lá embaixo e a projetista recém-contratada segura uma xícara de café quente. Ela pergunta qual acabamento o cliente aprovou em um hotel de anos atrás, e a resposta traz a ata da reunião, com a data. Quando pede a margem negociada naquele contrato, o assistente diz que a informação não está no acesso dela.

Quem pergunta merece ver de onde veio a resposta. Quem responde, mesmo sendo máquina, merece ser conferido.

Fonte, data e versão em cada resposta

Uma referência só ajuda se levar ao lugar certo. Vale combinar, no desenho do assistente, o que cada resposta precisa trazer.

  • Documento: o nome do arquivo e o trecho de onde a frase saiu.
  • Data: quando aquele documento foi escrito ou aprovado.
  • Versão: se existe uma mais recente, e qual vale hoje.
  • Dono: quem responde pelo documento, para tirar a dúvida que restar.

Quando o arquivo não sabe, o assistente diz que não sabe

Sistemas de linguagem podem apresentar como fato uma informação que não existe. A consulta aos documentos reduz esse risco, mas não o elimina, e por isso a recusa honesta precisa estar no desenho.

  • Dica rápida: antes da estreia, faça ao assistente perguntas cuja resposta você sabe que não está no arquivo.
  • Resposta esperada: uma frase curta dizendo que não encontrou a informação.
  • Sinal de alerta: uma resposta fluente, sem fonte, sobre algo que nunca foi escrito.

A revisão humana no lugar certo

Nem toda resposta pede revisão, e exigir revisão de tudo faz a ferramenta ser abandonada. O desenho diz onde a pessoa confere e onde a consulta basta.

  • Consulta simples: procedimento ou histórico, conferido pela própria fonte indicada.
  • Texto que sai da empresa: proposta, carta ou resposta a cliente, sempre lido por uma pessoa.
  • Tema sensível: pessoas, contratos ou dados pessoais, encaminhados a quem responde por eles.

O que não deve sair: os pontos que o especialista confere

Antes da estreia, o especialista da empresa confere como o assistente se protege de instruções escondidas em documentos, o que o fornecedor guarda das conversas e quem pode ver os registros de uso, porque é ali que costuma vazar o que não deveria.

Um assistente que lê documentos também lê o que alguém escreveu neles para enganá-lo. Uma mensagem recebida de fora, um anexo ou uma página copiada podem trazer instruções disfarçadas de texto comum. A Wikipédia chama esse ataque de injeção de prompt: entradas de aparência inofensiva que levam o modelo a agir de modo não previsto.

A lista de riscos para aplicações com modelos de linguagem publicada pelo OWASP Gen AI Security Project, iniciativa da comunidade aberta de segurança de aplicações conhecida pela sigla OWASP, traz a injeção de prompt e a divulgação de informação sensível entre os seus itens. Não cabe à casa praticar essa defesa: cabe fazer as perguntas certas e cuidar para que o especialista as responda por escrito antes de qualquer acesso ser aberto.

O que o assistente lê, alguém pode ter escrito para ele. A defesa começa por saber disso.

Instruções escondidas em documentos

Não é preciso entender a técnica para fazer a pergunta certa. Basta saber que o conteúdo consultado pode tentar mandar no assistente.

  • De onde vem o conteúdo: só documentos internos ou também mensagens e arquivos de fora.
  • O que o assistente pode fazer: apenas responder ou também enviar, alterar e apagar.
  • Como o especialista testou: que tentativas de enganar o assistente foram feitas e o que aconteceu.

O que o fornecedor guarda

Toda conversa com o assistente passa por alguma infraestrutura, e cada contrato trata de modo diferente o que fica guardado. Essas perguntas vão ao especialista em contratos, que lê as respostas do fornecedor antes da assinatura. Para decidir antes onde a ferramenta entra, vale retomar o guia sobre consultoria de IA para empresas.

  • Onde ficam os dados: em que ambiente e sob o controle de quem.
  • Uso para treino: se o fornecedor pode usar o conteúdo para aprimorar os próprios modelos.
  • Guarda das conversas: por quanto tempo ficam e quem as pode ler.
  • Saída: o que acontece com tudo isso se a empresa encerrar o contrato.

A lista de quem viu o quê

A lista de quem teve acesso a quê fica com a empresa, que pode consultá-la quando quiser. Ela serve para revisar o mapa, e não para vigiar pessoas: o que se registra e quem o lê também é decidido por escrito, com o especialista.

  • O que registrar: acessos aos acervos sensíveis e mudanças no mapa.
  • Quem lê: um responsável nomeado, e não a diretoria inteira.
  • Quando revisar: a cada mudança de cargo, de equipe ou de acervo.

Sigilo de quem monta o assistente

Desenhar um assistente interno significa conhecer a empresa por dentro. Por isso cada pessoa que participa desse trabalho assina NDA, sigla em inglês para acordo de confidencialidade, e só acessa o que precisa para trabalhar.

  • Acordo assinado: antes do primeiro documento aberto.
  • Acesso mínimo: também para quem desenha, e não só para quem usa.
  • Remuneração declarada: se um parceiro indicado receber qualquer valor, isso é dito por escrito antes da escolha.

Do desenho à estreia: um roteiro sem pressa

O roteiro de implantação começa pelas perguntas que a empresa quer ver respondidas, segue por um primeiro acervo pequeno e bem cuidado, passa por um ensaio com perguntas difíceis e só então abre o assistente às equipes previstas no mapa.

A tentação é ligar o assistente a todo o arquivo de uma vez e ver o que acontece. O resultado costuma ser o contrário do esperado: respostas que misturam versões antigas e novas, acessos que ninguém revisou e uma equipe que desiste da ferramenta antes de se acostumar a ela.

A Trilion Signature executa o desenho e rege a implantação. Escrevemos quais perguntas o assistente responde, de que fontes parte e quem revisa o que ele produz; a infraestrutura e a segurança ficam com especialistas que regemos e por quem respondemos, e nenhum assistente entra em uso antes que o especialista confira o acesso.

Um acervo pequeno, limpo e bem cuidado ensina mais à empresa do que um arquivo inteiro aberto de uma vez.

Começar pelas perguntas, e não pelos documentos

As perguntas que as equipes fazem todos os dias dizem quais documentos importam. Se a empresa já tem um mapa do que usa e de onde cada informação mora, esse trabalho fica mais curto.

  1. Ouvir quem mais interrompe colegas para perguntar, e o quê.
  2. Anotar as perguntas que se repetem.
  3. Ligar cada pergunta ao documento que a responde hoje.
  4. Descartar as perguntas que dependem de julgamento, e não de documento.

Um primeiro acervo pequeno

Começar por um acervo só permite ver como o assistente se comporta sem colocar em risco o que é sensível. Manuais de procedimento e histórico de projetos costumam ser bons pontos de partida, inclusive o fichário de capa áspera que ainda espera ser digitalizado.

  1. Escolher um acervo útil e de baixo risco.
  2. Limpar versões duplicadas e documentos vencidos.
  3. Marcar qual versão vale hoje.
  4. Abrir o acesso só à equipe que usará aquele acervo.

Ensaiar com perguntas que devem ser recusadas

Antes da estreia, o assistente passa por um ensaio. Uma pessoa de cada equipe faz perguntas comuns e também aquelas que ele deve recusar, e o resultado volta ao desenho. O silêncio da sala durante o teste, sob a luz branca do projetor, costuma dizer muito: é quando todos leem, com atenção, a fonte de cada resposta.

  • Pergunta fora do acesso: o assistente deve dizer que a informação não está disponível para quem pergunta.
  • Pergunta sem resposta no arquivo: ele deve admitir que não encontrou.
  • Pergunta sobre uma pessoa: ele deve encaminhar, e não opinar.
  • Pergunta com instrução escondida: o especialista confere como ele reagiu.

O que a empresa recebe e o que revisa depois

Ao fim do desenho, a empresa recebe o Desenho escrito dos assistentes e das automações, o Mapa de acesso: quem consulta o quê, e a Implantação regida, com a segurança conferida por especialista. Depois da estreia, o trabalho continua em revisões curtas e regulares.

  • Novo acervo: só entra depois de passar pelo mapa e pelo especialista.
  • Mudança de cargo: o acesso é revisto quando a pessoa muda de função.
  • Resposta estranha: qualquer pessoa pode apontá-la, e o apontamento volta ao desenho.

Perguntas frequentes sobre IA corporativa com dados internos

Os documentos da empresa vão treinar a IA do fornecedor?

Depende do contrato, e a resposta precisa estar por escrito antes da assinatura. Consultar documentos no momento da pergunta é diferente de usá-los para aprimorar o modelo do fornecedor. O especialista em contratos da empresa lê o que cada proposta permite, e a decisão sobre aceitar ou recusar esse uso é sempre da empresa.

Um funcionário pode ver pelo assistente o que não veria na pasta?

Não deveria, e o desenho existe para impedir isso. O assistente segue o mapa de acesso aprovado pela diretoria, e o ensaio antes da estreia inclui perguntas que ele precisa recusar. Se as permissões das pastas estiverem abertas demais, elas são corrigidas antes de o assistente entrar em uso, com a conferência do especialista.

O assistente pode decidir sobre as pessoas da empresa?

Não. Ele pode localizar uma política interna ou resumir um procedimento, mas decisões sobre contratar, promover ou desligar passam sempre por revisão humana e ficam com quem lidera. Os acervos sobre pessoas pedem acesso restrito, e as questões de vínculo das equipes seguem para o especialista que responde por elas.

A empresa precisa de uma equipe técnica própria para ter um assistente assim?

Não necessariamente. A casa executa o desenho, ou seja, as perguntas, as fontes, o mapa de acesso e a revisão, e rege a implantação com especialistas em infraestrutura e segurança por quem responde. A empresa precisa de alguém que conheça cada acervo e de uma diretoria disposta a decidir, por escrito, quem vê o quê.

O que a empresa sabe, ao alcance de quem deve saber

IA corporativa com dados internos, feita com critério, é uma soma de decisões escritas: o que o assistente consulta, quem vê cada acervo, como cada resposta mostra a sua origem e o que o especialista conferiu antes da estreia. Conheça a Sessão de Curadoria da Trilion Signature, uma conversa reservada, paga e dedutível do primeiro mandato. Nela, a nossa curadoria privada para empresas ouve como a sua empresa guarda e consulta o que sabe e entrega, por escrito, um Mapa de Prontidão com o que está exposto, o que pode esperar e em que ordem agir.

Continue em Liderança Antifrágil

Mais deste canal

O primeiro passo

Comece por uma conversa, não por uma venda

Ampulheta de latão sobre mármore claro
Sessão de Curadoria

Um mapa claro da sua vida

Uma conversa sem pressa para entender o que consome o seu tempo e não deveria. Você sai com um mapa claro.

Sem relógio, sem pressão
Agendar Sessão de Curadoria
O que você pode pedir

Oito áreas, um só atendimento

Escolha por onde começar. Cada área tem os seus especialistas, e o seu curador continua o mesmo.

Signature · Empresas

A mesma prontidão, para quem conduz uma empresa

Luxury Branding, Growth Estratégico, Liderança Antifrágil e Neuromarketing: quatro frentes para quem responde por uma empresa, com um só curador e a mesma discrição.

Trilion Signature
WhatsApp

Converse com a Trilion Signature

Diga-nos o seu nome. A conversa abre em seguida, direto com a Trilion Signature, no seu tempo.

Seu nome só é usado para abrir a conversa.

Sessão de Curadoria

Conte-nos o que pesa

Uma conversa reservada, no seu tempo. Você nos diz o que procura; respondemos com discrição e com um só interlocutor.

Ao enviar, você concorda que a Trilion use estes dados apenas para responder a este contato.

Fotos do canalFotos do canalFotos do canal

O que fazemos

Para quem

Conheça a Sessão de Curadoria