As equipes de relatórios financeiros, sustentabilidade e risco são responsáveis por trabalhos em que o que está em jogo é o mais alto. A IA da Workiva foi construída para essa realidade. Ela funciona dentro das mesmas permissões e controles que regem o restante do seu trabalho na plataforma.
Este artigo aborda três coisas: como a Workiva governa um recurso de IA antes e depois de seu lançamento, como você verifica e controla o que a IA da Workiva faz no seu espaço de trabalho, e quais evidências você tem quando um auditor pergunta. Cada seção descreve o que está disponível hoje e para onde a capacidade está se dirigindo.
Observação: os itens listados em "O que está por vir" descrevem a direção deste trabalho, não compromissos com recursos específicos ou datas de entrega.
de confiança
A governança de IA é como a Workiva confirma que um recurso de IA é seguro antes de chegar ao seu espaço de trabalho, e mantém isso após o lançamento. Novos recursos de IA são testados em relação a critérios definidos e liberados por meio de uma lista de verificação de governança antes de entrarem em produção, para que a qualidade seja confirmada, e não presumida.
Essas práticas se enquadram nos cinco princípios de IA Responsável da Workiva: Responsabilidade, Transparência, Justiça, Segurança e Confiabilidade, e Privacidade e Segurança. Os princípios estão alinhados com padrões internacionais, incluindo ISO/IEC 42001 e a Estrutura de Gerenciamento de Risco de IA do NIST, e com regulamentações, incluindo o EU AI Act e o GDPR. Leia os princípios na íntegra em A abordagem da Workiva para a IA.
O que está disponível hoje
- Todo novo recurso de IA completa uma lista de verificação de governança antes de poder ser ativado em produção. A lista de verificação documenta o propósito do recurso, seus limites de risco, as evidências de testes por trás dele, como é monitorado e quem o aprovou.
- Os controles de lançamento impedem que um novo recurso de IA opere em produção até que as etapas de governança necessárias sejam concluídas.
- Os recursos de IA são testados em relação a critérios de qualidade definidos usando conjuntos de testes classificados, para que a qualidade da resposta seja medida antes do lançamento.
O que está por vir
- Um registro interno central de cada recurso de IA, abrangendo propriedade, decisões de lançamento, aprovações, evidências de suporte e histórico de versões.
- Avaliação contínua que compara respostas em tempo real com conjuntos de dados de referência, para que a qualidade seja monitorada após o lançamento, e não apenas antes.
- Reavaliação automática quando um modelo, prompt, ferramenta ou fluxo de trabalho muda.
- Monitoramento de produção para qualidade, falhas, custo e latência, com alertas de limite e detecção de regressão.
Verificação e controle de IA
Verificação e controle de IA é como você verifica o que a IA da Workiva produziu e define o que ela tem permissão para ver e fazer. Você pode confiar em uma resposta porque pode prová-la, não porque ela parece certa.
O que está disponível hoje
- As respostas citam suas fontes. Marcadores de citação embutidos apontam de volta para a fonte, e você pode passar o cursor sobre um marcador para ver o nome do documento ou base de conhecimento e a seção, ou selecioná-lo para abrir a fonte.
- Uma lista de Fontes no final de uma resposta nomeia as fontes das quais a resposta se baseou, com um link para cada uma.
- A IA da Workiva funciona dentro das permissões que você já tem, até o nível de seção. As permissões são verificadas quando a IA da Workiva recupera conteúdo, para que ela não possa recuperar ou citar conteúdo ao qual você não tenha acesso.
- A IA da Workiva pergunta antes de escrever. Qualquer ação que altere seu conteúdo requer confirmação. Você vê o que está prestes a mudar e seleciona Confirmar ou Recusar.
- Você pode interromper um fluxo de trabalho em execução a qualquer momento selecionando Parar. A resposta registra que você a interrompeu.
- Um fluxo de trabalho só pode usar as ferramentas que lhe foram dadas, e é executado com as permissões da pessoa que o executa.
O que está por vir
- Citações em nível de seção para arquivos referenciados.
- Citações que apontam para o trecho exato de texto ou a célula específica de onde veio uma alegação.
- Linhagem de derivação para números calculados, para que você possa rastrear um número por cada etapa, em vez de parar no primeiro documento.
- Pontuação de confiança nas citações.
- Conjuntos de citações exportáveis que você pode entregar a um auditor.
- Permissionamento mais amplo para fluxos de trabalho de várias etapas, delimitando sobre o que um fluxo de trabalho pode agir, e não apenas o que pode citar.
Prontidão de auditoria de IA
Prontidão de auditoria de IA significa que o registro de onde a IA tocou seu trabalho já existe, para que você não precise reconstruí-lo depois. Ele é construído enquanto você trabalha.
O que está disponível hoje
- A IA da Workiva fundamenta suas respostas no seu próprio conteúdo, em vez de apenas no conhecimento geral do modelo. A fundamentação se aplica em vários casos de uso, incluindo conciliações, Conhecimento, parâmetros de referência, e insights financeiros.
- As interações de IA são registradas no registro de atividades, incluindo o usuário, a interação e o provedor do modelo. Os administradores do espaço de trabalho podem visualizar esses registros.
- A atividade de IA é regida pela mesma política de registro que já cobre acesso à conta, alterações de dados e alterações de permissão em toda a plataforma.
- Dentro de uma sessão, você pode revisar as etapas que a IA da Workiva executou. Selecione Mostrar raciocínio para ver seu raciocínio, as ferramentas que chamou e as ações que concluiu.
O que está por vir
- Autoria de IA no histórico do documento, para que as alterações feitas pela IA da Workiva sejam atribuíveis junto com as edições humanas.
- Registros de atividade que transportam a atribuição de IA até as ações posteriores, conectando uma interação de IA à alteração que ela causou.
- Histórico de atividades de IA pesquisável e reconstrução detalhada de eventos individuais de IA.
- Evidências de revisão humana, registros à prova de adulteração, pacotes de evidências para auditores e acesso somente leitura para auditores.
Esta não é uma lista de verificação finalizada. A Workiva continua elevando o padrão de governança, verificação e prontidão de auditoria à medida que a IA evolui.
Tem dúvidas sobre como isso se aplica ao seu trabalho? Entre em contato conosco em security@workiva.com.