As equipes de relatórios financeiros, sustentabilidade e risco são responsáveis por um trabalho em que os riscos são os maiores. A Workiva AI foi desenvolvida para essa realidade. Isso funciona dentro das mesmas permissões e controles que regem o restante do seu trabalho na plataforma.
Este artigo aborda três pontos: como a Workiva gerencia um recurso de IA antes e depois de seu lançamento; como você verifica e controla o que a IA da Workiva faz em seu espaço de trabalho; e quais evidências você tem à disposição quando um auditor solicitar. Cada seção descreve o que está disponível atualmente e para onde essa capacidade está se dirigindo.
Observação : Os itens listados na seção “O que está por vir” descrevem a direção deste trabalho, e não representam compromissos com recursos específicos ou datas de entrega.
de confiança
A governança de IA é a forma como a Workiva confirma que um recurso de IA é seguro antes de chegar ao seu ambiente de trabalho e garante que continue sendo seguro após sua implementação. Os novos recursos de IA são testados com base em critérios definidos e aprovados por meio de uma lista de verificação de governança antes de serem colocados em operação, de modo que a qualidade é confirmada, e não apenas presumida.
Essas práticas se enquadram nos cinco princípios de IA Responsável da Workiva: Prestação de Contas, Transparência, Equidade, Segurança e Confiabilidade, e Privacidade e Segurança. Esses princípios estão em conformidade com normas internacionais, incluindo a ISO/IEC 42001 e a Estrutura de Gestão de Riscos de IA do NIST, bem como com regulamentações como a Lei de IA da UE e o GDPR. Leia os princípios na íntegra em e a abordagem da Workiva em relação à IA em .
O que está disponível hoje
- Os novos recursos de IA passam por uma verificação de conformidade antes de serem ativados em produção. A lista de verificação documenta a finalidade do recurso, seus limites de risco, as evidências de testes que o fundamentam, como ele é monitorado e quem o aprovou.
- Os controles de lançamento impedem que um novo recurso de IA entre em operação na produção até que as etapas de governança necessárias sejam concluídas.
- Os recursos de IA são testados com base em critérios de qualidade definidos, utilizando conjuntos de testes classificados, de modo que a qualidade da resposta é avaliada antes do lançamento.
O que está por vir
- Um registro interno centralizado de cada recurso de IA, abrangendo propriedade, decisões de lançamento, aprovações, evidências de apoio e histórico de versões.
- Avaliação contínua que compara respostas em tempo real com conjuntos de dados de referência, de modo que a qualidade seja monitorada após o lançamento e não apenas antes dele.
- Reavaliação automática quando um modelo, prompt, ferramenta ou fluxo de trabalho é alterado.
- Monitoramento da produção em termos de qualidade, falhas, custo e latência, com alertas de limite e detecção de regressão.
Verificação e controle por IA
A verificação e o controle da IA consistem em verificar o que a IA da Workiva produziu e definir o que ela tem permissão para ver e fazer. Você pode confiar em uma resposta porque é possível prová-la, e não porque pareça correta.
O que está disponível hoje
- As respostas citam suas fontes . Os marcadores de citação no texto remetem à fonte; você pode passar o mouse sobre um marcador para ver o nome do documento ou da base de conhecimento e a seção, ou clicar nele para abrir a fonte.
- A lista de fontes “ ” ( ) no final de uma resposta indica as fontes nas quais a resposta se baseou, com um link para cada uma delas.
- A IA da Workiva opera dentro das permissões que você já possui, até mesmo no nível de seção. As permissões são verificadas quando o Workiva AI recupera conteúdo; portanto, ele não pode recuperar nem citar conteúdo ao qual você não tenha acesso.
- Ações que alteram seu conteúdo exigem confirmação.
- Você pode interromper um fluxo de trabalho do em execução a qualquer momento, selecionando Interromper . A resposta indica que você interrompeu o processo.
- Um fluxo de trabalho só pode utilizar as ferramentas que lhe foram atribuídas e é executado com as permissões da pessoa que o executa.
O que está por vir
- Referências em nível de seção para arquivos citados.
- Referências que indicam o trecho exato do texto ou a célula específica de onde uma afirmação foi retirada.
- Linha de derivação dos valores calculados, para que você possa rastrear um número por todas as etapas, em vez de parar no primeiro documento.
- Avaliação de confiança em citações.
- Conjuntos de citações exportáveis que você pode entregar a um auditor.
- Permissões mais abrangentes para fluxos de trabalho em várias etapas, definindo sobre o que um fluxo de trabalho pode agir e não apenas o que ele pode referenciar.
Preparação para auditorias de IA
A preparação para auditorias de IA significa que já existe um registro de onde a IA atuou no seu trabalho, para que você não precise reconstruí-lo posteriormente. É construído à medida que você trabalha.
O que está disponível hoje
- A IA da Workiva baseia suas respostas no seu próprio conteúdo, e não apenas no conhecimento geral do modelo. A abordagem se aplica a diversos casos de uso, incluindo: tie-outs , Knowledge , benchmarking e insights financeiros.
- As interações com IA são registradas no log de atividades do , incluindo o usuário, a interação e o provedor do modelo. Os administradores do espaço de trabalho podem visualizar esses registros.
- As atividades de IA são regidas pela mesma política de registro que já abrange o acesso à conta, as alterações de dados e as alterações de permissões em toda a plataforma.
- Dentro de uma sessão, você pode revisar as etapas realizadas pela IA do Workiva. Selecione “ ” (Mostrar raciocínio) para ver o raciocínio, as ferramentas utilizadas e as ações realizadas.
O que está por vir
- A autoria da IA é registrada no histórico do documento, de modo que as alterações feitas pela IA da Workiva são identificadas juntamente com as edições feitas por pessoas.
- Registros de atividades que atribuem a IA às ações subsequentes, relacionando uma interação com a IA à mudança que ela provocou.
- Histórico de atividades de IA pesquisável e reconstrução detalhada de eventos individuais de IA.
- Evidências de revisão humana, registros com indicação de violação, pacotes de evidências para auditores e acesso de apenas leitura para auditores.
Essa lista de verificação ainda não está completa. A Workiva continua elevando o padrão em matéria de governança, verificação e preparação para auditorias à medida que a IA evolui.
Tem dúvidas sobre como isso se aplica ao seu trabalho? Entre em contato conosco pelo e-mail , pelo site security@workiva.com ou pelo site .