A Workiva AI foi projetada para ajudá-lo a trabalhar com mais eficiência, mantendo os mais altos padrões de confiança, segurança e uso responsável. Nossa abordagem se concentra em capacitá-lo com recursos assistidos por IA que apoiam seu trabalho sem comprometer seu controle ou seu julgamento. A IA da Workiva foi criada para auxiliar - e não substituir - o conhecimento humano.
Neste artigo, vamos nos aprofundar nos padrões de segurança e nas práticas éticas incorporadas em nossa estrutura de IA. Em seguida, exploraremos como essa combinação permite que você alcance resultados notáveis e, ao mesmo tempo, mantenha os mais altos padrões de implementação responsável de IA.
Nosso padrão de segurança Workiva AI
A arquitetura de segurança da Workiva foi criada especificamente para sua plataforma, integrando a segurança diretamente ao serviço. Nossa prática garante protocolos de dados robustos, incluindo criptografia em trânsito (TLS 1.2+), e um compromisso contratual de que os dados do cliente não são usados para treinar LLMs.
Esse compromisso é construído sobre uma base de cinco princípios fundamentais, que se alinham aos padrões globais em evolução (por exemplo, ISO/IEC 42001, NIST AI RMF) e às regulamentações (por exemplo, EU AI Act, GDPR). Nossos cinco princípios fundamentais de IA responsável - que abrangem responsabilidade, transparência, justiça, segurança e confiabilidade, e privacidade e segurança - são diretamente mapeados para esse padrão de gerenciamento internacional, orientando nossas operações e demonstrando nossa conformidade proativa à medida que buscamos a certificação completa.
1. Responsabilidade
A Workiva garantirá que os recursos internos sejam responsáveis por gerenciar os riscos e cumprir as leis e os regulamentos aplicáveis ao implementar e manter os recursos de IA.
Desenvolvemos e usamos a IA de forma responsável. Isso significa incorporar a responsabilidade em todo o ciclo de vida da IA, incluindo:
- Avaliação de impacto: Avaliaremos o impacto potencial de nossos sistemas de IA sobre os usuários e a sociedade.
- Supervisão direcionada: Os sistemas que podem ter um impacto adverso significativo estão sujeitos a supervisão e requisitos adicionais e robustos.
- Adequado à finalidade: Temos o compromisso de garantir que nossos recursos de IA forneçam soluções válidas para o uso pretendido e resolvam problemas documentados.
- Governança de dados: Defendemos práticas adequadas de governança e gerenciamento de dados, definindo os requisitos de dados com base no uso pretendido do sistema e nas partes interessadas.
- Controle humano: Projetamos nossos sistemas de IA para apoiar a supervisão humana informada, permitindo que os usuários monitorem, compreendam e, quando necessário, anulem os resultados do sistema.
2. Transparência
Acreditamos que a confiança é construída com clareza. Temos o compromisso de sermos transparentes sobre como nossos sistemas de IA operam e como são usados na plataforma Workiva.
A Workiva garantirá que os usuários saibam que estão interagindo com a tecnologia de IA por meio de:
- Resultados compreensíveis: Para sistemas de IA que informam a tomada de decisões, nós os projetaremos para ajudar os usuários a entender como o sistema se comporta.
- Comunicação clara: Forneceremos informações sobre os recursos e as limitações de nossos sistemas de IA para ajudá-lo a fazer escolhas informadas.
- Divulgação da IA: Acreditamos que você deve saber quando está interagindo com uma IA. Trabalhamos para identificar claramente os resultados e as interações gerados pela IA sempre que apropriado.
3. Equidade
A Workiva envidará esforços comercialmente razoáveis (por exemplo, acrescentará informações adicionais de embasamento para aumentar ainda mais a proteção contra preconceitos ou conteúdo questionável) para projetar os recursos de IA de forma a reduzir ou eliminar preconceitos contra indivíduos, comunidades ou grupos.
Nós nos esforçamos para projetar sistemas de IA que tratem todos os usuários de forma equitativa. A justiça é uma meta contínua que buscamos ativamente.
- Qualidade de serviço equitativa: Projetaremos e testaremos nossos sistemas de IA para oferecer uma qualidade de serviço semelhante em diferentes grupos demográficos.
- Alocação justa: Quando a IA for usada para alocar recursos ou oportunidades, projetaremos e monitoraremos o sistema para garantir que essas alocações sejam justas.
- Minimização de resultados prejudiciais: Para sistemas de IA que geram conteúdo, trabalhamos para minimizar o potencial de estereotipar, rebaixar ou apagar qualquer grupo.
4. Segurança e confiabilidade
A Workiva envidará esforços comercialmente razoáveis (por exemplo, testes robustos, incluindo testes de regressão para avaliar o comportamento do LLM quanto à correção e à adesão a várias considerações éticas e de segurança) para garantir que os recursos de IA operem consistentemente de acordo com sua finalidade e escopo pretendidos e no nível de precisão desejado.
A Workiva usará esforços comercialmente razoáveis (por exemplo, humanos no circuito) para projetar e implementar os recursos de IA para proteger contra danos a pessoas e/ou propriedades. Temos o compromisso de criar sistemas de IA que não sejam apenas avançados, mas também seguros, confiáveis e previsíveis.
- Operação definida: Avaliamos e documentamos os fatores operacionais e as faixas dentro das quais se espera que nossos sistemas de IA funcionem de forma segura e confiável.
- Projeto resiliente: Nossos sistemas são projetados para minimizar o tempo necessário para identificar e solucionar falhas conhecidas ou previsíveis.
- Melhoria contínua: Submetemos nossos sistemas de IA a monitoramento contínuo, coleta de feedback e avaliação para garantir que permaneçam seguros e confiáveis ao longo do tempo.
5. Privacidade e segurança
A Workiva deverá envidar esforços comercialmente razoáveis para projetar os recursos de IA para cumprir as leis e regulamentos aplicáveis de privacidade e proteção de dados.
A proteção de seus dados é fundamental para tudo o que fazemos. Nossos sistemas de IA são desenvolvidos para atender aos nossos padrões de privacidade e segurança.
- Privacidade por design: Nossos sistemas de IA são projetados para proteger a privacidade do usuário e do cliente de acordo com nosso contrato de proteção de dados e regulamentos relevantes, como o GDPR.
- Segurança robusta: Projetamos nossos sistemas de IA para que sejam seguros de acordo com nossas políticas de segurançatringent, incorporando controles automatizados e técnicas de mitigação de ameaças no processo de desenvolvimento.
Como a Workiva AI funciona
A IA da Workiva está incorporada à experiência da plataforma Workiva. Veja abaixo mais informações sobre como as interações da Workiva AI são processadas entre os usuários, o ambiente da plataforma Workiva e os provedores de LLM de terceiros.
Filtragem de solicitações
Quando você insere uma solicitação em nosso recurso Workiva AI, a primeira coisa que fazemos é verificar se a solicitação está de acordo com nossas diretrizes. Executamos um filtro para eliminar solicitações inadequadas ou proibidas feitas pelos usuários. Isso garante que o conteúdo gerado permaneça dentro dos limites aceitáveis.
Barreiras de proteção
Após a filtragem, estabelecemos determinados limites para a geração de respostas. Esses limites consideram fatores como o contexto do usuário, sua intenção e até mesmo a persona que ele está adotando. Aplicamos contexto adicional para entender onde e como o usuário está usando a IA.
Aterramento
O embasamento envolve o fornecimento de uma base sólida para respostas por meio de uma abordagem multifacetada. Aproveitamos os embeddings e a geração aumentada de recuperação para estender esse recurso aos dados do espaço de trabalho de nossos clientes, permitindo que os usuários obtenham informações específicas do contexto de seus próprios documentos. Além disso, oferecemos modelos que permitem aos clientes solicitar respostas em formatos específicos predeterminados.
Em termos de segurança, levamos em conta a autorização IAM (Identity and Access Management) durante a fundamentação para garantir que somente usuários autorizados tenham acesso a documentos ou seções de documentos específicos.
Por fim, fornecemos citações e referências para nossas respostas usando uma técnica conhecida como RAG (Retrieval Augmented Generation), que não apenas fundamenta nossas respostas em nossos próprios documentos, mas também nos permite citar as fontes, sejam elas nossos dados proprietários ou os dados de nossos clientes.
Injeção
A injeção envolve a adição de prompts e parâmetros de modelo para aprimorar a experiência do usuário, tornando-a mais simples e fácil de usar. Pegamos todas as informações coletadas nas etapas anteriores e as injetamos no sistema de IA da Workiva. Isso inclui adicionar nossos próprios avisos nos bastidores para simplificar a experiência do usuário.
Por exemplo, incluímos comandos predefinidos como "encurtar" ou "elaborar" para que os usuários possam acessar esses recursos com facilidade. Também ajustamos os parâmetros e as configurações do modelo, para que os usuários não precisem navegar por detalhes técnicos complexos.
Tudo isso é feito para garantir que o uso da IA da Workiva seja o mais simples possível.
Geração de resposta
Essa etapa envolve o uso de modelos de IA, por exemplo, do Google e do Microsoft Azure/OpenAI, para criar respostas às consultas dos usuários. Utilizamos esses modelos avançados de IA para a geração de respostas. Esses modelos são treinados em vastos conjuntos de dados e são capazes de gerar respostas contextualmente relevantes para as consultas dos usuários.
Filtragem de respostas
Depois de gerar uma resposta, temos outra camada de verificações para garantir que a resposta não contenha conteúdo inadequado ou proibido. Para garantir a segurança e a qualidade das respostas, aplicamos outro conjunto de filtros ao conteúdo gerado. Isso garante que as respostas estejam alinhadas com nossas diretrizes e não incluam nenhum material fora dos limites. Somente depois de passar por essas verificações é que fornecemos as respostas ao usuário.
Segurança e privacidade da IA da Workiva
Não usado para treinar modelos de IA
Fundamentalmente, é essencial ressaltar que seus dados, suas entradas no modelo de IA e as respostas geradas pela IA permanecem totalmente distintos do processo de treinamento do modelo. Isso significa que nenhum desses elementos é utilizado para treinar nossos modelos de IA. Isso inclui não apenas os grandes modelos de linguagem amplamente adotados, mas também nossos modelos proprietários especializados. Projetamos nosso sistema para garantir uma separação clara entre seus dados e o processo de treinamento de IA.
Criptografia e armazenamento
Para fortalecer a segurança e a privacidade de seus dados e interações, a Workiva emprega protocolos de criptografia robustos e padrão do setor.
A persistência de dados é vinculada à finalidade e regida pelos controles de segurança, privacidade e conformidade da Workiva, e pode incluir armazenamento baseado em sessão ou de longo prazo para apoiar a funcionalidade, o suporte e a auditabilidade do produto. Os provedores de LLM terceirizados não retêm nem usam os dados dos clientes para treinamento ou para fins além do escopo do processamento de solicitações em nome da Workiva.
Você está de acordo com os termos de segurança e privacidade dos dados
Consulte os Termos de Uso da IA da Workiva.
Envolvimento ativo do usuário
Uma faceta fundamental da nossa abordagem está centrada no requisito de envolvimento ativo do usuário. A Workiva AI não altera seus documentos sem seu envolvimento direto e aprovação explícita. Você tem controle total sobre quando e como escolhe integrar respostas geradas por IA ao seu trabalho, garantindo que sua autoridade criativa permaneça intacta.
Filtragem de conteúdo e proteções de contexto
Para manter uma experiência de IA segura e compatível, empregamos medidas abrangentes de filtragem de conteúdo. Esses filtros se aplicam tanto aos prompts de entrada quanto às respostas geradas pelo modelo de IA. Elas impedem efetivamente o processamento ou a geração de qualquer conteúdo inadequado ou sensível.
Em conjunto com a filtragem de conteúdo, as proteções de contexto são meticulosamente implementadas para ancorar a IA nos casos de uso esperados, promovendo o alinhamento com seu fluxo de trabalho e requisitos.
Os clientes podem optar por sair a qualquer momento
Os administradores da organização podem desativar o acesso ao Workiva AI nos níveis de usuário, conta ou organização para personalizá-lo de acordo com suas necessidades ou optar por sair do programa a qualquer momento.