Workiva AI est conçu pour vous aider à travailler plus efficacement tout en respectant les normes les plus strictes en matière de confiance, de sécurité et d'utilisation responsable. Notre approche se concentre sur l'autonomisation avec des capacités assistées par l'IA qui soutiennent votre travail sans compromettre votre contrôle ou votre jugement. L'IA de Workiva est conçue pour assister - et non remplacer - l'expertise humaine.
Dans cet article, nous allons nous pencher sur les normes de sécurité et les pratiques éthiques intégrées dans notre cadre d'IA. Nous verrons ensuite comment cette combinaison vous permet d'obtenir des résultats remarquables tout en respectant les normes les plus strictes en matière de mise en œuvre responsable de l'IA.
Notre norme de sécurité Workiva AI
L'architecture de sécurité de Workiva est conçue spécialement pour sa plateforme, intégrant la sécurité directement dans le service. Notre pratique garantit des protocoles de données robustes, y compris le cryptage en transit (TLS 1.2+), et un engagement contractuel selon lequel les données des clients ne sont pas utilisées pour former des LLM.
Cet engagement repose sur cinq principes fondamentaux, qui s'alignent sur les normes mondiales en constante évolution (par exemple, ISO/IEC 42001, NIST AI RMF) et les réglementations (par exemple, EU AI Act, GDPR). Nos cinq principes fondamentaux en matière d'IA responsable - qui couvrent la responsabilité, la transparence, l'équité, la sûreté et la fiabilité, ainsi que la protection de la vie privée et la sécurité - sont directement liés à cette norme de gestion internationale, guidant nos opérations et démontrant notre conformité proactive dans le cadre de notre démarche de certification complète.
1. Responsabilité
Workiva veillera à ce que les ressources internes soient responsables de la gestion des risques et du respect des lois et réglementations applicables lors de la mise en œuvre et de la maintenance des fonctions d'IA.
Nous développons et utilisons l'IA de manière responsable. Cela signifie qu'il faut intégrer la responsabilité tout au long du cycle de vie de l'IA, y compris :
- Évaluation de l'impact : Nous évaluerons l'impact potentiel de nos systèmes d'IA sur les utilisateurs et la société.
- Surveillance ciblée : Les systèmes susceptibles d'avoir un impact négatif important font l'objet d'une surveillance et d'exigences supplémentaires et rigoureuses.
- Adaptation à l'usage : Nous nous engageons à ce que nos fonctionnalités d'IA fournissent des solutions valables pour l'usage auquel elles sont destinées et résolvent des problèmes documentés.
- Gouvernance des données : Nous appliquons des pratiques appropriées de gouvernance et de gestion des données, en définissant les exigences en matière de données en fonction de l'utilisation prévue du système et des parties prenantes.
- Contrôle humain : Nous concevons nos systèmes d'IA de manière à ce qu'ils puissent faire l'objet d'un contrôle humain éclairé, permettant aux utilisateurs de surveiller, de comprendre et, le cas échéant, d'annuler les résultats du système.
2. Transparence
Nous pensons que la confiance se construit sur la clarté. Nous nous engageons à être transparents sur le fonctionnement de nos systèmes d'IA et sur la manière dont ils sont utilisés au sein de la plateforme Workiva.
Workiva veillera à ce que les utilisateurs soient conscients qu'ils interagissent avec la technologie de l'IA :
- Des résultats compréhensibles : Les systèmes d'IA qui éclairent la prise de décision seront conçus de manière à aider les utilisateurs à comprendre le comportement du système.
- Une communication claire : Nous vous fournirons des informations sur les capacités et les limites de nos systèmes d'IA afin de vous aider à faire des choix éclairés.
- Divulgation de l'IA : Nous pensons que vous devez savoir quand vous interagissez avec une IA. Nous nous efforçons d'identifier clairement les résultats et les interactions générés par l'IA chaque fois que cela est nécessaire.
3. L'équité
Workiva déploiera des efforts commercialement raisonnables (par exemple, en ajoutant des informations de base supplémentaires pour renforcer la protection contre les préjugés ou les contenus répréhensibles) pour concevoir les fonctions d'IA de manière à réduire ou à éliminer les préjugés à l'encontre des individus, des communautés ou des groupes.
Nous nous efforçons de concevoir des systèmes d'IA qui traitent tous les utilisateurs de manière équitable. L'équité est un objectif permanent que nous poursuivons activement.
- Qualité de service équitable : Nous concevrons et testerons nos systèmes d'IA afin de fournir une qualité de service similaire à différents groupes démographiques.
- Attribution équitable : Lorsque l'IA est utilisée pour allouer des ressources ou des opportunités, nous concevrons et contrôlerons le système afin de garantir que ces allocations sont équitables.
- Minimiser les résultats nuisibles : Pour les systèmes d'IA qui génèrent du contenu, nous nous efforçons de minimiser le potentiel de stéréotypage, de dévalorisation ou d'effacement de tout groupe.
4. Sécurité et fiabilité
Workiva déploiera des efforts commercialement raisonnables (par exemple, des tests robustes, y compris des tests de régression pour évaluer le comportement du LLM en termes de correction et d'adhésion à diverses considérations de sécurité et d'éthique) pour garantir que les fonctions d'IA fonctionnent de manière cohérente conformément à leur objectif et à leur portée prévus et au niveau de précision souhaité.
Workiva déploiera des efforts commercialement raisonnables (par exemple, un humain dans la boucle) pour concevoir et mettre en œuvre les caractéristiques de l'IA afin de protéger les personnes et/ou les biens. Nous nous engageons à construire des systèmes d'IA non seulement puissants, mais aussi sûrs, fiables et prévisibles.
- Fonctionnement défini : Nous évaluons et documentons les facteurs opérationnels et les fourchettes dans lesquelles nos systèmes d'IA sont censés fonctionner de manière sûre et fiable.
- Conception résiliente : Nos systèmes sont conçus pour minimiser le temps nécessaire à l'identification et à la résolution des défaillances connues ou prévisibles.
- Amélioration continue : Nous soumettons nos systèmes d'intelligence artificielle à un contrôle continu, à la collecte de données en retour et à l'évaluation pour nous assurer qu'ils restent sûrs et fiables au fil du temps.
5. Vie privée et sécurité
Workiva s'efforcera, dans la mesure du possible, de concevoir les fonctions d'IA de manière à ce qu'elles soient conformes aux lois et réglementations applicables en matière de protection de la vie privée et des données.
La protection de vos données est à la base de tout ce que nous faisons. Nos systèmes d'IA sont conçus pour respecter nos normes en matière de protection de la vie privée et de sécurité.
- Protection de la vie privée dès la conception : Nos systèmes d'IA sont conçus pour protéger la vie privée des utilisateurs et des clients conformément à notre accord sur la protection des données et aux réglementations pertinentes telles que le GDPR.
- Sécurité robuste : Nous concevons nos systèmes d'IA de manière à ce qu'ils soient sécurisés conformément à nos politiques de sécuritétringent, en intégrant des contrôles automatisés et des techniques d'atténuation des menaces dans le processus de développement.
Comment fonctionne l’IA de Workiva
L'IA de Workiva est intégrée à l'expérience de la plateforme Workiva. Voir ci-dessous pour plus d'informations sur la façon dont les interactions Workiva AI sont traitées entre les utilisateurs, l'environnement de la plateforme Workiva et les fournisseurs de LLM tiers.
Demande de filtrage
Lorsque vous saisissez une demande dans notre fonction Workiva AI, la première chose que nous faisons est de vérifier la demande pour nous assurer qu'elle respecte nos lignes directrices. Nous utilisons un filtre pour éliminer les demandes inappropriées ou interdites faites par les utilisateurs. Cela permet de s'assurer que le contenu généré reste dans des limites acceptables.
Garde-corps
Après le filtrage, nous établissons certaines limites pour générer des réponses. Ces limites tiennent compte de facteurs tels que le contexte de l'utilisateur, son intention et même le personnage qu'il adopte. Nous appliquons un contexte supplémentaire pour comprendre où et comment l'utilisateur se sert de l'IA.
Ancrage
L'ancrage consiste à fournir une base solide aux réponses par le biais d'une approche à multiples facettes. Nous nous appuyons sur les enchâssements et la génération augmentée de recherche pour étendre cette capacité aux données de l'espace de travail de nos clients, ce qui permet aux utilisateurs d'obtenir des informations contextuelles spécifiques à partir de leurs propres documents. En outre, nous proposons des modèles permettant aux clients de demander des réponses dans des formats spécifiques prédéterminés.
En termes de sécurité, nous prenons en compte l'autorisation IAM (Identity and Access Management) lors de l'ancrage afin de garantir que seuls les utilisateurs autorisés ont accès à des documents spécifiques ou à des sections de documents.
Enfin, nous fournissons des citations et des références pour nos réponses en utilisant une technique connue sous le nom de RAG (Retrieval Augmented Generation), qui non seulement fonde nos réponses sur nos propres documents, mais nous permet également de citer les sources, qu'il s'agisse de nos données exclusives ou de celles de nos clients.
Injection
L'injection consiste à ajouter des invites et des paramètres de modèle pour améliorer l'expérience de l'utilisateur, en la rendant plus simple et plus conviviale. Nous prenons toutes les informations recueillies au cours des étapes précédentes et les injectons dans le système d'IA Workiva. Il s'agit notamment d'ajouter nos propres messages en coulisses pour simplifier l'expérience de l'utilisateur.
Par exemple, nous incluons des commandes prédéfinies telles que "raccourcir" ou "élaborer" afin que les utilisateurs puissent accéder facilement à ces fonctionnalités. Nous affinons également les paramètres et les réglages du modèle, de sorte que les utilisateurs n'ont pas besoin de naviguer dans des détails techniques complexes.
Tout cela est fait pour garantir que l'utilisation de notre IA Workiva est aussi simple que possible.
Génération de réponses
Cette étape consiste à utiliser des modèles d'IA provenant, par exemple, de Google et de Microsoft Azure/OpenAI, pour créer des réponses aux questions des utilisateurs. Nous nous appuyons sur ces modèles d'IA avancés pour générer des réponses. Ces modèles sont formés sur de vastes ensembles de données et sont capables de générer des réponses contextuelles pertinentes aux requêtes des utilisateurs.
Filtrage des réponses
Après avoir généré une réponse, nous disposons d'une autre couche de contrôles pour nous assurer que la réponse ne contient pas de contenu inapproprié ou interdit. Pour garantir la sécurité et la qualité des réponses, nous appliquons une autre série de filtres au contenu généré. Cela permet de s'assurer que les réponses sont conformes à nos lignes directrices et qu'elles n'incluent pas d'éléments hors limites. Ce n'est qu'après avoir passé ces contrôles que nous fournissons les réponses à l'utilisateur.
Sécurité et protection de la vie privée dans le domaine de l'IA (Workiva)
Non utilisé pour former des modèles d'intelligence artificielle
Fondamentalement, il est essentiel de souligner que vos données, vos entrées dans le modèle d'IA et les réponses générées par l'IA restent entièrement distinctes du processus d'apprentissage du modèle. Cela signifie qu'aucun de ces éléments n'est utilisé pour former nos modèles d'intelligence artificielle. Il s'agit non seulement des grands modèles linguistiques largement adoptés, mais aussi de nos modèles propriétaires spécialisés. Nous avons conçu notre système pour assurer une séparation claire entre vos données et le processus d'apprentissage de l'IA.
Chiffrement et stockage
Pour renforcer la sécurité et la confidentialité de vos données et interactions, Workiva utilise des protocoles de cryptage robustes et conformes aux normes de l'industrie.
La persistance des données est liée à un objectif et régie par les contrôles de sécurité, de confidentialité et de conformité de Workiva, et peut inclure un stockage basé sur une session ou à plus long terme pour soutenir la fonctionnalité du produit, l'assistance et l'auditabilité. Les fournisseurs tiers de LLM ne conservent ni n'utilisent les données des clients à des fins de formation ou à des fins dépassant le cadre du traitement des demandes au nom de Workiva.
Respect des conditions relatives à la sécurité des données et à la protection de la vie privée
Veuillez vous référer aux Conditions d’utilisation de l’IA Workiva.
Engagement actif des utilisateurs
Une facette essentielle de notre approche est centrée sur l'exigence d'un engagement actif de l'utilisateur. Workiva AI ne modifie pas vos documents sans votre participation directe et votre approbation explicite. Vous avez un contrôle total sur le moment et la manière dont vous choisissez d'intégrer les réponses générées par l'IA dans votre travail, ce qui garantit que votre autorité créative reste intacte.
Filtrage du contenu et garde-fous contextuels
Pour garantir une expérience sécurisée et conforme de l'IA, nous utilisons des mesures complètes de filtrage du contenu. Ces filtres s'appliquent à la fois aux invites de saisie et aux réponses générées par le modèle d'IA. Ils empêchent efficacement le traitement ou la génération de tout contenu inapproprié ou sensible.
Parallèlement au filtrage du contenu, des garde-fous contextuels sont méticuleusement mis en œuvre pour ancrer l'IA dans les cas d'utilisation prévus, favorisant ainsi l'alignement sur votre flux de travail et vos exigences.
Les clients peuvent se désengager à tout moment
Les administrateurs d'organisations peuvent désactiver l'accès à Workiva AI au niveau de l'utilisateur, du compte ou de l'organisation afin de l'adapter à leurs besoins, ou se retirer du programme à tout moment.