Les équipes chargées de l'information financière, du développement durable et de la gestion des risques sont responsables de missions où les enjeux sont les plus importants. Workiva AI a été conçue pour répondre à cette réalité. Ce système s'inscrit dans le cadre des mêmes autorisations et contrôles qui régissent le reste de votre travail sur la plateforme.
Cet article aborde trois points : comment Workiva gère une fonctionnalité d'IA avant et après sa mise en production, comment vérifier et contrôler le fonctionnement de l'IA de Workiva dans votre espace de travail, et de quelles preuves vous disposez en cas de demande d'un auditeur. Chaque section décrit les solutions actuellement disponibles et les perspectives d'évolution de ces technologies.
Remarque : les éléments répertoriés sous la rubrique « À venir » décrivent l'orientation de ce projet, et ne constituent pas des engagements concernant des fonctionnalités spécifiques ou des dates de livraison.
Gouvernance de l’IA
La gouvernance de l'IA désigne la manière dont Workiva s'assure qu'une fonctionnalité d'IA est sûre avant qu'elle ne soit intégrée à votre espace de travail, et veille à ce qu'elle le reste après son déploiement. Les nouvelles fonctionnalités d'IA sont testées selon des critères définis et validées à l'aide d'une liste de contrôle de gouvernance avant leur mise en service ; ainsi, la qualité est vérifiée et non pas simplement supposée.
Ces pratiques s'inscrivent dans le cadre des cinq principes de Workiva en matière d'IA responsable : responsabilité, transparence, équité, sécurité et fiabilité, ainsi que confidentialité et sécurité. Ces principes sont conformes aux normes internationales, notamment la norme ISO/IEC 42001 et le cadre de gestion des risques liés à l'IA du NIST, ainsi qu'aux réglementations telles que la loi européenne sur l'IA et le RGPD. Pour consulter l'intégralité de ces principes, rendez-vous sur L'approche de Workiva en matière d'IA .
Qu'est-ce qui est disponible aujourd'hui ?
- Les nouvelles fonctionnalités d'IA font l'objet d'une vérification conforme à une liste de contrôle de gouvernance avant leur mise en service en production. La liste de contrôle précise l'objectif de la fonctionnalité, ses limites en matière de risques, les résultats des tests sur lesquels elle s'appuie, la manière dont elle est surveillée et le nom de la personne qui l'a approuvée.
- Les contrôles de mise en production empêchent une nouvelle fonctionnalité d'IA de fonctionner en production tant que les étapes de gouvernance requises n'ont pas été menées à bien.
- Les fonctionnalités d'IA sont testées selon des critères de qualité définis à l'aide d'ensembles de tests classés par niveau, ce qui permet d'évaluer la qualité des réponses avant leur mise en production.
À venir
- Un registre interne centralisé répertoriant toutes les fonctionnalités d'IA, comprenant les informations relatives à la propriété, aux décisions de mise en service, aux autorisations, aux pièces justificatives et à l'historique des versions.
- Une évaluation continue qui compare les réponses en temps réel à des ensembles de données de référence, afin que la qualité soit contrôlée après la mise en service et pas seulement avant.
- Réévaluation automatique en cas de modification d'un modèle, d'une invite, d'un outil ou d'un flux de travail.
- Suivi de la production en termes de qualité, de défaillances, de coûts et de latence, avec des alertes de seuil et la détection des régressions.
Vérification et contrôle par l'IA
La vérification et le contrôle de l'IA consistent à vérifier ce que l'IA de Workiva a généré et à définir ce qu'elle est autorisée à voir et à faire. On peut se fier à une réponse parce qu'on peut la démontrer, et non parce qu'elle semble correcte.
Qu'est-ce qui est disponible aujourd'hui ?
- Réponses : , avec mention des sources : . Les repères de citation intégrés renvoient à la source. Vous pouvez passer la souris sur un repère pour afficher le nom du document ou de la base de connaissances ainsi que la section correspondante, ou cliquer dessus pour ouvrir la source.
- Une liste de sources « » figurant à la fin d'une réponse indique les sources sur lesquelles celle-ci s'est appuyée, avec un lien vers chacune d'entre elles.
- L'IA de Workiva fonctionne dans le cadre des autorisations dont vous disposez déjà, jusqu'au niveau des sections. Les autorisations sont vérifiées lorsque Workiva AI récupère du contenu ; il est donc impossible pour l'IA de récupérer ou de citer du contenu auquel vous n'avez pas accès.
- Les actions qui modifient votre contenu nécessitent une confirmation.
- Vous pouvez interrompre à tout moment un workflow en cours d'exécution en sélectionnant « » puis « Stop » . La réponse indique que vous l'avez interrompu.
- Un workflow ne peut utiliser que les outils qui lui ont été attribués, et il s'exécute avec les droits de la personne qui le lance.
À venir
- Références au niveau des sections pour les fichiers cités.
- Références indiquant la partie exacte du texte ou la cellule spécifique d'où provient une affirmation.
- Historique de calcul des chiffres, ce qui vous permet de retracer l'origine d'un chiffre à travers chaque étape, plutôt que de vous arrêter au premier document.
- Évaluation du niveau de confiance des citations.
- Des listes de références exportables que vous pouvez remettre à un auditeur.
- Des autorisations plus étendues pour les workflows en plusieurs étapes, délimitant ce sur quoi un workflow peut agir et pas seulement ce qu’il peut référencer.
Préparation à l'audit en matière d'IA
La « préparation à l'audit de l'IA » signifie qu'il existe déjà une trace des interventions de l'IA dans votre travail, ce qui vous évite d'avoir à les reconstituer a posteriori. Il se construit au fur et à mesure que vous travaillez.
Qu'est-ce qui est disponible aujourd'hui ?
- L'IA de Workiva fonde ses réponses sur votre propre contenu plutôt que sur les seules connaissances générales du modèle. Le « grounding » s'applique à divers cas d'utilisation, notamment : tie-outs , Knowledge , benchmarking , ainsi que les analyses financières.
- Les interactions avec l'IA sont consignées dans le journal d'activité de l' , qui indique notamment l'utilisateur, l'interaction et le fournisseur du modèle. Les administrateurs de l'espace de travail peuvent consulter ces enregistrements.
- Les activités liées à l'IA sont régies par la même politique de journalisation qui s'applique déjà à l'accès aux comptes, aux modifications de données et aux changements d'autorisations sur l'ensemble de la plateforme.
- Au cours d'une session, vous pouvez consulter les étapes suivies par l'IA de Workiva. Sélectionnez « » (Afficher le raisonnement) pour voir son raisonnement, les outils qu'il a utilisés et les actions qu'il a effectuées.
À venir
- La paternité de l'IA est indiquée dans l'historique du document ; ainsi, les modifications apportées par l'IA de Workiva sont clairement identifiées, au même titre que celles effectuées par des utilisateurs humains.
- Des enregistrements d'activité qui permettent d'attribuer la responsabilité de l'IA aux actions en aval, en établissant un lien entre une interaction de l'IA et le changement qu'elle a provoqué.
- Historique des activités de l'IA consultable et reconstitution détaillée de chaque événement lié à l'IA.
- Preuves issues d'un examen humain, enregistrements inviolables, dossiers de preuves destinés aux auditeurs et accès en lecture seule pour les auditeurs.
Cette liste de contrôle n'est pas définitive. Workiva continue de placer la barre toujours plus haut en matière de gouvernance, de vérification et de préparation aux audits, à mesure que l'IA évolue.
Vous vous demandez comment cela s'applique à votre travail ? Contactez-nous à l'adresse , security@workiva.com ou .