Les équipes de reporting financier, de durabilité et de risque sont responsables d’activités où les enjeux sont les plus élevés. L’IA Workiva est conçue pour cette réalité. Cela fonctionne dans le respect des mêmes permissions et contrôles qui régissent le reste de votre travail sur la plateforme.
Cet article aborde trois points : comment Workiva encadre une fonctionnalité d’IA avant et après son déploiement, comment vous vérifiez et contrôlez ce que fait l’IA Workiva dans votre espace de travail, et quelles preuves vous détenez lorsqu’un auditeur vous les demande. Chaque section décrit ce qui est disponible aujourd’hui et l’orientation future de cette capacité.
Note : les éléments listés sous « Ce qui arrive » décrivent l’orientation de ce travail, et non des engagements sur des fonctionnalités ou des dates de livraison spécifiques.
Gouvernance de l’IA
La gouvernance de l’IA est la façon dont Workiva confirme qu’une fonctionnalité d’IA est sûre avant qu’elle n’atteigne votre espace de travail, et la maintient ainsi après sa mise en service. Les nouvelles fonctionnalités d’IA sont testées selon des critères définis et validées via une liste de contrôle de gouvernance avant leur mise en ligne, afin de confirmer leur qualité plutôt que de la présumer.
Ces pratiques s’inscrivent dans les cinq principes d’IA responsable de Workiva : responsabilité, transparence, équité, sécurité et fiabilité, ainsi que confidentialité et sécurité des données. Les principes s’alignent sur des normes internationales telles que l’ISO/IEC 42001 et le NIST AI Risk Management Framework, ainsi que sur des réglementations telles que l’AI Act de l’UE et le RGPD. Consultez les principes en intégralité dans L’approche de Workiva en matière d’IA.
Ce qui est disponible aujourd’hui
- Chaque nouvelle fonctionnalité d’IA suit une liste de vérification de gouvernance avant de pouvoir être activée en production. La checklist documente l’objectif de la fonctionnalité, ses limites de risque, les preuves de tests associées, la manière dont elle est surveillée et qui l’a approuvée.
- Les contrôles de mise en production empêchent une nouvelle fonctionnalité d’IA de fonctionner en production tant que les étapes de gouvernance requises ne sont pas terminées.
- Les fonctionnalités d’IA sont testées selon des critères de qualité définis, à l’aide d’ensembles de tests notés, afin que la qualité des réponses soit mesurée avant chaque publication.
À venir
- Un registre interne central de chaque fonctionnalité d’IA, couvrant la propriété, les décisions de mise en service, les approbations, les preuves associées et l’historique des versions.
- Évaluation continue qui compare les réponses en direct à des jeux de données de référence, afin de surveiller la qualité après la mise en production, et pas seulement avant.
- Réévaluation automatique en cas de modification d’un modèle, d’une invite, d’un outil ou d’un flux de travail.
- Surveillance en production de la qualité, des échecs, des coûts et de la latence, avec des alertes de seuil et une détection des régressions.
Vérification et contrôle de l’IA
La vérification et le contrôle de l’IA correspondent à la manière dont vous vérifiez ce que l’IA Workiva a produit, et dont vous définissez ce qu’elle est autorisée à voir et à faire. Vous pouvez faire confiance à une réponse parce que vous pouvez la prouver, pas parce qu’elle semble correcte.
Ce qui est disponible aujourd’hui
- Les réponses citent leurs sources. Des marqueurs de citation en ligne renvoient à la source, et vous pouvez survoler un marqueur pour voir le nom du document ou de la base de connaissances et la section, ou le sélectionner pour ouvrir la source.
- Une liste Sources à la fin d’une réponse nomme les sources utilisées pour générer la réponse, avec un lien vers chacune d’elles.
- L’IA Workiva fonctionne dans le cadre des permissions que vous possédez déjà, jusqu’au niveau de la section. Les permissions sont vérifiées lorsque l’IA Workiva récupère du contenu, ce qui l’empêche de récupérer ou de citer du contenu auquel vous n’avez pas accès.
- L’IA Workiva demande avant d’écrire. Toute action qui modifie votre contenu nécessite une confirmation. Vous voyez ce qui va changer et sélectionnez Confirmer ou Refuser.
- Vous pouvez arrêter un flux de travail en cours d’exécution à tout moment en sélectionnant Arrêter. La réponse enregistre que vous l’avez arrêté.
- Un flux de travail ne peut utiliser que les outils qui lui ont été attribués, et il s’exécute avec les permissions de la personne qui l’exécute.
À venir
- Citations au niveau des sections pour les fichiers référencés.
- Des citations qui pointent vers l’étendue exacte du texte ou la cellule spécifique d’où provient une affirmation.
- Traçabilité de dérivation pour les valeurs calculées, vous permettant de retracer un nombre à travers chaque étape, plutôt que de vous arrêter au premier document.
- Notation de confiance sur les citations.
- Des ensembles de citations exportables que vous pouvez remettre à un auditeur.
- Des permissions plus larges pour les flux de travail à plusieurs incréments, délimitant ce sur quoi un flux de travail peut agir, et pas seulement ce qu’il peut citer.
Préparation aux audits par IA
La préparation à l’audit de l’IA signifie que l’historique des interventions de l’IA dans votre travail existe déjà, ce qui vous évite de devoir le reconstituer a posteriori. Elle se construit au fil de votre travail.
Ce qui est disponible aujourd’hui
- L’IA Workiva ancre ses réponses dans votre propre contenu plutôt que dans les seules connaissances générales du modèle. L’ancrage s’applique à plusieurs cas d’usage, notamment les rapprochements, les connaissances, le benchmarking et les insights financiers.
- Les interactions avec l’IA sont enregistrées dans le journal d’activité, y compris l’utilisateur, l’interaction et le fournisseur du modèle. Les admins de l’espace de travail peuvent consulter ces enregistrements.
- L’activité de l’IA est régie par la même politique de consignation qui couvre déjà l’accès au Compte, les modifications de données et les modifications de permission sur l’ensemble de la plateforme.
- Au sein d’une session, vous pouvez examiner les étapes suivies par l’IA Workiva. Sélectionnez Afficher la réflexion pour voir son raisonnement, les outils appelés et les actions effectuées.
À venir
- L’attribution de l’IA dans l’historique du document, afin que les modifications effectuées par l’IA Workiva soient attribuables au même titre que les modifications humaines.
- Les enregistrements d’activité conservent l’attribution à l’IA jusqu’aux actions en aval, en reliant une interaction avec l’IA au changement qu’elle a provoqué.
- Historique consultable de l’activité de l’IA et reconstitution détaillée des événements d’IA individuels.
- Preuve de révision humaine, enregistrements infalsifiables, dossiers de preuves pour les auditeurs, et accès en lecture seule pour les auditeurs.
Cette checklist n’est pas encore terminée. Workiva continue de placer la barre plus haut en matière de gouvernance, de vérification et de préparation aux audits, à mesure que l’IA évolue.
Vous avez des questions sur la façon dont cela s’applique à votre travail ? Contactez-nous à security@workiva.com.