I team che si occupano di report finanziari, sostenibilità e rischio sono responsabili del lavoro dove la posta in gioco è più alta. Workiva AI è costruita per questa realtà. Funziona all'interno delle stesse autorizzazioni e controlli che regolano il resto del tuo lavoro sulla piattaforma.
Questo articolo tratta tre cose: come Workiva governa una funzionalità IA prima e dopo il rilascio, come verifichi e controlli cosa fa Workiva AI nel tuo workspace, e quali prove hai quando un auditor te lo chiede. Ogni sezione descrive ciò che è disponibile oggi e la direzione verso cui si sta muovendo la funzionalità.
Nota: gli elementi elencati sotto "In arrivo" descrivono la direzione di questo lavoro, non impegni per funzionalità specifiche o date di consegna.
Governance dei dati
La governance dell'IA è il processo con cui Workiva verifica che una funzionalità IA sia sicura prima di renderla disponibile nel tuo workspace e garantisce che rimanga tale dopo il rilascio. Le nuove funzionalità IA vengono testate secondo criteri definiti e approvate tramite una checklist di governance prima di essere messe in produzione, in modo che la qualità sia confermata e non solo presunta.
Queste pratiche si inseriscono nei cinque principi di IA responsabile di Workiva: responsabilità, trasparenza, correttezza, sicurezza e affidabilità, e privacy e sicurezza. I principi si allineano con standard internazionali tra cui ISO/IEC 42001 e il NIST AI Risk Management Framework, e con normative tra cui l'EU AI Act e il GDPR. Leggi i principi completi in L'approccio di Workiva all'IA.
Cosa è disponibile oggi
- Ogni nuova funzionalità IA completa una checklist di governance prima di poter essere attivata in produzione. La checklist documenta lo scopo della funzionalità, i suoi limiti di rischio, le evidenze di test a supporto, le modalità di monitoraggio e chi l'ha approvata.
- I controlli di rilascio impediscono a una nuova funzionalità IA di operare in produzione finché i passaggi di governance richiesti non sono completati.
- Le funzionalità IA vengono testate rispetto a criteri di qualità definiti usando set di test graduati, in modo che la qualità delle risposte sia misurata prima del rilascio.
In arrivo
- Un registro interno centrale di ogni funzionalità IA, che comprende proprietà, decisioni di rilascio, approvazioni, prove di supporto e cronologia delle versioni.
- Valutazione continua che confronta le risposte live con set di dati di riferimento, così la qualità viene monitorata dopo il rilascio e non solo prima.
- Rivalutazione automatica quando un modello, prompt, strumento o flusso di lavoro cambia.
- Monitoraggio in produzione per qualità, errori, costi e latenza, con avvisi sulle soglie e rilevamento delle regressioni.
Verifica e controllo dell'IA
La verifica e il controllo dell'IA è il modo in cui puoi verificare ciò che Workiva AI ha prodotto e impostare ciò che può vedere e fare. Puoi fare affidamento su una risposta perché puoi dimostrarla, non perché suona corretta.
Cosa è disponibile oggi
- Le risposte citano le loro fonti. I marcatori di citazione inline rimandano alla fonte e puoi passare il cursore su un marcatore per vedere il nome del documento o della knowledge base e la sezione, oppure selezionarlo per aprire la fonte.
- Un elenco Fonti alla fine di una risposta elenca le fonti da cui è stata ricavata la risposta, con un collegamento a ciascuna.
- Workiva AI opera all'interno delle autorizzazioni che già possiedi, fino al livello di sezione. Le autorizzazioni vengono verificate quando Workiva AI recupera i contenuti, quindi non può recuperare o citare contenuti a cui non hai accesso.
- Workiva AI chiede prima di scrivere. Qualsiasi azione che modifica i tuoi contenuti richiede conferma. Prima guardi cosa sta per essere modificato, poi selezioni Conferma o Rifiuta.
- Puoi interrompere un flusso di lavoro in esecuzione in qualsiasi momento selezionando Interrompi. La risposta registra che l'hai interrotto.
- Un flusso di lavoro può usare solo gli strumenti che gli sono stati assegnati e viene eseguito con le autorizzazioni della persona che lo avvia.
In arrivo
- Citazioni a livello di sezione per i file referenziati.
- Citazioni che puntano all'esatto frammento di testo o alla cella specifica da cui proviene un'affermazione.
- Traccia di derivazione per le cifre calcolate, così puoi rintracciare un numero attraverso ogni passaggio invece di fermarti al primo documento.
- Punteggio di affidabilità sulle citazioni.
- Set di citazioni esportabili da consegnare a un revisore.
- Autorizzazioni più ampie per flussi di lavoro multi-passaggio, delimitando su cosa può agire un flusso di lavoro e non solo cosa può citare.
Preparazione all'audit dell'IA
La preparazione all'audit dell'IA significa che hai già la traccia di dove l'IA è intervenuta nel tuo lavoro, quindi non devi ricostruirla dopo. Viene costruita mentre lavori.
Cosa è disponibile oggi
- Workiva AI fonda le sue risposte sui tuoi contenuti piuttosto che solo sulla conoscenza generale del modello. Il grounding si applica a diversi casi d'uso tra cui tie-out, knowledge, benchmark e informazioni finanziarie.
- Le interazioni con l'IA sono registrate nel registro attività, incluso l'utente, l'interazione e il fornitore del modello. Gli amministratori del workspace possono visualizzare questi record.
- L'attività IA è governata dalla stessa politica di registrazione che già copre l'accesso agli account, le modifiche ai dati e le modifiche alle autorizzazioni su tutta la piattaforma.
- All'interno di una sessione, puoi esaminare i passaggi eseguiti da Workiva AI. Seleziona Mostra ragionamento per vedere il suo ragionamento, gli strumenti che ha utilizzato e le azioni che ha completato.
In arrivo
- Attribuzione dell'autore IA nella cronologia dei documenti, così le modifiche apportate da Workiva AI sono attribuibili insieme alle modifiche umane.
- Registri di attività che portano l'attribuzione IA fino alle azioni successive, collegando un'interazione IA alla modifica che ha causato.
- Cronologia delle attività IA ricercabile e ricostruzione dettagliata di singoli eventi IA.
- Prove di revisione umana, registri a prova di manomissione, pacchetti di prove per gli auditor e accesso in sola lettura per gli auditor.
Questa non è una checklist finita. Workiva continua ad alzare il livello di governance, verifica e preparazione all'audit mentre l'IA evolve.
Hai domande su come questo si applica al tuo lavoro? Scrivici all'indirizzo e-mail security@workiva.com.