I team che si occupano di rendicontazione finanziaria, sostenibilità e gestione dei rischi sono responsabili di attività in cui la posta in gioco è altissima. Workiva AI è stata progettata proprio per questa realtà. Funziona nell'ambito delle stesse autorizzazioni e degli stessi controlli che regolano il resto del tuo lavoro sulla piattaforma.
Questo articolo tratta tre argomenti: come Workiva gestisce una funzionalità di intelligenza artificiale prima e dopo il suo rilascio, come verificare e controllare le azioni dell’IA di Workiva nel proprio spazio di lavoro e quali prove si hanno a disposizione quando un revisore ne fa richiesta. Ogni sezione descrive ciò che è disponibile oggi e quale direzione sta prendendo questa tecnologia.
Nota : gli elementi elencati nella sezione "Prossimamente" descrivono la direzione di questo lavoro, non costituiscono impegni relativi a funzionalità specifiche o date di consegna.
Governance dei dati
La governance dell'IA è il processo attraverso il quale Workiva verifica che una funzionalità basata sull'IA sia sicura prima che venga integrata nel tuo spazio di lavoro e ne garantisce la sicurezza anche dopo la sua implementazione. Le nuove funzionalità di IA vengono testate in base a criteri definiti e approvate tramite una checklist di governance prima di essere rese operative, in modo che la qualità sia confermata e non data per scontata.
Queste pratiche rientrano nei cinque principi di Workiva per un’IA responsabile: responsabilità, trasparenza, equità, sicurezza e affidabilità, nonché privacy e sicurezza. Tali principi sono in linea con gli standard internazionali, tra cui la norma ISO/IEC 42001 e il quadro di riferimento del NIST per la gestione dei rischi legati all’intelligenza artificiale, nonché con normative quali la legge dell’UE sull’intelligenza artificiale e il GDPR. Leggi il testo completo dei principi su L'approccio di Workiva all'IA .
Cosa c'è oggi
- Le nuove funzionalità di intelligenza artificiale vengono sottoposte a una verifica di conformità prima di essere attivate in produzione. La checklist descrive lo scopo della funzionalità, i suoi limiti di rischio, i risultati dei test su cui si basa, le modalità di monitoraggio e chi l'ha approvata.
- I controlli di rilascio impediscono che una nuova funzionalità di intelligenza artificiale venga utilizzata in produzione fino al completamento delle procedure di governance richieste.
- Le funzionalità di intelligenza artificiale vengono testate in base a criteri di qualità definiti utilizzando insiemi di test graduati, in modo da misurare la qualità delle risposte prima del rilascio.
Cosa ci aspetta
- Un registro interno centralizzato di ogni funzionalità di intelligenza artificiale, che comprenda informazioni relative alla titolarità, alle decisioni relative al rilascio, alle approvazioni, alla documentazione di supporto e alla cronologia delle versioni.
- Una valutazione continua che confronta le risposte in tempo reale con set di dati di riferimento, in modo che la qualità venga monitorata anche dopo il rilascio e non solo prima.
- Rivalutazione automatica in caso di modifiche a un modello, a un prompt, a uno strumento o a un flusso di lavoro.
- Monitoraggio della produzione in termini di qualità, guasti, costi e latenza, con avvisi di superamento delle soglie e rilevamento delle regressioni.
Verifica e controllo tramite intelligenza artificiale
La verifica e il controllo dell'IA consentono di verificare i risultati prodotti dall'IA di Workiva e di definire ciò che le è consentito vedere e fare. Puoi fare affidamento su una risposta perché puoi dimostrarla, non perché sembra corretta.
Cosa c'è oggi
- Le risposte citano le loro fonti . I marcatori di citazione in linea rimandano alla fonte; è possibile passare il mouse su un marcatore per visualizzare il nome del documento o della knowledge base e la sezione corrispondente, oppure selezionarlo per aprire la fonte.
- Un elenco delle fonti ( ) riportato alla fine di una risposta indica le fonti da cui la risposta ha attinto, con un link a ciascuna di esse.
- L'intelligenza artificiale di Workiva opera nel rispetto delle autorizzazioni di cui già disponi, fino al livello di sezione. I permessi vengono verificati quando Workiva AI recupera i contenuti, pertanto non può recuperare né citare contenuti a cui non hai accesso.
- Le azioni che modificano i tuoi contenuti richiedono una conferma.
- È possibile interrompere in qualsiasi momento un flusso di lavoro “ ” in esecuzione selezionando “ ” e poi “Stop” . Il registro delle risposte indica che l'hai interrotto.
- Un flusso di lavoro può utilizzare solo gli strumenti che gli sono stati assegnati e viene eseguito con le autorizzazioni dell'utente che lo avvia.
Cosa ci aspetta
- Riferimenti a livello di sezione per i file citati.
- Riferimenti che indicano l'esatto tratto di testo o la cella specifica da cui proviene un'affermazione.
- Percorso di derivazione dei dati calcolati, in modo da poter risalire all'origine di un dato attraverso ogni fase del processo, anziché fermarsi al primo documento.
- Valutazione dell’affidabilità delle citazioni.
- Set di citazioni esportabili da consegnare a un revisore.
- Autorizzazioni più ampie per i flussi di lavoro in più fasi, che definiscano su cosa un flusso di lavoro possa agire e non solo cosa possa citare.
Preparazione all'audit sull'intelligenza artificiale
Essere pronti per un audit sull'IA significa che esiste già una documentazione che attesti in quali punti l'IA è intervenuta nel proprio lavoro, in modo da non doverla ricostruire in un secondo momento. Si costruisce man mano che si lavora.
Cosa c'è oggi
- L'intelligenza artificiale di Workiva basa le proprie risposte sui contenuti forniti dall'utente, anziché esclusivamente sulle conoscenze generali del modello. L'approccio "grounding" trova applicazione in diversi ambiti, tra cui: tie-outs , Knowledge , benchmarking e analisi finanziarie.
- Le interazioni con l'IA vengono registrate nel registro delle attività di , che include l'utente, l'interazione e il fornitore del modello. Gli amministratori dell'area di lavoro possono visualizzare questi record.
- L'attività relativa all'intelligenza artificiale è regolata dalla stessa politica di registrazione che disciplina già l'accesso agli account, le modifiche ai dati e le modifiche alle autorizzazioni su tutta la piattaforma.
- All’interno di una sessione, è possibile rivedere i passaggi eseguiti dall’IA di Workiva. Seleziona " " (Mostra il ragionamento) per visualizzare il ragionamento, gli strumenti utilizzati e le azioni completate.
Cosa ci aspetta
- L'attribuzione dell'autore AI nella cronologia del documento, in modo che le modifiche apportate dall'IA di Workiva siano attribuibili insieme a quelle effettuate dagli utenti.
- Registrazioni delle attività che riportano l'attribuzione all'intelligenza artificiale fino alle azioni successive, collegando un'interazione dell'intelligenza artificiale al cambiamento che ha provocato.
- Cronologia delle attività dell'IA consultabile e ricostruzione dettagliata dei singoli eventi dell'IA.
- Prove sottoposte a revisione umana, registrazioni a prova di manomissione, pacchetti di prove per i revisori e accesso in sola lettura per i revisori.
Questa non è una lista di controllo definitiva. Workiva continua ad alzare l'asticella in materia di governance, verifica e preparazione alle revisioni contabili, di pari passo con l'evoluzione dell'intelligenza artificiale.
Hai domande su come questo si applichi al tuo lavoro? Contattateci all'indirizzo , security@workiva.com o .