Los equipos de información financiera, sostenibilidad y gestión de riesgos son los responsables de las tareas en las que hay más en juego. Workiva AI se ha diseñado pensando en esa realidad. Funciona dentro del mismo marco de permisos y controles que rige el resto de tu trabajo en la plataforma.
Este artículo aborda tres aspectos: cómo Workiva gestiona una función de IA antes y después de su lanzamiento; cómo se verifica y controla lo que hace la IA de Workiva en tu espacio de trabajo; y qué pruebas se pueden aportar cuando un auditor lo solicite. En cada apartado se describe lo que hay disponible en la actualidad y hacia dónde se dirige esta tecnología.
Nota : Los elementos que aparecen en la sección «Próximas novedades» describen la orientación de este trabajo, no constituyen compromisos respecto a funciones concretas ni fechas de entrega.
Gobernanza de IA
La gobernanza de la IA es el proceso mediante el cual Workiva se asegura de que una función de IA sea segura antes de que llegue a tu espacio de trabajo, y garantiza que siga siéndolo una vez implementada. Las nuevas funciones de IA se someten a pruebas según criterios definidos y se validan mediante una lista de comprobación de gobernanza antes de su puesta en marcha, de modo que la calidad se confirma y no se da por sentada.
Estas prácticas se enmarcan en los cinco principios de IA responsable de Workiva: responsabilidad, transparencia, equidad, seguridad y fiabilidad, y privacidad y seguridad. Estos principios se ajustan a normas internacionales como la ISO/IEC 42001 y el Marco de Gestión de Riesgos de la IA del NIST, así como a normativas como la Ley de IA de la UE y el RGPD. Lee los principios completos en El enfoque de Workiva respecto a la IA .
Qué hay disponible hoy
- Las nuevas funciones de IA completan una lista de comprobación de gobernanza antes de que se activen en producción. La lista de comprobación recoge la finalidad de la funcionalidad, sus límites de riesgo, las pruebas en las que se basa, cómo se supervisa y quién la ha aprobado.
- Los controles de lanzamiento impiden que una nueva función de IA entre en funcionamiento en el entorno de producción hasta que se hayan completado los pasos de gobernanza necesarios.
- Las funciones de IA se someten a pruebas según criterios de calidad definidos, utilizando conjuntos de pruebas clasificados, de modo que la calidad de las respuestas se evalúa antes de su lanzamiento.
Próximamente
- Un registro interno centralizado de todas las funciones de IA, que incluya la titularidad, las decisiones de lanzamiento, las aprobaciones, las pruebas justificativas y el historial de versiones.
- Una evaluación continua que compara las respuestas en tiempo real con conjuntos de datos de referencia, de modo que la calidad se supervisa tras la publicación y no solo antes de ella.
- Reevaluación automática cuando se produce un cambio en un modelo, una indicación, una herramienta o un flujo de trabajo.
- Supervisión de la producción en cuanto a calidad, fallos, costes y latencia, con alertas de umbrales y detección de regresiones.
Verificación y control mediante IA
La verificación y el control de la IA consisten en comprobar lo que ha generado la IA de Workiva y establecer lo que puede ver y hacer. Puedes confiar en una respuesta porque puedes demostrarla, no porque te parezca correcta.
Qué hay disponible hoy
- Las respuestas citan sus fuentes . Los marcadores de citas en el texto remiten a la fuente; si pasas el cursor por encima de un marcador, podrás ver el nombre del documento o de la base de conocimientos y la sección correspondiente, o bien seleccionarlo para abrir la fuente.
- Una lista de fuentes « » ( ) al final de una respuesta enumera las fuentes en las que se ha basado la respuesta, con un enlace a cada una de ellas.
- La IA de Workiva funciona dentro de los permisos de los que ya dispones, incluso a nivel de sección. Los permisos se comprueban cuando Workiva AI recupera contenido, por lo que no puede recuperar ni citar contenido al que no tengas acceso.
- Las acciones que modifican tu contenido requieren confirmación.
- Puedes detener un flujo de trabajo de que se esté ejecutando en cualquier momento seleccionando « » y, a continuación, «Stop» . La respuesta indica que lo has detenido.
- Un flujo de trabajo solo puede utilizar las herramientas que se le hayan asignado y se ejecuta con los permisos de la persona que lo ejecuta.
Próximamente
- Referencias a nivel de sección para los archivos a los que se hace referencia.
- Referencias que indican el fragmento exacto de texto o la celda concreta de la que procede una afirmación.
- Historial de cálculo de las cifras, para que puedas rastrear el origen de una cifra a través de cada paso, en lugar de limitarte al primer documento.
- Puntuación de confianza en las citas.
- Conjuntos de citas exportables que puedes entregar a un auditor.
- Un sistema de permisos más amplio para los flujos de trabajo de varios pasos, que limite las acciones que un flujo de trabajo puede realizar y no solo lo que puede citar.
Preparación para la auditoría de IA
La preparación para una auditoría de IA significa que ya existe un registro de en qué momentos la IA ha intervenido en tu trabajo, de modo que no tengas que reconstruirlo después. Se va construyendo a medida que trabajas.
Qué hay disponible hoy
- La IA de Workiva basa sus respuestas en tu propio contenido, en lugar de basarse únicamente en los conocimientos generales del modelo. La conexión a tierra se aplica a diversos casos de uso, entre los que se incluyen: , , , Knowledge , , análisis comparativo y análisis financiero.
- Las interacciones con la IA se registran en el registro de actividad de , donde se incluye el usuario, la interacción y el proveedor del modelo. Los administradores del espacio de trabajo pueden consultar estos registros.
- La actividad relacionada con la IA se rige por la misma política de registro que ya abarca el acceso a las cuentas, las modificaciones de datos y los cambios en los permisos en toda la plataforma.
- Dentro de una sesión, puedes revisar los pasos que ha seguido la IA de Workiva. Selecciona « » (Mostrar proceso de razonamiento) para ver su razonamiento, las herramientas que ha utilizado y las acciones que ha realizado.
Próximamente
- La autoría de la IA figura en el historial del documento, por lo que los cambios realizados por la IA de Workiva se pueden atribuir junto con las modificaciones realizadas por personas.
- Registros de actividad que transmiten la atribución de la IA a las acciones posteriores, vinculando una interacción de la IA con el cambio que ha provocado.
- Historial de actividades de IA consultable y reconstrucción detallada de eventos individuales de IA.
- Pruebas de revisión manual, registros a prueba de manipulaciones, paquetes de pruebas para auditores y acceso de solo lectura para los auditores.
Esta lista de comprobación aún no está completa. Workiva sigue elevando el listón en materia de gobernanza, verificación y preparación para las auditorías a medida que evoluciona la inteligencia artificial.
¿Tienes alguna duda sobre cómo se aplica esto a tu trabajo? Ponte en contacto con nosotros en , security@workiva.com o .