Los equipos de información financiera, sostenibilidad y riesgo son responsables de un trabajo en el que hay mucho en juego. Workiva AI se ha diseñado teniendo en cuenta esa realidad. Funciona dentro de los mismos permisos y controles que rigen el resto de tu trabajo en la plataforma.
Este artículo trata tres aspectos: cómo Workiva gobierna una función de IA antes y después de su lanzamiento, cómo verificas y controlas lo que hace Workiva AI en tu espacio de trabajo, y qué evidencia tienes disponible cuando un auditor te la solicita. Cada sección describe lo que está disponible hoy y hacia dónde se dirige esta capacidad.
Nota: los elementos que aparecen en «Próximamente» describen la dirección de este trabajo, no compromisos sobre funciones específicas ni fechas de entrega.
Gobernanza de IA
La gobernanza de la IA es el modo en que Workiva confirma que una función de IA es segura antes de que llegue a tu espacio de trabajo, y garantiza que siga siéndolo después de su lanzamiento. Las funciones de IA nuevas se prueban con arreglo a criterios definidos y se validan mediante una lista de comprobación de gobernanza antes de activarse, de modo que la calidad se confirma en lugar de darse por hecha.
Estas prácticas se enmarcan en los cinco principios de IA responsable de Workiva: responsabilidad, transparencia, equidad, seguridad y fiabilidad, y privacidad y seguridad. Los principios se alinean con normas internacionales como ISO/IEC 42001 y el marco de gestión de riesgos de IA del NIST, y con normativas como la Ley de IA de la UE y el RGPD. Consulta los principios en su totalidad en El enfoque de Workiva sobre la IA.
Qué está disponible hoy
- Toda función de IA nueva completa una lista de comprobación de gobierno antes de poder activarse en producción. La lista de comprobación documenta el propósito de la función, sus límites de riesgo, la evidencia de las pruebas realizadas, cómo se supervisa y quién la aprobó.
- Los controles de lanzamiento impiden que una función de IA nueva funcione en producción hasta que se hayan completado los pasos de gobernanza necesarios.
- Las funciones de IA se prueban con arreglo a criterios de calidad definidos mediante conjuntos de pruebas evaluados, de modo que la calidad de las respuestas se mide antes del lanzamiento.
Próximamente
- Un registro interno centralizado de cada función de IA, que abarca la propiedad, las decisiones de lanzamiento, las aprobaciones, la evidencia de respaldo y el historial de versiones.
- Evaluación continua que compara las respuestas en producción con conjuntos de datos de referencia, de modo que la calidad se supervisa después del lanzamiento y no solo antes.
- Reevaluación automática cuando cambia un modelo, una instrucción, una herramienta o un flujo de trabajo.
- Supervisión en producción de la calidad, los fallos, el coste y la latencia, con alertas de umbral y detección de regresiones.
Verificación y control de la IA
La verificación y el control de la IA son el modo en que compruebas lo que ha producido Workiva AI y estableces lo que puede ver y hacer. Puedes confiar en una respuesta porque puedes demostrarla, no porque suene bien.
Qué está disponible hoy
- Las respuestas citan sus fuentes. Los marcadores de citas en línea remiten a la fuente, y puedes situar el cursor sobre un marcador para ver el nombre del documento o de la base de conocimiento y la sección, o seleccionarlo para abrir la fuente.
- Una lista de orígenes al final de una respuesta indica los orígenes de los que se ha extraído la respuesta, con un vínculo a cada uno.
- Workiva AI funciona dentro de los permisos que ya tienes, hasta el nivel de sección. Los permisos se comprueban cuando Workiva AI recupera contenido, de modo que no puede recuperar ni citar contenido al que no tengas acceso.
- Workiva AI pide confirmación antes de escribir. Cualquier acción que modifique tu contenido requiere confirmación. Ves lo que está a punto de cambiar y seleccionas Confirmar o Rechazar.
- Puedes detener un flujo de trabajo en ejecución en cualquier momento seleccionando Detener. La respuesta registra que lo detuviste.
- Un flujo de trabajo solo puede usar las herramientas que se le han asignado, y se ejecuta con los permisos de la persona que lo ejecuta.
Próximamente
- Citas a nivel de sección para los archivos referenciados.
- Citas que remiten al fragmento exacto de texto o a la celda específica de la que procede una afirmación.
- Trazabilidad de la derivación de las cifras calculadas, de modo que puedas rastrear un número a través de cada paso en lugar de detenerte en el primer documento.
- Puntuación de confianza en las citas.
- Conjuntos de citas exportables que puedes entregar a un auditor.
- Permisos más amplios para flujos de trabajo de varios pasos, que delimitan sobre qué puede actuar un flujo de trabajo y no solo lo que puede citar.
Preparación de la IA para auditorías
La preparación de la IA para auditorías significa que el registro de dónde ha intervenido la IA en tu trabajo ya existe, de modo que no tienes que reconstruirlo después. Se genera mientras trabajas.
Qué está disponible hoy
- Workiva AI basa sus respuestas en tu propio contenido y no solo en el conocimiento general del modelo. Esta base de fundamentación se aplica en varios casos de uso, como las conciliaciones, Knowledge, las referencias comparativas y las perspectivas financieras.
- Las interacciones con la IA se registran en el registro de actividad, incluidos el usuario, la interacción y el proveedor del modelo. Los administradores del espacio de trabajo pueden ver estos registros.
- La actividad de la IA se rige por la misma política de registro que ya cubre el acceso a la cuenta, los cambios de datos y los cambios de permisos en toda la plataforma.
- Dentro de una sesión, puedes revisar los pasos que ha seguido Workiva AI. Selecciona Mostrar razonamiento para ver su razonamiento, las herramientas que ha utilizado y las acciones que ha completado.
Próximamente
- Autoría de la IA en el historial de documentos, de modo que los cambios realizados por Workiva AI puedan atribuirse junto con las ediciones humanas.
- Registros de actividad que mantienen la atribución a la IA hasta las acciones posteriores, conectando una interacción con IA con el cambio que provocó.
- Historial de actividad de IA con función de búsqueda y reconstrucción detallada de eventos de IA individuales.
- Evidencia de revisión humana, registros a prueba de manipulaciones, paquetes de evidencia para auditores y acceso de solo lectura para auditores.
Esto no es una lista de comprobación cerrada. Workiva sigue elevando el listón en materia de gobernanza, verificación y preparación para auditorías a medida que la IA evoluciona.
¿Tienes preguntas sobre cómo se aplica esto a tu trabajo? Contacta con nosotros en security@workiva.com.