Los equipos de informes financieros, sostenibilidad y riesgo son responsables de trabajo donde lo que está en juego es mayor. La IA de Workiva está diseñada para esa realidad. Funciona dentro de los mismos permisos y controles que rigen el resto de tu trabajo en la plataforma.
Este artículo cubre tres cosas: cómo Workiva gobierna una función de IA antes y después de su lanzamiento, cómo verificas y controlas lo que hace la IA de Workiva en tu espacio de trabajo, y qué evidencia tienes cuando un auditor pregunta. Cada sección describe lo que está disponible hoy y hacia dónde se dirige la capacidad.
Nota: Los elementos listados en "Lo que viene" describen la dirección de este trabajo, no compromisos con funciones específicas o fechas de entrega.
IA de confianza
La gobernanza de la IA es la manera en que Workiva confirma que una función de IA es segura antes de que llegue a tu espacio de trabajo, y la mantiene así después de su lanzamiento. Las nuevas funciones de IA se prueban según criterios definidos y se aprueban mediante una lista de verificación de gobernanza antes de entrar en funcionamiento, de modo que la calidad se confirma en lugar de asumirse.
Estas prácticas se encuentran bajo los cinco principios de IA responsable de Workiva: Responsabilidad, Transparencia, Equidad, Seguridad y confiabilidad, y Privacidad y seguridad. Los principios se alinean con estándares internacionales, incluyendo ISO/IEC 42001 y el Marco de Gestión de Riesgos de IA del NIST, y con regulaciones como la Ley de IA de la UE y el RGPD. Lee los principios completos en El enfoque de Workiva hacia la IA.
Lo que está disponible hoy
- Cada nueva función de IA completa una lista de verificación de gobernanza antes de poder activarse en producción. La lista de verificación documenta el propósito de la función, sus límites de riesgo, la evidencia de pruebas detrás de ella, cómo se supervisa y quién la aprobó.
- Los controles de lanzamiento evitan que una nueva función de IA opere en producción hasta que se completen los pasos de gobernanza requeridos.
- Las funciones de IA se prueban según criterios de calidad definidos usando conjuntos de pruebas calificadas, de modo que la calidad de las respuestas se mide antes del lanzamiento.
Lo que viene
- Un registro interno central de cada función de IA, que abarca propiedad, decisiones de lanzamiento, aprobaciones, evidencia de respaldo e historial de versiones.
- Evaluación continua que compara las respuestas en vivo con conjuntos de datos de referencia, de modo que la calidad se supervisa después del lanzamiento y no solo antes.
- Reevaluación automática cuando cambia un modelo, mensaje, herramienta o flujo de trabajo.
- Supervisión de producción para calidad, fallos, costo y latencia, con alertas de umbral y detección de regresiones.
Verificación y control de la IA
La verificación y control de la IA es la forma en que verificas lo que produjo la IA de Workiva y estableces lo que puede ver y hacer. Puedes confiar en una respuesta porque puedes demostrarla, no porque suene correcta.
Lo que está disponible hoy
- Las respuestas citan sus fuentes. Los marcadores de cita en línea apuntan de vuelta a la fuente, y puedes pasar el cursor sobre un marcador para ver el nombre del documento o base de conocimiento y la sección, o seleccionarlo para abrir la fuente.
- Una lista de Fuentes al final de una respuesta nombra las fuentes de las que se extrajo la respuesta, con un enlace a cada una.
- La IA de Workiva funciona dentro de los permisos que ya tienes, hasta el nivel de sección. Los permisos se verifican cuando la IA de Workiva recupera contenido, por lo que no puede recuperar ni citar contenido al que no tengas acceso.
- La IA de Workiva pregunta antes de escribir. Cualquier acción que cambie tu contenido requiere confirmación. Ves lo que va a cambiar y seleccionas Confirmar o Rechazar.
- Puedes detener un flujo de trabajo en ejecución en cualquier momento seleccionando Detener. La respuesta registra que lo detuviste.
- Un flujo de trabajo solo puede usar las herramientas que se le han dado, y se ejecuta con los permisos de la persona que lo ejecuta.
Lo que viene
- Citas a nivel de sección para archivos referenciados.
- Citas que apuntan al tramo exacto de texto o a la celda específica de donde proviene una afirmación.
- Linaje de derivación para cifras calculadas, de modo que puedas rastrear un número a través de cada paso en lugar de detenerte en el primer documento.
- Puntuación de confianza en las citas.
- Conjuntos de citas exportables que puedes entregar a un auditor.
- Permisos más amplios para flujos de trabajo de varios pasos, delimitando sobre qué puede actuar un flujo de trabajo y no solo lo que puede citar.
Preparación para auditoría de IA
La preparación para auditoría de IA significa que el registro de dónde la IA intervino en tu trabajo ya existe, para que no tengas que reconstruirlo después. Se construye a medida que trabajas.
Lo que está disponible hoy
- La IA de Workiva basa sus respuestas en tu propio contenido en lugar de únicamente en el conocimiento general del modelo. La fundamentación se aplica en distintos casos de uso, incluyendo conciliaciones, Knowledge, comparaciones de referencia y perspectivas financieras.
- Las interacciones de IA se registran en el registro de actividad, incluyendo el usuario, la interacción y el proveedor del modelo. Los administradores del espacio de trabajo pueden ver estos registros.
- La actividad de IA se rige por la misma política de registro que ya cubre el acceso a la cuenta, los cambios de datos y los cambios de permisos en toda la plataforma.
- Dentro de una sesión, puedes revisar los pasos que tomó la IA de Workiva. Selecciona Mostrar razonamiento para ver su razonamiento, las herramientas que utilizó y las acciones que completó.
Lo que viene
- Autoría de IA en el historial de documentos, de modo que los cambios realizados por la IA de Workiva se puedan atribuir junto con las ediciones humanas.
- Registros de actividad que llevan la atribución de IA hasta las acciones posteriores, conectando una interacción de IA con el cambio que causó.
- Historial de actividad de IA con capacidad de búsqueda y reconstrucción detallada de eventos individuales de IA.
- Evidencia de revisión humana, registros a prueba de alteraciones, paquetes de evidencia para auditores y acceso de solo lectura para auditores.
Esto no es una lista de verificación terminada. Workiva continúa elevando el estándar de gobernanza, verificación y preparación para auditoría a medida que la IA evoluciona.
¿Tienes preguntas sobre cómo esto se aplica a tu trabajo? Contáctanos en security@workiva.com.