Workiva AI está diseñado para ayudarle a trabajar de forma más eficiente, manteniendo los más altos estándares de confianza, seguridad y uso responsable. Nuestro enfoque se centra en dotarle de capacidades asistidas por IA que apoyen su trabajo sin comprometer su control ni su criterio. Workiva AI está diseñada para ayudar, no para sustituir, a los expertos humanos.
En este artículo, profundizaremos en las normas de seguridad y las prácticas éticas integradas en nuestro marco de IA. A continuación, exploraremos cómo esta combinación le permite lograr resultados notables al tiempo que mantiene los más altos estándares de implementación responsable de la IA.
Nuestra norma de seguridad Workiva AI
La arquitectura de seguridad de Workiva está especialmente diseñada para su plataforma, integrando la seguridad directamente en el servicio. Nuestra práctica garantiza protocolos de datos sólidos, incluido el cifrado en tránsito (TLS 1.2+), y un compromiso contractual de que los datos de los clientes no se utilizan para formar a los LLM.
Este compromiso se construye sobre la base de cinco principios fundamentales, que se alinean con las normas mundiales en evolución (por ejemplo, ISO/IEC 42001, NIST AI RMF) y reglamentos (por ejemplo, la Ley de AI de la UE, GDPR). Nuestros cinco principios básicos de IA Responsable -responsabilidad, transparencia, imparcialidad, seguridad y fiabilidad, y privacidad y seguridad- están directamente relacionados con esta norma internacional de gestión, que guía nuestras operaciones y demuestra nuestro cumplimiento proactivo mientras buscamos la certificación completa.
1. Rendición de cuentas
Workiva se asegurará de que los recursos internos sean responsables de gestionar el riesgo y de cumplir las leyes y normativas aplicables al implantar y mantener las funciones de IA.
Desarrollamos y utilizamos la IA de forma responsable. Esto significa integrar la responsabilidad en todo el ciclo de vida de la IA, lo que incluye:
- Evaluación del impacto: Evaluaremos el impacto potencial de nuestros sistemas de IA en los usuarios y la sociedad.
- Supervisión específica: Los sistemas que podrían tener un impacto adverso significativo están sujetos a una supervisión y unos requisitos adicionales y sólidos.
- Adecuación al propósito: Nos comprometemos a garantizar que nuestras funciones de IA ofrezcan soluciones válidas para su uso previsto y resuelvan problemas documentados.
- Gobernanza de datos: Mantenemos prácticas adecuadas de gobernanza y gestión de datos, definiendo los requisitos de datos en función del uso previsto del sistema y las partes interesadas.
- Control humano: Diseñamos nuestros sistemas de Inteligencia Artificial para apoyar la supervisión humana informada, permitiendo a los usuarios controlar, comprender y, en caso necesario, anular los resultados del sistema.
2. Transparencia
Creemos que la confianza se basa en la claridad. Nos comprometemos a ser transparentes sobre cómo funcionan nuestros sistemas de IA y cómo se utilizan dentro de la plataforma Workiva.
Workiva se asegurará de que los usuarios sean conscientes de que están interactuando con tecnología de IA a través de:
- Resultados comprensibles: En el caso de los sistemas de IA que informan la toma de decisiones, los diseñaremos para ayudar a los usuarios a entender cómo se comporta el sistema.
- Comunicación clara: Proporcionaremos información sobre las capacidades y limitaciones de nuestros sistemas de IA para ayudarle a tomar decisiones informadas.
- AI Disclosure: Creemos que usted debe saber cuándo está interactuando con una IA. Trabajamos para identificar claramente los resultados y las interacciones generados por la IA siempre que sea necesario.
3. Equidad
Workiva hará todos los esfuerzos comercialmente razonables (por ejemplo, añadir información de base adicional para aumentar aún más la protección contra la parcialidad o los contenidos censurables) para diseñar las funciones de IA de forma que se intente reducir o eliminar la parcialidad contra personas, comunidades o grupos.
Nos esforzamos por diseñar sistemas de IA que traten a todos los usuarios de forma equitativa. La equidad es un objetivo permanente que perseguimos activamente.
- Calidad de servicio equitativa: Diseñaremos y probaremos nuestros sistemas de IA para ofrecer una calidad de servicio similar en los distintos grupos demográficos.
- Asignación justa: Cuando se utilice IA para asignar recursos u oportunidades, diseñaremos y supervisaremos el sistema para garantizar que esas asignaciones sean justas.
- Minimizar los resultados perjudiciales: En el caso de los sistemas de IA que generan contenidos, trabajamos para minimizar la posibilidad de estereotipar, degradar o eliminar a cualquier grupo.
4. Seguridad y fiabilidad
Workiva realizará esfuerzos comercialmente razonables (por ejemplo, pruebas sólidas que incluyan pruebas de regresión para evaluar la corrección del comportamiento del LLM y el cumplimiento de diversas consideraciones éticas y de seguridad) para garantizar que las funciones de IA funcionen sistemáticamente de acuerdo con su finalidad y alcance previstos y con el nivel de precisión deseado.
Workiva hará todos los esfuerzos comercialmente razonables (por ejemplo, la intervención de un ser humano) para diseñar e implementar las funciones de IA con el fin de evitar daños a personas y/o bienes. Estamos comprometidos con la creación de sistemas de IA que no sólo sean potentes, sino también seguros, fiables y predecibles.
- Funcionamiento definido: Evaluamos y documentamos los factores y rangos operativos dentro de los cuales se espera que nuestros sistemas de IA funcionen de forma segura y fiable.
- Diseño resistente: Nuestros sistemas están diseñados para minimizar el tiempo necesario para identificar y solucionar fallos conocidos o previsibles.
- Mejora continua: Sometemos nuestros sistemas de IA a una supervisión, recopilación de información y evaluación continuas para garantizar que sigan siendo seguros y fiables a lo largo del tiempo.
5. Privacidad y seguridad
Workiva realizará todos los esfuerzos comercialmente razonables para diseñar las funciones de IA de forma que cumplan las leyes y normativas aplicables en materia de privacidad y protección de datos.
La protección de sus datos es fundamental en todo lo que hacemos. Nuestros sistemas de IA están diseñados para cumplir nuestras normas de privacidad y seguridad.
- Privacidad por diseño: Nuestros sistemas de IA están diseñados para proteger la privacidad de usuarios y clientes de conformidad con nuestro acuerdo de protección de datos y las normativas pertinentes, como el GDPR.
- Seguridad robusta: Diseñamos nuestros sistemas de IA para que sean seguros de acuerdo con nuestras políticas de seguridadtringent, integrando controles automatizados y técnicas de mitigación de amenazas en el proceso de desarrollo.
Cómo funciona Workiva AI
Workiva AI está integrada en la experiencia de la plataforma Workiva. Consulte a continuación para obtener más información sobre cómo se procesan las interacciones de Workiva AI entre los usuarios, el entorno de la plataforma Workiva y los proveedores de LLM de terceros.
Filtrado de indicaciones
Cuando introduce una solicitud en nuestra función Workiva AI, lo primero que hacemos es comprobar la solicitud para asegurarnos de que sigue nuestras directrices. Ejecutamos un filtro para eliminar las solicitudes inapropiadas o prohibidas realizadas por los usuarios. Esto garantiza que el contenido generado se mantiene dentro de unos límites aceptables.
Barandillas
Después de filtrar, establecemos ciertos límites para generar respuestas. Estos límites tienen en cuenta factores como el contexto del usuario, su intención e incluso la persona que está adoptando. Aplicamos contexto adicional para comprender dónde y cómo utiliza la IA el usuario.
Fundamentos
El enraizamiento implica proporcionar una base sólida para las respuestas mediante un enfoque polifacético. Aprovechamos las incrustaciones y la generación aumentada de recuperación para ampliar esta capacidad a los datos del espacio de trabajo de nuestros clientes, lo que permite a los usuarios obtener información específica del contexto a partir de sus propios documentos. Además, ofrecemos Plantillas, que permiten a los clientes solicitar respuestas en formatos específicos predeterminados.
En términos de seguridad, tenemos en cuenta la autorización IAM (Gestión de Identidades y Accesos) durante la puesta en marcha para garantizar que sólo los usuarios autorizados tienen acceso a determinados Documentos o Secciones de Documentos.
Por último, proporcionamos citas y referencias para nuestras respuestas utilizando una técnica conocida como RAG (Retrieval Augmented Generation), que no sólo fundamenta nuestras respuestas en nuestros propios Documentos, sino que también nos permite citar las fuentes, ya sean datos de nuestra propiedad o de nuestros clientes.
Inyección
La inyección consiste en añadir indicaciones y parámetros del modelo para mejorar la experiencia del usuario, haciéndola más sencilla y fácil de usar. Tomamos toda la información recopilada en los pasos anteriores y la inyectamos en el sistema Workiva AI. Esto incluye agregar nuestras indicaciones entre bastidores para simplificar la experiencia del usuario.
Por ejemplo, incluimos comandos predefinidos como "acortar" o "elaborar" para que los usuarios puedan acceder a estas funciones con facilidad. También afinamos los parámetros y ajustes del modelo, para que los usuarios no tengan que navegar por complejos detalles técnicos.
Todo esto es para garantizar que el uso de Workiva AI sea lo más sencillo posible.
Generación de respuestas
Este paso implica el uso de modelos de IA de, por ejemplo, Google y Microsoft Azure/OpenAI, para crear respuestas a las consultas de los usuarios. Aprovechamos los modelos avanzados de IA para generar respuestas. Estos modelos están formados en vastos conjuntos de datos y son capaces de generar respuestas contextualmente relevantes a las consultas de los usuarios.
Filtrando de respuestas
Después de generar una respuesta, tenemos otra capa de comprobaciones para asegurarnos de que la respuesta no contiene contenido inapropiado o prohibido. Para garantizar la seguridad y la calidad de las respuestas, aplicamos otro conjunto de filtros al contenido generado. Por hacer esto, te aseguras de que las respuestas se alinean con nuestras directrices y no incluyen ningún material fuera de los límites. Solo después de pasar estas comprobaciones proporcionamos las respuestas al usuario.
Seguridad y privacidad de Workiva AI
No se usa para entrenar modelos de IA
Fundamentalmente, es esencial subrayar que tus datos, tus entradas en el modelo de IA y las respuestas generadas por la IA siguen siendo totalmente distintos del proceso de formación del modelo. Esto significa que ninguno de estos elementos se utiliza para entrenar nuestros modelos de IA. Esto incluye no solo los grandes modelos lingüísticos ampliamente adoptados, sino también nuestros modelos propios especializados. Hemos diseñado nuestro sistema para garantizar una separación clara entre tus datos y el proceso de formación de la IA.
Cifrado y almacenamiento
Para reforzar la seguridad y privacidad de sus datos e interacciones, Workiva emplea protocolos de encriptación robustos y estándar en la industria.
La persistencia de los datos está vinculada a un propósito y se rige por los controles de seguridad, privacidad y cumplimiento de Workiva, y puede incluir el almacenamiento basado en sesiones o a más largo plazo para respaldar la funcionalidad, el soporte y la auditabilidad del producto. Los terceros proveedores de LLM no conservan ni utilizan los datos de los clientes para formación, ni con fines ajenos a la tramitación de solicitudes en nombre de Workiva.
Cumplimiento de las condiciones de seguridad y privacidad de los datos.
Consulta los Términos de uso de la IA de Workiva.
Interacción activa de los usuarios
Una faceta crítica de nuestro enfoque se centra en el requisito de la asociación activa de los usuarios. Workiva AI no altera sus documentos sin su participación directa y aprobación explícita. Tienes pleno control sobre cuándo y cómo decides integrar las respuestas generadas por IA en tu trabajo, garantizando que tu autoridad creativa permanezca intacta.
Filtrado de contenido y barreras de seguridad contextuales
Para mantener una experiencia de IA segura y conforme a las normas, empleamos medidas exhaustivas de filtrado de contenidos. Estos filtros se aplican tanto a las entradas como a las respuestas generadas por el modelo de IA. Previenen de manera efectiva el procesamiento o la generación de contenido inapropiado o sensible.
Junto con el filtrado de contenidos, se implementan meticulosamente barreras contextuales para anclar la IA dentro de los casos de uso previstos, promoviendo la alineación con tu flujo de trabajo y tus requisitos.
Los clientes pueden darse de baja en cualquier momento
Los administradores de la organización pueden desactivar el acceso a Workiva AI a nivel de usuario, cuenta u organización para personalizarlo según sus necesidades, o excluirse del programa en cualquier momento.