财务报告、可持续发展和风险团队负责风险最高的工作。Workiva AI 正是为应对这种情况而打造的。它采用与平台上其他工作相同的权限和控制机制。
本文涵盖三件事：Workiva 如何在 AI 功能发布前后对其进行管理，如何验证和控制 Workiva AI 在您的工作空间中执行的操作，以及当审计员询问时您有哪些证据。每个章节都描述了目前可用的功能以及未来的发展方向。
注： “即将推出”部分列出的项目描述的是这项工作的方向，而非对具体功能或交付日期的承诺。
人工智能治理
人工智能治理是指 Workiva 在人工智能功能到达您的工作空间之前确认其安全性，并在发布之后保持其安全性的方式。新的人工智能功能在上线前会根据既定标准进行测试，并通过管理清单的审核，以确保质量得到确认，而不是想当然地认为质量合格。
这些做法符合 Workiva 的五项负责任的人工智能原则：问责制、透明度、公平性、安全性和可靠性以及隐私和安全。这些原则与国际标准（包括 ISO/IEC 42001 和 NIST AI 风险管理框架）以及法规（包括欧盟 AI 法案和 GDPR）相一致。请阅读 Workiva 的人工智能方法中的完整原则。
今天有哪些产品可供选择
- 新的人工智能功能在投入生产环境之前，需要完成一份治理清单。该清单记录了该功能的目的、风险范围、背后的测试证据、监控方式以及批准人。
- 发布控制措施可防止新的 AI 功能在完成必要的管理步骤之前投入生产环境运行。
- AI 功能会根据既定的质量标准，使用分级测试集进行测试，因此在发布之前会衡量响应质量。
接下来会发生什么？
- 集中记录每个 AI 功能的内部信息，包括所有权、发布决策、批准、支持证据和版本历史记录。
- 持续评估，将实时响应与参考数据集进行比较，从而在发布后（而不仅仅是发布前）监控质量。
- 当模型、提示、工具或工作流程发生变化时，自动重新评估。
- 生产监控，包括质量、故障、成本和延迟，并具有阈值警报和回归检测功能。
人工智能验证与控制
AI 验证和控制是指检查 Workiva AI 生成的内容，并设置其可以查看和执行的内容。你可以相信某个答案，是因为你能证明它，而不是因为它听起来正确。
今天有哪些产品可供选择
- 回复 引用其来源。内联引用标记指向来源，您可以将鼠标悬停在标记上以查看文档或知识库名称和章节，或者选择它以打开来源。
- 回答末尾的 Sources 列表列出了回答所依据的来源，并附有指向每个来源的链接。
- Workiva AI 在您已有的权限范围内运行，精确到模块级别。Workiva AI 在检索内容时会检查权限，因此它无法检索或引用您无权访问的内容。
- 更改内容的操作需要确认。
- 您可以随时通过选择 “停止”来停止正在运行的 工作 流程。响应记录显示您已停止该操作。
- 工作流只能使用分配给它的工具，并且以运行它的人的权限运行。
接下来会发生什么？
- 参考文献的章节级引用。
- 指向确切文本范围或特定单元格的引用。
- 计算数字的推导谱系，因此您可以追溯数字的每个步骤，而不是止步于第一个文档。
- 基于引用的置信度评分。
- 可导出的引文集，您可以将其交给审计人员。
- 扩大多步骤工作流的权限范围，限制工作流可以执行的操作，而不仅仅是可以引用的内容。
人工智能审计准备情况
AI审计准备就绪意味着AI影响你工作的所有记录都已存在，因此你无需事后重新构建记录。它是在你工作的过程中逐步构建的。
今天有哪些产品可供选择
- Workiva AI 的答案基于您自己的内容，而不是仅仅基于通用模型知识。接地适用于各种用例，包括 连接、 知识、 基准测试和财务洞察。
- AI 交互记录在 活动日志中，包括用户、交互和模型提供者。工作区管理员可以查看这些记录。
- AI 活动遵循与平台内帐户访问、数据更改和权限更改相同的日志记录策略。
- 在会话期间，您可以查看 Workiva AI 采取的步骤。选择 显示思维 以查看其推理过程、调用的工具以及完成的操作。
接下来会发生什么？
- AI 在文档历史记录中拥有作者身份，因此 Workiva AI 所做的更改可以与人工编辑一起归因于 AI。
- 将 AI 归因信息传递到下游操作的活动记录，将 AI 交互与其引起的变化联系起来。
- 可搜索的人工智能活动历史记录和单个人工智能事件的详细重建。
- 人工审核证据、防篡改记录、审计人员证据包和只读审计人员访问权限。
这并非一份完整的清单。随着人工智能的发展，Workiva 不断提高治理、验证和审计准备方面的标准。
对这如何应用于你的工作有疑问吗？请通过 security@workiva.com联系我们。