財務報告、サステナビリティ、リスクの各チームは 最もリスクの高い業務に責任を負っている。Workiva AIは その現実のために構築されている。プラットフォーム上の他の業務を管理するものと同じ権限とコントロールの範囲内で機能する。
この記事では 3つの内容を説明する Workivaが機能の提供前後にAI機能をどのように統治しているか Workiva AIがワークスペース内で行うことをどのように検証・コントロールできるか 監査人から求められた際にどのような証跡があるか。各セクションでは 現在利用可能な内容と 今後の機能の方向性について説明する。
注：「今後の予定」として記載されている項目は この取り組みの方向性を示すものであり 特定の機能や提供時期を確約するものではない。
ガバナンス
AIガバナンスとは Workivaが AI機能がワークスペースに到達する前に安全であることを確認し 提供後もその状態を維持する仕組みである。新しいAI機能は 定義された基準に照らしてテストされ 本番稼働前にガバナンスチェックリストを通過する必要がある そのため品質は推測ではなく確認によって担保される。
これらの取り組みは Workivaの5つの責任あるAI原則の下に位置付けられる 説明責任、透明性、公平性、安全性と信頼性、プライバシーとセキュリティ。これらの原則は ISO/IEC 42001やNIST AIリスクマネジメントフレームワークなどの国際基準 およびEU AI法やGDPRなどの規制と整合している。原則の全文はWorkivaのAIへの取り組みを参照。
現在利用可能な内容
- すべての新しいAI機能は 本番環境で有効化される前に ガバナンスチェックリストを完了する必要がある。チェックリストには 機能の目的、リスクの境界、テスト証跡、監視方法、承認者が記録される。
- リリースコントロールにより 必要なガバナンスステップが完了するまで 新しいAI機能は本番環境で稼働できない。
- AI機能は 評価済みのテストセットを使用して 定義された品質基準に照らしてテストされる そのため レスポンス品質はリリース前に測定される。
今後の予定
- すべてのAI機能に関する 所有者、リリース判断、承認、裏付けとなる証跡、バージョン履歴を網羅した 一元的な内部記録。
- ライブレスポンスを参照データセットと比較する継続的評価 これにより リリース前だけでなくリリース後も品質が監視される。
- モデル、プロンプト、ツール、ワークフローが変更された際の自動再評価。
- 品質、失敗、コスト、遅延に関する本番環境の監視 しきい値アラートおよび回帰検知を含む。
AI検証とコントロール
AI検証とコントロールとは Workiva AIが生成した内容を確認し 何を閲覧・実行できるかを設定する仕組みである。回答が正しく見えるからではなく 証明できるからこそ信頼できる。
現在利用可能な内容
- レスポンスは出典を引用する。インライン引用マーカーがソースを指し示し マーカーにカーソルを合わせると ドキュメントまたはナレッジベース名とセクションが表示され 選択するとソースが開く。
- レスポンスの末尾にある出典リストには レスポンスが参照したソース名が それぞれへのリンクとともに表示される。
- Workiva AIは セクションレベルまで含めて 既存の権限の範囲内で機能する。Workiva AIがコンテンツを取得する際に権限が確認されるため アクセス権のないコンテンツを取得したり引用したりすることはできない。
- Workiva AIは 書き込みを行う前に確認を求める。コンテンツを変更するアクションには 確認が必要である。変更内容を確認した上で 確認または拒否を選択する。
- 実行中のワークフローは いつでも停止を選択して停止できる。レスポンスには 停止したことが記録される。
- ワークフローは 付与されたツールのみを使用でき 実行者の権限で実行される。
今後の予定
- 参照ファイルのセクションレベル引用。
- 主張の根拠となった正確なテキスト範囲または特定のセルを指し示す引用。
- 計算された数値の導出経路 最初のドキュメントで止まらず 各ステップを通じて数値を遡れるようにする。
- 引用の信頼度スコアリング。
- 監査人に提供できる エクスポート可能な引用セット。
- マルチステップワークフローに対する より広範な権限管理 ワークフローが引用できる範囲だけでなく 操作できる範囲も制限する。
AI監査対応
AI監査対応とは AIが業務に関与した記録があらかじめ存在しているため 事後に再構築する必要がないことを意味する。これは 作業中に構築される。
現在利用可能な内容
- Workiva AIは 一般的なモデル知識のみに頼るのではなく 独自のコンテンツに基づいて回答を根拠付ける。このグラウンディングは タイアウト、ナレッジ、ベンチマーク、財務インサイトなどのユースケース全般に適用される。
- AIとのやり取りは アクティビティログに記録される ユーザー、やり取りの内容、モデルプロバイダーを含む。ワークスペース管理者はこれらの記録を閲覧できる。
- AIアクティビティは プラットフォーム全体で アカウントアクセス、データ変更、権限変更をすでにカバーしているのと同じログ記録ポリシーの対象となる。
- セッション内で Workiva AIが実行したステップを確認できる。思考過程を表示を選択すると その推論過程、呼び出したツール、実行したアクションを確認できる。
今後の予定
- ドキュメント履歴におけるAI作成者情報 これにより Workiva AIによる変更が 人による編集と並んで帰属を持つようになる。
- AI帰属情報を下流のアクションまで引き継ぐアクティビティ記録 AIとのやり取りを それによって生じた変更に結び付ける。
- 検索可能なAIアクティビティ履歴と 個々のAIイベントの詳細な再構築。
- 人によるレビューの証跡、改ざん検知可能な記録、監査人向けの証跡パッケージ、読み取り専用の監査人アクセス。
これは完成したチェックリストではない。AIの進化に合わせて Workivaはガバナンス、検証、監査対応の水準を継続的に引き上げていく。
これが業務にどのように関係するか ご質問はあるか。security@workiva.comまでお問い合わせください。