Workiva AIは、最高水準の信頼性、安全性、責任ある利用を維持しながら、より効率的な作業を支援するように設計されています。私たちのアプローチは、あなたのコントロールや判断を損なうことなく、あなたの仕事をサポートするAI支援機能であなたに力を与えることに重点を置いています。WorkivaのAIは、人間の専門知識を代替するのではなく、支援するために構築されている。
この記事では、AIのフレームワークに組み込まれたセキュリティ基準と倫理的慣行について掘り下げていく。そして、この組み合わせが、責任あるAI導入の最高基準を守りながら、目覚ましい成果を達成するための力となることを探ります。
WorkivaのAIセキュリティ基準
Workivaのセキュリティ・アーキテクチャは、プラットフォームに特化して構築されており、セキュリティをサービスに直接統合している。私たちのプラクティスは、輸送中の暗号化（TLS 1.2+）を含む堅牢なデータ・プロトコルを保証し、顧客データがLLMのトレーニングに使用されないことを契約上約束しています。
このコミットメントは、進化するグローバルスタンダード（例：ISO/IEC 42001 、NIST AI RMF）や規制（例：EU AI法、GDPR）に沿った5つの基本原則を基盤としています。説明責任」「透明性」「公正性」「安全性と信頼性」「プライバシーとセキュリティ」の5つの中核原則は、この国際的な管理基準に直接マッピングされており、私たちの業務の指針となるとともに、完全な認証取得を目指す私たちの積極的なコンプライアンスを示しています。
1.説明責任
Workivaは、AI機能の実装および維持に際して、社内リソースがリスク管理を行い、適用される法令を遵守する責任を負うことを保証する。
私たちは責任を持ってAIを開発し、使用します。これは、以下のようなAIのライフサイクル全体に説明責任を組み込むことを意味する：
- 影響評価：私たちは、私たちのAIシステムがユーザーや社会に与える潜在的な影響を評価します。
- 的を絞った監督： 重大な悪影響を及ぼす可能性のあるシステムには、さらに強固な監視と要件が課される。
- Fit for Purpose: 私たちは、私たちのAI機能が意図された用途に対して有効なソリューションを提供し、文書化された問題を解決することをお約束します。
- データガバナンス 適切なデータガバナンスと管理手法を維持し、システムの使用目的と利害関係者に基づいてデータ要件を定義します。
- 人間によるコントロール：ユーザーがシステムの出力を監視し、理解し、必要であれば無効にすることができるようにします。
2.透明性
私たちは、信頼は明確さの上に築かれると信じている。私たちは、私たちのAIシステムがどのように作動し、Workivaプラットフォーム内でどのように使用されているかについて、透明性を確保することを約束します。
Workivaは、ユーザーがAIテクノロジーと相互作用していることを認識できるようにする：
- 理解しやすいアウトプット：意思決定を支援するAIシステムについては、システムがどのように動作するかをユーザーが理解できるように設計する。
- 明確なコミュニケーション：私たちは、お客様が十分な情報を得た上で選択できるよう、AIシステムの能力と限界に関する情報を提供します。
- AIの情報開示：私たちは、あなたがAIと対話するとき、あなたは知るべきだと考えています。私たちは、適切な場合にはAIが生成したアウトプットとインタラクションを明確に識別するように努めています。
3.公平性
Workivaは、個人、コミュニティ、またはグループに対する偏見を低減または排除しようとする方法でAI機能を設計するために、商業的に合理的な努力（例えば、偏見または好ましくないコンテンツに対する保護をさらに強化するために根拠となる情報を追加する）を行います。
私たちは、すべてのユーザーを公平に扱うAIシステムの設計に努めています。公平性は、私たちが積極的に追求する継続的な目標である。
- 公平なサービスの質： 私たちは、異なる人口統計グループ間で同様の質のサービスを提供するために、AIシステムを設計し、テストします。
- 公正な配分：資源や機会の配分にAIが使用される場合、その配分が公正であることを保証するためにシステムを設計し、監視する。
- 有害な出力の最小化： コンテンツを生成するAIシステムについては、いかなるグループに対しても、ステレオタイプ化、卑下、抹殺の可能性を最小限に抑えるよう取り組んでいます。
4.安全性と信頼性
Workivaは、AI機能がその意図された目的および範囲に従い、かつ望ましい精度のレベルで一貫して動作することを保証するために、商業的に合理的な努力（例えば、LLMの動作の正しさおよび様々なセキュリティおよび倫理的配慮の遵守を評価するための回帰テストを含む堅牢なテスト）を行います。
Workivaは、商業的に合理的な努力（例：ループ内の人間）を行って、人体および/または財産への危害から保護するためのAI機能を設計および実装します。私たちは、パワフルなだけでなく、安全で信頼性が高く、予測可能なAIシステムの構築に取り組んでいます。
- 定義されたオペレーション： 私たちは、AIシステムが安全かつ確実に機能することが期待される運用要因と運用範囲を評価し、文書化しています。
- 回復力のある設計： 当社のシステムは、既知または予測可能な障害を特定し、対処するために必要な時間を最小限に抑えるように設計されています。
- 継続的な改善：当社のAIシステムは、安全性と信頼性を長期にわたって維持できるよう、継続的なモニタリング、フィードバック収集、評価にさらされています。
5.プライバシーとセキュリティ
ワーキバは、適用されるプライバシーおよびデータ保護に関する法律および規制を遵守するよう、AI機能を設計するために商業上合理的な努力を払うものとします。
お客様のデータを保護することは、私たちのすべての活動の基盤です。当社のAIシステムは、プライバシーとセキュリティに関する当社の基準に準拠して構築されています。
- プライバシー・バイ・デザイン 当社のAIシステムは、当社のデータ保護協定およびGDPRなどの関連法規に従って、ユーザーおよび顧客のプライバシーを保護するように設計されています。
- 堅牢なセキュリティ： 当社のAIシステムは、当社のセキュリティ・ポリシー（tringent security policies） 、自動制御と脅威緩和技術を開発プロセスに組み込み、安全な設計となっています。
Workiva AIの仕組み
Workiva AIはWorkivaプラットフォーム体験に組み込まれています。ユーザー、Workivaプラットフォーム環境、第三者LLMプロバイダー間のWorkiva AIインタラクションがどのように処理されるかについては、以下をご覧ください。
プロンプト・フィルタリング
WorkivaのAI機能にリクエストを入力すると、まず最初にガイドラインに沿っているかどうかをチェックします。当社は、ユーザーによる不適切または禁止された要求を排除するためにフィルタを実行します。これにより、生成されるコンテンツが許容範囲内にとどまることが保証される。
ガードレール
絞り込みの後、回答を生成するための一定の境界線を設定する。これらの境界線は、ユーザーのコンテキスト、意図、さらには彼らが採用しているペルソナなどの要素を考慮する。ユーザーがどこでどのようにAIを使用しているかを理解するために、追加のコンテキストを適用します。
グラウンディング
グラウンディングとは、多面的なアプローチを通じて、対応のための確固たる基盤を提供することである。エンベッディングと検索拡張生成を活用して、この機能を顧客のワークスペース・データに拡張し、ユーザーが自分の文書からコンテキスト固有の情報を取得できるようにしています。さらに、テンプレートを提供し、依頼者があらかじめ決められた特定の書式で回答を依頼できるようにしています。
セキュリティの用語では、許可されたユーザーだけが特定のドキュメントやドキュメントのセクションに使用することができるように、接地中にIAM（Identity and Access Management）認証を考慮に入れています。
最後に、私たちはRAG（Retrieval Augmented Generation：検索拡張生成）と呼ばれる手法を用いて、応答に引用と参照を提供しています。これは、私たちの応答を私たち自身のドキュメントに根拠づけるだけでなく、私たち独自のデータであれ、カスタマーのデータであれ、ソースを引用できるようにします。
注射
インジェクションでは、プロンプトやモデルパラメータを追加してユーザーエクスペリエンスを向上させ、よりシンプルでユーザーフレンドリーにする。これまでのステップで収集したすべての情報を、WorkivaのAIシステムに注入します。これには、ユーザー・エクスペリエンスを簡素化するために、舞台裏で独自のプロンプトを追加することも含まれる。
例えば、"短縮 "や "精巧にする "といった定義済みのコマンドが含まれているので、ユーザーはこれらの機能に簡単にアクセスすることができる。また、ユーザーが複雑な技術的な詳細をナビゲートする必要がないように、モデルのパラメータや設定を微調整します。
これらはすべて、Workiva AIをできるだけ簡単に使用できるようにするためです。
応答生成
このステップでは、例えばグーグルやマイクロソフトのAzure/OpenAIなどのAIモデルを使用して、ユーザーからの問い合わせに対する回答を作成する。私たちは、高度なAIモデルを活用してレスポンスを生成します。これらのモデルは膨大なデータセットでトレーニングされ、ユーザーのクエリに対してコンテキストに関連した応答を生成することができる。
絞込みフィルター
レスポンスを生成した後、そのレスポンスに不適切なコンテンツや禁止されているコンテンツが含まれていないことを確認するために、もう1つのレイヤーを設けている。回答の安全性と品質を確保するため、生成されたコンテンツに別のフィルターを適用する。これにより、応答が当社のガイドラインに調整され、禁止事項を含まないことが保証されます。これらのチェックを通過して初めて、ユーザーにレスポンスを返す。
Workiva AIのセキュリティとプライバシー
AIモデルのトレーニングには使用しない
基本的に、データ、AIモデルへのインプット、AIが生成する応答は、モデルのトレーニングプロセスとは全く別物であることを強調しておく必要があります。つまり、AIモデルのトレーニングには、これらの要素は一切利用されない。これには、広く採用されている大規模な言語モデルだけでなく、当社独自の特殊モデルも含まれます。当社は、お客様のデータとAIのトレーニングプロセスをクリアに分離できるようにシステムを設計しています。
暗号化と保管
お客様のデータとやりとりのセキュリティとプライバシーを強化するため、Workiva は堅牢な業界標準の暗号化プロトコルを採用しています。
データの永続性は、目的に拘束され、Workiva のセキュリティ、プライバシー、およびコンプライアンス管理によって管理され、製品の機能、サポート、および監査可能性をサポートするために、セッションベースまたは長期の保存が含まれる場合があります。第三者LLMプロバイダーは、トレーニング、またはWorkivaに代わってリクエストを処理する範囲を超えた目的のために、顧客データを保持または使用することはありません。
データ・セキュリティおよびプライバシー用語の遵守
WorkivaのAI利用規約を参照してください。
ユーザーとの積極的なエンゲージメント
私たちのアプローチの重要な点は、ユーザーの積極的な関与が必要であるという点にある。Workiva AIは、お客様の直接の関与と明確な承認なしにお客様の文書を変更することはありません。AIが生成した反応をいつ、どのように作品に統合するかは、作成者が完全にコントロールできるため、クリエイティブな権威が損なわれることはありません。
コンテンツ・フィルタリングとコンテクスト・ガードレール
安全でコンプライアンスに準拠したAIエクスペリエンスを維持するため、当社は包括的なコンテンツ絞込み測定単位を採用しています。これらのフィルターは、入力プロンプトとAIモデルが生成する回答の両方に適用される。不適切なコンテンツや機密性の高いコンテンツの処理や生成を効果的に防止します。
コンテンツの絞り込みと同時に、想定されるユースケースの中でAIをアンカーとし、ワークフローや要件との整列を上げるために、コンテキストのガードレールが綿密に実装されています。
顧客はいつでもオプトアウトできる
組織管理者は、ユーザー、アカウント、組織レベルでWorkiva AIへのアクセスを無効にし、ニーズに合わせてカスタマイズすることができます。