Workiva AIを使用している間に遭遇する可能性のある一般的な問題を以下に示します。
要件
- Workiva AI は、Workiva AI 利用規約 に署名した顧客であれば誰でも利用できます。承認されると、既存のワークスペース、新規追加されたワークスペース、ユーザーを含む組織全体でWorkiva AIがデフォルトで有効になります。
- 組織の管理者は、Workiva AIを特定のワークスペースやユーザーに制限したり、組織全体で無効にすることで、この有効化 を管理することができます。
- Workiva AI は完全に暗号化されており、Workiva コンテンツや顧客データでトレーニングされることはありません。詳細はこちらWorkivaのAIへの取り組み
トークン制限の超過
トークンは、AI言語モデルがコンテンツのプロセスに使用するテキストの基本単位です。言語とモデルによって、トークンは単語、単語の一部、句読点、または1文字になることがあります。
各 AI モデルには、一度に処理できるトークンの最大数であるトークン・リミットがあります。この制限には、モデルが応答を生成するために使用するすべてのものが含まれます:
- 質問またはプロンプト
- 選択されたドキュメントまたはファイル
- システムによって検索されたサポートコンテンツ
- AIの応答
入力(あなたがプロバイダーとして提供するもの)と出力(AIが生成するもの)の両方がこの合計にカウントされます。
トークン制限を使用する方法
モデルが一度に処理できるコンテンツは一定量に限られるため、大規模または複雑な依頼は結果に影響する可能性があります。たとえば、複数の SEC ファイリングなど、複数の大規模なドキュメントを同時に分析する場合、モデルは 1 つのレスポンス内で各ドキュメントを均等に重み付けできない可能性があります。
結果を改善するには、依頼のスコープを狭めます:
- 選択するドキュメントを減らしてください。
- 日付範囲を縮小
- 特定のセクションやトピックにフォーカス
- 大きな依頼を小さなステップに分割
コンテンツの量を減らすことで、モデルは最も関連性の高い情報に優先順位を付け、よりフォーカスされた詳細な回答を生成することができます。