Rozwiązanie Workiva AI zostało zaprojektowane tak, aby pomóc Ci pracować wydajniej, przy jednoczesnym zachowaniu najwyższych standardów zaufania, bezpieczeństwa i odpowiedzialnego korzystania. Nasze podejście koncentruje się na wyposażeniu Cię w funkcje wspomagane przez sztuczną inteligencję, które wspomagają Twoją pracę, nie ograniczając Twojej kontroli ani zdolności oceny sytuacji. Rozwiązanie Workiva AI ma wspomagać, a nie zastępować ludzką wiedzę specjalistyczną.
W tym artykule przyjrzymy się bliżej standardom bezpieczeństwa i praktykom etycznym stosowanym w naszym systemie sztucznej inteligencji. Następnie przyjrzymy się, w jaki sposób takie połączenie pozwoli Ci osiągnąć niezwykłe wyniki, przy jednoczesnym zachowaniu najwyższych standardów odpowiedzialnego wdrażania sztucznej inteligencji.
Nasz standard bezpieczeństwa Workiva AI
Architektura bezpieczeństwa firmy Workiva została zaprojektowana specjalnie dla jej platformy i integruje zabezpieczenia bezpośrednio z usługą. Nasza praktyka zapewnia solidne protokoły danych, w tym szyfrowanie podczas przesyłu (TLS 1.2+), oraz zobowiązanie umowne, że dane klientów nie będą wykorzystywane do szkolenia LLM.
To zobowiązanie opiera się na pięciu podstawowych zasadach, które są zgodne z ewoluującymi globalnymi normami (np. ISO/IEC 42001, NIST AI RMF) i przepisami (np. ustawą UE o sztucznej inteligencji, RODO). Pięć podstawowych zasad odpowiedzialnej sztucznej inteligencji (obejmujących rozliczalność, przejrzystość, uczciwość, bezpieczeństwo i niezawodność oraz prywatność i ochronę) jest bezpośrednio powiązanych z tym międzynarodowym standardem zarządzania, który wyznacza kierunek naszych działań i stanowi dowód naszej proaktywnej zgodności w dążeniu do pełnej certyfikacji.
1. Odpowiedzialność
Workiva zapewni, że zasoby wewnętrzne będą odpowiedzialne za zarządzanie ryzykiem i przestrzeganie obowiązujących przepisów i regulacji podczas wdrażania i utrzymywania funkcji sztucznej inteligencji.
Odpowiedzialnie rozwijamy i wykorzystujemy sztuczną inteligencję. Oznacza to uwzględnienie odpowiedzialności w całym cyklu życia sztucznej inteligencji, w tym:
- Ocena wpływu: Ocenimy potencjalny wpływ naszych systemów AI na użytkowników i społeczeństwo.
- Celowy nadzór: Systemy, które mogą mieć znaczący negatywny wpływ, podlegają dodatkowemu, solidnemu nadzorowi i wymaganiom.
- Przydatne do celu: Zależy nam na tym, aby nasze funkcje sztucznej inteligencji oferowały prawidłowe rozwiązania dla zamierzonego zastosowania i rozwiązywały udokumentowane problemy.
- Zarządzanie danymi: Stosujemy odpowiednie praktyki zarządzania danymi, definiując wymagania dotyczące danych na podstawie zamierzonego zastosowania systemu i interesariuszy.
- Kontrola człowieka: Projektujemy nasze systemy sztucznej inteligencji tak, aby umożliwiały świadomy nadzór człowieka, umożliwiając użytkownikom monitorowanie, zrozumienie i, w razie potrzeby, omijanie wyników systemu.
2. Przejrzystość
Wierzymy, że zaufanie opiera się na jasności. Zależy nam na transparentności w zakresie działania naszych systemów sztucznej inteligencji i sposobu ich wykorzystania na platformie Workiva.
Workiva zadba o to, aby użytkownicy byli świadomi, że wchodzą w interakcję z technologią sztucznej inteligencji poprzez:
- Zrozumiałe wyniki: W przypadku systemów AI, które informują o podejmowaniu decyzji, zaprojektujemy je tak, aby pomagały użytkownikom zrozumieć, jak zachowuje się system.
- Jasna komunikacja: Udostępnimy informacje na temat możliwości i ograniczeń naszych systemów AI, aby pomóc Ci podejmować świadome decyzje.
- Ujawnienie informacji o sztucznej inteligencji: Uważamy, że powinieneś wiedzieć, kiedy wchodzisz w interakcję ze sztuczną inteligencją. Staramy się zawsze, gdy jest to właściwe, wyraźnie identyfikować wyniki i interakcje generowane przez sztuczną inteligencję.
3. Sprawiedliwość
Firma Workiva dołoży wszelkich uzasadnionych komercyjnie starań (np. doda dodatkowe informacje bazowe w celu dalszego zwiększenia ochrony przed stronniczością lub nieodpowiednią treścią), aby zaprojektować funkcje sztucznej inteligencji w sposób, który będzie miał na celu ograniczenie lub wyeliminowanie stronniczości wobec jednostek, społeczności lub grup.
Staramy się projektować systemy AI, które traktują wszystkich użytkowników równo. Uczciwość jest celem, do którego stale aktywnie dążymy.
- Równa jakość usług: Będziemy projektować i testować nasze systemy sztucznej inteligencji, aby zapewnić podobną jakość usług różnym grupom demograficznym.
- Sprawiedliwy podział: W przypadku, gdy do podziału zasobów lub możliwości wykorzystywana jest sztuczna inteligencja, zaprojektujemy i będziemy monitorować system, aby zapewnić sprawiedliwy podział.
- Minimalizowanie szkodliwych wyników: W przypadku systemów sztucznej inteligencji generujących treści staramy się zminimalizować ryzyko stereotypizacji, poniżania lub wymazywania jakiejkolwiek grupy.
4. Bezpieczeństwo i niezawodność
Firma Workiva dołoży uzasadnionych komercyjnie starań (np. przeprowadzi solidne testy, w tym testy regresyjne w celu oceny poprawności działania LLM i zgodności z różnymi kwestiami bezpieczeństwa i etycznymi), aby zagwarantować, że funkcje sztucznej inteligencji działają spójnie zgodnie z ich zamierzonym celem i zakresem oraz na pożądanym poziomie precyzji.
Firma Workiva dołoży uzasadnionych komercyjnie starań (np. z uwzględnieniem udziału człowieka) w celu zaprojektowania i wdrożenia funkcji sztucznej inteligencji, które będą chronić ludzi i/lub mienie przed szkodami. Naszym celem jest tworzenie systemów AI, które będą nie tylko wydajne, ale także bezpieczne, niezawodne i przewidywalne.
- Zdefiniowana operacja: Oceniamy i dokumentujemy czynniki operacyjne i zakresy, w których nasze systemy AI powinny działać bezpiecznie i niezawodnie.
- Odporna konstrukcja: Nasze systemy są projektowane tak, aby zminimalizować czas potrzebny na identyfikację i naprawę znanych lub przewidywalnych awarii.
- Ciągłe doskonalenie: Poddajemy nasze systemy sztucznej inteligencji stałemu monitorowaniu, zbieraniu opinii i ocenie, aby mieć pewność, że pozostaną bezpieczne i niezawodne w dłuższej perspektywie.
5. Prywatność i bezpieczeństwo
Firma Workiva dołoży wszelkich uzasadnionych komercyjnie starań, aby zaprojektować funkcje sztucznej inteligencji w sposób zgodny z obowiązującymi przepisami i regulacjami dotyczącymi prywatności i ochrony danych.
Ochrona Twoich danych jest podstawą wszystkiego, co robimy. Nasze systemy sztucznej inteligencji są tworzone tak, aby spełniały nasze standardy prywatności i bezpieczeństwa.
- Prywatność w fazie projektowania: Nasze systemy AI zostały zaprojektowane tak, aby chronić prywatność użytkowników i klientów zgodnie z naszą umową o ochronie danych i stosownymi przepisami, takimi jak RODO.
- Solidne zabezpieczenia: Projektujemy nasze systemy AI tak, aby były bezpieczne, zgodnie z nasząrygorystyczną polityką bezpieczeństwa, wdrażając automatyczne kontrole i techniki łagodzenia zagrożeń w proces rozwoju.
Jak działa Workiva AI
Rozwiązanie Workiva AI jest zintegrowane z platformą Workiva. Poniżej znajdziesz więcej informacji na temat przetwarzania interakcji Workiva AI między użytkownikami, środowiskiem platformy Workiva i zewnętrznymi dostawcami LLM.
Szybkie filtrowanie
Kiedy przesyłasz prośbę do naszej funkcji Workiva AI, pierwszą rzeczą, jaką robimy, jest sprawdzenie jej pod kątem zgodności z naszymi wytycznymi. Używamy filtra eliminującego nieodpowiednie lub niedozwolone prośby użytkowników. Dzięki temu mamy pewność, że generowana treść mieści się w akceptowalnych granicach.
Barierki ochronne
Po przefiltrowaniu ustalamy pewne granice generowania odpowiedzi. Granice te uwzględniają takie czynniki, jak kontekst użytkownika, jego intencje, a nawet osobowość, którą przyjmuje. Stosujemy dodatkowy kontekst, aby zrozumieć, gdzie i w jaki sposób użytkownik korzysta ze sztucznej inteligencji.
Grunt
Uziemienie polega na zapewnieniu solidnego fundamentu dla reakcji poprzez wielopłaszczyznowe podejście. Wykorzystujemy osadzenia i rozszerzoną generację pobierania, aby rozszerzyć tę funkcjonalność na dane z obszaru roboczego naszych klientów, umożliwiając użytkownikom uzyskiwanie informacji specyficznych dla kontekstu z własnych dokumentów. Ponadto oferujemy szablony umożliwiające klientom żądanie odpowiedzi w określonych, ustalonych wcześniej formatach.
Jeśli chodzi o bezpieczeństwo, podczas uziemienia bierzemy pod uwagę autoryzację IAM (Identity and Access Management), aby mieć pewność, że dostęp do konkretnych dokumentów lub ich sekcji będą mieli wyłącznie autoryzowani użytkownicy.
Na koniec podajemy źródła i cytaty do naszych odpowiedzi, korzystając z techniki znanej jako RAG (Retrieval Augmented Generation), która nie tylko opiera nasze odpowiedzi na naszych własnych dokumentach, ale także pozwala nam cytować źródła, niezależnie od tego, czy są to nasze zastrzeżone dane, czy dane naszych klientów.
Zastrzyk
Wstrzykiwanie polega na dodawaniu monitów i parametrów modelu w celu ulepszenia doświadczenia użytkownika, uczynienia go prostszym i bardziej przyjaznym. Bierzemy wszystkie informacje zebrane w poprzednich krokach i wprowadzamy je do systemu Workiva AI. Wiąże się to z dodawaniem własnych komunikatów w tle, aby uprościć korzystanie z urządzenia.
Na przykład dodaliśmy predefiniowane polecenia, takie jak „skróć” lub „rozwiń”, aby użytkownicy mogli łatwo korzystać z tych funkcji. Dostosowujemy także parametry i ustawienia modelu, aby użytkownicy nie musieli zagłębiać się w skomplikowane szczegóły techniczne.
Wszystko to robimy po to, aby korzystanie z Workiva AI było jak najłatwiejsze.
Generowanie odpowiedzi
Ten etap polega na wykorzystaniu modeli sztucznej inteligencji, na przykład od Google i Microsoft Azure/OpenAI, w celu tworzenia odpowiedzi na zapytania użytkowników. Wykorzystujemy zaawansowane modele sztucznej inteligencji do generowania odpowiedzi. Modele te są trenowane na dużych zbiorach danych i potrafią generować kontekstowo istotne odpowiedzi na zapytania użytkowników.
Filtrowanie odpowiedzi
Po wygenerowaniu odpowiedzi przeprowadzamy kolejną warstwę kontroli, aby mieć pewność, że odpowiedź nie zawiera niewłaściwych lub zabronionych treści. Aby zagwarantować bezpieczeństwo i jakość odpowiedzi, do wygenerowanej treści stosujemy kolejny zestaw filtrów. Dzięki temu mamy pewność, że odpowiedzi będą zgodne z naszymi wytycznymi i nie będą zawierały żadnych niedozwolonych treści. Odpowiedzi przekazujemy użytkownikowi dopiero po przejściu kontroli.
Bezpieczeństwo i prywatność Workiva AI
Nieużywany do trenowania modeli AI
Zasadniczo należy podkreślić, że Twoje dane, Twoje dane wejściowe do modelu sztucznej inteligencji oraz odpowiedzi generowane przez sztuczną inteligencję pozostają całkowicie odrębne od procesu trenowania modelu. Oznacza to, że żaden z tych elementów nie jest wykorzystywany do trenowania naszych modeli sztucznej inteligencji. Dotyczy to nie tylko powszechnie stosowanych dużych modeli językowych, ale także naszych specjalistycznych, zastrzeżonych modeli. Zaprojektowaliśmy nasz system tak, aby zapewnić wyraźne oddzielenie danych od procesu szkolenia sztucznej inteligencji.
Szyfrowanie i przechowywanie
Aby zwiększyć bezpieczeństwo i prywatność Twoich danych i interakcji, Workiva korzysta z solidnych, zgodnych ze standardami branżowymi protokołów szyfrowania.
Trwałość danych jest ograniczona celowo i regulowana przez środki bezpieczeństwa, prywatności i zgodności firmy Workiva. Może obejmować przechowywanie danych w oparciu o sesję lub w dłuższym okresie w celu zapewnienia funkcjonalności produktu, wsparcia i możliwości audytu. Zewnętrzni dostawcy usług LLM nie przechowują ani nie wykorzystują danych klientów do celów szkoleniowych ani w celach wykraczających poza przetwarzanie żądań w imieniu firmy Workiva.
Przestrzeganie warunków bezpieczeństwa i prywatności danych
Proszę zapoznać się z Warunkami korzystania ze sztucznej inteligencji firmy Workiva.
Aktywne zaangażowanie użytkowników
Istotnym aspektem naszego podejścia jest wymóg aktywnego zaangażowania użytkowników. Workiva AI nie zmienia Twoich dokumentów bez Twojego bezpośredniego udziału i wyraźnej zgody. Masz pełną kontrolę nad tym, kiedy i w jaki sposób zdecydujesz się zintegrować odpowiedzi generowane przez sztuczną inteligencję ze swoją pracą, co gwarantuje, że Twój kreatywny autorytet pozostanie nienaruszony.
Filtrowanie treści i zabezpieczenia kontekstowe
Aby zapewnić bezpieczne i zgodne z przepisami środowisko sztucznej inteligencji, stosujemy kompleksowe środki filtrowania treści. Filtry te mają zastosowanie zarówno do monitów wejściowych, jak i odpowiedzi generowanych przez model sztucznej inteligencji. Skutecznie zapobiegają przetwarzaniu lub generowaniu niewłaściwych lub wrażliwych treści.
Równolegle z filtrowaniem treści wdrażane są skrupulatnie zabezpieczenia kontekstowe, które mają na celu zakotwiczenie sztucznej inteligencji w przewidywanych przypadkach użycia, promując tym samym zgodność z Twoim przepływem pracy i wymaganiami.
Klienci mogą zrezygnować w dowolnym momencie
Administratorzy organizacji mogą wyłączyć dostęp do Workiva AI na poziomie użytkownika, konta lub organizacji, aby dostosować go do swoich potrzeb, lub w dowolnym momencie zrezygnować z udziału w programie.