Zespoły ds. sprawozdawczości finansowej, zrównoważonego rozwoju i ryzyka odpowiadają za pracę, w której stawka jest najwyższa. Workiva AI została stworzona z myślą o tej rzeczywistości. Działa w ramach tych samych uprawnień i kontroli, które regulują pozostałą pracę na platformie.
W tym artykule omówiono trzy kwestie: w jaki sposób Workiva zarządza funkcją sztucznej inteligencji przed i po jej wdrożeniu, jak weryfikować i kontrolować działania funkcji sztucznej inteligencji Workiva w miejscu pracy oraz jakie dowody masz do dyspozycji, gdy zapyta Cię audytor. W każdej sekcji opisano dostępne obecnie rozwiązania i kierunki rozwoju tych możliwości.
Uwaga : Elementy wymienione w sekcji „Co nadchodzi” opisują kierunek prac, a nie zobowiązania dotyczące konkretnych funkcji lub dat dostarczenia.
Zarządzanie sztuczną inteligencją
Zarządzanie sztuczną inteligencją to sposób, w jaki Workiva potwierdza, że funkcja sztucznej inteligencji jest bezpieczna, zanim dotrze do Twojego miejsca pracy, i dba o to, aby była bezpieczna po dostarczeniu. Nowe funkcje sztucznej inteligencji są testowane pod kątem zdefiniowanych kryteriów i zatwierdzane za pomocą listy kontrolnej przed ich wdrożeniem, dzięki czemu jakość jest potwierdzana, a nie zakładana.
Praktyki te wpisują się w pięć zasad odpowiedzialnej sztucznej inteligencji firmy Workiva: rozliczalność, przejrzystość, uczciwość, bezpieczeństwo i niezawodność oraz prywatność i ochrona. Zasady te są zgodne z normami międzynarodowymi, w tym ISO/IEC 42001 i NIST AI Risk Management Framework, a także z przepisami, w tym unijną ustawą o sztucznej inteligencji i RODO. Pełną treść zasad można przeczytać w Podejście Workiva do sztucznej inteligencji .
Co jest dostępne dzisiaj
- Nowe funkcje sztucznej inteligencji przechodzą przez listę kontrolną przed ich włączeniem w środowisku produkcyjnym. Lista kontrolna dokumentuje cel danej funkcji, jej granice ryzyka, dowody z testów, sposób jej monitorowania oraz osobę, która ją zatwierdziła.
- Kontrola wydań zapobiega uruchomieniu nowej funkcji AI w środowisku produkcyjnym do momentu ukończenia wymaganych kroków zarządzania.
- Funkcje sztucznej inteligencji są testowane pod kątem zdefiniowanych kryteriów jakościowych za pomocą zestawów testów stopniowanych, dzięki czemu jakość odpowiedzi jest mierzona przed wydaniem.
Co nadchodzi
- Centralny, wewnętrzny rejestr każdej funkcji sztucznej inteligencji, obejmujący informacje o własności, decyzje dotyczące wydań, zatwierdzenia, dowody pomocnicze i historię wersji.
- Ciągła ocena porównująca bieżące reakcje z referencyjnymi zestawami danych, dzięki czemu jakość jest monitorowana po wydaniu, a nie tylko przed nim.
- Automatyczna ponowna ocena w przypadku zmiany modelu, monitu, narzędzia lub przepływu pracy.
- Monitorowanie produkcji pod kątem jakości, usterek, kosztów i opóźnień, z alertami o przekroczeniach progów i wykrywaniem regresji.
Weryfikacja i kontrola AI
Weryfikacja i kontrola AI to sposób, w jaki sprawdzasz, co wygenerowała sztuczna inteligencja Workiva AI, i określasz, co może ona zobaczyć i zrobić. Możesz polegać na odpowiedzi, ponieważ możesz ją udowodnić, a nie dlatego, że brzmi dobrze.
Co jest dostępne dzisiaj
- Odpowiedzi podają swoje źródła . Znaczniki cytowania w tekście odsyłają do źródła. Najechanie kursorem na znacznik spowoduje wyświetlenie nazwy dokumentu lub bazy wiedzy oraz sekcji, a także wybranie go w celu otwarcia źródła.
- Na końcu odpowiedzi znajduje się lista Źródła , która zawiera nazwy źródeł, z których skorzystano w odpowiedzi, oraz link do każdego z nich.
- Workiva AI działa w ramach posiadanych przez Ciebie uprawnień, aż do poziomu sekcji. Uprawnienia są sprawdzane, gdy Workiva AI pobiera treść, więc nie może pobrać ani zacytować treści, do których nie masz dostępu.
- Działania zmieniające treść wymagają potwierdzenia.
- Możesz zatrzymać działający przepływ pracy w dowolnym momencie, wybierając Zatrzymaj . Odpowiedź rejestruje, że ją zatrzymałeś.
- Przepływ pracy może korzystać wyłącznie z udostępnionych narzędzi i działa z uprawnieniami osoby, która go uruchamia.
Co nadchodzi
- Cytowania na poziomie sekcji dla plików, do których się odwołują.
- Cytaty wskazujące na dokładny zakres tekstu lub konkretną komórkę, z której pochodzi twierdzenie.
- Pochodzenie liczb obliczeniowych, dzięki czemu można prześledzić liczbę wstecz na każdym etapie, zamiast zatrzymywać się na pierwszym dokumencie.
- Ocena wiarygodności cytowań.
- Zestawy cytatów, które można eksportować i przekazać audytorowi.
- Szersze uprawnienia dla wieloetapowych przepływów pracy, ograniczające zakres działań przepływu pracy, a nie tylko to, co może on cytować.
Gotowość do audytu AI
Gotowość do audytu sztucznej inteligencji oznacza, że zapis tego, w jaki sposób sztuczna inteligencja wpłynęła na Twoją pracę, już istnieje i nie musisz go później odtwarzać. Tworzysz go w miarę swojej pracy.
Co jest dostępne dzisiaj
- Workiva AI opiera swoje odpowiedzi na własnych treściach, a nie tylko na ogólnej wiedzy o modelu. Uziemienie ma zastosowanie w różnych przypadkach użycia, w tym połączeniach , wiedzy , analizie porównawczej i spostrzeżeniach finansowych.
- Interakcje ze sztuczną inteligencją są rejestrowane w dzienniku aktywności , obejmującym użytkownika, interakcję i dostawcę modelu. Administratorzy obszaru roboczego mogą przeglądać te rekordy.
- Aktywność sztucznej inteligencji podlega tym samym zasadom rejestrowania, które obejmują dostęp do kont, zmiany danych i zmiany uprawnień na całej platformie.
- W ramach sesji możesz przejrzeć kroki podjęte przez Workiva AI. Wybierz Pokaż myślenie , aby zobaczyć jego rozumowanie, użyte narzędzia i wykonane czynności.
Co nadchodzi
- Autorstwo sztucznej inteligencji w historii dokumentu, dzięki czemu zmiany wprowadzane przez sztuczną inteligencję Workiva można przypisać do zmian wprowadzanych przez człowieka.
- Rekordy aktywności, które przenoszą atrybucję AI do dalszych działań, łącząc interakcję AI ze zmianą, którą spowodowała.
- Przeszukiwalna historia aktywności sztucznej inteligencji i szczegółowa rekonstrukcja poszczególnych zdarzeń związanych ze sztuczną inteligencją.
- Dowody w postaci przeglądu dokonywanego przez człowieka, zapisy zabezpieczone przed manipulacją, pakiety dowodów dla audytorów i dostęp audytorów wyłącznie do odczytu.
To nie jest gotowa lista kontrolna. Workiva stale podnosi poprzeczkę w zakresie zarządzania, weryfikacji i gotowości do audytu w miarę rozwoju sztucznej inteligencji.
Masz pytania dotyczące tego, jak to ma się do Twojej pracy? Skontaktuj się z nami pod adresem security@workiva.com .