Asystent wiedzy RAG: bezpieczne granice danych

Co to jest

System RAG ma trzy główne etapy. Pozyskiwanie (ingestion) zbiera dokumenty z zatwierdzonych źródeł, dzieli je na fragmenty i zapisuje w indeksie wyszukiwania, często w wektorowej bazie danych. Wyszukiwanie (retrieval) znajduje fragmenty najbardziej istotne dla pytania użytkownika. Generowanie przekazuje te fragmenty do modelu językowego, który formułuje odpowiedź, najlepiej ze wskazaniem źródeł. Granice danych obowiązują na każdym etapie. Na etapie pozyskiwania decydują Państwo, które źródła i rodzaje dokumentów są dozwolone, a które wyłączone. Na etapie wyszukiwania system musi respektować te same uprawnienia, które użytkownicy mają w systemach źródłowych; jeśli użytkownik nie może otworzyć dokumentu w udziale plików, asystent nie powinien go dla niego wyszukać. Na etapie generowania decydują Państwo, co model może robić z pobraną treścią i czego powinien odmówić. Całość otaczają zasady retencji dla indeksów, promptów i logów oraz zasady każdego zewnętrznego dostawcy modelu dotyczące przetwarzania przesyłanych danych.

Dla kogo

Ten przewodnik jest przeznaczony dla:

• Organizacji planujących wewnętrznego asystenta dla wiedzy pracowniczej, HR, IT lub działań operacyjnych
• Zespołów budujących asystenta dla klientów na podstawie treści produktowych lub wsparcia
• Liderów ds. ochrony danych i bezpieczeństwa oceniających proponowany projekt RAG
• Menedżerów decydujących, które treści powinny, a które nie powinny być przeszukiwalne przez AI

Co pomaga wyjaśnić

Wyznaczenie granic pomaga wyjaśnić:

• Które źródła wiedzy są zatwierdzone, mają właściciela i są wystarczająco aktualne, by można było im ufać
• Czy wyszukiwanie respektuje uprawnienia każdego użytkownika
• Gdzie dane osobowe, poufne lub regulowane mogą trafić do indeksu
• Jak długo i gdzie przechowywane są zaindeksowane dane, prompty i odpowiedzi

Co jest zawarte

• Sporządzić listę potencjalnych źródeł i każdemu przypisać właściciela, który zatwierdza jego włączenie
• Domyślnie wyłączać: akta spraw kadrowych, sprawy prawne, listy płac, dane o zdrowiu, dane uwierzytelniające i dokumenty zarządu, chyba że istnieje konkretna, zatwierdzona potrzeba
• Usuwać lub archiwizować nieaktualne dokumenty, aby asystent nie powoływał się na zastąpione polityki
• Przenosić uprawnienia dokumentów do indeksu i filtrować wyniki wyszukiwania według dostępu bieżącego użytkownika
• Testować z użytkownikami o różnych rolach, aby potwierdzić, że widzą tylko to, co powinni
• Wykrywać i odpowiednio obsługiwać dane osobowe i sekrety podczas pozyskiwania
• Wymagać, aby odpowiedzi wskazywały źródła, i umożliwiać użytkownikom otwarcie oryginalnego dokumentu
• Polecić asystentowi, aby informował, gdy czegoś nie wie, zamiast zgadywać
• Określić retencję indeksu, promptów i logów oraz sposób propagowania usunięć z systemów źródłowych
• Przeanalizować warunki dostawcy modelu dotyczące przetwarzania i przechowywania danych
• Zbierać informacje zwrotne o błędnych lub nieprzydatnych odpowiedziach i wyznaczyć osobę odpowiedzialną za reagowanie na nie

Co nie jest uwzględnione

• Twierdzenia, że odpowiedzi asystenta zawsze będą trafne
• Porady prawnej dotyczącej obowiązków w zakresie ochrony danych
• Indeksowania źródeł niezatwierdzonych przez ich właścicieli
• Certyfikacji ani zatwierdzenia regulacyjnego

Kiedy to wybrać

Granice należy wyznaczyć na samym początku, na etapie wyboru źródeł, a nie po pierwszej prezentacji. Późniejsze dodanie filtrowania według uprawnień jest trudniejsze niż zaprojektowanie go od początku, a jedna błędna odpowiedź ujawniająca poufne informacje może podważyć zaufanie do całego projektu. Do granic należy wracać przy dodawaniu nowych źródeł, grup użytkowników lub dostawców modeli.

Nasze podejście

Warto zacząć od małej skali i dobrego nadzoru. Należy wybrać ograniczony zestaw zatwierdzonych, aktualnych źródeł z jasno określonym właścicielem i odbiorcami, na przykład bibliotekę pomocy IT lub bazę wiedzy o produktach. Wyszukiwanie z uwzględnieniem uprawnień warto budować od początku, nawet jeśli pierwsza grupa odbiorców jest szeroka. Należy testować realistycznymi pytaniami od osób w różnych rolach i uwzględnić pytania, na które asystent powinien odmówić odpowiedzi. Nasza usługa Internal Knowledge Assistant przygotowuje asystenta w oparciu o zatwierdzone źródła wiedzy, granice dostępu, niezawodność wyszukiwania i kontrolowane korzystanie przez pracowników. Usługa AI Governance, Policy & Data Safety może określić zasady korzystania i granice danych wokół niego, a LLM & AI Agent Security Review może zbadać ryzyka związane z wyszukiwaniem i ekspozycją danych w istniejącym asystencie. Sukces warto mierzyć wiarygodnymi odpowiedziami ze wskazaniem źródeł na częste pytania, a nie liczbą zaindeksowanych dokumentów.

Internal Knowledge Assistant

Często zadawane pytania

Artykuły pokrewne