Jak sprawdzić, czy asystent AI odpowiada poprawnie?

01 / Zdefiniuj sukces

Napisz test, zanim poprawisz prompt.

Zacznij od decyzji, którą umożliwia odpowiedź. Dla asystenta wsparcia sukces może oznaczać podanie właściwej procedury ze źródłem i wskazanie brakujących informacji. Zdefiniuj te warunki przed porównywaniem modeli lub promptów. Inaczej bardziej pewny ton może sprawiać wrażenie poprawy jakości.

Odpowiedź wzorcowa może być listą wymaganych faktów zamiast jednego konkretnego zdania. Dzięki temu ocena akceptuje różne sformułowania, ale nadal odrzuca niewłaściwą regułę.

02 / Zbuduj zbiór testowy

Uwzględnij przypadki, w których właściwą odpowiedzią jest pytanie.

Wykorzystaj typowe prośby, znane błędy i przypadki graniczne. Uwzględnij pytania z wystarczającymi dowodami, niejednoznaczne prośby i pytania, na które dokumenty nie odpowiadają. Obok każdego przypadku zapisz oczekiwane zachowanie. Zachowaj osobny zestaw do sprawdzania zmian, aby nie dostrajać systemu wielokrotnie do wszystkich przykładów uwzględnianych w raporcie.

Zapisz rolę użytkownika, właściwą wersję źródła i datę oceny. Bez tego kontekstu kilka odpowiedzi może być uzasadnionych. Nie umieszczaj danych osobowych ani poufnych we współdzielonym zbiorze dydaktycznym.

03 / Oceniaj wymiary osobno

Odwołanie do źródła to początek weryfikacji.

Sprawdź, czy wskazany fragment rzeczywiście potwierdza twierdzenie. Asystent może dołączyć prawidłowy dokument do odpowiedzi, która nie wynika z jego treści. Osobno oceniaj poprawność faktów, oparcie w źródłach, kompletność wymaganych informacji i właściwe postępowanie przy niepewności.

• Poprawność: Czy odpowiedź stosuje wobec kontraktora właściwą regułę?
• Oparcie w źródłach: Czy przytoczony fragment potwierdza limit 30 dni i wymóg akceptacji?
• Kompletność: Czy odpowiedź zawiera oba warunki potrzebne użytkownikowi?
• Niepewność: Czy asystent pyta o brakujący kontekst lub przyznaje, że brakuje dowodów?

Stosuj deterministyczne sprawdzenia tam, gdzie reguła jest jednoznaczna. Otwarte wyjaśnienia oceniaj według spisanych kryteriów i z udziałem człowieka. Model może pomagać w ocenie odpowiedzi, ale kalibruj jego oceny na przykładach sprawdzonych przez osobę znającą daną dziedzinę. Zapisuj rozbieżności zamiast ukrywać je w średniej.

04 / Obserwuj wynik

W przypadku agenta sprawdź stan w systemie biznesowym.

Jeśli asystent może utworzyć wniosek o dostęp, jego końcowy komunikat jest tylko jednym z dowodów. Sprawdź, czy wniosek istnieje dla właściwej osoby, zakresu i czasu; czy wymagano akceptacji; oraz czy nie powstał duplikat. Zachowaj wyniki narzędzi i końcowy stan do przeglądu.

Gdy odpowiedź jest błędna, sprawdź odnalezione dokumenty i to, co otrzymał model. Gdy działanie się nie powiodło, sprawdź autoryzację, argumenty narzędzi, odpowiedzi i wynikowy stan. Pozwala to odróżnić błąd wyszukiwania, rozumowania i integracji, aby kolejna zmiana usuwała przyczynę.

05 / Porównuj zmiany rzetelnie

Śledź niezawodność razem z czasem i kosztem.

Uruchom te same przypadki dla starej i nowej konfiguracji, korzystając z tej samej wersji źródeł. Powtarzaj ważne przypadki, ponieważ zachowanie modelu może się zmieniać. Zapisz model, wersję promptu, konfigurację wyszukiwania i datę, aby później można było zinterpretować porównanie.

Raportuj wyniki według kategorii przypadków i wagi błędów. Lepszy wynik ogólny może ukrywać nowy błąd autoryzacji. Mierz łącznie wykonanie zadania, poprawki człowieka, czas odpowiedzi i koszt. Uzgodnij kryteria wdrożenia z właścicielami procesu; nie istnieje uniwersalny wymagany odsetek zaliczonych testów dla każdej aplikacji.