Analityka

Śledź wyniki agentów, porównuj eksperymenty i znajdź możliwości optymalizacji w całym obszarze roboczym

Omówienie

Panel analityczny zapewnia szczegółowe wskaźniki w czasie rzeczywistym dla twoich agentów konwersacyjnych. Możesz analizować wyniki w wielu wymiarach — według agenta, gałęzi, okresu, języka, typu rozmowy, modelu i innych — aby dokładnie sprawdzić, jak twoi agenci radzą sobie na produkcji.

Dane analityczne obsługuje wydajna kolumnowa baza danych, która umożliwia szybkie zapytania w dużych zbiorach danych z rozmów oraz elastyczne filtrowanie i grupowanie.

Aby analizować tematy na poziomie rozmów, użyj Spotlight, gdzie znajdziesz informacje w czasie rzeczywistym, analizę sentymentu, wykrywanie tematów i rozmowy stojące za każdym tematem.

Dostęp do analityki

Przejdź do zakładki Analityka w panelu agentów. Możesz wyświetlić wskaźniki dla całego obszaru roboczego lub filtrować je dla konkretnego agenta.

Karta Ogólne w panelu analitycznym z liczbą rozmów, średnim czasem trwania, łącznym kosztem i liczbą
rozmów w czasie

Podczas prowadzenia eksperymentów możesz przejść bezpośrednio do analityki filtrowanej według gałęzi z poziomu strony konfiguracji agenta, używając przycisku Zobacz analitykę. Filtry agenta i gałęzi zostaną ustawione automatycznie, aby od razu porównać wyniki wariantów.

Zakres czasu i szczegółowość

Wybierz zakres czasu analizy za pomocą selektora dat u góry panelu. Możesz wybrać gotowy zakres lub ustawić własne okno czasowe.

Panel automatycznie dostosowuje szczegółowość wykresów szeregów czasowych do wybranego zakresu — dla krótkich zakresów używa przedziałów godzinowych, a dla dłuższych dziennych lub tygodniowych.

Dostępne wskaźniki

Rozmowy

  • Liczba rozmów — łączna liczba rozmów w wybranym okresie
  • Łączny czas trwania — łączny czas rozmów
  • Średni czas trwania — średnia długość rozmowy
  • Łączny koszt — łączny wydatek na wszystkie rozmowy
  • Średni koszt — średni koszt rozmowy

Wydajność

  • Opóźnienie odpowiedzi agenta — czas odpowiedzi agenta (mediana i percentyle)
  • Współczynnik błędów — odsetek rozmów z błędami
  • Podział błędów — błędy podzielone według typu (błędy narzędzi, LLM, problemy z połączeniem)

Ocena sukcesu

Jeśli masz skonfigurowane kryteria oceny, panel pokazuje wskaźniki sukcesu, porażki i nieznanego wyniku dla każdego kryterium. To główny sposób mierzenia wyników biznesowych w eksperymentach.

Zbieranie danych

Jeśli masz skonfigurowane zbieranie danych, zebrane wartości są dostępne w panelu jako wymiary, po których można filtrować.

Podział według języka

Zobacz rozkład rozmów według języków. Pomaga to zrozumieć skalę użycia wielu języków i porównać wyniki agentów w różnych językach.

Aktywne rozmowy

Panel wyświetla w czasie rzeczywistym bieżącą liczbę aktywnych rozmów. Obejmuje to trwające sesje w całym obszarze roboczym, a dane są też dostępne przez API.

Filtrowanie

Zawęź widok analityczny, stosując filtry w dowolnej kombinacji wymiarów:

Karta Narzędzia pokazująca średni współczynnik błędów i średnie opóźnienie narzędzi pogrupowane według typu
narzędzia

FiltrOpis
AgentWyświetl wskaźniki dla konkretnego agenta
GałąźPorównaj wyniki między gałęziami eksperymentu
Typ rozmowyFiltruj rozmowy przychodzące, wychodzące lub internetowe
JęzykFiltruj według języka rozmowy
Źródło rozmowyFiltruj według sposobu rozpoczęcia rozmowy (widget, telefon, API)
Model LLMPorównaj wyniki różnych modeli językowych
Model TTSPorównaj wyniki modeli zamiany tekstu na mowę
Model ASRPorównaj wyniki modeli rozpoznawania mowy
Typ narzędziaFiltruj według narzędzi użytych w rozmowach
Typ błęduWyodrębnij rozmowy z konkretnymi kategoriami błędów
Kryteria ocenyFiltruj według wyników oceny sukcesu

Grupowanie

Grupuj wskaźniki według dowolnego wymiaru dostępnego do filtrowania, aby rozbić dane zbiorcze.

Karta LLM z czasem LLM do pierwszego zdania w
czasie

Wykres opóźnienia zmiany tury z percentylami p50, p90 i p99

Na przykład:

  • Grupuj według gałęzi, aby porównać warianty eksperymentu obok siebie
  • Grupuj według języka, aby sprawdzić wyniki agentów w różnych językach
  • Grupuj według modelu LLM, aby porównać wydajność i koszt modeli
  • Grupuj według typu rozmowy, aby zrozumieć różnice między rozmowami przychodzącymi i wychodzącymi

Możesz łączyć wiele wymiarów grupowania, aby analizować dane głębiej.

Analityka workflow

Karta analityki workflow z wejściami na węzłach, czasami trwania, zakończeniami i przepływem przez krawędzie nałożonymi
na graf workflow

W przypadku agentów z workflow zakładka Workflow w panelu analitycznym nakłada wskaźniki użycia bezpośrednio na graf workflow. Wybierz agenta korzystającego z workflow, aby włączyć widok grafu — możesz wtedy wizualizować przepływ rozmów i ich liczbę bezpośrednio na kanwie workflow, ze szczegółowym przepływem wejściowym i wyjściowym dla każdego węzła.

Wskaźniki węzłów

Kliknij dowolny węzeł na grafie workflow, aby otworzyć panel szczegółów i zobaczyć:

  • Wejścia — ile rozmów weszło do węzła w wybranym zakresie czasu
  • Średni czas — jak długo węzeł był średnio aktywny dla tych wejść
  • Zakończenia — ile rozmów zakończyło się, gdy węzeł był aktywny
  • Przepływ wejściowy i wyjściowy — rozkład rozmów wchodzących z każdej poprzedzającej krawędzi i wychodzących przez każdą kolejną krawędź

Przechodzenie do rozmów

W panelu szczegółów węzła kliknij Zobacz rozmowy, aby przejść do strony historii rozmów przefiltrowanej według tego węzła. Zostanie zastosowany filtr Węzeł odwiedzony — filtr historii ograniczony do konkretnego agenta, który pokazuje każdą rozmowę, której transkrypcja co najmniej raz weszła do wybranego węzła workflow.

Filtr Węzeł odwiedzony jest też dostępny bezpośrednio na stronie historii rozmów.

Analityka w eksperymentach

Analityka to główne narzędzie do mierzenia wyników eksperymentów. Zalecany workflow:

1

Filtruj według agenta

Wybierz agenta prowadzącego twój eksperyment.
2

Grupuj według gałęzi

Podziel wszystkie wskaźniki według gałęzi, aby zobaczyć wyniki na poziomie wariantów.

3

Porównaj kluczowe wskaźniki

Sprawdź wskaźniki istotne dla twojej hipotezy — wyniki oceny sukcesu, czas trwania rozmów, koszt, współczynniki błędów.

4

Podejmij decyzję i działaj

Gdy jeden wariant stale osiąga lepsze wyniki, zwiększ jego udział w ruchu lub połącz go z gałęzią main.

Możesz przejść bezpośrednio do tego widoku ze strony konfiguracji agenta, klikając przycisk Zobacz analitykę obok ustawień wdrażania ruchu. Spowoduje to automatyczne zastosowanie właściwych filtrów agenta i gałęzi.

Kolejne kroki