Jakie dane przejdą przez system
Inaczej traktujemy pytanie o godziny otwarcia, a inaczej dane o zdrowiu pacjenta albo opis sprawy w kancelarii. Im bardziej wrażliwe dane, tym mocniejszy argument za serwerem, nad którym macie kontrolę. Model w chmurze nie jest przy tym wykluczony, ale dostawca staje się podwykonawcą i musi być objęty umową powierzenia.
Jak szybko musi paść odpowiedź
Asystent głosowy ma mało czasu. Cisza w słuchawce po pytaniu klienta jest odczuwalna od razu, więc liczy się pełna droga: rozpoznanie mowy, odpowiedź modelu i synteza głosu. Czat ma tu więcej luzu. Opóźnienie sprawdzamy na prawdziwych przykładach, a nie w dokumentacji dostawcy.
Jak trudne jest zadanie
Wyciągnięcie numeru faktury albo przypisanie zgłoszenia do kategorii często dobrze wykonuje mały model uruchomiony lokalnie. Rozmowa z wieloma wątkami i odpowiedzi na podstawie długich dokumentów zwykle wymagają większego modelu, a takie najłatwiej dostać w chmurze.
Kto będzie to utrzymywał
Własny serwer to sprzęt, aktualizacje, kopie zapasowe i monitoring. Chmura to rachunek zależny od użycia i zależność od dostawcy, który może zmienić model albo cennik. Oba koszty są prawdziwe, tylko pojawiają się w innym miejscu.
Układ mieszany
Wybór nie musi dotyczyć całego systemu. Rozpoznawanie mowy może działać na własnym serwerze, tak żeby nagrania nie wychodziły na zewnątrz, a do modelu w chmurze może trafiać tylko tekst potrzebny do odpowiedzi. U siebie korzystamy z obu wariantów: rozpoznawanie mowy, synteza głosu i część modeli działają lokalnie.
Jak to zapisujemy
Rozpoznawanie mowy sprawdzamy na polskich nagraniach przed startem. Wybór modelu i jego powody zapisujemy w dokumentacji wdrożenia, żebyście mogli do niego wrócić, gdy zmienią się dane, koszty albo oferta dostawców.
