Shadow AI

Shadow AI to korzystanie w pracy z narzędzi sztucznej inteligencji, których organizacja nie zatwierdziła, nie skonfigurowała i nie widzi. Najczęściej oznacza prywatne konto w czacie AI używane do zadań służbowych: pracownik wkleja tam maila od klienta, fragment umowy albo tabelę, żeby szybciej przygotować odpowiedź, streszczenie lub analizę. Pojęcie wywodzi się od shadow IT, czyli programów i usług używanych w firmie bez wiedzy działu IT.

Czym różni się od shadow IT

Do zwykłego narzędzia spoza listy, na przykład konwertera plików, trafia zwykle pojedynczy dokument. Do czatu AI trafia kontekst: dane klienta, opis problemu, liczby, których firma nie pokazuje na zewnątrz. Do tego rozmowa toczy się na warunkach umowy, którą pracownik zawarł z dostawcą jako osoba prywatna. To on decyduje o ustawieniach, o tym, czy rozmowy mogą służyć do trenowania modeli, i zabiera historię ze sobą, kiedy odchodzi z pracy.

Skąd się bierze

Shadow AI rzadko wynika ze złej woli. Zwykle robią to ludzie, którzy chcą zdążyć z pracą, a firma nie dała im legalnego narzędzia. Dlatego sam zakaz działa słabo: odbiera jedno narzędzie, nie dając drugiego, więc część osób przenosi pracę na prywatny telefon, gdzie firma przestaje ją widzieć.

Jak się go ogranicza

• firmowe konto w narzędziu, którego ludzie już używają, z wyłączonym trenowaniem na danych firmy,
• krótka lista danych, których nie wkleja się nigdzie: hasła, dane osobowe klientów, umowy, niepubliczne finanse,
• nawyk zamiany konkretów na zastępniki, na przykład [KLIENT] zamiast nazwiska,
• jedna osoba odpowiedzialna za listę kont i regularny przegląd potrzeb zespołu.

Szerzej o tym, dlaczego zakaz nie wystarcza i jak wygląda polityka AI na jedną stronę, piszemy we wpisie Czym jest shadow AI i dlaczego zakaz nie chroni danych firmy.