Sztuczna inteligencja coraz częściej staje się niewidocznym uczestnikiem naszych codziennych interakcji – odpowiada na pytania klientów, prowadzi rozmowy na infoliniach, tworzy treści, obrazy, nagrania
czy wspiera procesy biznesowe. Problem pojawia się wtedy, gdy użytkownik nie wie, czy po drugiej stronie jest człowiek, czy algorytm.
Nowe regulacje unijne nie mają na celu zatrzymania rozwoju AI, ale przywrócenie podstawowej zasady bezpieczeństwa w świecie cyfrowym – musimy wiedzieć, z czym mamy do czynienia i kto odpowiada za komunikat, który otrzymujemy. Od 2 sierpnia firmy wykorzystujące określone systemy AI będą musiały jasno informować użytkowników o kontakcie ze sztuczną inteligencją. Dotyczy to m.in. chatbotów
i systemów automatycznej komunikacji. To ważna zmiana z perspektywy ochrony konsumentów. Wyobraźmy sobie sytuację, w której klient przekazuje chatbotowi dane osobowe, informacje finansowe albo szczegóły dotyczące swojej sprawy, będąc przekonanym, że rozmawia z pracownikiem firmy. Świadomość, że po drugiej stronie jest system AI, pozwala podjąć bardziej świadomą decyzję –
co powiedzieć, jakie informacje przekazać i czy kontynuować rozmowę.
Jednocześnie warto pamiętać, że sama informacja „rozmawiasz z AI” nie rozwiązuje wszystkich problemów. Firmy muszą zadbać o odpowiedzialne wdrażanie tych technologii: bezpieczeństwo danych, kontrolę jakości odpowiedzi generowanych przez AI oraz jasne zasady dotyczące tego, kto ponosi odpowiedzialność za błędy systemu.
AI może być ogromnym wsparciem dla biznesu, administracji czy klientów, ale nie może stać się narzędziem do budowania fałszywego poczucia kontaktu z człowiekiem. Zaufanie w relacjach cyfrowych będzie jednym z najważniejszych tematów najbliższych lat. Warto też spojrzeć szerzej – problem nie dotyczy wyłącznie chatbotów. Coraz trudniej odróżnić prawdziwe zdjęcia, nagrania głosu czy materiały wideo od treści wygenerowanych przez AI. Dlatego edukacja cyfrowa i świadomość użytkowników będą równie ważne jak same przepisy.
Największą zmianą, którą przynosi AI Act, nie jest ograniczenie technologii, ale wprowadzenie zasady przejrzystości: użytkownik ma prawo wiedzieć, kiedy komunikuje się z człowiekiem, a kiedy
z algorytmem.
