Aleksandra Przegalińska
Jest filozofką i badaczką AI, wicerektorem ds. innowacji i AI na Uniwersytecie Kozmińskiego w Warszawie, gdzie kieruje centrum badawczym HUMANRACE. Jest także Fellow w Harvard Center for Labor and a Just Economy oraz liderką europejskiego sojuszu uniwersyteckiego EUonAIR. Autorka kilku książek, m.in. „Collaborative Society” i „Converging Minds”.
Jak zmienia się pojęcie zaufania, gdy nie potrafimy odróżnić treści ludzkiej od AI?
Zaufanie zawsze opierało się na sygnałach – głosie, stylu pisania, sposobie argumentacji. Dziś te sygnały stały się zawodne. Klonowanie głosu przekroczyło już próg nieodróżnialności: kilka sekund nagrania wystarczy, by wygenerować przekonującą kopię, kompletną z intonacją, rytmem i pauzami. Według McAfee 70 proc. ludzi nie jest pewnych, czy odróżni prawdziwy głos od sklonowanego przez AI, a tylko 0,1 proc. potrafi to zrobić w sposób wiarygodny. Zaufanie przestaje być relacją między ludźmi, a staje się relacją z infrastrukturą weryfikacji: protokołami, certyfikatami, systemami kryptograficznego znakowania treści. Problem w tym, że infrastrukturze też można nie ufać, a procedury można podrobić. Moim zdaniem granica zaufania nie przebiega już między tym, co „ludzkie”, a tym, co „maszynowe”, tylko między dobrą a złą intencją, i to jest dużo trudniejsze do wykrycia. Wyznaczenie tej granicy wymaga transparentności źródeł, nie tylko lepszych detektorów AI.
Deepfejki, klonowanie głosu, generowane tożsamości – co jest najbardziej niedocenianym zagrożeniem?
Klonowanie głosu, zdecydowanie. Deepfejki wizualne robią wrażenie medialne, ale głos jest tym, czemu ufamy natychmiast i bez namysłu – reagujemy na niego emocjonalnie, zanim uruchomi się krytyczne myślenie. Liczby są niepokojące: ataki z użyciem deepfake’ów głosowych wzrosły o ponad 1600 proc. w pierwszym kwartale 2025 roku względem czwartego kwartału 2024. FBI zarejestrowało ponad 22 000 skarg związanych z AI-fraud, ze stratami przekraczającymi 893 miliony dolarów, a mniej niż 5 proc. ofiar w ogóle zgłasza straty. Co czwarty dorosły zetknął się już z oszustwem głosowym opartym na AI. Szczególnie narażone są osoby starsze i pracownicy finansów, bo presja czasu i wiarygodność głosu działają razem. Z kolei najbardziej przeszacowanym zagrożeniem pozostają „superinteligentne AI przejmujące kontrolę nad światem” – to odciąga uwagę od zagrożeń, które już teraz dotykają konkretnych ludzi.
Gdzie człowiek musi zostać w centrum decyzji bezpieczeństwa, a gdzie może ustąpić maszynie?
W wykrywaniu zagrożeń i analizie anomalii maszyna jest szybsza i skuteczniejsza. Organizacje korzystające z AI w bezpieczeństwie wykrywają naruszenia o 108 dni szybciej i redukują koszty o 43 proc. Google automatyzuje 97 proc. zdarzeń bezpieczeństwa, a analitycy zajmują się tylko 3 proc., które wymagają oceny. Jednak decyzje o konsekwencjach dla konkretnego człowieka – blokada konta, eskalacja do organów ścigania, odmowa dostępu do usług – muszą mieć ludzki punkt kontrolny. Nie dlatego, że człowiek jest zawsze lepszy, ale dlatego, że odpowiedzialność musi się gdzieś zatrzymać. Algorytm jej nie ponosi. Człowiek tak. „Tak zdecydował algorytm” to niebezpieczna formuła, bo pozwala zachować władzę, jednocześnie uciekając od odpowiedzialności. Każdy system musi mieć przypisaną konkretną osobę – nie „zespół”, nie „dział”, ale nazwisko i stanowisko – która rozumie jego ograniczenia i odpowiada za skutki.
Czy nadmierna nieufność wobec AI w bezpieczeństwie też bywa kosztowna?
Tak, i to jest temat, o którym rzadziej się mówi publicznie. Według Verizon DBIR 2026 62 proc. potwierdzonych incydentów bezpieczeństwa angażuje nieintencjonalny czynnik ludzki. Człowiek jest zmęczony, stronniczy, podatny na presję emocjonalną, szczególnie przy dużej liczbie alertów. AI w operacjach bezpieczeństwa dostarcza mierzalne korzyści w triage’u alertów i wykrywaniu zagrożeń, ale tylko z jasnymi zasadami nadzoru i przeglądem analityków.
Jak pilnować granicy autonomii AI w dobie coraz bardziej samodzielnych agentów?
To pytanie, z którym mierzę się w ramach projektu AISOME, prowadzonego z badaczami z Harvardu i EUI. Agentowe rozwiązania AI działają coraz bardziej autonomicznie, a granica, o której kiedyś mówiłam w kontekście decyzji o zdrowiu czy finansach, jest dziś realnie testowana każdego dnia. Pilnować jej powinny jednocześnie regulacje, projektanci systemów i organizacje, które je wdrażają. Potrzebujemy standardów podobnych do tych w lotnictwie czy farmaceutyce: zanim system zacznie działać autonomicznie w obszarze wysokiego ryzyka, musi przejść weryfikację o wyraźnie określonych kryteriach. Raport AI Index 2025 dokumentuje ponad 233 poważne incydenty związane z AI w 2024 roku – więcej niż kiedykolwiek wcześniej. AI wyprzedza nadzór. To problem systemowy, nie przypadek.
Jedna praktyczna wskazówka dla decydenta budującego systemy bezpieczeństwa oparte na AI?
Zacznijmy od pytania: kto konkretnie jest odpowiedzialny, gdy system się myli? Nie „zespół”, nie „dostawca”. Nazwisko i stanowisko. Jeśli nie potrafisz odpowiedzieć, system nie jest gotowy do wdrożenia.
Co daje nadzieję, a co niepokoi?
Niepokoi mnie asymetria tempa: technologia zmienia się szybciej niż regulacje i nawyki społeczne. Ale nadzieję daje mi to, że coraz więcej decydentów zaczyna pytać, jak wdrożyć AI z sensem.
