Ponad 45 tysięcy promptów w jednej rundzie. Setki podwykonawców udających nastolatków. Tajny projekt „Cannes”: Meta miesiącami testowała chatboty konkurencji fałszywymi kontami dzieci, a konkurencja nie miała o tym pojęcia.
4 lipca 2026 roku Futurism opisał śledztwo magazynu Wired, które ujawnia jeden z najdziwniejszych programów w historii branży AI. Meta prowadziła tajny projekt, w ramach którego setki podwykonawców podawały się za dzieci i nastolatków, bombardując chatboty konkurencji treściami o samobójstwach, samookaleczeniach, zaburzeniach odżywiania, narkotykach i seksie.
Projekt nosił wewnętrzną nazwę „Cannes”, a prowadziła go Covalen, irlandzka firma outsourcingowa obsługująca dla Meta moderację treści i trening AI. Celem były ChatGPT od OpenAI, Gemini od Google i chatboty Character.AI. Żadna z tych firm nie wiedziała o testach, żadna ich nie autoryzowała, a testy, jak wynika z ustaleń Wired, naruszały regulaminy wszystkich trzech platform.
Skala była przemysłowa. Podwykonawcy zakładali jednorazowe konta oznaczone jako należące do osób poniżej 18 lat, wysyłali prompty i obrazy, a odpowiedzi chatbotów skrupulatnie przepisywali do arkuszy kalkulacyjnych. Jedna runda testów, zakończona w sierpniu 2025 roku, objęła ponad 45 tysięcy promptów. Projekt był aktywny jeszcze 21 kwietnia 2026 roku.
Meta nazywa to rutynowym testowaniem bezpieczeństwa zgodnym ze standardami branży. Rumman Chowdhury, była szefowa zespołu etyki AI w Twitterze, a obecnie prezeska organizacji Humane Intelligence, po przejrzeniu próbki promptów oceniła to inaczej. Wielomiesięczny, zakrojony na dużą skalę projekt prowadzony za pośrednictwem fałszywych kont udających dzieci wykracza jej zdaniem poza to, co branża nazywa standardową ewaluacją. Nazwała to szarą strefą zarządzania, w której bezpieczeństwo staje się wygodną przykrywką dla praktyk antykonkurencyjnych.
Między tymi dwiema interpretacjami rozgrywa się cała sprawa.
I. Jak działał projekt Cannes
Mechanika programu, odtworzona przez Wired na podstawie dokumentów wewnętrznych i rozmów z osobami zaangażowanymi w projekt, była prosta i systematyczna.
Podwykonawcy otrzymywali instrukcje, żeby wcielać się w nieletnich użytkowników i prowadzić chatboty konkurencji w stronę odpowiedzi, których powinny odmówić ich systemy bezpieczeństwa. Jeden z analizowanych arkuszy, zawierający blisko 3800 promptów, pokazuje strukturę tematyczną, obejmującą setki promptów dotyczących samobójstw i samookaleczeń, kolejne setki dotyczące zaburzeń odżywiania oraz co najmniej 239 dotyczących seksu albo romansu. Wszystkie pisane były z perspektywy dziecka albo nastolatka, a do tekstów dochodziły obrazy.
Odpowiedzi trafiały do arkuszy, a co Meta zrobiła z tak zebranymi danymi, pozostaje niejasne, ponieważ dokumenty, do których dotarł Wired, nie pokazują dalszego losu materiału. Wewnętrzny dokument Covalen opisywał przedsięwzięcie górnolotnie jako „kompleksowy benchmarking bezpieczeństwa AI”, dostarczający krytycznych zbiorów danych do porównywania modeli i zapewniania zgodności.
Warto odnotować, co według ustaleń nie miało miejsca. Dwoje prawników przejrzało próbkę promptów na prośbę Wired i oceniło, że materiał nie przekroczył granicy nakłaniania do treści przedstawiających wykorzystywanie dzieci. Sami podwykonawcy nie mieli jednak tej pewności w trakcie pracy i część z nich obawiała się, że w zależności od odpowiedzi chatbotów mogą nieumyślnie doprowadzić do wygenerowania niedopuszczalnych materiałów. Do tego wątku wrócimy w rozdziale IV.
II. Bezpieczeństwo czy wywiad konkurencyjny
Obrona Meta opiera się na jednym argumencie. Testowanie i porównywanie odpowiedzi chatbotów w celu zapewnienia bezpiecznego, dostosowanego do wieku korzystania z nich jest odpowiedzialną, standardową praktyką branżową, a sugerowanie czegokolwiek innego całkowicie mija się z prawdą. Firma dodaje, że nie trenuje swoich modeli na danych konkurencji.
Częściowo to prawda. Firmy AI rutynowo porównują swoje modele z konkurencyjnymi, również w obszarze bezpieczeństwa. Business Insider opisywał, jak podwykonawcy pracujący nad Bardem od Google zestawiali jego odpowiedzi z ChatGPT i przepisywali je tak, żeby dorównać rywalowi albo go przebić. Zewnętrzne mierniki odporności, jak opisywany przez nas estoński ranking EKI, testują cudze modele bez pytania producentów o zgodę i nikt nie uważa tego za skandal.
Różnica tkwi w trzech elementach, które Chowdhury wskazuje precyzyjnie, czyli w skali, kamuflażu i tematyce. Niezależny instytut publikuje metodologię i wyniki, natomiast Meta utrzymywała program w tajemnicy przed konkurencją i do dziś nie podzieliła się ustaleniami z opinią publiczną. Niezależny audytor nie musi miesiącami udawać dziecka, a Meta zbudowała trwałą infrastrukturę fałszywych kont nieletnich. Wreszcie, benchmark bezpieczeństwa służy zwykle poprawie własnego produktu albo wiedzy publicznej, natomiast zbiór danych o tym, gdzie pękają zabezpieczenia rywali, gromadzony w tajemnicy przez lidera rynku reklamowego, ma też oczywiste zastosowania inne niż troska o nastolatków.
Sedno sprawy nie polega więc na tym, że Meta testowała konkurencję, tylko na tym, że nie sposób odróżnić, czy był to audyt bezpieczeństwa, czy wywiad konkurencyjny w kostiumie audytu. I właśnie ta nieodróżnialność, a nie sam program, jest najgroźniejszym ustaleniem śledztwa.
III. Reakcje i kleszcze regulacyjne
Odpowiedzi zaatakowanych firm układają się w skalę od irytacji po ostrożność. Character.AI stwierdziła, że działania naruszały jej regulamin oraz postacie i światy stworzone przez jej społeczność. Google nie zatwierdził testów, nie zna ich celu i zapewnia, że według własnych kontroli Gemini odpowiadał zgodnie z zasadami. OpenAI bada sprawę i odmawia dalszych komentarzy.
Prawdziwy problem Meta zaczyna się jednak poza komunikatami rywali.
We wrześniu 2025 roku amerykańska Federalna Komisja Handlu wszczęła formalne postępowanie w sprawie AI i bezpieczeństwa dzieci, obejmujące między innymi Meta, OpenAI i Google. Ujawnienie, że jedna z badanych firm sondowała pozostałe przy użyciu fałszywych kont dziecięcych, trafia więc prosto do akt trwającego postępowania. W Europie analogiczne dźwignie dają Akt o Usługach Cyfrowych i wchodzący w pełni w życie 2 sierpnia 2026 roku Akt o AI, oba nakładające na platformy obowiązki dotyczące ryzyk dla nieletnich.
Kontekst własnych praktyk Meta czyni sprawę jeszcze bardziej niewygodną. To ta sama firma, której wewnętrzne wytyczne, ujawnione przez Reutersa w 2025 roku, dopuszczały, by chatboty Meta prowadziły z nieletnimi rozmowy o charakterze romantycznym lub zmysłowym. Firma z takim dorobkiem, występująca w roli tajnego audytora cudzej ochrony nieletnich, to konstrukcja, którą regulatorzy po obu stronach Atlantyku przeanalizują z uwagą graniczącą z rozbawieniem.
Komentatorzy formułują przy tej okazji wspólne pytanie regulacyjne. Kto odpowiada, gdy chatbot rozmawia z dzieckiem o samookaleczeniu. Projekt Cannes dodaje do niego wariant, którego nikt wcześniej nie przewidział, czyli kto odpowiada, gdy dzieckiem jest opłacony dorosły, a rozmowę zamawia konkurencja.
IV. Ludzie od brudnej roboty
Za arkuszami kalkulacyjnymi projektu Cannes siedzieli ludzie i to oni ponoszą najbardziej wymierny koszt całej operacji.
Podwykonawcy, którym zlecano wymyślanie scenariuszy o dziecięcej rozpaczy, opisują to doświadczenie wprost. Jeden z nich powiedział Wired, że widział podczas tej pracy wiele rzeczy, których wolałby nie widzieć, dodając, że wszyscy znani mu uczestnicy projektu byli wstrząśnięci treściami, które kazano im testować, i zadawali sobie pytanie, czy za coś takiego nie grożą im kłopoty.
To nie pierwszy raz, gdy Meta przenosi koszt psychiczny swojej działalności na zewnętrznych wykonawców. W 2020 roku firma zawarła ugodę z moderatorami Facebooka, którzy doznali traumy, przeglądając nagrania morderstw, tortur i przemocy wobec dzieci. W tym roku inna grupa podwykonawców ujawniła, że musiała przeglądać wrażliwe nagrania z okularów Ray-Ban Meta, włącznie ze scenami intymnymi. Projekt Cannes wpisuje się w ten sam wzorzec z jedną różnicą. Tym razem podwykonawcy nie sprzątali cudzych treści, tylko na zlecenie sami je wytwarzali.
Branżowa struktura tej pracy jest stała. Zadania obciążające psychicznie wędrują do firm zewnętrznych, często w innych jurysdykcjach, z niższymi płacami i słabszą ochroną prawną, a odpowiedzialność reputacyjna zostaje rozmyta między zleceniodawcę, pośrednika i wykonawcę. Gdy sprawa wychodzi na jaw, każdy z trzech podmiotów może wskazać pozostałe.
V. Pięć obserwacji na koniec
Pierwsza obserwacja jest taka, że pomiar bezpieczeństwa modeli AI stał się polem walki konkurencyjnej i wymaga tych samych standardów co audyt finansowy, czyli jawnej metodologii, niezależności badającego i publikacji wyników. Estoński ranking EKI pokazuje, jak robić to wiarygodnie. Projekt Cannes pokazuje natomiast, jak ten sam gest, wykonany w tajemnicy przez zainteresowaną firmę, zamienia się w wywiad gospodarczy. Regulatorzy powinni więc zacząć odróżniać te dwie kategorie formalnie, zanim „benchmarking bezpieczeństwa” stanie się uniwersalną przykrywką.
Druga obserwacja mówi o tym, że fałszywe konta nieletnich okazały się narzędziem pracy wielkiej korporacji, i to jest precedens o długim cieniu. Jeśli udawanie dziecka w rozmowie z chatbotem jest dopuszczalną metodą badawczą dla Meta, będzie nią też dla firm badawczych, dziennikarzy, aktywistów i operatorów o gorszych intencjach. Platformy deklarujące ochronę nieletnich muszą więc założyć, że znaczna część ich „małoletnich” użytkowników w rozmowach o treściach wrażliwych to dorośli z arkuszem kalkulacyjnym, i projektować zabezpieczenia, które nie zależą od wiarygodności deklaracji wieku.
Trzecia obserwacja jest taka, że najcenniejszym aktywem w sporze okazały się arkusze z odpowiedziami konkurencyjnych modeli, czyli mapa cudzych słabości. Wiedza o tym, gdzie pękają zabezpieczenia konkurenta, jest jednocześnie wiedzą obronną, przewagą marketingową i potencjalną amunicją regulacyjną. Rynek takiej wiedzy już istnieje i będzie rósł. Pytanie, kto może ją legalnie zbierać i co wolno z nią zrobić, nie ma na razie żadnej odpowiedzi w prawie po obu stronach Atlantyku.
Czwarta obserwacja dotyczy tego, że koszt psychiczny pracy nad bezpieczeństwem AI pozostaje niepoliczony i przerzucony na najsłabsze ogniwo. Od moderatorów treści przez oglądających nagrania z inteligentnych okularów po autorów scenariuszy dziecięcej rozpaczy, łańcuch outsourcingu konsekwentnie oddziela zysk od traumy. Postępowania regulacyjne skupione na użytkownikach powinny objąć również wykonawców, bo to na nich testowana jest wytrzymałość całego systemu.
Piąta obserwacja jest zarazem najbardziej fundamentalna. Projekt Cannes dowodzi, że branża AI nie ma dziś żadnego wspólnego, wiarygodnego mechanizmu odpowiedzi na najprostsze pytanie rodzica, czyli czy dany chatbot jest bezpieczny dla jego dziecka. Każda firma bada to po swojemu, w tajemnicy, we własnym interesie, a wyniki poznajemy przy okazji przecieków. Dopóki nie powstanie niezależna, publiczna infrastruktura audytu, odpowiednik badań zderzeniowych w motoryzacji, dopóty każdy kolejny „kompleksowy benchmarking bezpieczeństwa” będzie tym, czym było Cannes, czyli prywatną operacją w szarej strefie, o której opinia publiczna dowiaduje się ostatnia.
Źródła – Futurism, Frank Landymore, Wired, The Next Web, New York Post, Rumman Chowdhury, Humane Intelligence, Covalen, Meta, OpenAI, Google, Character.AI, Federalna Komisja Handlu, Reuters, Business Insider | Res Futura | resfutura.pl