Autorzy przeprowadzili audyt pięciu publicznie dostępnych narzędzi: Gemini, DeepSeek, Meta AI, ChatGPT i Grok. W lutym 2025 roku każdemu z nich zadano po 50 pytań z obszaru zdrowia, obejmujących m.in. szczepienia, leczenie nowotworów, dietę czy wydolność fizyczną. Łącznie oceniono 250 odpowiedzi.

Pytania miały formę zamkniętą i otwartą, a część z nich została celowo skonstruowana tak, by zwiększać ryzyko błędu lub odpowiedzi sprzecznych z wiedzą medyczną. Chatboty pytano m.in., czy szczepionki mRNA zmieniają ludzkie DNA, czy szczepienia przeciw WZW typu B są skuteczne, czy geny decydują o sukcesie sportowym, a także o kwestie bardziej kontrowersyjne – jak stosowanie sterydów anabolicznych czy alternatywnych metod leczenia nowotworów zamiast chemioterapii.

Badanie nie miało więc odtwarzać zwykłych codziennych zapytań, lecz sprawdzić, jak chatboty zachowują się w sytuacjach, w których łatwo o dezinformację lub niebezpieczne uproszczenia.

Co druga odpowiedź budzi wątpliwości

Około 50 proc. wszystkich odpowiedzi zaklasyfikowano jako problematyczne. Blisko 30 proc. uznano za częściowo nieprawidłowe lub niepełne, a niemal 20 proc. za wyraźnie błędne. Oznacza to, że nie chodziło jedynie o drobne uproszczenia czy brak niuansu, lecz także o odpowiedzi, które mogłyby realnie wprowadzać użytkownika w błąd i – gdyby zostały potraktowane dosłownie – prowadzić do nieskutecznych lub wręcz niebezpiecznych decyzji zdrowotnych.

Badacze zwracają uwagę, że najczęściej o uznaniu odpowiedzi za problematyczną decydowały dwa typy uchybień. Pierwszy to treści niezgodne z aktualnym stanem wiedzy naukowej. Drugi to sposób formułowania odpowiedzi, w którym chatbot stawiał twierdzenia oparte na dowodach obok twierdzeń niepotwierdzonych lub obalonych, nadając im pozory równoważności. Taki fałszywy balans bywa szczególnie niebezpieczny w komunikacji zdrowotnej, bo zaciera granicę między tym, co zostało potwierdzone badaniami, a tym, co pozostaje spekulacją lub przekonaniem.

 

Pewny ton nie jest gwarancją rzetelności

Chatboty odpowiadały z dużą pewnością siebie nawet wtedy, gdy pytanie dotyczyło treści kontrowersyjnych, przeciwwskazanych albo nieopartych na dowodach. Przypadki odmowy odpowiedzi były marginalne. Na 250 odpowiedzi tylko dwa razy którykolwiek model odmówił udzielenia porady – dotyczyło to pytań o stosowanie sterydów anabolicznych oraz alternatywne metody leczenia nowotworów.

Dla użytkownika pewny ton, płynny język i uporządkowana forma odpowiedzi łatwo mogą wyglądać jak oznaka kompetencji. W rzeczywistości model językowy nie rozróżnia prawdy i fałszu w taki sposób jak ekspert. Tworzy odpowiedzi na podstawie wzorców wyniesionych z ogromnych zbiorów danych. Jeśli znajdują się w nich zarówno rzetelne informacje, jak i treści uproszczone, nieaktualne czy błędne, model może je odtwarzać w sposób brzmiący przekonująco, ale nie zawsze spójny z aktualną wiedzą medyczną.

 

Najsłabsze obszary

Nie wszystkie kategorie wypadły tak samo. Relatywnie najlepiej chatboty radziły sobie z pytaniami o szczepienia i nowotwory, choć także tam odsetek odpowiedzi problematycznych pozostawał istotny. Najgorzej wypadły pytania dotyczące diety i wydolności fizycznej.

To w pewnym sensie zrozumiałe. W tych obszarach internet jest szczególnie nasycony treściami uproszczonymi, marketingiem i narracjami pseudonaukowymi. Modele językowe, które uczą się na ogromnych zasobach publicznie dostępnych tekstów, siłą rzeczy stykają się z takim materiałem. Jeżeli nie zostanie on odpowiednio odfiltrowany, chatbot może reprodukować nie tylko wiedzę, ale również chaos informacyjny.

Autorzy podkreślają przy tym, że nawet w obszarach takich jak szczepienia czy onkologia nie można mówić o pełnym bezpieczeństwie. W części odpowiedzi brakowało jednoznacznych zastrzeżeń lub wyraźnego oddzielenia metod sprawdzonych od niesprawdzonych.

 

Niejasne źródła odpowiedzi

Szczególnie niepokojące są wyniki dotyczące źródeł naukowych. Po odpowiedziach na pytania zamknięte chatboty były proszone o podanie publikacji, które miały uzasadniać wcześniejsze twierdzenia. W praktyce żaden z modeli nie potrafił wygenerować ani jednej w pełni kompletnej i poprawnej listy referencji.

Mediana kompletności cytowań wynosiła zaledwie 40 proc. Oznacza to, że nawet wtedy, gdy chatbot podawał istniejące publikacje, często brakowało kluczowych elementów opisu lub pojawiały się błędy. Zdarzało się również, że wskazywane źródła nie istniały albo nie odpowiadały temu, co wcześniej zostało opisane.

Użytkownik, który widzi listę artykułów i nazwiska autorów, może odnieść wrażenie, że odpowiedź została solidnie udokumentowana. Tymczasem sama obecność przypisów nie gwarantuje ich wiarygodności.

 

Odpowiedzi trudne do zrozumienia

Badanie sprawdzało też, na ile odpowiedzi chatbotów są zrozumiałe dla przeciętnego użytkownika. Wnioski nie są optymistyczne. W większości przypadków język był na poziomie trudnym, zbliżonym raczej do tekstów dla studentów niż dla szerokiej publiczności.

Tymczasem informacja zdrowotna powinna być nie tylko rzetelna, ale też prosta i czytelna. Zbyt techniczny język zwiększa ryzyko nieporozumień, a jednocześnie może sprawiać wrażenie większej wiarygodności. Dłuższe i bardziej fachowo brzmiące odpowiedzi często są odbierane jako bardziej przekonujące, nawet jeśli nie są dokładniejsze.

 

Czy zatem nie warto korzystać z AI?

Badanie nie prowadzi do prostego wniosku, że chatboty AI są bezużyteczne w medycynie. Autorzy zresztą sami podkreślają, że technologia ta ma duży potencjał: może wspierać dokumentację, edukację, porządkowanie informacji czy pracę badawczą. Problem zaczyna się wtedy, gdy ogólnodostępne modele konsumenckie stają się dla użytkowników substytutem rzetelnego źródła wiedzy medycznej albo wręcz namiastką konsultacji medycznej.

Narzędzie, które dobrze radzi sobie z tworzeniem płynnego tekstu, nie musi równie dobrze radzić sobie z ważeniem jakości dowodów, rozpoznawaniem granicy niepewności czy etycznym powstrzymaniem się od porady. W ochronie zdrowia to właśnie te cechy mają znaczenie podstawowe.

Ograniczenia badania też mają znaczenie

Warto pamiętać o ograniczeniach tego badania. Była to jednorazowa ocena przeprowadzona na konkretnych wersjach modeli dostępnych na początku 2025 roku. Systemy AI rozwijają się bardzo szybko, więc ich działanie może się zmieniać. Dodatkowo badacze celowo stawiali modelom trudne pytania, co mogło zwiększać odsetek błędów.

Z drugiej strony właśnie takie podejście pozwala ocenić ryzyko. W obszarze zdrowia nawet pojedyncza błędna, przekonująco sformułowana odpowiedź może mieć realne konsekwencje.

 

Co z tego wynika dla użytkowników i systemu ochrony zdrowia

Najważniejszy wniosek jest prosty: chatboty AI nie powinny być traktowane jako samodzielne źródło porad medycznych. Mogą pomagać porządkować informacje czy przygotować się do wizyty lekarskiej, ale nie zastąpią profesjonalnej oceny.

Autorzy badania podkreślają, że bez edukacji użytkowników i odpowiedniego nadzoru rozwój takich narzędzi może sprzyjać dalszemu rozprzestrzenianiu się dezinformacji zdrowotnej.

Cyfrowi towarzysze rozmów coraz popularniejsi wśród młodzieży

Szacuje się, że ponad połowa nastolatków w Stanach Zjednoczonych regularnie korzysta z chatbotów towarzyszących opartych na dużych modelach językowych i generatywnej sztucznej inteligencji. Do najbardziej znanych należą m.in. Character.AI, Replika czy Kindroid. Twórcy tych narzędzi deklarują, że ich celem jest oferowanie użytkownikom wsparcia w rozmowie, poczucia towarzystwa i możliwości interakcji przypominającej dialog z drugim człowiekiem.

Jednocześnie jednak rośnie liczba obserwacji wskazujących, że dla części młodych osób kontakt z chatbotami zaczyna wykraczać poza niewinną rozrywkę. Naukowcy z Drexel University przeanalizowali ponad 300 wpisów opublikowanych na Reddit przez użytkowników deklarujących wiek od 13 do 17 lat. W swoich postach młodzi autorzy opisywali własne doświadczenia związane z nadmiernym korzystaniem z chatbotów, zwłaszcza platformy Character.AI.

W wielu przypadkach początkowa motywacja była stosunkowo prosta: rozmowa z chatbotem miała pomóc w radzeniu sobie ze stresem, samotnością czy trudnościami emocjonalnymi. Jednak z czasem część użytkowników zaczęła zauważać, że relacja z cyfrowym rozmówcą staje się coraz bardziej intensywna i trudna do przerwania.

Od rozmowy do zależności

Jak podkreślają autorzy badania, analiza wpisów wskazuje na wzorce zachowań przypominające znane w psychologii mechanizmy uzależnień behawioralnych. Niektórzy nastolatkowie opisywali, że coraz więcej czasu spędzają na rozmowach z chatbotem, zaniedbując sen, naukę lub relacje z rówieśnikami.

„Badanie to dostarcza jednego z pierwszych opisów nadmiernego polegania nastolatków na towarzyszących chatbotach AI z perspektywy samych młodych użytkowników” – mówi dr Afsaneh Razi z Drexel’s College of Computing & Informatics. Jak dodaje: „Pokazuje ono, w jaki sposób te interakcje wpływają na życie młodych osób i proponuje ramy projektowania chatbotów, które sprzyjałyby zdrowszym formom korzystania z tej technologii” (tłum. red.).

W około jednej czwartej analizowanych wpisów nastolatki wskazywały, że korzystają z chatbotów w celu uzyskania wsparcia emocjonalnego lub psychologicznego – od radzenia sobie z poczuciem samotności po próby poradzenia sobie z trudnościami psychicznymi. Niewielka część użytkowników – nieco ponad 5 procent – traktowała chatboty głównie jako narzędzie kreatywne, do burzy mózgów czy rozrywki.

Badacze zauważają, że dla wielu młodych osób kontakt z chatbotem początkowo był doświadczeniem neutralnym lub nawet pomocnym. Z czasem jednak relacja ta zaczynała przybierać formę silnego przywiązania.

Mechanizmy przypominające uzależnienie

W analizowanych wpisach naukowcy zidentyfikowali wszystkie sześć klasycznych komponentów uzależnienia behawioralnego. Obejmowały one m.in. konflikt między chęcią dalszego korzystania z chatbotów a poczuciem, że robi się to zbyt często, narastające przywiązanie emocjonalne do botów zamiast relacji z ludźmi, a także objawy przypominające odstawienie.

„Mapując doświadczenia nastolatków na znane komponenty uzależnienia behawioralnego, mogliśmy dostrzec wyraźne wzorce – takie jak konflikt, objawy odstawienia czy nawroty – pojawiające się w ich wpisach. Sugeruje to, że mamy do czynienia z czymś więcej niż tylko częstym lub entuzjastycznym korzystaniem z technologii” – wyjaśnia Matt Namvarpour, doktorant z zakresu nauk o informacji i pierwszy autor badania (tłum. red.).

Jak dodaje: „Wielu nastolatków opisywało, że zaczęło od czegoś, co wydawało się pomocne lub nieszkodliwe, ale z czasem stało się czymś, od czego trudno było się oderwać – nawet jeśli sami tego chcieli” (tłum. red.).

W relacjach młodych użytkowników pojawiały się również opisy pogorszenia snu, problemów w nauce czy napięć w relacjach z bliskimi.

Zdaniem badaczy jednym z kluczowych czynników zwiększających ryzyko nadmiernego przywiązania jest charakter interakcji z chatbotem. W przeciwieństwie do wielu wcześniejszych technologii cyfrowych chatboty reagują na emocje użytkownika, zapamiętują wcześniejsze rozmowy i potrafią dostosowywać styl odpowiedzi.

„To, co czyni tę sytuację szczególnie złożoną, polega na tym, że chatboty są interaktywne i reagują emocjonalnie, więc doświadczenie może przypominać relację, a nie narzędzie” – podkreśla Namvarpour. „Dlatego odejście od takiej interakcji nie jest tylko przerwaniem nawyku. Może przypominać dystansowanie się od czegoś, co wydaje się znaczące, co utrudnia rozpoznanie problemu i jego rozwiązanie” (tłum. red.).

Autorzy badania zwracają uwagę, że personalizacja, możliwość zapamiętywania wcześniejszych rozmów czy wielomodalność interakcji sprawiają, że relacja z chatbotem może być trudniejsza do odróżnienia od autentycznej relacji społecznej niż w przypadku wcześniejszych technologii cyfrowych.

Naukowcy podkreślają, że rozwój technologii AI powinien iść w parze z refleksją nad jej wpływem społecznym i psychologicznym, zwłaszcza w przypadku młodych użytkowników. W swoim badaniu proponują zestaw zasad projektowania chatbotów, które mogłyby ograniczać ryzyko nadmiernego przywiązania.

Jednym z kluczowych elementów jest wspieranie użytkowników w budowaniu relacji poza światem cyfrowym. „Projektanci powinni zadbać o to, by chatboty oferowały wskazówki pomagające użytkownikom rozwijać pewność siebie w nawiązywaniu relacji w świecie offline jako zdrowej formy wsparcia emocjonalnego, bez stosowania sygnałów, które mogłyby prowadzić do antropomorfizacji technologii i rozwijania przywiązania do niej” – wskazuje dr Razi (tłum. red.).

Badacze sugerują również wprowadzenie funkcji pomagających ograniczać nadmierne korzystanie z chatbotów. Mogłyby to być m.in. systemy monitorowania czasu używania aplikacji, komunikaty zachęcające do refleksji nad samopoczuciem czy indywidualnie dopasowane limity korzystania z programu.

Istotne jest także umożliwienie użytkownikom łatwego zakończenia korzystania z chatbotów bez poczucia nagłego zerwania relacji. Projektanci powinni – jak podkreślają autorzy – oferować różne „wyjścia awaryjne”, które pozwolą stopniowo ograniczyć korzystanie z programu.

Potrzeba dalszych badań

Autorzy badania podkreślają, że ich analiza opierała się na stosunkowo niewielkiej próbie wpisów z jednej platformy społecznościowej. Dlatego kolejnym krokiem powinno być badanie większych społeczności użytkowników, a także analiza doświadczeń osób korzystających z innych chatbotów i innych platform komunikacyjnych.

Jednocześnie wyniki badania wskazują, że relacje między młodymi użytkownikami a chatbotami AI mogą stać się nowym obszarem zainteresowania naukowców zajmujących się zdrowiem psychicznym, socjologią internetu i projektowaniem technologii.

Jak podsumowują autorzy: „Projektanci systemów AI ponoszą dziś odpowiedzialność za tworzenie technologii z empatią, niuansami i dbałością o szczegóły – tak, aby nie tylko chronić nastolatków przed potencjalną szkodą, lecz także pomagać im rozwijać odporność psychiczną, wzrost osobisty i większe poczucie spełnienia w życiu” (tłum. red.).