Sztuczna inteligencja coraz częściej staje się głównym źródłem porad dotyczących zdrowia i żywienia. Ale na ile wiarygodne są narzędzia AI w przypadku złożonych tematów, co do których w świecie nauki nie ma pełnej zgodności? Na to pytanie próbowało odpowiedzieć niedawne badanie opublikowane w czasopiśmie „BMJ Open” – jego wyniki dają dużo do myślenia. Przyjrzyjmy się im bliżej.
Prawie 50% odpowiedzi AI uznano za kontrowersyjne
W badaniu oceniono pięć popularnych chatbotów AI: Gemini, DeepSeek, Meta AI, ChatGPT i Grok. Badacze przetestowali te modele przy użyciu 50 promptów z pięciu kategorii: nowotwory, szczepionki, komórki macierzyste, żywienie i wyniki sportowe.
Wyniki tych testów szokują. Prawie połowę wszystkich odpowiedzi uznano za kontrowersyjne. Mówiąc precyzyjniej, 30% sklasyfikowano jako częściowo problematyczne, a 19,6% – jako wysoce problematyczne. Wyniki różniły się w zależności od kategorii: chatboty radziły sobie najgorzej w obszarach dotyczących komórek macierzystych, wyników sportowych i żywienia. Jest to szczególnie niepokojące dla kolarzy, którzy właśnie w tym zakresie liczą na porady ze strony AI.
Dlaczego w kwestiach żywienia nie można liczyć na AI?
Badanie wykazało, że AI ma trudności ze złożonymi, niejednoznacznymi lub naukowo spornymi pytaniami – a takie sytuacje w dietetyce występują bardzo często. Tematy takie jak suplementacja, względny niedobór energii w sporcie (RED-S) czy odporność przewodu pokarmowego na obciążenia są szczególnie podatne na dezinformację. Chatboty często nie potrafiły udzielić w ich przypadku wiarygodnych odpowiedzi.
Kolejnym istotnym wnioskiem była różnica w jakości odpowiedzi na pytania zamknięte i otwarte. Pytania zamknięte prowadziły do mniejszej liczby kontrowersyjnych odpowiedzi, natomiast odpowiedzi na pytania otwarte, które pozostawiają więcej przestrzeni na spekulacje i niuanse, znacznie częściej wiodły na manowce. Im większą swobodę model ma przy generowaniu odpowiedzi, tym większe będzie ryzyko nieścisłości lub udzielania porad pozbawionych odpowiedniego uzasadnienia.
Problem z podawaniem źródeł
Jednym z najbardziej wyrazistych wyników badania była analiza cytowanych źródeł. Chatboty często podawały niepełne, niedokładne lub całkowicie zmyślone odniesienia bibliograficzne. We wszystkich testach ani razu żaden chatbot nie wygenerował w pełni kompletnej, poprawnej listy źródeł dla żadnego z poleceń. Mediana kompletności referencyjnych odniesień sięgnęła zaledwie 40% – a to jest bardzo poważny problem, bo właśnie źródła w dużej mierze decydują o wiarygodności odpowiedzi.
Praktyczne konsekwencje
Wyniki badania mają istotne konsekwencje praktyczne. W takich dziedzinach jak żywienie, gdzie już dziś roi się od marketingowych obietnic i pseudonauki, tendencja AI do udzielania odpowiedzi, które na pierwszy rzut oka brzmią pewnie i wiarygodnie, ale tak naprawdę są błędne, może dodatkowo potęgować efekt dezinformacji. Zagrożenie nie jest wyłącznie teoretyczne – osoby korzystające z takich narzędzi w poszukiwaniu porad dotyczących zdrowia, żywienia czy poprawy wyników sportowych mogą zostać wprowadzone w błąd i w rezultacie dokonać zmian, które zaszkodzą ich zdrowiu.
Badanie zwróciło również uwagę na inny problem z odpowiedziami – chodzi mianowicie o ich przystępność. Choć często odpowiedzi były dobrze sformułowane i brzmiały przekonująco, konsekwentnie klasyfikowano je jako trudne do zrozumienia – zbliżone do poziomu tekstów akademickich przeznaczonych dla studentów medycyny. Połączenie złożonego języka z brakiem wiarygodności stwarza niebezpieczną sytuację, w której użytkownicy mogą ufać odpowiedziom trudno zrozumiałym, a przy tym nie zawsze zgodnym z faktami.
Brak kontroli sprawia, że AI wprowadza ludzi w błąd
Najważniejszy wniosek z badania jest prosty: bez odpowiedniej edukacji społecznej i bez odpowiedniego nadzoru AI raczej wzmacnia dezinformację, niż ją ogranicza. Znaczenie mają same narzędzia, ale równie ważne są dane, na których je wytrenowano, sposób ich wdrażania oraz wiedza osób, które z nich korzystają. W obszarze zdrowia, medycyny, sportu i żywienia sportowego nigdy nie wolno mylić płynnych, przekonujących na pierwszy rzut oka odpowiedzi z rzeczywistym zrozumieniem tematu. Dopracowana treść odpowiedzi wciąż może być błędna – nawet jeśli brzmi jak udzielona z dużą pewnością siebie.
Co możemy z tym zrobić?
Traktujmy chatboty AI jako punkt wyjścia, a nie ostateczny autorytet. Weryfikujmy ich odpowiedzi w zaufanych źródłach, takich jak recenzowane badania naukowe, informacje publikowane online przez podmioty zajmujące się ochroną zdrowia czy renomowane czasopisma medyczne. Do porad, które brzmią wyjątkowo pewnie, należy podchodzić z dużym sceptycyzmem. Jeśli chatbot podaje źródła, sprawdźmy je – nie zakładajmy, że są prawidłowe tylko dlatego, że wyglądają wiarygodnie. Jeśli mielibyśmy jakiekolwiek wątpliwości, skonsultujmy się ze specjalistą. AI może pomóc uporządkować informacje, ale nie zastąpi profesjonalnej oceny eksperta.
Artykuł powstał we współpracy ze skoda-auto.pl
