Takmer 50 % odpovedí umelej inteligencie bolo hodnotených ako problematických
Štúdia hodnotila 5 populárnych chatbotov s umelou inteligenciou: Gemini, DeepSeek, Meta AI, ChatGPT a Grok. Výskumníci testovali tieto modely s 50 výzvami v piatich kategóriách: rakovina, vakcíny, kmeňové bunky, výživa a športový výkon.
Výsledky boli pozoruhodné. Takmer polovica všetkých odpovedí bola hodnotená ako problematická. Konkrétne 30 % bolo klasifikovaných ako mierne problematických a 19,6 % ako veľmi problematických. Výkon sa líšil podľa kategórie, pričom chatboty si najhoršie viedli v oblasti kmeňových buniek, atletického výkonu a výživy. Toto je obzvlášť znepokojujúce pre cyklistov, ktorí sa v týchto oblastiach obracajú na umelú inteligenciu so žiadosťou o pomoc.
Prečo umelá inteligencia zlyháva vo výžive
Štúdia odhalila, že umelá inteligencia má problém so zložitými, nejednoznačnými alebo vedecky spornými otázkami, čo sa vo výžive často stáva. Témy ako doplnky stravy, relatívny energetický deficit v športe (RED-S) a odolnosť gastrointestinálneho traktu sú náchylné na dezinformácie a chatboty často nedokázali poskytnúť spoľahlivé odpovede.
Ďalším kľúčovým zistením bol rozdiel vo výkonnosti medzi uzavretými a otvorenými otázkami. Uzavreté otázky viedli k menej problematickým odpovediam, zatiaľ čo otvorené otázky, ktoré umožňujú viac špekulácií a nuáns, viedli k oveľa väčšiemu počtu chýb. Čím väčšiu slobodu má model pri generovaní odpovede, tým väčšie je riziko nepresností, falošnej rovnováhy alebo nepodložených rád.
Problém s odkazovaním
Jedným z najvýznamnejších aspektov štúdie bol audit citácií. Chatboty často vracali neúplné, nepresné alebo vymyslené citácie. V rámci všetkých testov žiadny chatbot nevytvoril úplne kompletný a presný zoznam referencií pre žiadnu výzvu. Medián skóre úplnosti referencií bol iba 40 %. Toto je kritický problém, pretože referencie sú to, čo robí odpovede dôveryhodnými.
Dôsledky pre reálny svet
Zistenia štúdie majú významné dôsledky pre reálny svet. V oblastiach ako výživa, kde už teraz bujnejú komerčné tvrdenia a pseudoveda, by tendencia umelej inteligencie produkovať sebavedomé, ale nepresné odpovede mohla zosilniť dezinformácie. Riziko nie je len teoretické; každý, kto sa spolieha na tieto nástroje pri poskytovaní rád týkajúcich sa zdravia, výživy alebo výkonnosti, môže byť uvedený do omylu a urobiť škodlivú zmenu.
Štúdia tiež poukázala na ďalší problém: čitateľnosť. Hoci odpovede boli často uhladené a sebavedomé, boli tiež konzistentne hodnotené ako „ťažké“ – čo zodpovedá čítaniu na vysokej škole. Táto kombinácia zložitosti a nespoľahlivosti vytvára riskantný scenár, v ktorom môžu používatelia dôverovať odpovediam, ktoré nie sú ani dostupné, ani presné.
AI zosilňuje dezinformácie, ak sa nekontrolujú
Najdôležitejší záver štúdie je jasný: bez verejného vzdelávania a dohľadu riskuje umelá inteligencia skôr zosilňovanie dezinformácií ako ich znižovanie. Nástroje sú dôležité, ale rovnako dôležité sú aj dáta, na ktorých sú trénované, spôsob ich nasadenia a znalosti ľudí, ktorí ich používajú. V zdravotníctve, medicíne, športe a športovej výžive by sa plynulý jazyk nikdy nemal zamieňať s porozumením. Uhladená odpoveď môže byť stále nesprávna a sebavedomá odpoveď môže byť stále zavádzajúca.
Čo s tým môžete urobiť?
Berte chatbotov s umelou inteligenciou ako východiskový bod, nie ako konečnú autoritu. Skontrolujte si ich odpovede s dôveryhodnými zdrojmi, ako sú recenzované štúdie, zdravotnícke organizácie alebo renomované časopisy. Buďte skeptickí k sebavedomo znejúcim radám. Ak chatbot poskytuje referencie, overte si ich. Nepredpokladajte, že sú presné len preto, že vyzerajú oficiálne. A ak máte pochybnosti, poraďte sa s odborníkom. Umelá inteligencia môže pomôcť s organizáciou informácií, ale nenahradí odborný úsudok.