Użytkownicy przekonują się do pozyskiwania informacji z ChatGPT. Nawet gdy są one fałszywe

ChatGPT nie potrafi powiedzieć „nie wiem” i wtedy wprowadza w błąd. Jednak wielu ludzi nawet zawodowo zajmujących się nowymi technologiami nie weryfikuje informacji uzyskanych od sztucznej inteligencji. Bierze się to z nieznajomości zasad, na jakich ona działa – wynika z badania agencji user experience Symetria.

ChatGPT prowadzi z użytkownikami rozmowę i odpowiada na pytania (tzw. prompty). Szukający informacji nie musi już się zastanawiać, jakie wpisać hasło w odpowiednie pole, żeby znaleźć jak najpełniejszą odpowiedź. Firma Microsoft jakiś czas temu udostępniła to narzędzie w swojej wyszukiwarce pod nazwą Bing.

Ciekawy sposób prezentowania treści

– Użytkownicy ChatGPT zaczęli nie tylko wpisywać prompty dotyczące wykonania konkretnych zadań. Szukają również informacji, co było dotychczas domeną klasycznych wyszukiwarek – zauważa Monika Banach, innovation expert w Symetrii.

Czytaj też: Pozew zbiorowy przeciwko Google o 5 mld dol. za naruszanie prywatności internautów

Monika Banach oraz Krzysztof Kozak, który w Symetrii też zajmuje się nowymi technologiami, przeprowadzili badanie wśród grupy tzw. innowatorów i wczesnych naśladowców, mające na celu sprawdzenie, jak użytkownicy zawodowo zajmujący się nowymi technologiami radzą sobie z ChatGPT. Ich zachowania bowiem na ogół wyprzedzają te, które mogą niebawem pojawić się w grupie masowych użytkowników.

W ankiecie wzięło udział 108 osób, m.in. informatycy, ale też pracownicy mediów, ludzie związani zawodowo z edukacją czy światem finansów. Większość z badanych miała już ponadmiesięczne doświadczenie z korzystania z narzędzia stworzonego przez OpenAI, a ponad 70 proc. z nich sprawdzało rozwiązania ChatGPT kilka razy dziennie.

Ponad połowa respondentów (60 proc.) odpowiedziała, że ChatGPT umożliwia szybsze dotarcie do poszukiwanej informacji. Na tradycyjną wyszukiwarkę wskazało 21 proc. badanych. Reszta uważa, że obydwa narzędzia sprawdzają się w podobnym stopniu.

Prawie 90 proc. badanych – mimo wykrycia wad i niedoskonałości narzędzia – decydowało się korzystać z tej formy wyszukiwania informacji coraz częściej. „Oznacza to, że sposób prezentowania treści jest dla odbiorcy ciekawy, a samo korzystanie z promptów staje się intuicyjne” – zauważają analitycy z agencji Symetria.

ChatGPT nie jest wyszukiwarką

Piotr Bombol, założyciel Adaily, platformy dla marketerów i jeden z ankietowanych przez Symetrię, zauważa, że od pojawienia się ChatGPT minęło zaledwie pół roku. – Mogłoby się jednak wydawać, że minęło przynajmniej kilka lat. Zmiany w zachowaniu konsumentów są już tak znaczące, że wiele osób, szczególnie „grupa innowatorów”, nie wyobraża sobie powrotu do poprzedniej ery. Mamy do dyspozycji potężne narzędzie, do którego bardzo szybko i łatwo się przyzwyczaić. ChatGPT pomaga nam lepiej pisać, tłumaczy trudne zagadnienia, daje podpowiedzi do życia biznesowego, ale też prywatnego. Najbardziej imponujący jest fakt, że aż 41 proc. użytkowników ChatGPT wpisuje bezpośrednio link do strony w pasku przeglądarki. Prawie każda firma mogłaby o tym marzyć – mówi Bombol.

Czytaj też: Disney+ zablokuje możliwość współdzielenia kont – wzorem Netflixa

Wszyscy badani choć raz dopytywali narzędzie o bardziej szczegółowe wypowiedzi. Często lub zawsze robiło tak ponad 60 proc ankietowanych. Dla podobnej wielkościowo grupy informacje pozyskane za pomocą ChatGPT nie są jednak wystarczające. Osoby te sprawdzają zewnętrzne źródła informacji, aby pogłębić wiedzę pozyskaną w AI.

Aż 77 proc. osób uczestniczących w badaniu trafiło na nieprawdziwe informacje w wynikach wyszukiwania. Mimo tego większość użytkowników nie sprawdza źródeł odpowiedzi. Pytało o nie zaledwie 41 proc. respondentów, przy czym zdecydowana większość z nich wskazała, że natrafiła na problemy, chcąc odnaleźć wskazane przez ChatGPT odnośniki do stron, z których rzekomo pochodzą informacje do zapytań.

„Warto bowiem pamiętać, że ChatGPT nie jest wyszukiwarką internetową, tylko modelem językowym, którego zadaniem jest kontynuowanie tekstu, tak aby generować adekwatną do »promptu« treść” – zwracają uwagę eksperci z Symetrii.

„Dlaczego ChatGPT kłamie?”

– Wynikami nie są już treści stron WWW, których rzetelność można ocenić m.in. na podstawie autorytetu autorów lub portali, jakości powiązanych źródeł czy daty publikacji treści. Odpowiedzią ChatGPT jest tekst, wygenerowany na podstawie modelu językowego wytrenowanego na olbrzymim zbiorze danych treningowych, które jednak nie pokrywają wszystkich możliwych tematów i koncepcji – zaznacza Paweł Nowak, kolejny ankietowany i projektant UX oraz założyciel NOWY i WUD Silesia. – Dodatkowo zbiór ten mógł zawierać błędy, co może przekładać się czasami na stronniczość odpowiedzi lub zawarte w nich pomyłki. Choć wiele odpowiedzi ChatGPT jest zaskakująco dobrych i może zachwycać swoją błyskotliwością, ciężko jest im w pełni zawierzyć. Prostota użycia narzędzia i szybkość otrzymania odpowiedzi nie gwarantują jej jakości i poprawności.

Czytaj też: TikTok czeka wielomilionowa kara od Unii Europejskiej za nieprzestrzeganie prywatności dzieci

„Dlaczego ChatGPT kłamie?” – pytają autorzy badania. I wyjaśniają: "Bo użytkownik oczekuje odpowiedzi i nie przyjmie słów »nie wiem«. I SI to wie. Dlatego wprowadza w błąd, nawet w tak przekonujący sposób, że jest w stanie wyświetlić linki źródłowe, które jednak prowadzą w internetową pustkę – do nieistniejących stron. Nazywa się to halucynacją – udzielaniem odpowiedzi, mimo że nie zna się właściwego rozwiązania, więc wyświetla »najbardziej prawdopodobną wersję«".

– ChatGPT to najszybciej rosnąca aplikacja na świecie, która na niespotykaną dotąd skalę zyskuje coraz szersze grono użytkowników. Aż 73 proc. osób uznało, że ChatGPT lepiej rozumie intencje zadawanego pytania niż tradycyjna wyszukiwarka. W rozpoczynającym się właśnie wyścigu na wdrażanie narzędzi konwersacyjnych opartych na AI warto zrozumieć i uwzględnić potrzeby użytkowników. Dzięki temu ten nowy sposób komunikacji człowiek – komputer ma szansę stać się pozytywnym doświadczeniem – mówi Monika Banach z Symetrii.

Natomiast Krzysztof Kozak przekonuje, że warto już dziś lepiej poznawać możliwości AI, bo technologia ta zostanie z nami na długo. – Według respondentów korzystanie z ChatGPT do wyszukiwania informacji przynosi bowiem zadowalające efekty. Największym wyzwaniem jest według mnie edukacja i przekazanie użytkownikom (klientom) choćby podstawowej wiedzy, czym jest i jak działa AI. Nasze badanie pokazało, że nawet osoby pracujące na co dzień z technologią nie rozumieją w pełni, czym jest ChatGPT. Im mniejsze zrozumienie, tym większa podatność na manipulację. Może to skutecznie zniechęcić klientów do tej obiecującej technologii, a firmy narazić na ryzyko strat finansowych lub wizerunkowych – podsumowuje Krzysztof Kozak z Symetrii.

Czytaj też: Mark Zuckerberg odpowiada na propozycję Elona Muska i proponuje walkę MMA 26 sierpnia

(MAK, 12.08.2023)