Do jakich celów użytkownikom służy ChatGPT?

ChatGPT dostępny na stronie OpenAI jest chętnie wykorzystywany przez użytkowników. Zaciekawiło mnie, w jakich tematach chatbot im pomaga. Przeraził mnie fakt, że na liście pojawiły się m.in. porady dotyczące zdrowia i prośby o wsparcie emocjonalne. Zdziwiłam się, że ChatGPT wskazał jako swoje istotne zadanie generowanie użytkownikom informacji na temat aktualności [red. obecnie baza, z której korzysta ChatGPT, sięga do kwietnia 2023].

---

ChatGPT to chatbot, z którego każdy może bezpłatnie skorzystać na stronie OpenAI. Oznacza to, że dostęp do niego mają użytkownicy bardziej i mniej zaznajomieni z generatywną sztuczną inteligencją. Co więcej – osoby w różnym wieku. W tym artykule zaprezentuję odpowiedź ChatGPT dotyczącą tematów pytań, które użytkownicy najczęściej zadają. Część z nich jest kontrowersyjna, biorąc pod uwagę możliwości wskazanej sztucznej inteligencji. GenAI ma bowiem swoje mocne strony i pewne ograniczenia.

O co użytkownicy pytają ChatGPT?

ChatGPT w odpowiedzi na mój prompt wygenerował informację, że użytkownicy pytają o różnorodne kwestie. Najczęściej jednak są to:

1. informacje ogólne i fakty: konkretne fakty, daty historyczne, informacje naukowe, biografie znanych osób, informacje o różnych miejscach na świecie;
2. pomoc w zadaniach i nauka: pomoc w rozwiązywaniu zadań domowych lub zrozumieniu trudnych koncepcji naukowych, matematycznych, językowych itp.;
3. porady i rekomendacje: zdrowie, fitness, gotowanie, podróże, technologia, rekomendacje książek, filmów czy muzyki;
4. programowanie i technologia: programowanie, korzystanie z różnego oprogramowania, problemy techniczne i trendy w technologii;
5. aktualności i wydarzenia światowe: aktualne wydarzenia, polityka światowa, ekonomia i społeczne tendencje;
6. zabawa i kreatywność: poezja, opowiadania, a także prośby o żarty, zagadki czy ciekawostki;
7. osobiste i emocjonalne wsparcie: użytkownicy szukają wsparcia w kwestiach osobistych, emocjonalnych, prosząc o radę w trudnych sytuacjach życiowych;
8. filozofia i etyka: abstrakcyjne koncepcje, takie jak: etyka, filozofia, interpretacje kulturowe i społeczne.

Powyższa lista oddaje zbiór zastosowań ChatGPT, które są akceptowane przez OpenAI. W przypadku ograniczeń, listy zakazanych tematów dotyczących pytań o uczucia chatbota, ChatGPT odpowiada znaną formułką o tym, że jest sztuczną inteligencją i nie posiada uczuć. Wykonuje zatem określone instrukcje. Tę informację zestawia z pozostałą częścią tekstu. Powyższy zbiór tematów nie został wykluczony, co wskazuje, że ChatGPT jest gotowy do wygenerowania treści będącej przykładowo „wsparciem emocjonalnym”. W przypadku „porad” dotyczących zdrowia istnieją jednak pewne ograniczenia. ChatGPT informuje bowiem użytkownika, że jego wsparcie nie może zastępować konsultacji ze specjalistą.

ChatGPT wspierający emocjonalnie

Zgodnie z informacjami od ChatGPT użytkownicy proszą o wsparcie emocjonalne i osobiste. Radzą się, co powinni zrobić w trudnych sytuacjach. Przyzwolenie na tego typu działanie chatbota jest potencjalnie niebezpieczne dla użytkownika, który zadaje pytanie za pomocą strony OpenAI. Osoby będące w kryzysie emocjonalnym, wymagające wsparcia psychologa, psychoterapeuty czy interwencji kryzysowej, mogą przypłacić zdrowiem poradę chatbota, którego nie nadzoruje wykwalifikowana osoba. Trudno oczekiwać od programistów, aby byli w stanie monitorować jakość „świadczonych porad z zakresu psychologii”.

Nie można jednak zamykać oczu na fakt, że w społeczeństwie zdarzają się przypadki bardzo niebezpiecznych sytuacji związanych z problemami osobistymi, a skala depresji jest stosunkowo duża. Nawet nie mamy świadomości, jak wiele osób minęliśmy na ulicy, które borykają się w milczeniu z własnymi demonami. Z iloma rozmawialiśmy dzisiaj przez telefon lub wymieniliśmy wiadomości?

ChatGPT miewa halucynacje AI, a więc czasami generuje błędną lub zniekształconą treść. Wystarczy, że utworzy on tekst na podstawie artykułów tłumaczonych z języka angielskiego na język polski, wypaczając znaczenie treści z dostępnej mu bazy. Użytkownik otrzyma w takim wypadku błędną „poradę”. Niekiedy pozostanie to bez wpływu na jego bezpieczeństwo, ale nie można wykluczyć niepoprawnego rezultatu działania ChatGPT, który doprowadzi do tragedii. 

Dlatego jasno należy powiedzieć, że osoby borykające się z kryzysem emocjonalnym lub osobistym powinny skorzystać z porady specjalisty. Można otrzymać szybką pomoc, dzwoniąc pod numer: 

• 116 123 – Kryzysowy Telefon Zaufania;
• 116 111 – telefon zaufania dla dzieci i młodzieży.

To zdecydowanie sprawdzone i bezpieczne rozwiązanie. Rozmowa pozwoli podjąć dalsze działania i z pewnością przyniesie lepsze rezultaty niż pisanie z ChatGPT.

ChatGPT o „poradach” na temat zdrowia

ChatGPT udziela „porad” na temat zdrowia w formie ogólnych informacji i wskazówek. Podkreśla przy tym swoje ograniczenia, które obejmują:

• ograniczenie do ogólnych informacji na temat zdrowia – opisy dolegliwości, ogólne wskazówki zdrowotne, informacje o dietach czy aktywności fizycznej;
• wskazanie, że chatbot nie jest lekarzem i nie jest w stanie postawić diagnozy, opracować planu leczenia ani zastąpić fachowej porady medycznej;
• brak dostępu do danych medycznych.

ChatGPT wygenerował tekst z informacją, że zawsze zaleca skonsultowanie się z lekarzem lub innym wykwalifikowanym specjalistą zdrowia w przypadku konkretnych problemów zdrowotnych. Nie zmienia to faktu, że „porady” tego typu mogą być traktowane przez część użytkowników poważnie. Należy pamiętać przy tym o ryzyku błędów, a także o braku dostępu do indywidualnych danych medycznych. Co więcej, chatbot może co prawda przeprowadzić rozmowę wpisującą się w tzw. badanie podmiotowe (zapytać o objawy), jednak nie przeprowadzi badania przedmiotowego (opukiwanie, osłuchiwanie, badania laboratoryjne i ich analiza, badania radiologiczne itd.). 

ChatGPT nie ponosi odpowiedzialności za „porady”

ChatGPT to generatywna sztuczna inteligencja, która nie ponosi odpowiedzialności za wykorzystanie wygenerowanego tekstu. „Porada” ChatGPT dotycząca zdrowia lub w zakresie kryzysu emocjonalnego może zawierać niepoprawne treści. Jeżeli użytkownik dostosuje się do niewłaściwych informacji, to może ponieść osobiste konsekwencje takiego działania. Stąd tak ważna jest świadomość ograniczeń ChatGPT.

ChatGPT a aktualności

ChatGPT dostępny na stronie OpenAI ma dostęp do bazy danych sięgającej do kwietnia 2023 roku. Trudno oczekiwać od chatbota możliwości poinformowania o aktualnych wydarzeniach, jeżeli nie ma do nich dostępu. W tym wypadku również ważna jest znajomość ograniczeń ChatGPT.

Warto jednak zwrócić uwagę na fakt, że takie wykorzystanie omawianego chatbota rysuje wizję przyszłości, która nas czeka. Prawdopodobnie już niedługo będziemy korzystać z pomocy asystenta AI, który streści nam informacje z Internetu, a przy okazji zaproponuje kilka miejsc lub sklepów internetowych. Oczywiście wskaże te, które za to zapłacą i spełnią wymagania algorytmu w ramach rankingu reklam, opłacanych w systemie aukcyjnym.

ChatGPT – pozostałe tematy

Co do pozostałych tematów – sama nie korzystam z ChatGPT do nauki, ponieważ wolę sięgnąć po rzetelne i fachowe źródła. Czasami dyskutuję z nim jednak, aby dowiedzieć się czegoś ciekawego o jego działaniu i napisać o tym artykuł. Każdy sam wybiera źródła, z których czerpie wiedzę. Mam jednak świadomość, że w ramach odnotowanych przez naukowców halucynacji AI w przypadku ChatGPT wskazano na błędy w danych („Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references”, Sai Anirudh Athaluri i inni). Nie skorzystałabym zatem z tego chatbota, aby nauczyć się czegoś wartościowego. Pozostaje mi mieć nadzieję, że dzieci oraz młodzież podczas nauki z ChatGPT nie są wprowadzane w błąd i nie spotykają się z krzywdzącymi stereotypami.

ChatGPT nie dla zbyt ufnych osób

O ile generowanie informacji na temat aktualnych wydarzeń może co najwyżej wzbudzać zdziwienie, o tyle „porady” na temat zdrowia czy w ramach wsparcia emocjonalnego to poważna sprawa. Osoby, które wykażą się zbytnią ufnością wobec chatbota, mogą bowiem podjąć niebezpieczne dla siebie decyzje. Warto tutaj przypomnieć, że teksty generowane przez ChatGPT mogą zostać uznane za wiarygodne nawet wtedy, gdy w treści zawarte są błędy. Wynika to z:

• poczucia jego fachowości: użytkownicy przypisują chatbotowi ponadprzeciętną wiedzę, ponieważ ma dostęp do dużego zbioru danych, z punktu widzenia człowieka niemożliwego do przetworzenia;
• poczucia rzetelności: formy wypowiedzi ChatGPT nie pozostawiają przestrzeni do podważania prezentowanych faktów, a tym samym użytkownik uznaje, że chatbot prezentuje dokładnie to, co jest zawarte w dostępnej bazie, innymi słowy odbiorca bez gruntownej wiedzy na temat działania AI nie ma podstaw do podważania „prawdomówności”.