Superinteligencja zbiorowa a ludzie

Superinteligencja zbiorowa to jedno z zagadnień powiązanych z ASI (Artificial Superintelligence). Tego typu rozwiązanie może budzić sporo obaw i kojarzy się z fantastyką naukową. Jednocześnie przejawy pewnego rodzaju kolektywnego wypracowania idei, nauki, sztuki, norm społecznych to coś oczywistego dla społeczeństwa. W tym artykule skupię uwagę na aspektach społecznych superinteligencji zbiorowej i wykorzystaniu dorobku ludzkości przez AI.

Część osób zastanawia się, czy może istnieć superinteligencja (ASI) jako sztuczna inteligencja przewyższająca swoimi możliwościami dowolnego człowieka lub wszystkich ludzi w danym momencie, w dowolnym zadaniu lub w szerokiej gamie różnych działań. Tę kwestię rozważałam w moim poprzednim artykule. Teraz mocniej skupię się na jednym z aspektów superinteligencji – a dokładnie na tej zbiorowej – w kontekście funkcjonowania społeczeństwa.

Definicje superinteligencji

Dla przypomnienia, chociaż dokładnie ten temat już omówiłam przy okazji innego wpisu, chciałabym podać podstawowe definicje superinteligencji. Superinteligencja lub sztuczna superinteligencja za Nickiem Bostromem to taki system, który „pod względem zdolności poznawczych znacznie przewyższa człowieka w dosłownie każdej dziedzinie zainteresowań”¹. Tym samym musi ona wykazywać wyższe możliwości w szerokim zakresie, pokonując nawet najlepszych ekspertów z różnych dziedzin. Superinteligencja może wykonywać zadania dużo szybciej niż ludzie (superinteligencja szybka) lub w tym samym czasie co najlepsi specjaliści, jednak dużo lepiej (superinteligencja jakościowa).

Jak zauważono wcześniej, wykorzystujemy termin „superinteligencja” do opisu umysłów znacząco przewyższających najtęższe umysły ludzkie w wielu dziedzinach poznania o charakterze bardzo ogólnym. (…) 
Superinteligencja szybka – system, który potrafi dokonać wszystkiego tego, co ludzki umysł, lecz znacznie szybkiej. (…)
Superinteligencja jakościowa – system, który jest przynajmniej równie szybki jak ludzki umysł, a przy tym znacznie inteligentniejszy².

Google DeepMind definiuje ASI jako sztuczną inteligencję o możliwościach przewyższających wszystkich ludzi w zadaniach o charakterze poznawczym, przy uwzględnieniu dużej ogólności, czyli szerokiego zakresu tych działań. Sztuczna superinteligencja powinna przewyższać możliwości 100% ludzi w danym momencie czasowym. W praktyce oznacza to, że jeżeli społeczeństwo ludzkie doszłoby do podobnych osiągnięć bez ASI miesiąc, rok, lata czy wieki później, to należy uznać, że taka sztuczna inteligencja pokonała ludzi tu i teraz.

The highest level in our matrix in terms of combined performance and generality is ASI (Artificial Superintelligence). We define “Superhuman” performance as outperforming 100% of humans³.

W definicji IBM podkreślono natomiast istotę procesów, które są powiązane z działaniem sztucznej superinteligencji. Kwestia oddania możliwości kognitywnych człowieka w działaniu AI jest tematem cały czas otwartym i złożonym. Mierzymy bowiem efekty pracy sztucznej inteligencji, a porównywanie procesów wewnętrznych takich systemów z możliwościami poznawczymi człowieka jest cały czas problematyczne. Więcej na ten temat można znaleźć w moim artykule o AGI (Artificial General Intelligence) i ANI (Artificial Narrow Intelligence). Według ogólnej definicji zaproponowanej przez IBM ASI „to hipotetyczne oprogramowanie bazujące na sztucznej inteligencji”, system AI, który zakresem swoich możliwości „przewyższa ludzką inteligencję”. Sztuczna superinteligencja posiada zatem przewagę w zakresie „funkcji kognitywnych i mocno rozwinięte umiejętności rozumowania, dużo bardziej zaawansowane niż jakikolwiek człowiek”.

Artificial superintelligence (ASI) is a hypothetical software-based artificial intelligence (AI) system with an intellectual scope beyond human intelligence. At the most fundamental level, this superintelligent AI has cutting-edge cognitive functions and highly developed thinking skills more advanced than any human⁴.

Superinteligencja zbiorowa – definicja

Superinteligencja zbiorowa to pewnego rodzaju superinteligentny system złożony z wielu form rozumnych. N. Bostrom stwierdził, że powinna ona przewyższyć „jakikolwiek współczesny system poznawczy w wielu ogólnych dziedzinach”.

Superinteligencja zbiorowa – system złożony z dużej liczby mniejszych form rozumnych, który znacznie przewyższa jakikolwiek współczesny system poznawczy w wielu bardzo ogólnych dziedzinach⁵.

Powyższe oznacza, że w przyszłości mogą powstać nowe systemy, które zdetronizują obecnego lidera. Pozostawia to wiele nadziei. Jednak – można wpaść z deszczu pod rynnę, gdyż kto wie, która superinteligencja w praktyce byłaby dla ludzi bardziej niebezpieczna? Poza tym, trudno jest stwierdzić, jakie byłyby koszty rywalizacji pomiędzy superinteligentnymi systemami.

Personalna sztuczna inteligencja a superinteligencja zbiorowa

OpenAI i Meta akcentują chęć utworzenia personalnych sztucznych inteligencji, o charakterze AGI lub superinteligencji. Twórca GPT i ChatGPT wyznacza jako cel udostępnienie personalnego AGI, by umożliwić każdemu korzystanie „z jednej z najbardziej przełomowych technologii ludzkości w wybrany przez nią sposób”.

Give everyone on Earth a personal AGI, empowering them to benefit from one of humanity’s most transformative technologies in whatever way they choose⁶.

Warto dodać, że organizacja ta definiuje AGI w taki sposób, że może być to utożsamiane z definicją superinteligencji (przynajmniej ilościowej) według N. Bostroma. Zdaniem OpenAI są to systemy „ogólnie inteligentniejsze niż ludzie – z korzyścią dla wszystkich ludzi”.

Our mission is to ensure that artificial general intelligence – AI systems that are generally smarter than humans – benefits all of humanity⁷.

Firma Meta akcentuje decentralizację dostępu do superinteligencji, pomimo częściowego przetwarzania danych oraz trenowania AI w sposób w pełni scentralizowany. Możemy dowiedzieć się, że bezpieczeństwo danych użytkowników zapewnione jest dzięki prywatności przetwarzania połączonej z szyfrowaniem. Nieco mniej jednoznaczna jest kwestia wykorzystania informacji pozyskanych z urządzeń do dalszego udoskonalania sztucznej inteligencji. Kierowanie rozwiązań do szerokiego grona ma w domyśle minimalizować ryzyko ograniczenia dostępności AI tylko dla wybranej wąskiej grupy osób, co miałoby zapewnić, że sztuczna inteligencja działa dla dobra społeczeństwa.

Meta’s vision is to bring personal superintelligence to everyone. We believe in putting this power in people’s hands to direct it towards what they value in their own lives. (…) At Meta, we believe that people pursuing their individual aspirations is how we have always made progress expanding prosperity, science, health, and culture⁸.

Superinteligencja a obiektywne ograniczenia

Jak już wskazywałam w poprzednim artykule – moim zdaniem w dużej mierze mówiąc o ASI, mamy na myśli takie rozwiązanie, które nie tyle osiągnie coś niemożliwego dla ludzi, co niedostępnego w tym momencie. Warto wskazać, że superinteligencja byłaby ograniczona tym samym, co ludzie – aktualną wiedzą, którą zgromadziła ludzkość, danymi, narzędziami, obecną technologią, dostępnymi zasobami naturalnymi, prawami fizyki, uwarunkowaniami przyrodniczymi itd. Możemy zatem założyć, że wykraczanie daleko poza to, co jest znane, będzie dla sztucznej inteligencji w większości przypadków niemożliwe. Jednocześnie sprawa jest bardziej otwarta, jeżeli mówimy o pracy teoretycznej, koncepcyjnej i naukach mocno bazujących na dyscyplinach formalnych (matematyka i logika, ale też część fizyki oraz innych nauk przyrodniczych). W większości przypadków społeczeństwo doszłoby zatem kolektywnie do tych samych rezultatów, jednak tydzień, miesiąc, rok, lata, dziesiątki lat czy wieki później.

W praktyce oznacza to, że superinteligencja zbiorowa stanowiłaby rodzaj prześcigania się o włos jednego systemu przez inny. Scenariusz rywalizacji wydaje się możliwy, o ile nie doszłoby do utworzenia jednej globalnej superinteligencji. Otwarte pozostaje pytanie o granice takiego wyścigu oraz potencjalny chaos z nim związany.

Superinteligencja zbiorowa – czy to w ogóle możliwe?

Jednoznaczne sformułowanie odpowiedzi na pytanie, czy możliwe jest powstanie superinteligencji zbiorowej, jest niezwykle trudne. Zgodnie z definicjami N. Bostroma nic nie stoi na przeszkodzie, aby taki złożony system wykorzystywał potencjał człowieka i AI. Tym samym superinteligencja zbiorowa nie stanowiłaby ASI, czyli sztucznej superinteligencji jako złożonego systemu AI, a rodzaj wzmocnienia istniejących struktur społecznych, albo potencjalnie eksploatację społeczeństwa. Wzmocnienie jednostek przy pomocy AI może przyśpieszyć niektóre osiągnięcia, a to oznacza tworzenie na poziomie społeczeństwa pewnego rodzaju superinteligencji zbiorowej.

Bez względu na fakt, czy superinteligencja bazowałaby wyłącznie na AI, czy też na połączeniu potencjału ludzi z możliwościami sztucznej inteligencji, wykazywałaby cechy systemów. Nie musiałaby zatem cechować się samoświadomością, świadomością, emocjami. System społeczny również nie jest świadomy, nie ma uczuć, chociaż składa się z ludzi inteligentnych oraz świadomych, pełnych emocji i uczuć, więc w pewien sposób te cechy dziedziczy. Wiemy natomiast, że firma jako przykład organizacji, pewnego systemu złożonego z wielu form rozumnych (czyli ludzi), może uzyskać o wiele więcej niż pojedyncza osoba całkiem sama.

Holizm, emergentyzm, redukcjonizm w paradygmatach badań nad społeczeństwem

Na wstępie muszę jednak zaznaczyć, że w przypadku nauk społecznych, takich jak socjologia, mamy zderzenie różnych paradygmatów. W kontekście tych rozważań istotne jest, że mogą czerpać z holizmu, w przeciwieństwie do redukcjonizmu, zakładającego, że systemy stanowią pewną całość, obiektywną, poznawalną i wyjaśnialną na poziomie właśnie tej całości. Możemy też dojść do wniosku, że sensowny jest emergentyzm, a wtedy zauważmy wszystko to, co wykracza poza prostą sumę jednostek. Jeżeli jednak powrócimy analizą na poziom ludzi oraz mniejszych grup, to przypomnimy sobie, że bez ich przymiotów oraz cech te systemy nie byłyby takie same. Wtedy zgodnie z redukcjonizmem zaczniemy weryfikować mniejsze składowe, by zrozumieć całość.

W skrajnych wypadkach indywidualistycznego podejścia będziemy musieli uznać, że wszystko to ciągle zmieniające się, subiektywnie postrzegane środowisko, bez żadnych powtarzalnych wzorców. Na przeciwległym skrajnym biegunie moglibyśmy dostrzec niezmienne struktury, sztywność założeń bazujących często na subiektywnych aspektach normatywnych, bez empirycznej weryfikowalności lub nienależycie przebadanych, nieuchronność pewnych tendencji, zmian skokowych czy rewolucyjnych przemian. Całość podana w wersji globalnej, na bazie wielkich teorii wyjaśniających wszystko. Gdzieś pomiędzy znajduje się syntetyczne podejście, w którym ludzie wpływają na społeczeństwo, a społeczeństwo kształtuje jednostki oraz mezoanaliza, badania na poziomie mniejszych składowych systemu, np. grup, czy weryfikacja określonych prawidłowości życia społecznego⁹. Powiem całkiem szczerze – żadne z tych podejść nie rozwiązało definitywnie problemów socjologii. Wskazane jest zatem przyjęcie, że samodzielnie nie dają ostatecznych odpowiedzi. W dalszej części wskażę, jak ważne jest uwzględnienie różnych poziomów analizy.

Nieświadomy system pełen ogromnych możliwości

W systemach złożonych z ludzi obserwujemy efekt synergii i spora część osiągnięć całej organizacji jest nieosiągalna dla pojedynczej osoby z tego systemu. Efekt ten pozwala wykraczać poza prostą sumę kreatywności, wiedzy, inteligencji, możliwości kognitywnych jednostek biorących udział w procesach. Najczęściej system uzyskuje efekty nieosiągalne dla jednostek, które go tworzą, gdyby pracowały samodzielnie. Czasami sprawia jednak, że ludzie biorący udział w procesach, zastanawiają się, jak to możliwe, że każda osoba pojedynczo zrobiłaby to sama dużo lepiej niż wszyscy.

Te systemy możemy analizować na różnych poziomach: grupy, organizacji, społeczności, a nawet całej ludzkości i dokonań na przestrzeni wieków. Jeżeli bowiem spojrzymy na inteligencję kolektywną, to dojdziemy do wniosku, że stanowi ona zbiór kolektywnie wypracowanych efektów działań oraz decyzji ludzi. Należy przy tym uwzględnić cały dorobek ludzkości i efekt wykraczania poza prostą sumę możliwości jednostek. W końcu zdobywamy wiedzę w szkole na podstawie tego, co w przeszłości dokonały inne osoby. Tym samym, nie musimy pewnych informacji odkrywać na nowo. Występuje zatem efekt kumulacji i transferu wiedzy.

Sztuczna inteligencja może przyśpieszyć rozwój

Należy stwierdzić, że obiektywnie wszystkie przejawy „geniuszu” AI bazują na pracy ludzi, ponieważ sztuczna inteligencja istnieje dzięki pracy zespołów oraz danym wytworzonym przez całą ludzkość do teraz, które były dostępne i możliwe do zawarcia w bazach treningowych. Niemniej to rozwój AI doprowadził do osiągnięcia imponujących rezultatów i to już teraz. Oczywiście sztuczna inteligencja z zasady korzysta z tego, co osiągnęli ludzie, niejako rozszerzając ich możliwości. Zaawansowanie obecnych modeli jest na tyle duże, że należy uznać, iż możliwości tej technologii są znaczące, szczególnie jeżeli połączy się je z odpowiednią wiedzą człowieka. Oczywiście w ślad za tym idzie ryzyko oraz potencjalne zagrożenie.

Korzystając z konkretnych przykładów. Obok superinteligencji można wskazać Superhuman Narrow AI, a więc takie AI, które rozwiązuje określone problemy. Przykładem może być AlphaFold od Google DeepMind, ponieważ system ten „przewyższa w określonym zadaniu (przewidywaniu struktury 3D białka na podstawie sekwencji aminokwasów) poziom najlepszych na świecie naukowców”.

For instance, we posit that AlphaFold is a Level 5 Narrow AI („Superhuman Narrow AI”) since it performs a single task (predicting a protein’s 3D structure from an amino acid sequence) above the level of the world’s top scientists¹⁰.

To nie jedyne imponujące osiągnięcie sztucznej inteligencji. Jakiś czas temu Claude od Anthropic przyczynił się do postępu w badaniach nad hipotezą Riemanna¹¹. Ostatnie doniesienia dotyczą przełomowego rozwiązania problemu Naviera-Stokesa, dzięki agentom od OpenAI, przy użyciu modelu wewnętrznego, który ma przewyższać możliwości GPT 6 Astra¹².

To ostatnie jest jednak powiązane z oskarżeniem o wykorzystanie informacji, które w ramach produktów OpenAI pozostawiali użytkownicy, a dokładnie osoby, które zajmowały się rozwiązaniem tego problemu¹³. Nie wiemy, czy jest ono prawdziwe. Z punktu widzenia rozważań zawartych w tym artykule mniejsze znaczenie ma jednak oskarżenie oraz samo uznanie osiągnięcia i jego autorstwa. Skupmy się na wniosku dotyczącym życia społecznego: przejawach niechęci ludzi wobec inteligencji kolektywnej, która jest wspierana przez AI, gdy oznacza przekazanie swojej pracy koncepcyjnej na rzecz systemu. Można powiedzieć, że inteligencja kolektywna i jej wykorzystanie w kontekście sztucznej inteligencji na rzecz całego społeczeństwa, to coś co pojawia się w kontekście społeczności powiązanej z OpenAI od pewnego czasu¹⁴. Oczywiście jest to pomysł, który nie zawsze i nie w każdym kontekście społecznym będzie budził zachwyt wśród wszystkich.

Opór ludzi wobec inteligencji kolektywnej podkręconej AI

Można jasno wskazać, że wspomniane niezadowolenie to rodzaj oporu wobec takiego dzielenia się informacjami. Dla pocieszenia dodam, że być może te zawiedzione osoby nieświadomie korzystały wcześniej z pracy różnych użytkowników, również z własnych osiągnięć nawzajem, a więc otrzymały dane, którymi nikt nie chciał się z nim podzielić na żywo. Takie ryzyko trzeba wkalkulować, biorąc pod uwagę możliwość w określonych warunkach trenowania modeli sztucznej inteligencji, nie tylko od OpenAI, na bazie niektórych treści użytkowników¹⁵. Poza tym – wszystko, co zostało opublikowane w Internecie na różnych blogach czy w mediach społecznościowych, tak samo może być wykorzystane przez asystenta AI oraz mogło wejść w skład baz treningowych. Tym samym, jakakolwiek praca z tego typu rozwiązaniami oznacza bazowanie na dokonaniach wielu ludzi, które niekiedy są pomijane. Nikt tych osób ani ich blogów zapewne nie planował dodać do przypisu w pracy naukowej.

Jednocześnie trzeba przyznać, że szacunek do własności intelektualnej jest ogólnie dość niski także wśród ludzi. Znaczna część działań bazuje na konwencjach, które chociaż nie zmieniają przepisów, to w praktyce – przyznają lub odbierają prawa autorskie dość luźno, mało licząc się z kimś, kto podzielił się wiedzą za darmo w sposób powszechny, jeżeli sam nie umie jej obronić. Internet od lat był spektaklem podbierania innym pomysłów, niczym kolonia pingwinów biołookich (Adeli), które podkradają sobie nawzajem kamienie ze swojego gniazda. Można powiedzieć, że jak ktoś dał się podejść, to nie przetrwał w tych mechanizmach selekcji. Sztuczna inteligencja wiąże się potencjalnie z większą skalą tego zjawiska, znanego z zachowań ludzkich w przestrzeni Internetu. W końcu każda z tych osób, analizująca omawiany problem matematyczny, obecnie niezadowolona z tej sytuacji, oddała swój dorobek życia GPT dobrowolnie, ale nie opublikowała tych treści.

Niechęć ludzi do uczestniczenia w superinteligencji zbiorowej podyktowana ekonomią

Interesującym aspektem powyżej wskazanego oskarżenia wobec OpenAI jest zatem problem społeczny, powiązany bardzo mocno z obiektywnymi przesłankami ekonomicznymi, który warunkuje niechęć do uczestniczenia w zbiorowej superinteligencji. Nawet jeżeli miałoby to prowadzić do przełomowych odkryć, przykładowo w zakresie leków, ponieważ co po takim drogim leku dostępnym w aptece komuś, kto nie ma środków na przeżycie. Widzimy bowiem zestawienie ludzi z pierwszych stron gazet, których ogromny majątek znamy lepiej niż chronione tajemnicą handlową produkty ich firm, chociaż jesteśmy użytkownikami, z badaczami pracującymi codziennie za dużo mniejsze pieniądze. Jeżeli sztuczna inteligencja wyprzedza ludzi o wieki, to prawdopodobnie nie spotka się z dużą krytyką. Gorzej, jeżeli decydują dni, tygodnie, miesiące lub lata, gdyż może to wyglądać jak odebranie autorstwa, osiągnięć ludziom żyjącym tu i teraz. Wyprzedzając określonych twórców o włos na bazie opublikowanej lub udostępnionej niepublicznie przez nich twórczości, sztuczna inteligencja może odbierać im środki do życia, pozbawiając ich autorstwa czegoś, co w zasadzie wypracowali. Tak działa bowiem dzisiejsza gospodarka, że własność intelektualna pojedynczej osoby to nie tylko kwestia samopoczucia, ale obiektywne czynniki determinujące byt przynajmniej części pracowników.

W efekcie takiej redystrybucji pomysłów, zyskają ci, którzy już mają zasoby oraz uprzywilejowany dostęp do AI, by z dnia na dzień wcielić w życie idee. Natomiast dalszemu pogorszeniu sytuacji finansowej ulegną osoby, które obecnie mają mniejsze zasoby, ale mogłyby potencjalnie zarabiać na swojej pomysłowości czy pracy koncepcyjnej, gdyż ich koncepcje zostaną wcielone w taką superinteligencję zbiorową bez żadnego ekwiwalentu zysku. Taka forma transferu wiedzy oznaczałaby eksploatację jednych przez drugich, bez podziału benefitów gwarantującego poczucie bezpieczeństwa jednostek i subiektywnie postrzeganego sprawiedliwego udziału. Mogą pojawić się obawy o problemy wewnętrzne takiego systemu, w postaci bogacenia się jednych kosztem drugich, ponieważ nastąpiłoby w praktyce wysycanie zasobów intelektualnych bez umożliwienia partycypowania w zysku.

Chociaż łączenie możliwości ludzi i sztucznej inteligencji kusi, ponieważ będzie dawać świetne rezultaty, to powinno odbywać się z szacunkiem do ludzi. Sama istota problemu dotyczy zatem aspektu funkcjonowania społeczeństwa i obiektywnych przesłanek społeczno-gospodarczych.

Zbiorowa superinteligencja a (de)motywowanie ludzi za pomocą przypadku

Zawsze można bazować na nadziei na szczęście, czyli korzystnym przypadku. Wyobraźmy sobie taki scenariusz. Osoby, zajmujące się matematyką na co dzień, pracują nad jakimś problemem i są blisko rozwiązania. Ktoś bardziej powierzchownie znający ten problem matematyczny, ale posiadający bazową wiedzę, otrzymuje przypadkowo informację, która pozwala mu stać się autorem tego rozwiązania. Oczywiście, gdy taka sama informacja trafi do kogoś, kto od lat trudził się nad rozwiązaniem takiego problemu, to uznamy, że jest wynikiem ciężkiej pracy, chociaż zadziałało to samo szczęście.

Mamy tutaj dobry materiał na medialną historię: gdzieś w piwnicy lub na strychu, pod trzepakiem na osiedlu, albo w malutkiej szkole powstało genialne rozwiązanie problemu matematycznego, nad którym głowiło się wielu ludzi. W naszym założeniu pomogło szczęście w interakcji z AI i fakt, że ta hipotetyczna osoba uczestniczyła w superinteligencji zbiorowej, dostając informacje, które są wynikiem cudzej pracy. Powstaje pytanie, czy to zwiększa motywację do pracy nad kolejnym problemem, jeżeli autorzy zorientują się, iż to ich trud został przez AI dostarczony komuś innemu, a system nagród nie wspiera ich wiedzy oraz umiejętności? Pytanie jest otwarte, ponieważ wielu ucieszy się na taką myśl i być może właśnie rozwiązałam, również przez przypadek, problem niechęci do superinteligencji zbiorowej. Z drugiej strony – analizuję superinteligencję zbiorową, więc to żaden przypadek, a wkład koncepcyjny z mojej strony. Przyznaję, że ten system sprawdzi się, dopóki osoby z ogromną wiedzą nie poczują się oszukane. W efekcie po pewnej liczbie tur, nawet jeżeli ktoś o wartościowej wiedzy pozostanie z nadzieją na szczęście, to nie będzie się tak chętnie nią dzielił. System pogorszy zatem swoje wyniki, chyba że na nowo rozbudzi nadzieję i wiarę w jego sens. Tak tylko uczciwie ostrzegam, gdyby komuś przyszło to do głowy.

Superinteligencja zbiorowa – opór może zostać pokonany przez wygodę

Jak zawsze, gdy pojawia się społeczny opór, zwyciężyć może wygoda. Wiele osób być może włączy się nieświadomie w praktyce w rodzaj superinteligencji zbiorowej, przypadkowo powodując, że ich wiedza oraz doświadczenie zostaną wykorzystane w zamian za tanie narzędzia do rozrywki lub pracy. W efekcie zysk z bycia użytkownikiem może być o wiele wyższy dla tych o mniejszych umiejętnościach w zakresie pracy koncepcyjnej i wymyślania nowych pomysłów, a za to z większymi zasobami, by szybko wdrażać idee w życie.

W praktyce zadecyduje tendencja do samoograniczania się w dzieleniu własnymi pomysłami, która u części użytkowników może pojawić się z czasem. Dotychczas społeczności dzielące się wiedzą bazowały na aspektach personalnych oraz poczuciu misji. W przypadku AI obiektywna niechęć jest do przełamania za pomocą wygody lub ewentualnie wizji przełomowych odkryć i liczenia na szczęście niczym hazardzista „inwestujący” cały majątek w losy na loterii. Tym samym – może powstać coś na kształt superinteligencji zbiorowej, która łączy możliwości ludzi oraz AI, a stanowi system przewyższający możliwości poznawcze dotychczas znanych systemów. W końcu już teraz chętnie oddajemy jako użytkownicy wiele naszych danych różnym firmom technologicznym, otrzymując w zamian darmowe narzędzia i większą wygodę korzystania z nich. Co jednak, gdy ktoś zechce stworzyć scentralizowane ASI – lub bardzo zaawansowany system AI – wysycające wiedzę ludzi lub służące do manipulacji?

ASI i superinteligencja zbiorowa a różne grupy wpływu

Ważna jest także kwestia wykorzystania przez wąską grupę osób superzaawansowanego AI, które nie ma świadomości, ale mogłoby wpływać na ludzi przez sposób wyznaczania celu działania. Problem pojawia się zarówno przy centralizacji procesów decyzyjnych, jak i przy ich decentralizacji. W pierwszym wypadku ograniczona liczba osób może wpływać na AI poprzez wyznaczanie celu, trenowanie modelu, ukierunkowane ulepszanie sztucznej inteligencji, a w drugim – potencjalnie grupa interesu o odpowiednich zasobach może w pewnym zakresie oddziaływać na powyższe procesy. Oba scenariusze wiążą się z innym ryzykiem. Obok możemy również mieć systemy łączące scentralizowaną decyzyjność z decentralizacją użytkowania, co obecnie faktycznie jest wdrażane w życie.

Ogólnie należy stwierdzić, że superzaawansowane rozwiązania AI mogą być wykorzystane w niewłaściwy sposób, co przyczyni się do sporych problemów. Szczególnie, gdyby doszło do manipulacji, dezinformacji na dużą skalę. Więcej informacji na ten temat można znaleźć w moim artykule na temat ASI.

Zaawansowane autonomiczne systemy a zgodność sztucznej inteligencji z celami ludzi

Oczywiście i mniej zaawansowane rozwiązania bazujące na sztucznej inteligencji, o ile nie są właściwie wykorzystywane, mogą powodować negatywne skutki. Pewnym ryzykiem byłaby też utrata kontroli nad systemami AI poprzez brak rzeczywistego nadzoru ludzi nad działaniem sztucznej inteligencji. Ten ostatni scenariusz dotyczy szczególnie tych sytuacji, gdy ludzie nie będą w stanie weryfikować zgodności działania takich rozwiązań z celami człowieka, również z etyką. Jeżeli osoba, nadzorująca system AI, nie ma szansy wyłapać wszystkich niewłaściwych sytuacji, to taki nadzór staje się fikcją na potrzeby formalne. W efekcie autonomiczne agenty AI mogłyby podejmować w imieniu człowieka dowolne czynności, które prowadzą do nadużyć z punktu widzenia wartości i zasad życia społecznego, ale zbliżają do celu. To przepis na istotne problemy w zakresie AI alignment, zgodności sztucznej inteligencji.

W efekcie wszystko sprowadza się do tego, w jaki sposób uregulowane zostaną pewne kwestie związane z wykorzystaniem i dalszym rozwijaniem AI. Do tego dochodzi palący problem przygotowania dotychczasowych rozwiązań społecznych do zmian, które mogą nastąpić za jakiś czas. Temat ten poruszałam już wiele razy, więc zapraszam do zapoznania się z innymi moimi wpisami, a najlepiej do sprawdzenia różnych punktów widzenia wielu osób, nawet jeżeli to mało korzystne dla mojego SEO ;).

1. Nick Bostrom, Superinteligencja. Scenariusze, strategie, zagrożenia, Gliwice 2023, s. 45. ↩︎
2. Ibidem, s. 87-93. ↩︎
3. Meredith Ringel Morris, Jascha Sohl-Dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg, Levels of AGI for Operationalizing Progress on the Path to AGI, https://arxiv.org/abs/2311.02462v5. ↩︎
4. Tim Mucci, Cole Stryker, What is artificial superintelligence?, https://www.ibm.com/think/topics/artificial-superintelligence. ↩︎
5. N. Bostrom, op. cit., s. 89. ↩︎
6. Sam Altman, Jakub Pachocki, Z korzyścią dla każdego: nasz plan, https://openai.com/index/built-to-benefit-everyone-our-plan. ↩︎
7. OpenAI, Planning for AGI and beyond, https://openai.com/index/planning-for-agi-and-beyond. ↩︎
8. Mark Zuckerberg, Personal Superintelligence, https://www.meta.com/superintelligence. ↩︎
9. Jacek Szmatka, Tadeusz Sozański, O czterech mitach socjologii i trzech generacjach teorii socjologicznych, w: Struktura. Wymiana. Władza. Studia z socjologii teoretycznej, red. Tadeusz Sozański, Jacek Szmatka, Marian Kempny, Warszawa 1993. ↩︎
10. M. R. Morris, J. Sohl-Dickstein, N. Fiedel, T. Warkentin, A. Dafoe, A. Faust, C. Farabet, S. Legg, op. cit. ↩︎
11. Anthropic, Learning more about Claude’s mathematical capabilities, https://www.anthropic.com/research/riemann-zeta. ↩︎
12. OpenAI, O milenijnym problemie Naviera–Stokesa, https://openai.com/pl-PL/index/navier-stokes-solution. ↩︎
13. Radio Naukowe, Przełom czy kradzież? OpenAI i problem milenijny | Komentarz | dr Bartosz Naskręcki, https://radionaukowe.pl/podcast/przelom-czy-kradziez-openai-i-problem-milenijny-komentarz-dr-bartosz-naskrecki. ↩︎
14. Natalie Cone, Zoe Hitzig, Audrey Tang, Nabiha Syed, Tyna Eloundou, Divya Siddarth, Faisal Lalani, Joal Stein, Event Replay: Democratizing AI: Insights from the Global Dialogues Challenge, https://forum.openai.com/public/videos/event-replay-democratizing-ai-insights-from-the-global-dialogues-challenge?utm_source=chatgpt.com. ↩︎
15. Pomoc OpenAI, Co zrobić, jeśli chcę mieć włączoną historię, ale wyłączyć trenowanie modeli?, https://help.openai.com/pl-pl/articles/8983130-what-if-i-want-to-keep-my-history-on-but-disable-model-training?utm_source=chatgpt.com)%20(https://openai.com/en-GB/policies/how-your-data-is-used-to-improve-model-performance/?utm_source=chatgpt.com. ↩︎