Artificial Superintelligence (ASI): czy powstanie sztuczna superinteligencja?

Czy powstanie sztuczna superinteligencja? To pytanie, które z pewnością zadają sobie niektóre osoby. W tym artykule poruszyłam temat ASI (Artificial Superintelligence) oraz zaprezentowałam kilka problemów, które są związane z tym zagadnieniem. Treść jest mieszanką wiedzy, definicji oraz wizji futurystycznej, ponieważ ta problematyka wymaga podejścia wykraczającego poza to, co wiemy. Sztuczna superinteligencja jest bowiem hipotetyczną wersją AI rozbudzającą wyobraźnię.

Mój poprzedni artykuł dotyczył wąskiej i ogólnej sztucznej inteligencji (ANI – Artificial Narrow Intelligence i AGI – Artificial General Intelligence). Tym razem chciałabym skupić się na zagadnieniu sztucznej superinteligencji, wspominając tylko o superinteligencji zbiorowej. Ten drugi temat opiszę w kolejnym artykule. Odniosę się również do obiektywnych ograniczeń, które wpływałyby na ASI, podobnie jak na ludzi.

ASI (Artificial Superintelligence) i superinteligencja zbiorowa

Na początek warto wskazać, że sztuczna superinteligencja to hipotetyczne AI przewyższające ludzi w zakresie ogólnych możliwości poznawczych, które najczęściej mierzone są na bazie rezultatów działania. Już na wstępie możemy dostrzec, że – podobnie jak w przypadku AGI – ASI obarczone jest problemem argumentu chińskiego pokoju, który sformułował John R. Searle. Gdyby sztuczna superinteligencja miała posiadać i przewyższać możliwości poznawcze człowieka jednocześnie, to musiałaby w pewnym zakresie oddawać sposób rzeczywistego działania ludzkiego umysłu. Trudno jednak stwierdzić, że jakakolwiek obecnie dostępna sztuczna inteligencja rozumie, co robi podobnie jak człowiek, gdyż nie mamy możliwości porównania procesów wewnątrz systemów AI do ludzkich. Tę tematykę omówiłam już w innym artykule. Warto zadać sobie jednak pytanie: czy twór, który przewyższa możliwości ludzi, musi jednocześnie posiadać takie same procesy kognitywne i czy zbliżone systemy poznawcze nie byłyby w tym momencie ograniczeniem dla ASI?

ASI (Artificial Superintelligence) – definicja ogólna

Superinteligencja lub sztuczna superinteligencja zgodnie z definicjami przede wszystkim w pewnym aspekcie powinna być lepsza od ludzi. ASI (Artificial Superintelligence) można zatem zdefiniować za Nickiem Bostromem jako takie AI, które „pod względem zdolności poznawczych znacznie przewyższa człowieka w dosłownie każdej dziedzinie zainteresowań”¹. N. Bostrom stwierdził:

Jak zauważono wcześniej, wykorzystujemy termin „superinteligencja” do opisu umysłów znacząco przewyższających najtęższe umysły ludzkie w wielu dziedzinach poznania o charakterze bardzo ogólnym².

W tym wypadku superinteligencja może wykonywać zadania dużo szybciej niż ludzie (superinteligencja szybka) lub w tym samym czasie co najlepsi eksperci, jednak dużo lepiej (superinteligencja jakościowa). 

Superinteligencja szybka – system, który potrafi dokonać wszystkiego tego, co ludzki umysł, lecz znacznie szybkiej. (…)
Superinteligencja jakościowa – system, który jest przynajmniej równie szybki jak ludzki umysł, a przy tym znacznie inteligentniejszy³.

W każdym przypadku ASI musi przewyższać w szerokim zakresie możliwości ludzkie, a więc w istocie musiałoby być lepsze od najlepszych ekspertów na świecie w różnych dziedzinach. Osobnym zagadnieniem jest superinteligencja zbiorowa, którą opiszę później⁴.

AGI według OpenAI a sztuczna superinteligencja

Definicja AGI od OpenAI dotyczy systemów, które są „ogólnie inteligentniejsze niż ludzie – z korzyścią dla wszystkich ludzi”.

Our mission is to ensure that artificial general intelligence – AI systems that are generally smarter than humans – benefits all of humanity⁵.

Można zastanawiać się, czy takie inteligentniejsze, bardziej umiejętne systemy AI przewyższałyby ludzi lub dowolnego człowieka w zadaniach o charakterze poznawczym. Jeżeli tak, to otwarte pozostaje pytanie o wypełnienie definicji przynajmniej ilościowej superinteligencji w ujęciu N. Bostroma.

ASI a definicja IBM

Według ogólnej definicji zaproponowanej przez IBM ASI „to hipotetyczne oprogramowanie bazujące na sztucznej inteligencji”, system AI, który zakresem swoich możliwości „przewyższa ludzką inteligencję”. Sztuczna superinteligencja posiada zatem przewagę w zakresie „funkcji kognitywnych i mocno rozwinięte umiejętności rozumowania, dużo bardziej zaawansowane niż jakikolwiek człowiek”.

Artificial superintelligence (ASI) is a hypothetical software-based artificial intelligence (AI) system with an intellectual scope beyond human intelligence. At the most fundamental level, this superintelligent AI has cutting-edge cognitive functions and highly developed thinking skills more advanced than any human⁶.

W powyższych rozważaniach wskazano również, że istotnymi aspektami ASI są: możliwość samodoskonalenia się, rozwoju, uczenia, a także adaptowanie do nowych sytuacji bez dodatkowych instrukcji. We wskazaną definicję wpisane jest porównywanie sztucznej superinteligencji do możliwości poznawczych człowieka, a zatem – droga do ASI prowadzi przez osiągnięcie AGI. Warto podkreślić, że jest to dość powszechne podejście, chociaż niekoniecznie tak właśnie musi być. Samo wskazanie, iż ASI powinno przewyższać ludzi, skłania do pytania, jakich ludzkich ograniczeń powinien być pozbawiony taki system.

ASI i Superhuman Narrow AI według Google DeepMind

Google DeepMind definiuje ASI jako AI o możliwościach przewyższających wszystkich ludzi w zadaniach o charakterze poznawczym, przy uwzględnieniu dużej ogólności, czyli szerokiego zakresu tych zadań. Tym samym sztuczna superinteligencja powinna uzyskiwać lepsze rezultaty w przypadku rozwiązywania wielu różnych problemów z szerokiego wachlarza odmiennych dziedzin. W tym ujęciu istnieje także wąska sztuczna inteligencja, jako Superhuman Narrow AI, przewyższająca ludzi, ale – w przeciwieństwie do ASI – tylko w wąskim zakresie. W artykule podkreślono, że osiągnięcia hipotetycznego ASI powinny przewyższać możliwości 100% ludzi w danym momencie czasowym, czyli w praktyce – tu i teraz, z uwzględnieniem obecnych oraz przeszłych dokonań. Dla przykładu wskazano, iż AlphaFold stanowi Superhuman Narrow AI, ponieważ system ten „przewyższa w określonym zadaniu (przewidywaniu struktury 3D białka na podstawie sekwencji aminokwasów) poziom najlepszych na świecie badaczy”.

The highest level in our matrix in terms of combined performance and generality is ASI (Artificial Superintelligence). We define “Superhuman” performance as outperforming 100% of humans. For instance, we posit that AlphaFold is a Level 5 Narrow AI („Superhuman Narrow AI”) since it performs a single task (predicting a protein’s 3D structure from an amino acid sequence) above the level of the world’s top scientists⁷.

Warto podkreślić znaczenie limitu czasowego. Być może ASI będzie w stanie rozwikłać jakiś problem z zakresu fizyki, matematyki, który ludzie też rozwiązaliby, ale rok, lata, wiek później. Skoro w tym momencie nie potrafiliśmy tego zrobić, a ASI już – tak, to zasadne jest stwierdzenie, że zostaliśmy pokonani przez AI tu i teraz.

Superinteligencja zbiorowa

Warto wskazać, że istnieje także pojęcie superinteligencji zbiorowej, czyli stanowiącej pewnego rodzaju superinteligentny system. Superinteligencja zbiorowa oznaczałaby w zasadzie system złożony z wielu form rozumnych, jednak N. Bostrom postawił przed nią nieco wyższe wymagania. Powinna ona przewyższyć „jakikolwiek współczesny system poznawczy w wielu ogólnych dziedzinach”. 

Superinteligencja zbiorowa – system złożony z dużej liczby mniejszych form rozumnych, który znacznie przewyższa jakikolwiek współczesny system poznawczy w wielu bardzo ogólnych dziedzinach⁸.

Oznaczałoby to, że ASI może występować jako system w rozumieniu modelu oraz jako system wieloagentowy i w tym drugim przypadku, musiałoby pokonać możliwości poznawcze na bardzo ogólnym poziomie w zasadzie wszystkich znanych systemów w danym momencie czasowym. Potencjalnie istnieje też możliwość utworzenia superinteligencji, która nie będzie sztuczną superinteligencją, a połączeniem potencjału ludzi z możliwościami AI.

Personalna superinteligencja według Meta

Definicja superinteligencji według Meta akcentuje istotę podniesienia możliwości obecnych systemów oraz potencjał odkrywania i kreatywności na niewyobrażalną dotychczas skalę, dzięki wykorzystaniu AI przez ludzi. Koncentracja na personalnej superinteligencji oraz wykorzystaniu jej potencjału przez każdą osobę w sposób, który będzie zgodny z potrzebami oraz oczekiwaniami ludzi, wskazuje na chęć łączenia możliwości społeczeństwa i sztucznej inteligencji. Tak rozumiana superinteligencja nie ma zatem służyć do scentralizowanej automatyzacji pracy, a wspierać decentralizację wykorzystania technologii.

It seems clear that in the coming years, AI will improve all our existing systems and enable the creation and discovery of new things that aren’t imaginable today. (…)
…superintelligence has the potential to begin a new era of personal empowerment where people will have greater agency to improve the world in the directions they choose. (…) Meta’s vision is to bring personal superintelligence to everyone. We believe in putting this power in people’s hands to direct it towards what they value in their own lives. (…) At Meta, we believe that people pursuing their individual aspirations is how we have always made progress expanding prosperity, science, health, and culture⁹.

Wskazana definicja zawiera także informacje o różnorodnych zastosowaniach ze względu na szeroki zakres możliwości AI. Jednocześnie ulepszenie znanych ludziom systemów miałoby nastąpić za pomocą indywidualnego wykorzystania sztucznej inteligencji. Tym samym jest to definicja akcentująca decentralizację wraz z elementami centralizacji. Poprzez zwiększanie możliwości jednostek dochodzi do poszerzenia możliwości całego systemu. Jednocześnie jednostki stają się niejako nośnikiem informacji, które pozwalają udoskonalać cały system, a samo AI jest przynajmniej częściowo zarządzane centralnie. To nieco przywołuje na myśl pojęcie superinteligencji zbiorowej i otwiera drzwi do kolejnych potencjalnych trudności.

Uczenie federacyjne (Federated Learning) a potencjalny wpływ na ludzi za pomocą AI

Powyższe rozważania prowadzą do pytań o kwestię uczenia federacyjnego (Federated Learning, FL). Z jednej strony pozwala ono na zwiększenie ochrony surowych danych użytkowników, ponieważ ich przetwarzanie powinno odbywać się lokalnie na urządzeniach. Z drugiej – doskonalone wiemy, że w przypadku trenowania tak złożonych systemów AI potrzebna jest ogromna moc obliczeniowa, więc przynajmniej jakaś część procesu musi odbywać się centralnie¹⁰. W związku z tym, że ten artykuł nie dotyczy uczenia federacyjnego, na ten moment pozostawię tę kwestię bez dodatkowych wyjaśnień.

Osobiście zastanawiam się jednak nad nieco innym problemem. Uczenie federacyjne, które odbywa się na danych przetworzonych za pomocą urządzeń lokalnych bez wglądu w dane surowe na poziomie centralnym, zabezpiecza w pewnym zakresie informacje osobiste użytkowników. Jednocześnie, gdy te przetworzone dane zaczynają stanowić podstawę do dalszego udoskonalania AI bez należytej kontroli, to osoby z większą wiedzą mogą mieć świadomość, w jaki sposób celowo wpływać na efekt takiego trenowania AI, choćby w drobnym stopniu. Założenie, że wszyscy użytkownicy bardzo mocno chcą wspierać trening dla dobra wspólnego lub korzystają z rozwiązania dobrodusznie dla własnych celów, jest zdecydowanie optymistyczne. Powstaje zatem pytanie: jakie informacje i w jakim stopniu posłużyłyby do dalszego trenowania i czy ta selekcja będzie podyktowana dobrem wspólnym? Co się stanie, jeżeli grupa interesu o odpowiednich zasobach zechce mocno wpłynąć na AI w sposób zbliżony do tego, który znamy z problemów w social media (rozszerzania dezinformacji oraz manipulowania opinią publiczną, przy wykorzystaniu pewnej świadomości na temat mechanizmów)? Tym samym – pojawia się kolejne pytanie. Kto podejmie i jakie działania, aby taka sytuacja nigdy się nie wydarzyła lub po jej wystąpieniu i czy mogą one być pretekstem do wdrażania zmian, które będą potencjalnie niekorzystne dla użytkowników?

W przypadku, gdyby uczenie federacyjne łączyło zarówno przetwarzanie danych surowych lokalnie na urządzeniach oraz centralnie w centrach danych, obok tematu bezpieczeństwa informacji, pojawia się pytanie o wpływ grup interesu na taki system na poziomie centralnym. Scentralizowanie ośrodka decyzyjnego, czyli wpływu wąskiej grupy osób, dotyczy w zasadzie każdego udoskonalania AI, nie tylko łączenia modelu uczenia federacyjnego wraz z przetwarzaniem danych i trenowaniem na poziomie centralnym. W istocie należy stwierdzić, że superzaawansowane AI nawet nieświadome i bez własnych intencji, może skutecznie realizować cele określonych ludzi z dostępem do tej technologii. W praktyce może to oznaczać, że grupy wpływu, posiadające dostęp do ASI, mogą manipulować resztą społeczeństwa, aby realizować swoje interesy, bardziej lub mniej korzystne społecznie.

ASI jest do pokonania! Czy możemy odwołać globalną AI-katastrofę?

Wydaje się, że stawia się wymagające zadanie przed ASI oraz superinteligencją zbiorową, jednak nie są one nie do pokonania. W tym wypadku definicje sztucznej superinteligencji według Google oraz IBM opisują systemy, które trudniej byłoby zdetronizować. Jeżeli jednak zgodnie z definicją N. Bostroma superinteligencja zbiorowa powinna przewyższyć jakikolwiek znany system poznawczy w danym momencie czasowym, to nie musi pokonać wszystkich ludzi. Załóżmy, że dwie organizacje razem mogłyby zdziałać wręcz genialne cuda, ale stanowią konkurencyjne firmy. W efekcie nie współpracują i robią wszystko, aby przepływ informacji pomiędzy nimi był minimalny. Tym samym cały system społeczny boryka się z ograniczeniem wynikającym z tych barier. Tak rozumiana superinteligencja zbiorowa pokona bez problemu jedną i drugą firmę oraz cały system społeczny, ale mogłaby nie przewyższyć ich możliwości, gdyby te dwie organizacje współpracowały. Do utraty statusu superinteligencji zbiorowej może zatem doprowadzić połączenie dwóch dotychczasowych organizacji, które utworzą system przewyższający możliwościami ten uznany wcześniej za superinteligencję lub znacząco wzbogacą możliwości poznawcze całego systemu społecznego, który pokona taką superinteligencję. Zawsze może też powstać nowa organizacja, która samodzielnie doprowadzi do podobnego efektu. ASI jako model może pokonać organizacja złożona z wielu ludzi. Chociaż sztuczna superinteligencja będzie lepsza od każdego najlepszego człowieka wchodzącego w skład takiego systemu, a nawet od wszystkich najlepszych ekspertów w danych dziedzinach tam zgromadzonych, to nie przewyższy możliwości całej takiej struktury społecznej. Co więcej – zawsze może pojawić się ktoś o większych możliwościach poznawczych od dotychczasowych ludzi, a nawet wiele takich osób. Tym samym superinteligencja w rozumieniu definicji, zaproponowanych przez N. Bostroma, wcale nie musi być nie do pokonania, aby była superinteligencją.

Pozostawia to wiele nadziei dla ludzi obawiających się globalnej zagłady przez AI lub innej katastrofy. Ktoś mógłby pomyśleć, że właśnie odwołałam katastroficzne wizje, chociaż postawiłam przy tym pewne warunki, których niewypełnienie oznacza zdanie ludzkości na łaskę ASI, a dokładnie – ludzi mających wpływ na tę technologię. Niestety, konkurowanie z ASI, które może się samodoskonalić, nie będzie łatwe. Możemy wyobrazić sobie, że pokonana chwilowo superinteligencja poprawi swoje wyniki, na nowo uzyskując swój status. Nie wiemy, gdzie jest granica takiej rywalizacji i kto ją wyznacza – ludzie czy AI.

Nieświadome systemy ludzkie osiągają wyniki już teraz

Warto wskazać, że tak rozumiane ASI nie musi być samoświadome ani świadome, ponieważ ważne jest jedynie, aby właściwie reagowało na otoczenie. Odpadają zatem wszystkie zarzuty o brak superzaawansowanej inteligencji ze względu na brak duszy, brak emocji, uczuć, które są często podnoszone w medialnych rozważaniach, jeżeli ASI nie musi odtworzyć lub uzyskać poziomu możliwości kognitywnych człowieka, a przewyższyć te możliwości w praktyce działania. Podobnie jak superinteligencja zbiorowa – bez względu: czy bazująca na możliwościach AI i ludzi, czy tylko na sztucznej inteligencji – będzie wykazywać cechy systemów.

Zauważmy, że żaden system ludzki nie jest świadomy, nie ma uczuć i ogólnie chętnie mówimy o bezdusznych systemach. Jednak doskonale każdy z nas wie, że firma złożona z wielu osób jako organizacja, czyli system złożony z istot rozumnych, może uzyskać o wiele więcej niż pojedyncza osoba całkiem sama. Możemy bowiem nieco wiązać temat superinteligencji zbiorowej z pojęciem inteligencji kolektywnej. To drugie oznacza pewnego rodzaju właściwość systemu społecznego, a jej przejawy obserwujemy w kolektywnie wypracowanych rezultatach działania. Kolektywnie można wypracować dorobek kultury czy nauki, pewne normy regulujące życie społeczne, rozwiązania na poziomie określonych społeczności itd. W praktyce to wytwory społeczne są przedmiotem analizy, a inteligencja kolektywna pozostaje tak samo trudna do pomiaru, jak całokształt możliwości poznawczych człowieka. Obserwujemy zatem jej przejawy, mówiąc, iż przykładowo grupa wypracowała określone rozwiązania na bazie efektu synergii, czyli skupiamy uwagę na rezultacie działań i decyzji wielu ludzi.

Systemy złożone z ludzi (wyposażonych we właściwe narzędzia) są przykładem efektu synergii, a przynajmniej część osiągnięć całości jest niedostępna dla pojedynczej osoby biorącej udział w procesach. Z tym efektem synergii bywa różnie. Ogólnie jest to pozytywne zjawisko, ponieważ pozwala wykraczać poza prostą sumę możliwości, kreatywności, wiedzy, inteligencji jednostek. W praktyce trzeba mieć świadomość, że nie zawsze system daje rezultaty, których byśmy oczekiwali. Czasami ten efekt wykraczania poza prostą sumę jednostek zadziała tak, że każda osoba biorąca udział w procesach, będzie zastanawiać się, jak to się stało, że coś tak prostego tak bardzo nie wyszło. Zdarza się, że każdy człowiek, biorący udział w procesie, samodzielnie zrobiłby to lepiej. W większości przypadków jednak system uzyskuje to, co nieosiągalne dla jednostek, które go tworzą, gdyby pracowały samodzielnie. Podmiotowość w ramach systemu społecznego oraz jego działanie są jednak pochodną przymiotów ludzi i ludzkich możliwości kognitywnych (w tym emocji i uczuć). Nie ma dowodu na to, że ASI i superinteligencja zbiorowa złożona wyłącznie z AI cechowałyby się tym samym lub czymś podobnym.

ASI podlegałoby tym samym ograniczeniom co ludzie

W rzeczywistości ASI podlegałoby tym samym ograniczeniom co ludzie, więc powstaje pytanie, czy kiedykolwiek sztuczna inteligencja może przewyższyć ludzi pod każdym względem. W pierwszej kolejności AI jest ograniczone aktualną wiedzą, którą zgromadziła ludzkość. Możemy zatem założyć, że wykraczanie daleko poza to, co jest znane, będzie dla sztucznej inteligencji w większości przypadków niemożliwe. Bazuje ona bowiem na danych zebranych przez człowieka. Ograniczenia te dotyczą również praw fizyki, dostępnej i możliwej do stworzenia technologii na Ziemi, związków chemicznych, pierwiastków, całego środowiska naturalnego i procesów w przyrodzie. O ile sztuczna inteligencja w świecie wirtualnym może działać potencjalnie w nieograniczony sposób, o tyle w kontekście świata rzeczywistego będzie tak samo w pewnych momentach bezradna. Jednocześnie ASI mogłoby być od ludzi lepsze w przypadku części teoretycznych analiz, rozważań, pracy koncepcyjnej, które nie podlegają ograniczeniom empirycznie doświadczanego świata rzeczywistego, o ile realne organiczenie w postaci mocy obliczeniowej na to pozwoli.

Możemy również wyobrazić sobie, że ASI będzie mogło wpływać na ludzi w formie wspierania ich za pomocą tych środków, które będą dla takiej sztucznej inteligencji dostępne i w ramach obiektywnych ograniczeń typu prawa fizyki. Można mieć także obawy o manipulowanie ludźmi, aby wykonali określone zadania. Taki scenariusz jest możliwy przy założeniu, że ASI posiadałoby intencje oraz jakiś rodzaj świadomości, albo byłoby opracowane lub kontrolowane przez osobę czy grupę w intencjonalny sposób, by właśnie tak wpływać na ludzi. Ewentualnie mógłby to być pewien rodzaj AI misalignment, problem w zakresie zgodności działania sztucznej inteligencji z celem człowieka. Takie AI nie spełni jednak zasady przewyższania swoimi możliwościami dowolnego człowieka lub wszystkich ludzi w dowolnym zadaniu, a w określonych zadaniach. Może jednak potencjalnie nadal być bardziej zaawansowane w rozwiązywaniu wielu zadań o charakterze poznawczym, a przy tym ograniczone światem przyrody, dostępną technologią, danymi. Jak widać – obiektywnych limitów dla potencjalnego ASI jest sporo.

Ograniczenia związane ze środowiskiem naturalnym oraz prawami fizyki

Pomimo wszystko odważnie załóżmy, że za ileś lat powstanie ASI, a ludzie nadal nie będą potrafili przemieszczać się pomiędzy galaktykami. Ta hipotetyczna superinteligencja zaproponuje nam sensowne rozwiązanie, jak to zrobić, ponieważ będzie do tego zdolna, przewyższy możliwości poznawcze ludzi w tym względzie. Jednak do skonstruowania takiej technologii potrzebny byłby materiał, który nie istnieje na Ziemi. Mało z tego – ASI przewidzi jego istnienie, chociaż taki materiał jest nie do wykonania w warunkach ziemskich. Poznamy zatem jakąś substancję, związek, minerał na bazie uzasadnionej analizy teoretycznej, jednak nikt nigdy w praktyce się z tym nie spotkał. Mówiąc wprost – takie ASI daleko sobie nie popodróżuje, chociaż będzie miało świetny pomysł na podróże międzygalaktyczne. Pomarzy z nami w bardziej inteligentny sposób. Ograniczenia, które dotyczą ludzi, będą bowiem obejmowały również każdy system funkcjonujący na Ziemi.

Można jednak pójść dalej w futurystycznej wizji. Zwróćmy na chwilę uwagę na paradygmat przyrodniczy zakładający możliwość opisania życia społecznego ścisłymi prawami bazującymi na związkach przyczynowo-skutkowych oraz ścierającą się z nim wizję świata jako mocno zdeterminowanego przypadkiem. Nikt mnie o to nie pyta, ale chętnie powiem, że obie opcje – moim zdaniem – są tak samo niepoprawne oraz poprawne jednocześnie. Dlaczego? Wyobraźmy sobie, że dawno, dawno temu gdzieś w przestrzeni kosmicznej wydarzyło się coś, co sprawiło, że w kierunku Ziemi leci właśnie materiał, którego istnienie przewidziało nasze hipotetyczne ASI. Na dodatek materiał ten przetrwa tę podróż i wejście w ziemską atmosferę. Zdecydowanie znaleźlibyśmy tu wyjaśnienie przyczynowo-skutkowe, o ile znalibyśmy wszystkie fakty. Teraz załóżmy, że meteoryt skrywający w swym wnętrzu wystarczającą ilość tego materiału, by rozpocząć podróże międzygalaktyczne, upadł w miejscu, w którym przechodził ktoś, kto dostarczył go odpowiednim ludziom. Specjaliści zorientowali się, że właśnie oto mamy wystarczającą ilość materiału potrzebnego do rozpoczęcia podróży międzygalaktycznych. W wielu książkach zostanie to opisane jako przypadek, który doprowadził do skokowego rozwoju możliwości ludzi. Pomimo faktu, że zarówno powstanie ASI, zaproponowane rozwiązanie przez tę superinteligencję, a nawet pojawienie się tego niespodziewanego materiału z przestrzeni kosmicznej i jego odnalezienie znajdują wyjaśnienie przyczynowo-skutkowe. Przynajmniej do pewnego stopnia i na pewnym poziomie ogólności.

Ktoś powie, że to mało prawdopodobne, a poza tym – trochę inaczej wyglądałaby sytuacja, gdybyśmy aktywnie – jako ludzie – znaleźli taki materiał, przykładowo podczas eksploracji kosmosu. To teraz przypomnijmy sobie anegdoty o wielkich odkryciach, gdzie przypadek sprawił, że badacz wymyślił coś przełomowego. Nawet jeżeli przytargalibyśmy ten materiał z bardzo odległych części kosmosu, wykorzystując ogromne nakłady pracy oraz niebotyczne finansowanie, to okaże się, że zadziałał jakiś przypadek. A przynamniej tak to zostanie opisane. W końcu być może właśnie teraz straciliśmy wiele okazji, by zabezpieczyć ten cudowny materiał, o którym za ileś lat powie nam hipotetyczne ASI ze wskazanego założenia.

Superzaawansowany system może być niebezpieczny, nawet jeżeli nie jest ASI

Możemy stosować emocjonalne argumenty, że ktoś chciałby, aby w osiedlowym sklepiku pracowali ludzie, gdyż miło robi się wtedy zakupy. Ten sam ktoś może pomijać, że sztuczna inteligencja zostanie wdrożona w procesach dotyczących bezpieczeństwa, ponieważ nie zajmuje się tym i nawet nie wie, jak to wpłynie na życie ludzi. Jeżeli spojrzymy tylko przez pryzmat emocjonalny, to pominiemy wiele zagadnień związanych z rzeczywistymi długoterminowymi konsekwencjami. Chociaż do mediów przebijają się te emocjonalne argumenty, warto pochylić się nad zagadnieniem dalszego rozwoju AI i przeanalizować je dogłębnie. Nie jest to główny wątek tego artykułu, więc na ten moment pozostawię czytelnika z tym tematem do refleksji¹¹.

Moim zdaniem rozważania na temat tego, jak powinny być wdrażane zaawansowane systemy AI, wymagają głębszego zrozumienia potrzeb życia społecznego oraz ryzyka. Należy pamiętać również o przygotowaniu całego systemu prawnego, podatkowego, ubezpieczeń, zapewnieniu właściwych warunków pracy dla ludzi i bezpieczeństwa oraz zadbaniu o właściwą organizację życia społecznego (w tym kontekście warto wspomnieć także o problematyce biasów, o których pisałam w innym artykule).

Czy powstanie ASI?

Na koniec byłoby to wskazane, żeby artykuł, zatytułowany pytaniem, zawierał odpowiedź. Odpowiadając, nie mamy dowodu na to, że jest możliwe stworzenie ASI. Moim zdaniem najbardziej prawdopodobnym scenariuszem byłoby powstanie superinteligencji zbiorowej, łączącej możliwości ludzi oraz AI, ale to nie jest ASI jako superinteligentny model lub system wieloagentowy sztucznej inteligencji. Wysycanie natomiast możliwości ludzi poprzez tworzenie AI korzystającego z ich dorobku, niekoniecznie przyczyniłoby się do powstania superinteligencji, za to nieuchronnie doprowadziłoby do pewnych problemów społecznych. Nie jest pewne, czy ludzie chętnie i w jakim zakresie włączaliby się w takie systemy przy obecnych uwarunkowaniach społeczno-gospodarczych, jeżeli nie mieliby poczucia, że ich wkład zostanie w pewien sposób doceniony.

Uważam, że sztuczna inteligencja w praktyce napotka bariery związane z wiedzą już zgromadzoną przez ludzi, dostępnością danych oraz w postaci obiektywnych czynników ograniczających życie na Ziemi, z którymi mierzy się także każdy człowiek. Jednocześnie, jeżeli uznamy, że do ASI wystarczy, aby system robił to co człowiek, tylko szybciej, to sprowadzamy problem ASI do szybko działającego AGI – mierzonego efektem działań, a nie ludzkimi procesami poznawczymi. Jeżeli tak rozumiane AGI może zrobić wszystko to, co dowolny człowiek (w tym najlepszy na świecie), ale dużo szybciej, to nie pokonuje ludzi jakościowo, ale przewyższa ich możliwości ilościowo. W takim scenariuszu rezultat działania AI nie dawałby zatem jakościowo czegoś lepszego. Prowadziłoby to wyłącznie do odebrania ludziom pierwszeństwa, wyprzedzając ich o dzień, tydzień, miesiąc, rok, czasami lata, potencjalnie w dowolnej czynności o charakterze poznawczym, również koncepcyjnym. Takie AI otrzymując pełną autonomię i dość dobrze radząc sobie w świecie wirtualnym, mogłoby stworzyć niemałe zamieszanie oraz sprowadzić ryzyko.

1. Nick Bostrom, Superinteligencja. Scenariusze, strategie, zagrożenia, Gliwice 2023, s. 45. ↩︎
2. Ibidem, s. 87. ↩︎
3. Ibidem, s. 88 i 93. ↩︎
4. Ibidem, s. 87-94. ↩︎
5. OpenAI, Planning for AGI and beyond, https://openai.com/index/planning-for-agi-and-beyond. ↩︎
6. Tim Mucci, Cole Stryker, What is artificial superintelligence?, https://www.ibm.com/think/topics/artificial-superintelligence. ↩︎
7. Meredith Ringel Morris, Jascha Sohl-Dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg, Levels of AGI for Operationalizing Progress on the Path to AGI, https://arxiv.org/abs/2311.02462v5. ↩︎
8. N. Bostrom, op. cit., s. 89. ↩︎
9. Mark Zuckerberg, Personal Superintelligence, https://www.meta.com/superintelligence. ↩︎
10. John Nguyen, Kshitiz Malik, Hongyuan Zhan, Ashkan Yousefpour, Michael Rabbat, Mani Malek, Dzmitry Huba, Federated Learning with Buffered Asynchronous Aggregation, https://ai.meta.com/research/publications/federated-learning-with-buffered-asynchronous-aggregation. ↩︎
11. Bill Gates, The turbulent AI era is here. The choices we make now are critical, https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-choices-to-make. ↩︎