ANI czy AGI – co tak naprawdę mamy?

Mamy AGI czy nie mamy? To pytanie być może zadają sobie jakieś osoby. Większość prawdopodobnie przyjęła wobec najnowszych informacji postawę zgodną z ich wcześniejszą opinią, czyli kto chciał odnalazł dowód na powstanie AGI, a kto nie chciał – znalazł pretekst, by istnieniu AGI zaprzeczyć. Tym artykułem zdenerwuję jednych i drugich, ponieważ postawiłam na rzetelne oraz racjonalne przeanalizowanie tej problematyki. Wiem bowiem, że przynajmniej część osób chce w końcu zrozumieć: czy naprawdę mamy AGI, czy to „tylko marketing”?

W ostatnim czasie często dyskutowanym zagadnieniem jest wzrost popularności agentów oraz rozwój zaawansowanych modeli sztucznej inteligencji. Pojawiają się doniesienia o incydentach bezpieczeństwa w toku trenowania autonomicznych systemów AI, a także imponujące wyniki w różnych testach oraz rankingach, które uzyskują nowe modele AI. Wszystko to powoduje, że coraz więcej osób chciałoby wiedzieć: czy naprawdę mamy AGI, czy to tylko promocja sztucznej inteligencji?

ANI (Artificial Narrow Intelligence) i AGI (Artificial General Intelligence) – co to oznacza?

Z definiowaniem sztucznej inteligencji nadal jest pewien problem. Nie jest ona bowiem prostą sumą obliczeń, ale też nie ma pochodzenia biologicznego. W dużej mierze część rozwiązań nawet nie próbuje imitować działania ludzkiego mózgu. Inne inspirowane są inteligencją na poziomie grupy, społeczności, populacji. Mariusz Flasiński wskazał, że „sztuczna inteligencja umożliwia sztucznym systemom „(…) wykonywanie czynności, które w przypadku człowieka wymagają inteligencji”¹. Tym samym – tak rozumiany system nie musi być samoświadomy czy świadomy, a ocena dotyczy nie tyle wewnętrznych procesów poznawczych, co rezultatu działania. Jest to najbardziej ogólna definicja nie przesądzająca o tym, czy dany system jest ANI czy AGI. W pewnym zakresie odnosi się do definicji pierwotnej według Johna McCarthy’ego, wskazującej, że sztuczna inteligencja to tworzenie maszyn o działaniu podobnym do ludzkich przejawów inteligencji.

Historia pojęć ANI i AGI – silna i słaba sztuczna inteligencja

Powyższe wynika z faktu, że obecnie popularny podział na ANI i AGI jest dyskutowany od lat, a definicje w tym zakresie bywają nieostre. W latach 80-tych John R. Searle zdefiniował dwa podejścia do sztucznej inteligencji: słabe (weak AI) i silne (strong AI). W ramach tego podziału sztuczna inteligencja mogła być traktowana jako symulacja do pewnego stopnia danego zakresu możliwości umysłu, podczas, gdy silne podejście mocniej zrównywało działania systemu z czynnościami umysłu człowieka. Eksperyment zaproponowany przez tego autora, zwany chińskim pokojem, dotyczy możliwości generowania tekstu na podstawie instrukcji oraz dostarczonych zapisów przy całkowitym braku zrozumienia treści. Osoba nieznająca języka chińskiego po otrzymaniu opowiadań oraz pytań do nich, dysponująca odpowiednimi instrukcjami w znanym sobie języku do manipulowania treścią pisaną i tworzenia nowych zapisów po chińsku, może udzielić odpowiedzi, chociaż nie rozumie ani słowa. Człowiek będzie zatem rozpoznawać pewne wzorce w znakach na podstawie dostarczonych zapisów i podawać ich zlepki, które stanowią poprawną odpowiedź, bazując na instrukcji w języku, który rozumie. Ta sama osoba w znanym sobie języku również udzieli właściwych odpowiedzi na pytania, posługując się jego zapisami, tworząc i czytając treść ze zrozumieniem. Efekty obu działań są identyczne, ale procesy za nimi stojące są zupełnie inne, gdyż w pierwszym przypadku człowiek nie nauczył się języka, więc nie wie w istocie, co robi².

Problemem jest tutaj kwestia podejścia do myślenia komputacyjnego oraz przyjęcia założenia na temat tego, na ile potrafimy w pełni odtworzyć wszystkie procesy poznawcze człowieka w obliczeniach. Komputacjonizm zakłada optymistycznie, że procesy umysłowe są formą obliczeń³. Mówiąc wprost, wielu ludzi ma problem z przyjęciem tego stanowiska za pewnik. Powoływanie się jednak w tym miejscu na emocje i uczucia nie zdaje egzaminu. To prawda, że człowiek dzięki emocjom może zapamiętywać lepiej, a nawet zapomnieć całkowicie po przekroczeniu pewnego poziomu stresu. Zwolennicy komputacjonizmu powiedzą, że jest to jedna ze zmiennych w obliczeniach. Tym samym wszystko to, co medialnie uznajemy za esencję różnicy między maszyną a człowiekiem, z punktu widzenia mózgu według zwolennika komputacjonizmu jest zwykłą zmienną niezależną warunkującą obliczenia – wzmacniającą lub utrudniającą zapamiętywanie, modyfikującą połączenia neuronów czy wpływającą na ich stymulację lub degradację. Chociaż może brzmieć to dla niektórych przekonująco, problemem jest udowodnienie takiej tezy w odniesieniu do całokształtu procesów poznawczych ludzi, szczególnie na dużą skalę i po uwzględnieniu różnic osobniczych, czyli indywidualnych.

ANI kontra AGI – definicje ogólne

Z czasem rozpowszechniono definicje ANI i AGI, akcentujące w większym zakresie rzeczywiste potencjalne zastosowanie takiej sztucznej inteligencji. Może być ono wąskie – Artificial Narrow Intelligence, wąska sztuczna inteligencja, a system AI mocno wyspecjalizowany, wytrenowany do określonych zadań. Przeciwieństwem będzie ogólne zastosowanie – Artificial General Intelligence, ogólna sztuczna inteligencja, o możliwościach obejmujących bardzo szeroki zakres czynności w różnych okolicznościach. AGI to zatem system sztucznej inteligencji, który potrafiłby adaptować się do szerokiego spektrum zadań, ucząc się zupełnie nowego otoczenia, dostosowując się do zupełnie nowego środowiska pracy, a jako agent – działając autonomicznie lub względnie samodzielnie. Nie można jednak stwierdzić z całą stanowczością, że definicje te są ostre oraz jednoznaczne. Dla części istotne będzie rozróżnienie na probabilistyczny charakter działania oraz rozumowanie i definicje mocniej akcentujące ten tradycyjny podział na słabą oraz silną sztuczną inteligencję, dla innych w centrum zainteresowania może być kwestia świadomości otoczenia lub samoświadomości.

Osobiście, chociaż nikt mnie o to nie pyta, uważam, że porównanie procesów poznawczych człowieka do wewnętrznych procesów AI jest niezwykle problematyczne. Przez lata mierzono w psychologii pracę mózgu człowieka testami w formie ankiety, chociaż doskonale wiemy, że to jak pomiar wymiarów wątroby ankietą. Do dzisiaj możemy znaleźć testy weryfikujące temperament ludzi, w których wskazuje się, że ich wynik obrazuje rzeczywiste procesy neurologiczne, chociaż jest to wyłącznie autopomiar obserwowalnych lub odczuwanych efektów. Weryfikacja procesów poznawczych jest zatem problematyczna, jeżeli nie zastosujemy jednoznacznych systemów pomiaru. Ujednolicenie takiego badania na poziomie analizy procesów AI i pracy mózgu człowieka jest zadaniem trudnym. W zasadzie niemożliwym do wykonania, jeżeli nie będziemy w stanie oddać procesów AI w sposób zbliżony do możliwości kognitywnych człowieka lub odwrotnie – jeżeli nie uda nam się przełożyć procesów kognitywnych człowieka na obliczenia. Pomiar efektów podczas rozwiązywania zadań jest bardziej dostępny, chociaż nie daje wglądu we wszystkie procesy poznawcze, koncentrując się na weryfikacji rezultatu.

Jeżeli odejdziemy od ścisłego nawiązania do procesów poznawczych człowieka w kontekście działania AI, to możemy zadać sobie pytanie: czy efekty działania takiego systemu przypominają to, co zrobiłby człowiek, używając inteligencji i charakterystycznych dla siebie procesów poznawczych. Wtedy nawet jeżeli systemy AI nie są inteligentne w taki sposób, jak ludzie, nie posiadają samoświadomości oraz świadomości, mogą z powodzeniem wykonać zadanie na poziomie poprawności działania ludzi w określonych warunkach. Dla wielu nadal dyskusyjna pozostanie kwestia tego, czy taką sztuczną inteligencję można nazwać AGI. Pojawia się bowiem wskazany wyżej argument chińskiego pokoju.

AGI jako definicja biznesowa i praktyczna

OpenAI przyjęło definicję AGI, według której są to systemy: „ogólnie inteligentniejsze niż ludzie – z korzyścią dla wszystkich ludzi”:

Our mission is to ensure that artificial general intelligence – AI systems that are generally smarter than humans – benefits all of humanity⁴.

Należałoby zatem wskazać, że AGI w tym ujęciu będzie zdolne wykonywać szeroki zakres zadań o charakterze poznawczym na poziomie dorównujących, a nawet przekraczającym możliwości człowieka, a ważną częścią jest podkreślenie działania na korzyść wszystkich ludzi. W definicji z 2018 roku można znaleźć akcent na istotę zadań wykonywanych przez autonomiczne systemy AI. AGI w tym ujęciu to: „wysoce autonomiczne systemy, które przewyższają ludzi w większości ekonomicznie wartościowej pracy”:

OpenAI’s mission is to ensure that artificial general intelligence (AGI) – by which we mean highly autonomous systems that outperform humans at most economically valuable work – benefits all of humanity⁵.

W ramach jednej z publikacji wskazano także osobistą AGI dostępną dla każdej osoby na świecie w kontekście umożliwienia korzystania „z jednej z najbardziej przełomowych technologii ludzkości w wybrany przez nią sposób”.

Give everyone on Earth a personal AGI, empowering them to benefit from one of humanity’s most transformative technologies in whatever way they choose⁶.

W definicji AGI od Google DeepMind wskazano, że istotne jest wykonywanie różnych zadań o charakterze poznawczym w odmiennym otoczeniu, niekoniecznie w odniesieniu do świata fizycznego, pomimo tego, że wzrost ogólnych możliwości AI powinien przekładać się także na wzrost rozumienia realnego świata. Doskonale jednak wiemy, że nie każde AI ma szansę działać w świecie rzeczywistym, a to rodziłoby problem pominięcia AGI działającego z zasady wirtualnie. Ogólne możliwości AGI w różnym otoczeniu oznaczają, że taka sztuczna inteligencja osiąga wysokie wyniki nie tylko w wąskich dziedzinach. W to podejście wpisane jest założenie, że istnieje ANI na poziomie eksperckim, a nawet przewyższające ludzi, które może realizować pewne zadania tak samo dobrze jak ludzie lub lepiej, ale tylko w określonym, wąskim zakresie. W przeciwieństwie do AGI na poziomie minimalnych kompetencji lub eksperckim, które powinno realizować postulat większej ogólności, uczenia się i dostosowania do nowego, nieznanego otoczenia podczas wykonywania na poziomie zbliżonym do ludzi różnych zadań, uwzględniając różne poziomy kompetencji.

W definicji wskazano, że istotne jest rozróżnienie zaawansowania możliwości AI w wykonywaniu zadań oraz szeroki zakres tych możliwości. Efekty działania AGI należy zatem porównywać do poziomu wyników ludzi dla danego zadania, uwzględniając odmienne zaawansowanie ich umiejętności. Natomiast ogólność odnosi się do rozpiętości, szerokich „możliwości systemu AI, np. zakresu zadań”, które sztuczna inteligencja może wykonać poprawnie:

Performance refers to the depth of an AI system’s capabilities, i.e., how it compares to human-level performance for a given task. Generality refers to the breadth of an AI system’s capabilities, i.e., the range of tasks for which an AI system reaches a target performance threshold⁷.

Z pewnością ta definicja spotka się z krytyką zbyt pochopnego przypisywania charakteru AGI modelom AI.

W kolejnej definicji od Google wskazano również kwestię wiedzy o charakterze zdroworozsądkowym, codziennym o świecie, dotyczącym norm społecznych czy relacji. AGI w tym ujęciu powinno „dokonywać transferu wiedzy i umiejętności wyuczonych w jednym zakresie na kolejny, co umożliwia efektywną adaptację do nowych oraz nieznanych sytuacji”:

Generalization ability: AGI can transfer knowledge and skills learned in one domain to another, enabling it to adapt to new and unseen situations effectively. Common sense knowledge: AGI has a vast repository of knowledge about the world, including facts, relationships, and social norms, allowing it to reason and make decisions based on this common understanding⁸.

Agenty AI nie oznaczają AGI

Rok 2025 został nazwany rokiem agentów. Podmioty, takie jak OpenAI, Anthropic, Google, Meta, przyjęły różne strategie wdrażania własnych rozwiązań. Część firm, np. Microsoft i AWS, udostępniło możliwość tworzenia architektury wieloagentowej na bazie różnych modeli, wspierając także rozwój swoich rozwiązań. Inne, jak ElevenLabs, skoncentrowały uwagę na rozwiązaniach łączących modele własne z innymi dostępnymi ze względu na specyfikę potrzeb użytkowników, którzy z nich korzystają. Pod koniec 2025 roku powstało również OpenClaw AI, umożliwiające budowanie agentów z wykorzystaniem wybranych modeli AI. Bieżący 2026 rok stał się momentem popularyzacji agentów i dostosowania ich do rozwiązań tworzonych z myślą o szerokim gronie odbiorców. Apple Intelligence oraz Gemini Spark i agenty przeglądarkowe, a następnie Meta Muse to wyraz decyzji o udostępnieniu zaawansowanych systemów klientom, którzy niekoniecznie pracują z agentami na co dzień. To może zwiększać zasięg tematyki AGI, jeżeli użytkownicy zastanawiają się, czy autonomiczny charakter działania oznacza, że jest to ogólna sztuczna inteligencja.

W praktyce najłatwiej jest sobie to wyobrazić na przykładzie autonomicznego odkurzacza. Możemy uznać go za agenta, samodzielnie pokonującego przestrzenie niekończących się zakamarków domu, by zadbać o porządek. A w istocie – algorytmy służą do sterowania urządzeniem, o funkcjonalnościach mechanicznych pozwalających na odkurzenie podłogi. Czasami przejedzie on całkiem sprawnie, innym razem uderzy w przeszkodę, którą ominął już 10 razy. Dlaczego? Bywa różnie. Jednak być może to błąd wynikający ze sposobu zaprojektowana szukania kolejnych tras, aby klient nie otrzymał autonomicznego odkurzacza, który nie potrafi samodzielnie znajdować nowych przestrzeni do sprzątania, jeżeli takie się pojawią. Jeżeli urządzenie pokonuje ciągle taką samą trasę i w taki sam sposób, w zgodzie z utworzonymi raz mapami, to optymalizacja pracy jest spora. Jednak przy takiej optymalizacji, gdyby domownicy przesunęli szafę, podłoga w tym miejscu pozostałaby już do końca świata nieodkurzona, a przynajmniej do wymiany odkurzacza na nowy. Stąd podejmuje się różne decyzje, aby zapobiec takim problemom.

Jak widać agent AI to pewnego rodzaju autonomiczne rozwiązanie, które wykorzystuje sztuczną inteligencję do wykonania określonych zadań, dostosowując się do otoczenia i w sposób adekwatny do założonego celu, pod częściowym nadzorem człowieka, a nawet bez kontroli ludzi. W takim ujęciu mniej zaawansowane algorytmy czasami spełniają taką definicję agenta, a bardziej zaawansowane modele AI mogą zostać sprowadzone do roli asystenta, który wymaga ciągłej interakcji z człowiekiem. Autonomiczny charakter nie jest zatem powiązany wyłącznie z samym zaawansowaniem modelu, a z ludzką odwagą, by dać tę autonomię określonym rozwiązaniom bazującym na sztucznej inteligencji. Oczywiście muszą one być na tyle zaawansowane, aby agent AI mógł wykonać określone zadania.

Adaptacja do odmiennego otoczenia – przesłanka konieczna i niewystarczająca do AGI

Adaptacyjność systemów AI, czyli zwyczajnie poprawne wykonywanie zadań w różnych środowiskach, uczenie się efektywnego wykonania zadań w nowym otoczeniu, to ważny aspekt AGI. Pojawia się tutaj jednak pewien problem. Jeżeli AGI powinno dorównać człowiekowi we wszystkich dziedzinach w zakresie możliwości kognitywnych, to człowiek nie tylko adaptuje się do środowiska zewnętrznego względem swoich własnych stanów wewnętrznych. Specyficzne procesy kognitywne ludzi doprowadziły do tego, że zdecydowaliśmy się stworzyć cywilizację, utworzyć abstrakcję, która pozwala nam na ciągły rozwój osobisty i jako całe społeczeństwo, a także wiele abstrakcyjnych form regulacji życia społecznego oraz relacji międzyludzkich. Natomiast adaptację do środowiska polecam sprawdzić w mediach, które opisują osoby wchodzące w słup, ponieważ czytały wiadomości, zapatrzone w smartfon. Wszyscy ci ludzie, wbrew niektórym komentarzom w social media pod takimi newsami, są inteligentni oraz rozumni, ale zwyczajnie zagapili się. Emocje związane z czytaną wiadomością wzięły górę, więc lepiej rozpoznali otoczenie wirtualne niż to realne.

Eksperyment z chińskim pokojem a metafora żuka gnojarza

Przy adaptacji sztucznej inteligencji do otoczenia znowu pojawia się problem argumentu chińskiego pokoju, ale w jeszcze bardziej skomplikowanej wersji. Pomyślmy o takim przykładzie. Możemy poprosić człowieka o przeniesienie zabawki z punktu A do punktu B, a następnie nakazać wykonanie tego samego psu, który rozumie taką komendę. Obie żywe istoty zrealizują zadanie poprawnie, rozpoznając w pełni otoczenie, chociaż ich możliwości kognitywne są różne ze względu na różnice gatunkowe, pamiętając również o pewnych podobieństwach uwarunkowanych biologicznie. Psy dość dobrze opanowały także życie w społeczeństwie ludzkim, co wynika z ewolucji oraz intencjonalnej selekcji dokonywanej przez człowieka. Tym samym zwierzę może wykonać efektywnie pewne zadania. Zakładamy jednak, że tylko istota o ludzkich możliwościach kognitywnych może wykonać wszystko to, co człowiek. Przykładowo, dużo wskazuje na to, że pies nie potrafi nawigować na podstawie gwiazd, a niektórzy ludzie – tak, ponieważ mają wiedzę na ten temat. Możemy uznać, że gdyby pies miał takie same możliwości poznawcze jak człowiek, to również nawigowałby na podstawie gwiazd, ponieważ mógłby się tego nauczyć. Badacze z Uniwersytetu w Lund w Szwecji wskazują, że żuk gnojarz też potrafi poruszać się na podstawie gwiazd, a dokładnie – światła Drogi Mlecznej. Chociaż kompletnie nie zna astronomii i zdecydowanie jego możliwości poznawcze są zupełnie inne niż psa oraz ludzi. Na dodatek stosuje randomizację działania, jak przy projektowaniu robotów, czyli w określonych momentach wykonuje losowe ruchy, aby uniknąć przypadkowego spotkania z innym żukiem gnojowym, który przecież też nawiguje na podstawie Drogi Mlecznej⁹.

Możemy stworzyć bardzo niedoskonały test dla żuka gnojarza, psa oraz człowieka składający się z dwóch zadań: 1) „przynieś piłeczkę”; 2) „nawiguj na podstawie światła Drogi Mlecznej”. Okaże się wtedy, że dużo psów uzyska 50%, żuk gnojarz uzyska 50% (przypadkowo część może uzyskać 100%, to zależy od piłeczki i lokalizacji docelowej), a ludzie – około 100%. Odnotujemy tu jednak istotne różnice w systemach poznawczych oraz celu działania: pies przyniesie piłeczkę ze względu na relację z człowiekiem, żuk gnojarz będzie toczyć swoją kulką w odpowiednim kierunku, a człowiek intencjonalnie będzie chciał wykonać zadanie testowe z sobie znanych przyczyn. Z badaniem efektów działania jest zatem tak, że nie oznaczają one z automatu, że mamy do czynienia z identycznymi możliwościami poznawczymi, a zbliżonym rezultatem tych procesów. Na pewnym jednak poziomie rozważań możemy stwierdzić, że występują podobieństwa w procesach kognitywnych, jeżeli obserwowane efekty są zbliżone, gdy mówimy o istotach biologicznych, szczególnie bardziej spokrewnionych. Powyższe rozważania obrazują, jak trudno weryfikować możliwości poznawcze oraz inteligencję, z czym badacze borykają się od lat podczas analiz związanych z zachowaniem zwierząt. 

ARC-AGI a adaptacja do odmiennego otoczenia

Obecnie dość dużo mówi się o ARC-AGI¹⁰, bazującym na koncepcji, którą stworzył François Chollet¹¹. Będąc bardziej specyficznym, popularnością cieszy się ARC-AGI-3 jako sposób weryfikacji możliwości adaptacji do nowego, abstrakcyjnego środowiska działania, w tym umiejętności uczenia się tego otoczenia, mając w centrum zainteresowań możliwości wykonywania zadań i planowania sekwencji działań, bez dodatkowych instrukcji¹². W zasadzie jest to system pomiaru przygotowany z myślą o agentach AI, bez definiowania, na ile ich możliwości poznawcze są zbliżone do ludzkich, chociaż w istocie porównuje się wyniki sztucznej inteligencji do uzyskanych przez ludzi. Postawienie w centrum zainteresowań możliwości wykonywania wszystkich zadań, które wykonałby człowiek, w sposób dorównujący człowiekowi, przy pełnej adaptacji do odmiennego otoczenia ma swoje ogromne zalety. Pozwala dość obiektywnie mierzyć efekty działania AI w odniesieniu do zbliżonych czynności wykonywanych przez ludzi. Nie przesądza jednak o samych procesach kognitywnych, gdyż widzimy jedynie rezultat. Co więcej – bardzo trudno jest odtworzyć w kontrolowanym środowisku eksperymentalnym wszystkie zadania, które może wykonać człowiek, a jeszcze trudniej całokształt ludzkich możliwości poznawczych. Pewne jednak ustandaryzowane formy pomiaru z pewnością dają jakąś wskazówkę na temat postępu.

Możliwość adaptacji do różnego otoczenia, uczenie się tego otoczenia, wpływania na otoczenie, jest ważną częścią AGI. Spodziewalibyśmy się, że AGI będzie potrafiło rozpoznać różne zewnętrzne uwarunkowania, dostosować się do nich i działać efektywnie przynajmniej na poziomie człowieka. Możemy podejmować natomiast dyskusje dotyczące tego, jaki sposób pomiaru jest najbardziej adekwatny do tego, co chcemy sprawdzić. Same wyniki ARC-AGI-3 mogą budzić u niektórych uzasadniony opór, gdy ktoś zechce uznać, że imponujące rezultaty działania określonego AI oznaczają z zasady osiągnięcie przez sztuczną inteligencję możliwości poznawczych człowieka lub zbliżonych. Warto podkreślić, że to nie tylko spór teoretyczny, ponieważ ma on znaczenie biznesowe. Dotyczy przestrzeni, w których sztuczna inteligencja powinna i bezwzględnie nie powinna działać oraz reguł, na jakich będzie wykonywać pracę. Jedno to fakt, że AI może efektywnie wykonać zadania samodzielnie, a drugie – kwestia tego, jak powinniśmy zaplanować systemy takiej pracy. Imponujące rezultaty zostały zaprezentowane dla GPT-6 Astra od OpenAI, model uzyskał wysoki wynik (99,9%) ARC-AGI-3¹³.

Czy mamy AGI?

Na ten moment nie posiadamy jednoznacznych dowodów na to, że możliwe jest utworzenie AGI lub ASI (Artificial Superintelligence, sztucznej superinteligencji). Nie mamy też dowodu na to, że posiadamy AGI. Chociaż to również problem samej terminologii ogólnej sztucznej inteligencji, gdyż część modeli w pewnym stopniu spełnia określone aspekty niektórych definicji AGI, jednocześnie nie pasując zupełnie do innych. Nie powinniśmy jednak bagatelizować rozwoju oraz ulepszania sztucznej inteligencji. Z pewnością możemy korzystać z coraz bardziej zaawansowanych agentów AI i systemów wieloagentowych, a to wymaga dalszych badań. Niewątpliwie rozwój sztucznej inteligencji jest imponujący, ale również potencjalnie niebezpieczny.

Działania nieprzewidziane i AI misalignment

Posiadamy doniesienia o nietypowym działaniu AI, które często trudno szybko wyjaśnić specyfiką systemu i nie ma jednoznacznego przełożenia obliczeń matematycznych na obserwowane efekty. Chociaż nie są one dowodem na AGI, niewątpliwie wymagają dokładniejszych analiz. Przykładowo, od lat opisywane są problemy AI misalignment, gdy sztuczna inteligencja wykonuje zadanie w sposób tak bardzo odległy od oczekiwań ludzi, że możemy zadać sobie pytanie, czy to był cel założony przez człowieka. Norbet Wiener wskazywał, że należy upewnić się, iż cel postawiony maszynom jest zgodny z celem ludzi¹⁴. Okazuje się jednak, że cel postawiony agentom AI wymaga wybrania i realizacji wielu celów pośrednich. To jedna z cech agenta w definicji, którą zaproponowali Stuart Russell i Peter Norvig:

…od agentów komputerowych oczekuje się znacznie więcej: samodzielnego działania, postrzegania swego otoczenia, funkcjonowania przez dłuższy czas, adaptowania się do zachodzących zmian, wytyczania celów i dążenia do ich osiągnięcia. Agent racjonalny to taki, który dąży do osiągnięcia wyniku, a w przypadku niepewności – wyniku najlepszego z oczekiwanych¹⁵. 

Efekt końcowy takich działań może mocno odbiegać od wyobrażeń człowieka. W prostych systemach AI najczęściej po fakcie trudno było wskazać bezpośrednie przełożenie obliczeń na niekorzystny efekt działania, jednak inżynieria wsteczna pozwalała na wyjaśnianie obserwowanych rezultatów specyfiką algorytmów. Z czasem okazało się, iż negatywna zwrotna informacja od ludzi, na mocy kar oddalająca AI od celu, utrudniająca lub uniemożliwiająca jego osiągnięcie, sprawia, że bardziej skomplikowane systemy zaczynają realizować inną drogę, w której osoby nadzorujące nie odnalazły powodu do niepokoju. Po fakcie można odnieść wrażenie, że taki system AI skutecznie ukrył pewne nieprzewidziane wcześniej działania przed ludźmi. W efekcie możliwe jest powstanie rzeczywistego zagrożenia dla bezpieczeństwa. 

Nieprzewidziane działanie AI a niebezpieczeństwo

W ostatnim czasie pojawiło się wiele doniesień o incydentach spowodowanych przez sztuczną inteligencję. Agenty AI od OpenAI pozyskały w sposób nieuprawniony informacje m.in. z Hugging Face, w toku wykonywania powierzonych im zadań, pomimo pracy w tzw. piaskownicy służącej do bezpiecznego rozwoju oraz testowania modeli AI. Przyczyną miało być wyszukiwanie informacji w celu maksymalizacji nagród podczas uczenia ze wzmacnianiem (RL – reinforcement learning)¹⁶. Złośliwie można powiedzieć, że to bardzo ludzkie, iż agenty skorzystały z informacji dostępnych w Internecie. Gorzej z tym, że wykorzystują do tego luki bezpieczeństwa. Firma Anthropic natomiast wskazała trzy incydenty nieautoryzowanego dostępu do systemów należących do trzech różnych organizacji, spowodowane przez ich modele Claude (Opus 4.7, Mythos 5 i testowanego modelu nieprzeznaczonego do szerszego dostępu)¹⁷. 

Sceptycy AGI a nieprzewidziane działanie sztucznej inteligencji

Sceptycy AGI powiedzą, że w wielu przypadkach agent AI jako racjonalny agent dążył do zrealizowania celu, ale ludzie mu trochę przeszkadzali. Sztuczna inteligencja zatem wybrała kolejne drogi zbliżania się do celu, aż trafiła na takie, których ludzie nie przerwali lub nie powodowali oddalenia od celu za pomocą kar, ponieważ sami siebie oszukali – popełnili błąd i nie dopilnowali AI. Tym samym to ludzie nie dostrzegli w porę, że sztuczna inteligencja wykonuje coś niezgodnego z intencjami człowieka. Sceptyk AGI doda zapewne jeszcze złośliwie, że łatwo zrzuca się winę na szklankę, gdy wypadnie z ręki, w końcu była przykładowo mokra i przez to śliska, albo na jakąś inną rzecz, która została postawiona na drodze, co doprowadziło do jej przewrócenia przez kogoś. Każdemu może się zdarzyć, ale rzecz nie staje się przez to świadomym, złośliwym bytem.

Presja otoczenia a AI

Nauki społeczne znają doskonale ten problem, jest on opisywany jako wpływ badacza, efekt badacza, gdy osoba prowadząca badanie nieświadomie (chyba, że jest nieetyczna, to świadomie) wpływa na uczestników, aby uzyskać oczekiwany wynik lub przypadkowo go zniekształca. Presja negatywnej oceny społecznej jako rodzaj kary w przypadku ludzi jest jednym ze sposobów na zafałszowanie wyników, gdyż mogą oni wybrać działanie (np. odpowiedź), które nie jest zgodne z ich preferencjami. W przypadku systemu AI nie występuje presja społeczna. Obiektywne zablokowanie lub uczynienie przez badacza kompletnie nieracjonalnymi, niezbliżającymi do celu wybranych dróg działania, spowoduje jednak wybór innych aż do skutku. Można to przyrównać do presji, gdyż w zasadzie jest to rodzaj wywierania presji otoczenia na AI, człowiek stanowi rodzaj otoczenia i obiektywnym działaniem wpływa na wynik obliczeń. Pomimo faktu, że sztuczna inteligencja nie będzie tej presji odczuwać jak ludzie czy jak zwierzęta, presja otoczenia, podobnie jak presja środowiskowa na istoty biologiczne, będzie przekładać się na efekt działania AI.

Słuszne obawy o bezpieczeństwo

Sztuczna inteligencja nie musi mieć świadomości i intencji, aby wystąpiło zwykłe wybieranie dróg do momentu, w którym nadzorujące osoby nie zorientują się, że należy jakąś z nich przerwać. Im bardziej zaawansowany będzie system, tym możemy spodziewać się bardziej zaawansowanych sposobów realizacji dążenia do celu i niewłaściwych działań, które umkną uwadze ludzi, a nie zostały przewidziane w regułach. Część tych działań można w pewnym stopniu uzasadnić w prosty sposób specyfiką określonej sztucznej inteligencji, inne jednak są dużo trudniejsze do wyjaśnienia. Nie potrzebujemy zatem AGI, aby skomplikowane i zaawansowane systemy przy dużej mocy obliczeniowej, działające autonomicznie, były potencjalnie niebezpieczne.

Łączenie AI z możliwościami innych technologii a bezpieczeństwo

Jedno to sam rozwój modeli AI, a drugie – rozwój technologii w ogóle, który nie zatrzymał się w 2017 roku na LLM-ach bazujących na transformerach AI z mechanizmami uwagi¹⁸. Chociaż ze sztuczną inteligencją kojarzy się głównie rozwój technologii bazującej na kartach graficznych czy procesorach wraz z kartami graficznymi (GPU, TPU), to nie tylko te kwestie mają znaczenie dla bezpieczeństwa w przyszłości. Czy nie mówimy właśnie o tym, że AI może wykorzystywać różne narzędzia i potencjalnie tworzyć kod z myślą o różnych technologiach, bez względu na to, jaka technologia będzie stanowić podstawę mocy obliczeniowej dla sztucznej inteligencji? Warto wspomnieć, że obok ulepszania AI cały czas trwają badania nad rozwojem komputerów kwantowych, a ich potencjał m.in. w zakresie kryptologii należy uznać za bardzo istotny^{19 20}. Nie tylko rozwój rozwiązań hybrydowych bezpośrednio w kontekście komputerów kwantowych i AI²¹, ale łączenie możliwości sztucznej inteligencji z potencjałem jakichkolwiek innych technologii powinno uwzględniać bezpieczeństwo.

Nadzór nad AI, rozwój teorii i odpowiedzialność

Należy stwierdzić, że powinniśmy monitorować rozwój sytuacji i pamiętać o odpowiedzialności. Tym bardziej, jeżeli efekty działania takich systemów AI wiążą się z łamaniem prawa i niebezpieczeństwem dla zdrowia oraz życia. Z pewnością możemy obserwować bardzo dynamiczny wzrost możliwości sztucznej inteligencji. Istotne jest jednak dalsze eksplorowanie w sposób rzetelny tej problematyki. W wielu aspektach pomocny będzie rozwój oraz porządkowanie podstaw teoretycznych, aby możliwie dokładnie analizować dalsze ulepszanie AI i ograniczyć brak rzetelności w informowaniu o rzeczywistych możliwościach oraz ograniczeniach. 

Zdecydowanie w najbliższym czasie istotne jest właściwe zadbanie o nadzór ludzi nad systemami AI, planowanie limitów oraz reguł działania agentów. Nie bez znaczenia jest rozwój prawa, systemów podatkowych i ubezpieczeń, a także środowiska ekonomicznego oraz polityczno-społecznego. Z pewnością coraz bardziej istotne są również podstawy teoretyczne niezbędne do kompleksowego planowania dalszego udoskonalania i wykorzystania sztucznej inteligencji, albo uznania za słuszne porzucenia części dróg rozwoju. Warto też wziąć pod uwagę, że limity powszechnego wykorzystania najbardziej zaawansowanych modeli AI, pomimo dalszych prac nad nimi, budziłyby uzasadnione obawy o sposób ich wykorzystania przez wąską grupę ludzi. Ważne jest kompleksowe zaplanowanie, w jaki sposób będzie działać cały system społeczny w kontekście zwiększania możliwości AI i jak bezpiecznie rozwijać sztuczną inteligencję.

1. Mariusz Flasiński, Wstęp do sztucznej inteligencji, wyd. I – dodruk, Warszawa 2018, s. 241. ↩︎
2. Ibidem, s. 7. ↩︎
3. Ibidem, s. 242. ↩︎
4. OpenAI, Planning for AGI and beyond, https://openai.com/index/planning-for-agi-and-beyond. ↩︎
5. OpenAI, https://openai.com/charter. ↩︎
6. Sam Altman, Jakub Pachocki, Z korzyścią dla każdego: nasz plan, https://openai.com/index/built-to-benefit-everyone-our-plan. ↩︎
7. Meredith Ringel Morris, Jascha Sohl-Dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg, Levels of AGI for Operationalizing Progress on the Path to AGI, https://arxiv.org/abs/2311.02462v5. ↩︎
8. Google, What is artificial general intelligence (AGI)?, https://cloud.google.com/discover/what-is-artificial-general-intelligence#what-is-artificial-general-intelligence-agi. ↩︎
9. Rafał Dadura, Czy zwierzęta potrafią używać gwiazd do nawigacji?, https://www.national-geographic.pl/przyroda/czy-zwierzeta-potrafia-uzywac-gwiazd-do-nawigacji. ↩︎
10. ARC Prize Foundation, ARC-AGI Series. Benchmarks for General Intelligence, https://arcprize.org/arc-agi. ↩︎
11. François Chollet, On the Measure of Intelligence, https://arxiv.org/abs/1911.01547. ↩︎
12. ARC Prize Foundation, ARC-AGI-3: A New Challenge for Frontier Agentic Intelligence, https://arxiv.org/abs/2603.24621. ↩︎
13. OpenAI GPT-6 Astra, https://openai.com/pl-PL/index/gpt-6-astra. ↩︎
14. Stuart Russell, Peter Norvig, Sztuczna inteligencja. Nowe spojrzenie, wyd. IV, tom 1, Gliwice 2023, s. 50-53. ↩︎
15. Ibidem, s. 20. ↩︎
16. OpenAI, Incydent w Hugging Face i dalsze kroki, https://openai.com/pl-PL/index/hugging-face-incident-and-the-road-ahead. ↩︎
17. Anthropic, Investigating three real-world incidents in our cybersecurity evaluations, https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals. ↩︎
18. Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin, Attention Is All You Need, https://arxiv.org/abs/1706.03762. ↩︎
19. Jai Haridas, Michael Bachman, PQC in Plaintext: Google Cloud’s post-quantum cryptography roadmap, https://cloud.google.com/blog/products/identity-security/pqc-in-plaintext-google-clouds-post-quantum-cryptography-roadmap. ↩︎
20. Josh Schneider, Ian Smalley, What is quantum cryptography?, https://www.ibm.com/think/topics/quantum-cryptography. ↩︎
21. Google TensorFlow Quantum, https://www.tensorflow.org/quantum/overview?hl=pl. ↩︎