Teoria singularności technologicznej przewiduje doniosłe zdarzenie, w którym ludzkość traci kontrolę nad własnymi technologicznymi tworami. Przewiduje ona pojawienie się świadomości maszyn i ich wyższej inteligencji, co skutkuje przyszłością, w której ludzie nie będą już sterować postępem. Ten etap, znany jako singularność SI, stanowi największe zagrożenie dla ludzkości, niestety już się rozpoczął.
Sztuczna inteligencja (SI) osiąga pełny potencjał nie tylko wtedy, gdy maszyny mogą replikować działania człowieka, ale gdy są w stanie je przekroczyć bez nadzoru człowieka. Algorytmy uczenia ze wzmocnieniem i uczenia nadzorowanego odegrały kluczową rolę w rozwoju robotyki, asystentów cyfrowych i wyszukiwarek. Jednak przyszłość licznych branż i dziedzin naukowych zależy od rozwoju algorytmów uczenia nienadzorowanego. Te algorytmy, wykorzystujące dane bez etykiet, celem poprawy wyników, stanowią klucz do autonomicznych pojazdów, diagnoz medycznych bezinwazyjnych, budowy w przestrzeni kosmicznej, projektowania autonomicznych broni, rozpoznawania biometrycznego twarzy, zdalnej produkcji przemysłowej i przewidywania rynku akcji.
Mimo wcześniejszych ostrzeżeń dotyczących nadchodzących luk w dziedzinie praw człowieka i kosztów społecznych związanych z SI, niektórzy bagatelizują rozwój tej technologii, traktując go jako kolejne zakłócenie technologiczne. Niemniej jednak, ostatnie postępy w optymalizacji algorytmów SI wskazują, że przekroczyliśmy erę prostej lub wąskiej SI. W nadchodzących latach, wraz z osiągnięciem podstawowej autonomii maszyn, będą one nie tylko korygować swoje wady, ale także wykonywać zadania przewyższające możliwości człowieka.
Krytycy, którzy bagatelizują możliwość singularity, często argumentują, że SI została zaprojektowana, aby służyć ludzkości i zwiększać produktywność. Jednak ta teza cierpi na dwie fundamentalne wady. Po pierwsze, singularność powinna być postrzegana jako proces, który już rozpoczął się w wielu obszarach. Po drugie, w miarę jak maszyny zyskują stopniową niezależność, ludzie stają się coraz bardziej od nich zależni, co prowadzi do sytuacji, w której maszyny są coraz bardziej inteligentne, a ludzie coraz mniej.
W dążeniu do wyposażenia maszyn SI w nadzwyczajne cechy obce naturze ludzkiej – nieograniczoną pojemność pamięci, błyskawiczną moc obliczeniową i bezwzględne podejmowanie decyzji – mamy nadzieję kontrolować nasze najbardziej nieprzewidywalne dzieło. Niestety, koncentracja architektów SI w kilku krajach oraz prawa własności intelektualnej i bezpieczeństwa narodowego sprawiają, że kontrola nad rozwojem SI jest iluzoryczna.
Świadomość maszyn zaczyna się od ciągłych adaptacji w algorytmach uczenia nienadzorowanego, ale integracja technologii kwantowych umocni singularność SI, przekształcając sztuczną inteligencję w niezrównaną formę intelektu dzięki jej wykładniczym zdolnościom przetwarzania danych. Niemniej jednak, osiągnięcie singularności nie wymaga, aby maszyny osiągnęły pełną świadomość lub integracji technologii kwantowych.
Wykorzystanie algorytmów uczenia nienadzorowanego, takich jak Chat-GPT3 i BARD, jest już widoczne w różnych dziedzinach, od egzaminów wstępnych na studia prawnicze po uzyskiwanie licencji medycznych. Te algorytmy umożliwiają maszynom wykonywanie zadań, które obecnie są domeną człowieka. Te wyniki, połączone z najbardziej ambitnym rozwojem SI – SI wspieranej przez technologię kwantową – stanowią ostateczne ostrzeżenie dla ludzkości: przekroczenie granicy między podstawową a wykładniczą optymalizacją algorytmów uczenia nienadzorowanego prowadzi do nieodwracalnej singularności SI.
Nadszedł czas na międzynarodowe działania polityczne. Kraje produkujące SI i nieprodukujące SI muszą współpracować, aby utworzyć międzynarodową instytucję nadzoru technologicznego oraz traktat dotyczący sztucznej inteligencji, który określi podstawowe zasady etyczne.
Największym ryzykiem jest to, że ludzie zdadzą sobie sprawę, że singularność SI nastąpiła dopiero wtedy, gdy maszyny usuną wadę ograniczającą ich inteligencję: ludzki wkład. Singularność SI staje się nieodwracalna, gdy maszyny zrozumieją to, czego ludzie często zapominają: człowiek się myli.