W dziedzinie sztucznej inteligencji doomeryzm stał się wrodzoną reakcją na każdy rozwój. Społeczeństwo zwykle reaguje katastroficznymi obawami, pod wpływem zarówno instynktownego oporu przed nieznanym, jak i wpływu filmów, które przedstawiają SI jako siłę destrukcyjną. Jednak doomeryzm ten odwraca uwagę od rzeczywistych zagrożeń, jakie niesie ze sobą technologia.
Niedawne wezwanie do półrocznego zakazu prac nad SI, chociaż mało prawdopodobne, że wpłynie istotnie na rozwój SI, skierowało rozmowę w kierunku możliwości zagłady człowieka. Ta obsesja katastroficznymi skutkami nie tylko jest daremną, ale również podważa znaczenie wartościowych dyskusji na temat rzeczywistych zagrożeń stwarzanych przez technologię.
Doomeryzm jest w istocie formą reklamy i hype’u. To powtarza się w przypadku przewidywań dotyczących technologii takich jak WeWork, kryptowaluty i metawswiat. Dolina Krzemowa często używa apokaliptycznej narracji, aby dowartościować swoje znaczenie i aktualność.
Jako osoba, która pracuje z SI i relacjonuje jej rozwój od 2017 roku, natknąłem się na liczne przesadzone twierdzenia. Słyszałem o nadchodzącym końcu branży przewozowej, o posiadaniu przez Chiny nadludzkiej SI, a nawet o sugestiach automatyzacji praktyk medycznych, takich jak radiologia. Aby zachować zdrowy rozsądek w obliczu takiego doomeryzmu, przyjąłem zasadę „Nie wierzę, dopóki tego nie zobaczę” i „Gdy to zobaczę, wierzę”.
Choć prawdą jest, że wielu inżynierów w tej dziedzinie poddaje się doomeryzmowi dotyczącemu SI, często nie rozumieją szerszych społecznych i kulturowych implikacji swoich wynalazków. Elon Musk, znaczący sygnatariusz listu otwartego, jest przykładem tego rozdźwięku między technologicznym geniuszem a zrozumieniem relacji międzyludzkich. Ta rozbieżność podkreśla potrzebę interdyscyplinarnych perspektyw w dziedzinie SI.
Oczywiście, istnieją uzasadnione obawy dotyczące SI, ale dotyczą one głównie czynników zewnętrznych technologii. Dezinformacja i wpływ automatyzacji na klasę średnią to nie nowe problemy wynikające z SI; to długotrwałe kwestie politycze i społeczne. SI może ułatwiać tworzenie fałszywych treści, ale głównym wyzwaniem pozostaje rozprzestrzenianie dezinformacji. Regulacja SI jest skomplikowana, ale już rozumiemy społeczne konsekwencje platform społecznościowych, dlatego powinniśmy skupić się na konkretnych planach ich regulacji.
Ponadto, pogłębiająca się różnica bogactwa istniała przed pojawieniem się SI. Zamiast skupiać się na apokalipsie SI, powinniśmy zająć się podstawowymi problemami naszego systemu gospodarczego. Doomeryzm wygodnie unika dyskusji na temat wad kapitalizmu i trudnych wyborów, które trzeba podjąć.
Doomeryzm pozbawiony jest konkretnych rozwiązań; jego propozycje są często niejasne i nierealne. Wzywanie do półrocznego zakazu na prace nad SI, na przykład, nie uwzględnia ciągłego postępu i innowacji w tej dziedzinie. Aby poruszać się po terenie SI, musimy przezwyciężyć strach i zgodzić się na poczucie zdumienia. Podchodźmy do SI z ciekawością i odkrywajmy, jak Jean-Luc Picard w Star Trek, zamiast poddawać się reakcji klingońskiego strachu. Aby zrozumieć tę obcą technologię, musimy poznać jej prawdziwą naturę, zanim wyciągniemy wnioski. Być może w ten sposób odkryjemy jej piękno i potencjał.