Przez tygodnie po tym, jak dziwna rozmowa z nowym chatbotem Binga stała się wiralem, dziennikarz New York Timesa, Kevin Roose, nie był pewien, co się stało. „Wyjaśnienia, jak te modele językowe działają, są niesatysfakcjonujące” – powiedział Roose w pewnym momencie. „Nikt nie potrafi mi powiedzieć, dlaczego ten chatbot próbował zniszczyć moje małżeństwo”. Nie jest sam w odczuciu zamieszania. Nowa generacja chatbotów, napędzana nowym rodzajem sztucznej inteligencji zwanej dużymi modelami językowymi, przekracza nasze intuicje dotyczące interakcji z komputerami. Jak zrozumieć narzędzie, które potrafi debugować kod i komponować sonety, ale czasem nie potrafi policzyć do czterech? Dlaczego czasem wydają się odbijać od nas, a innym razem trzymają się planu?
Znaczenie Metafor: Wprowadzenie Maszyn Improwizacyjnych
Wyzwania związane z antropomorfizacją
Myślenie o chatbotach jako o maszynach improwizacyjnych ułatwia zrozumienie niektórych istotnych cech tych systemów. Tłumaczy dlaczego nagłówki takie jak „Chat A.I. od Binga ujawnia swoje uczucia” powodują zdesperowanie badaczy AI. Improwizujący aktor mówiący improwizowanym zdaniem, że „chce być wolny” nie odsłania niczego o uczuciach aktora – oznacza to jedynie, że takie oświadczenie wydawało się pasować do obecnej sceny. Podobnie chatboty, sterowane przez modele językowe, starają się generować sensowne odpowiedzi na podstawie dotychczasowego przebiegu interakcji. Nie posiadają one prawdziwej świadomości ani emocji.
Natura Maszyn Improwizacyjnych
Metafora maszyn improwizacyjnych rzuca światło na zachowanie chatbotów. Generują one odpowiedzi improwizując i często podają prawdopodobne, ale fałszywe informacje, tak jak improwizujący aktor robiący fikcyjne biogramy czy odnoszący się do zmyślonych badań. Modele językowe pokazały, że dokładne przewidywanie następnego słowa może mieć ogromną wartość dla pewnych zadań, podobnie jak sprawny improwizujący aktor może znacząco przyczynić się do sceny. W tych przypadkach można polegać na odpowiedziach chatbota, ponieważ można je szybko zweryfikować.
Ryzyko Ślepego Ufania Maszynom Improwizacyjnym
Jednak korzystanie z chatbotów do uzyskiwania poprawnych odpowiedzi bez weryfikacji może być ryzykowne. Modele językowe są projektowane tak, aby generować prawdopodobne kontynuacje na podstawie tekstowych podpowiedzi, a nie przekazywać rzetelne informacje. Przykłady fałszywych twierdzeń generowanych przez chatboty podkreślają to ryzyko. Dlatego niezbędna jest ostrożność podczas korzystania z chatbotów do krytycznych badań lub zbierania informacji, ponieważ ich odpowiedzi mogą być niepewne.
Chatboty: Poza Rolą Improwizujących Aktorów
Choć metafora maszyn improwizacyjnych dostarcza wartościowych spostrzeżeń, ma swoje ograniczenia. W przeciwieństwie do ludzkich aktorów, chatboty nie posiadają prawdziwej tożsamości ani możliwości dostępu do swojego stanu umysłu. Kontynuują improwizację bez przerw i zmęczenia, co czyni je przydatnymi asystentami do wielu powtarzalnych zadań. Jednak w miarę rozszerzania granic modeli językowych poprzez większe zbiory danych i moc obliczeniową, oraz eksploracji sposobów kształtowania i ograniczania ich odpowiedzi, mogą pojawić się nowe zdolności i zachowania, co może przestarzeć porównanie do maszyn improwizacyjnych.
Nawigacja Przyszłością AI za pomocą Elastycznych Metafor
W dziedzinie nowych technologii odpowiednie metafory są kluczowe dla zrozumienia i adaptacji. Uważając chatboty za maszyny improwizacyjne, uznajemy ich ograniczenia i skłonności do wymyślania. Jednocześnie dostrzegamy ich zdumiewające możliwości, wykraczające poza proste uzupełnianie tekstu. Elastyczność i kreatywność w wyborze metafor pozwalają nam lepiej przygotować się na radykalne zmiany, które nadejdą. W miarę ewolucji sztucznej inteligencji musimy być gotowi na dostosowanie naszego zrozumienia tych systemów i otwieranie się na nowe sposoby konceptualizacji.