Nowy program AI Google’a Bard wprowadził w zakłopotanie CEO, Sundara Pichai. W wywiadzie przyznał, że nie rozumie w pełni, jak działa ten system. Na jaw wyszło wiele problemów związanych z Bardem, między innymi to, co Pichai określił jako „własności emergentne”, czyli zdolności systemu do samodzielnego uczenia się nieprzewidzianych umiejętności.
Jednym z przykładów zaawansowanych możliwości systemu jest zdolność do nauki języka bengalskiego bez szkolenia oraz zdolność rozwiązania problemu ekonomicznego, cytuje w tym celu nieistniejące książki. Jednak ta sama cecha wzbudza obawy dotyczące możliwości „halucynacji” lub tworzenia fikcyjnych treści.
Pichai podczas wywiadu odniósł się do „czarnej skrzynki” systemu AI, która utrudnia określenie, dlaczego produkowane są konkretne wyniki lub błędy. Brak przejrzystości jest szczególnie problematyczny, gdy systemy AI nabierają nieprzewidzianych zdolności.
Pomimo potencjalnych zagrożeń związanych z technologią, Google nadal wykorzystuje Barda w pożyteczny sposób, zdając sobie sprawę z pilnej potrzeby pracy nad technologią. Pichai podkreślił, że firma jest ostrożna w kwestii zagrożeń związanych z niewłaściwym wykorzystaniem technologii i potrzeby zarządzania ryzykiem.
Obawy dotyczące ryzyka związanego z zaawansowanymi systemami AI doprowadziły również do wezwań o wstrzymanie się z dalszym rozwojem bardziej zaawansowanych systemów. Grupa ekspertów AI i przedstawicieli przemysłu, na czele z Elonem Muskem, wezwała do opracowania potężnych systemów AI dopiero wtedy, gdy będziemy pewni, że skutki technologii będą pozytywne i możliwe do zarządzania.
Warto zauważyć, że Bard pozostaje technologią eksperymentalną, która wymaga dalszego rozwoju i dopracowania, aby rozwiązać problemy związane z nieprzewidzianymi możliwościami. Jednocześnie system nie całkowicie zrezygnował z postępowych idei, które stanowią podstawę wielu społeczności technologicznych Kalifornii.
Ostatnio DailyMail.com przetestował Barda, biorąc AI na testową jazdę z trudnymi pytaniami z pierwszych linii amerykańskich wojen kulturowych. Od rasizmu po imigrację, opiekę zdrowotną i radykalną ideologię płciową. Bard zdawał się uczyć z krytyk takich jak Elon Musk, że chatboty są zbyt „świeckie”. W rezultacie unikał trudnych pytań serwisu, odpowiadając na nie takimi frazami, jak „nie jestem w stanie ci pomóc w tym” lub „nie ma jednoznacznej odpowiedzi na to pytanie”.
Podsumowując, choć system AI Bard Google’a ma zaawansowane możliwości, co jest wrażające, to stanowi również znaczne wyzwanie w kontekście zarządzania jego wynikami. Mimo to Google jest zdecydowany na korzystanie z tej technologii w pożyteczny sposób i zarządzanie związanymi z nią ryzykami. Jasne jest, że konieczne jest dalsze rozwijanie i udoskonalanie systemu, aby rozwiązać problemy związane z jego nieprzewidzianymi możliwościami.