Dariusz Jemielniak: Nie ma ucieczki od sztucznej inteligencji [WYWIAD]

dariusz jemielniak-fot pawel supernak pap_20150608_0LW-s.jpg, default, Dariusz Jemielniak, fot. Paweł Supernak / PAP

Czy AI zabierze nam pracę? Dlaczego ruch otwartego oprogramowania przegrywa z korporacjami? Jakie korzyści może nam dać rozwój nauki obywatelskiej w duchu "zrób to sam"? Rozmowa z badaczem społecznym analizującym ruchy antynaukowe i społeczności internetowe.

Zacznę od tematu, który co prawda wychodzi już z każdej lodówki, ale wciąż jest niezmiernie ciekawy, czyli ChatGPT. Czy z pana perspektywy, jako badacza sztucznej inteligencji, jest to "maszyna do generowania bzdur", jak twierdzą jego krytycy, czy początek (a właściwie kolejna odsłona) rewolucji technologicznej, której skutki trudno nam teraz przewidzieć?

Myślę, że jedno nie wyklucza drugiego. W chwili obecnej jest to w dużym stopniu zarówno "maszyna do generowania bzdur", jak również bardzo jasny i silny sygnał zapowiadający nadchodzącą rewolucję. Co więcej, to że ChatGPT i inne generatywne silniki AI nie są doskonałe, nie oznacza, że ich osiągnięcia nie są już teraz niezwykle imponujące. W moim odczuciu jakość tych generowanych zdań jest jak dotąd niespotykana.

Wspólnie z profesor Aleksandrą Przegalińską napisaliśmy książkę dla Cambridge University Press, korzystając przy tym z GPT-3. Książka dotyczy wykorzystywania sztucznej inteligencji w strategii biznesowej i w edukacji. Zasadniczo próbujemy w tej książce przekazać, że nie ma ucieczki od sztucznej inteligencji, więc musimy się z nią oswoić. Co więcej, wydaje mi się, że gdy zaczniemy traktować ją jako narzędzie, z którego wszyscy korzystają (tak jak wszyscy używamy teraz procesorów tekstu czy narzędzi do sprawdzania pisowni), to doprowadzi to do powstawania artykułów czy prac naukowych lepszej jakości. Konkurencja będzie wyrównana i nie będzie się liczyło to, czy używamy tej technologii czy nie, tylko jak skutecznie potrafimy przekazywać swoje myśli z jej wykorzystaniem.

Co zresztą zweryfikuje pewne rzeczy, np. to, że prace zadawane studentom nie zawsze miały sens. Skoro teraz studenci są w stanie wykorzystywać GPT-3 albo ChatGPT do tego, żeby generować prace, które spełniają kryteria zaliczające, to nie sądzę, żeby był to sygnał świadczący źle o studentach – tylko raczej o tym, w jaki sposób te prace są sprawdzane i czego się od nich wymaga. W moim odczuciu nie należy wymagać od studentów i studentek jedynie umiejętności pisania w sposób gramatyczny, tylko raczej należy wymagać oryginalnego tworzenia myśli i syntezowania zdobytej wiedzy i sprawdzać je raczej nie w formie pisanych w domu esejów.

Skoro mówi pan, że powinniśmy się z tą technologią oswoić, to chciałbym zapytać o największe obawy z nią związane. Jedna z nich jest taka, że rozwój generatywnej sztucznej inteligencji może prowadzić do pogłębiania się kryzysu dezinformacji. ChatGPT nie nadaje się w tej chwili do fact-checkingu, pytany o konkretne osoby czy fakty bardzo często tworzy swoje kreatywne odpowiedzi niezgodne z rzeczywistością.

Oczywiście, jednakże kryzys dezinformacji nie zaczął się wczoraj i nie zaczął się od generatywnej AI. Wykorzystanie botów do zwiększania aktywności czy propagowania dezinformacji to zagadnienia, którymi zajmuje się badawczo od lat i które od dawna są poważnym problemem. Nie wydaje mi się, żeby w tej kwestii to był ultymatywny skok jakościowy, natomiast rzeczywiście bardzo ułatwi to generowanie odpowiedzi na wpisy czy tworzenie pozorów dużego poparcia dla pewnych pomysłów. To, co kiedyś wymagało zaangażowania ludzi, którzy w złej woli zamieszczali różne komentarze, teraz będzie o wiele łatwiejsze. Dezinformacja stanie się znacznie tańsza w realizacji.

Natomiast nie podkreślałbym tak bardzo samych negatywów. Proszę pamiętać, że ta technologia jest na bardzo wczesnym etapie (de facto są to dość zaawansowane prototypy, a nie docelowe produkty), a już świetnie radzi sobie np. z kodowaniem. To pokazuje nam, że także w programowaniu będzie liczyło się algorytmiczne myślenie i precyzyjne formułowanie, a nie samo kodowanie.

I tym samym dochodzimy do kolejnej obawy: wypieranie całych grup zawodowych przez AI i powstanie mas "ludzi zbędnych" na rynku pracy.

Na pewno trzeba się spodziewać gwałtownych zmian i tego, że pewne zawody mogą zanikać. Już obecne technologie sprawiają, iż nie ma potrzeby, żeby ludzie pisali podsumowania wyników sportowych czy proste komunikaty giełdowe. A czy pojawią się nowe zawody? Proszę zauważyć, że już teraz mamy mnóstwo zbędnych zawodów, ale system kapitalistyczny opiera się na założeniu, że jeszcze mniejszy sens ma to, żeby większość ludzi nie pracowała, bowiem gospodarka napędzana jest przez konsumpcję. Musiałaby więc nastąpić radykalna zmiana systemu, idąca w kierunku jakiejś formy gospodarki socjalistycznej, albo przynajmniej uniwersalnego dochodu podstawowego, żeby to miało ręce i nogi. Myślę więc, że będziemy jednak świadkami kontynuacji obecnego trendu: tworzenia miejsc pracy, które może i niekoniecznie mają sens. Nie mieliśmy jeszcze w historii sytuacji, żeby postęp technologiczny wyeliminował trwale dużą grupę ludzi z rynku pracy.

Ostatnie pytanie odnośnie obaw: AI wytrenowana na wielkich zbiorach danych reprodukuje także zawarte w nich ludzkie uprzedzenia. Czy myśli pan, że możliwa jest inna droga rozwoju AI: nauczanie oparte o mniejsze zbiory, lecz o wysokiej jakości? Może to zadanie dla cyfrowych etnografów przyszłości: nie tylko badanie internetowych społeczności, ale też relacji człowieka z maszyną i praca nad doborem i selekcją materiału do trenowania sztucznej inteligencji?

Algorithmic bias to realny i zbadany problem, któremu nie da się zaprzeczyć. Wspólnie z doktor Anną Górską badamy teraz to, na ile stereotypy płciowe przenikają do generatywnej AI tworzącej grafiki i jesteśmy zdecydowanie porażeni skalą tych uprzedzeń. Czy jednak zejście do mniejszych zbiorów danych pomoże? I tak, i nie. Do treningu AI potrzebujemy naprawdę bardzo dużych zbiorów danych – mówiąc "bardzo duże zbiory", mam na myśli dużą część zasobów internetu, to tego rodzaju skala. Nie spodziewałbym się więc, że ograniczanie ilości danych pomogłoby, nie odbijając się przy tym na jakości generowanych treści. To co może pomóc, to tworzenie dyrektyw kierunkowych, czyli określenie pożądanego rezultatu: trening z celową eliminacją pewnych typów uprzedzeń, które jesteśmy w stanie zidentyfikować. Co oznacza niestety, że będziemy w stanie eliminować tylko i wyłącznie te uprzedzenia, które bardzo precyzyjnie określimy – a wiele innych pozostanie. Źródła, na których trenowana jest AI, odzwierciedlają współczesne społeczeństwa ze wszystkimi ich przywarami. Nie ma co się czarować, te uprzedzenia istnieją, a to, że dopiero teraz dowiadujemy się o tym, że król jest nagi, nie oznacza, że wcześniej tak nie było.

Chciałbym zwrócić uwagę na jeszcze jedną rzecz. Pewnym istotnym problemem wykorzystania tak dużych zbiorów danych jest to, że autorzy i autorki oryginalnych treści nie są uwzględniani w wynikach. Jeśli spojrzymy np. na Wikipedię, to powstaje poważny problem. Wszystkie te modele intensywnie uczą się w oparciu o nią, dlatego że jest to dobrze opracowany zbiór zweryfikowanych i sprawdzonych danych. Bardzo wiele odpowiedzi przygotowanych przez ChatGPT będzie używało treści z Wikipedii jako surowca. Natomiast Wikipedia nie jest podana jako źródło, więc powstaje pytanie: czy to jest w ogóle zgodne z licencją i czy to jest etyczne? Przecież Wikipedia rozwija się nie tylko dlatego, że ludzie ją czytają, ale przede wszystkim dlatego, że do niej piszą. Samo zaglądanie na Wikipedię w końcu zachęca wielu czytelników do tego, żeby ją współtworzyć. Jeśli wszyscy będą używali interfejsu ChatGPT lub podobnego, to skończy się to tym, że Wikipedia będzie popadać w ruinę; będzie coraz gorszym źródłem informacji dlatego, że ludzie nie będą jej rozwijać. Wikipedia jest bliskim mi tematem, ale ten problem jest oczywiście szerszy i dotyczy wszystkich form twórczości.

A myśli pan, że w jaką stronę to będzie szło: czy zaczniemy inaczej myśleć o kwestii praw autorskich, czy to pora na nowe regulacje prawne? I czy w ogóle prawo będzie w stanie za tym nadążyć?

Co do tego, czy prawo nadąży, mam poważne wątpliwości: tendencja do tej pory była raczej taka, że kwestie dotyczące praw autorskich bardzo wolno nadążały za trendami. Prowadziłem badania dotyczące akceptacji piractwa przez prawników z Harvardu i okazało się, że te osoby (zazwyczaj bardzo uprzywilejowane i bogate) kompletnie nie miały nic przeciwko temu, żeby ludzie na własny użytek dzielili się plikami medialnymi. Nie podobało im się tylko dzielenie się plikami dla zarobku. Także to, co wydarzyło się w Europie z ACTA 2, czyli z regulacją, która bardzo ograniczyła możliwość przetwarzania czy remiksowania dóbr kultury, było moim zdaniem krokiem w złym kierunku. A stało się tak głównie dlatego, że była to walka starszych korporacji z młodszymi korporacjami (wydawcy walczyli z Google i jemu podobnymi o wpływy), a interesami konsumentów nikt się specjalnie nie przejmował.

Natomiast warto zauważyć, że niedawna decyzja amerykańskiego urzędu patentowego, mówiąca o tym, że produkty generatywnej AI są z definicji w domenie publicznej (bo, podobnie jak np. dzieła stworzone przez zwierzęta, nie mają przypisywalnego autora) to krok w dobrym kierunku.

Teraz AI napędza rywalizację rynkowych gigantów i wiele wskazuje na to, że kolejne odsłony tych technologicznych nowinek poznamy za sprawą Microsoft czy Google. A co z rozwojem otwartego oprogramowania? Jeszcze nieco ponad dekadę temu wydawało się, że będzie to wiodący trend: choćby dlatego, że Wikipedia podbiła rynek encyklopedii internetowych, a Firefox był jedną z najpopularniejszych przeglądarek. Część badaczy sądziła wtedy nawet, że uwolnienie technologii będzie miało potencjał do przekształcenia kapitalizmu w stronę systemu opartego bardziej na dzieleniu się i współpracy.

Tak, była taka teza Yochaia Benklera, którego bardzo szanuję, ale uważam, że w tym wypadku niestety przemawiała przez niego pewna naiwność (zawarł ją co prawda w książce wydanej w 2006 roku, czyli w zupełnie innej epoce). Myślę zresztą, że wyrażał w tym pewne marzenie, a nie obserwację kierunku, w którym zmierza świat. Byłoby pięknie, gdyby tak się stało, ale świat jednak nie jest tak wspaniale zorganizowany. Co więcej, wspólnie z Tadeuszem Chełkowskim prowadziliśmy badania projektów otwartego oprogramowania opartych na dużych zbiorach danych i te wyniki były dość ciekawe: okazało się, że wielkie projekty open source mają koniec końców coraz wolniejsze tempo rozwoju. Sygnalizuje to, że postępy, które mieliśmy kiedyś – nowe przeglądarki, nowe systemy operacyjne czy nowe pakiety biurowe – to już jest raczej pieśń przeszłości. To się wówczas udawało dlatego, że te wielkie korporacje miały jeszcze wtedy mniejszą zdolność operacyjną. Potem zaś korporacje nauczyły się wykorzystywać to, co jest najlepsze w open source, lecz open source nie nauczył się wykorzystywać tego, co jest najlepsze w korporacjach – choćby ich kompetencji związanych z optymalizacją produkcji.

Weźmy przykład Ubera: moglibyśmy spekulować sobie, że fajniej byłoby, gdyby na przykład ludzie zrzeszeni w kooperatywach udostępniali sobie przejazdy. Z pewnością, tylko zarządzanie kooperatywą nie jest takie proste. A w wielu aspektach korporacje są skuteczniejsze w realizacji swoich biznesowych celów.

Ostatecznie konsument jest dość indyferentny: zwykły człowiek ma w nosie, czy korzysta z Google Maps, Quora czy z Wikipedii. Chce mieć po prostu dane, które są za darmo. Ludzie nie zastanawiają się zazwyczaj nad tym, że Google czy Quora (poza tym, że robią wiele użytecznych rzeczy) są korporacjami, które mają swoje konkretne interesy. Gdy jakiś projekt Google nie będzie przynosił pożądanych korzyści, to firma może w każdej chwili go zamknąć.

Wikipedia to projekt z misją społeczną, więc nie jest dla nas problemem tworzenie projektu w kilkuset językach, co nie byłoby opłacalne z biznesowego punktu widzenia. Nie jest dla nas problemem to, że pójdziemy na noże z rządem jakiegoś kraju, który będzie blokował dostęp do naszych usług (a jest to sytuacja, która występuje obecnie w kilku krajach świata), bo naszym nadrzędnym celem jest dostęp do rzetelnej wiedzy. Ale ludzie z reguły nie myślą w takich kategoriach i pomijają istotny aspekt tego, co organizacje open source i non profit mogą im dać.

Pewne analogie do idei open source możemy znaleźć w ruchu nauki obywatelskiej czy też nauki w duchu DIY. Jak ocenia pan prognozy jej rozwoju? Czeka nas wysyp domowych laboratoriów?

Cały ten ruch nauki obywatelskiej to piękna idea. Skupiłbym się na jego sukcesach, bo łatwo jest krytykować ruch "zrób to sam", gdy skoncentrujemy się na odstępstwach: ryzykownych eksperymentach na swoim ciele czy innych nieetycznych praktykach medycznych, które mogą doprowadzić np. do wyhodowania groźnego wirusa. Warto pamiętać, że na naukę obywatelską składają się także działania, które ludzie robią czasem, wcale nie myśląc o tym, że współtworzą naukę. Proszę zauważyć ogromny sukces ruchu antysmogowego w Polsce – wziął się przede wszystkim z tego, że ludzie w ramach nauki obywatelskiej zaczęli masowo konstruować i instalować czujniki smogu. To dlatego ten problem w ogóle wypłynął i dlatego udało się przebić z tymi informacjami do władz lokalnych – zebrano dane, których wcześniej nie było. Zatem ten ruch nauki obywatelskiej ma niezaprzeczalne sukcesy na wielu polach – walka ze smogiem to tylko jeden z przykładów z polskiego podwórka, który dobrze znamy, ale jest ich znacznie więcej – choćby wykrywanie trzęsień ziemi czy dystrybucja maseczek i tworzenie respiratorów z drukarek 3D w czasie pandemii COVID-19.

Czy to jest przyszłość? Wszystko zależy choćby od tego, jak np. będzie kształtował się rynek drukarek 3D. Czy będą one na tyle dostępne, że będziemy korzystać z domowych drukarek lub z miejsc działających na zasadzie punktów ksero, w których będziemy mogli wydrukować przedmiot własnego projektu? Czy raczej będzie tak, że to producenci będą bezpośrednio transmitować zaszyfrowane blueprinty, których nie będziemy w stanie w żaden sposób zhackować czy odtworzyć?

Na pewno ruch nauki obywatelskiej będzie się rozwijał ze względu na to, że dostęp do narzędzi jest coraz prostszy. Gdy teraz rozmawiamy, mam przed sobą sprzęt, który umożliwia tworzenie półprofesjonalnych videocastów czy podcastów i jest to sprzęt, który można kupić za kilka tysięcy złotych. Kiedyś tego rodzaju sprzęt kosztowałby setki tysięcy złotych, więc mało kto byłby w stanie sobie na coś takiego pozwolić. Dostęp do radykalnie tańszych technologii, radykalnie tańszych sposobów radzenia sobie z biohackingiem i wszelkiego rodzaju innowacjami technologicznymi spowoduje, że ludzie, którzy nie mieliby wcześniej takich możliwości, będą mogli naukowo "majsterkować" w ramach zwykłego hobby. Oczywiście, opowieści o tym, że ktoś sobie w garażu będzie edytował ludzki genom, możemy na dziś włożyć między bajki, bo to jest zupełnie inna liga kosztów. Ale już za cenę dobrego samochodu możemy stworzyć domowe laboratorium, w którym będziemy np. bawili się genomem roślin czy będziemy produkowali fluorescencyjne piwo (co jeden z projektów nauki obywatelskiej robił).

Nie obawiałbym się więc rozwoju nauki obywatelskiej (chociaż tam też mogą pojawiać się projekty, które z punktu widzenia rozwoju nauki będą kontrowersyjne), tylko zupełnie przeciwnego trendu: dezinformacji medycznej, czyli tego, że ludzie w ogóle przestają interesować się nauką i wierzą w zupełne mumbo-jumbo. Byłbym w stanie bardziej zrozumieć to, że osoba, która według lekarzy klasyfikuje się jako przypadek nieuleczalny, zacznie w nadziei na uratowanie życia eksperymentować na własnym ciele w domowym laboratorium niż to, że ktoś odstawia chemioterapię, żeby leczyć się kryształkami czy lewoskrętną witaminą C.

To rodzi kolejne pytanie, choć obawiam się, że prawdopodobnie nie znajdziemy na nie łatwej odpowiedzi: czy kryzys zaufania do wiedzy naukowej jest możliwy do powstrzymania w sytuacji, w której za sprawą rozwoju nowych technologii komunikacyjnych, każdy, nawet najbardziej absurdalny, pogląd może o wiele łatwiej trafić do szerszego grona odbiorców?
To pytanie jest złożone: powinniśmy przecież cieszyć się z tego, że mamy dużo większy dostęp do informacji. To, że ludzie są głodni wiedzy, chcą się dzielić swoimi przemyśleniami, chcą myśleć krytycznie – to też są pozytywy. Tylko niestety media społecznościowe tworzą współcześnie fenomen baniek informacyjnych i tzw. echo chambers. Gdy osoba, która jest umiarkowanie zainteresowana jakimś tematem (na którym niespecjalnie się zna, ale chciałaby poszerzyć swoją wiedzę) zacznie pytać ludzi na forum, to z dużym prawdopodobieństwem możemy założyć, że czeka ją ekspozycja na duże dawki kompletnych nonsensów i informacji niezwiązanych w żaden sposób z nauką. A to może prowadzić do tego, że ta osoba będzie się radykalizować.

To jest duże ryzyko i moim zdaniem nie jest to związane z dostępem do wiedzy, tylko z modelem biznesowym komercyjnych sieci społecznościowych. Jeśli nie wprowadzimy odpowiedzialności sieci społecznościowych za nonsensy, które rozpowszechniają, to nie będziemy w stanie sobie z tym problemem poradzić. Nie jest to więc kwestia dostępu do wiedzy czy rozwoju nauki obywatelskiej. Wspomniana Wikipedia pokazuje świetnie, że jesteśmy w stanie oddolnie tworzyć wiedzę na profesjonalnym poziomie (są nawet badania wskazujące na to, że jakość artykułów na Wikipedii nie odstaje od akademickiego poziomu), ale sieci społecznościowe, które żyją z tego, że rozpowszechnianie nieprawdziwych informacji im się po prostu opłaca, siłą rzeczy wpływają na cały krajobraz.

Prof dr hab. Dariusz Jemielniak – badacz społeczny analizujący m.in. społeczności otwartej współpracy, dezinformację w sieci i ruchy antynaukowe, autor książek m.in. "Życie wirtualnych dzikich" (2013) i "Społeczeństwo współpracy" (2020, wraz z prof. Aleksandrą Przegalińską). Wiceprezes Polskiej Akademii Nauk, kierownik Katedry Management in Networked and Digital Societies (MINDS) w Akademii Leona Koźmińskiego, faculty associate Berkman-Klein Center for Internet and Society na Uniwersytecie Harvarda, członek Rady Powierniczej Wikimedia Foundation.

Język Polish

sztuczna inteligencja