— Pewnie będę miał kłopoty przez to, co powiem, ale uważam, że zbytnio moralizujemy — mówi Peter Thiel o rosnących na świecie obawach, że sztuczna inteligencja może doprowadzić do potencjalnej zagłady ludzkości. Wskazuje przy tym na drugą stronę medalu — co może się stać, jeśli teraz doszłoby dojdzie do zahamowania rozwoju AI. Dla USA i Europy nie jest to optymistyczna perspektywa. perspektywa optymistyczna.
±Całą rozmowę możesz obejrzeć na YouTubie: YouTube:
±Mathias Doepfner: Witaj w Berlinie. W ostatnich latach często poruszałeś problem, który twoim zdaniem polega na tym, że Zachód nie osiągnął wystarczającego postępu ani nie wprowadził wystarczających zmian technologicznych. Mówiłeś nawet o stagnacji. To temat i termin, których obecnie prawie nikt by nie użył. Jest raczej odwrotnie. Ludzie dyskutują o tym, że postęp w dziedzinie sztucznej inteligencji jest zbyt gwałtowny. Co o tym sądzisz? Zmieniłeś zdanie, czy nadal uważasz, że za wolno się rozwijamy?
±Podstawowa teza głosiła, że od lat 70. nastąpiło spowolnienie. Postęp nastąpił w świecie bitów — mówię o komputerach, internecie, potem mobilnym internecie, oprogramowaniu — ale nie tak bardzo na poziomie atomów. Większość dziedzin inżynierii związanych z atomami nie była nawet atrakcyjna dla osób, które chciałyby je studiować. Inżynieria mechaniczna, chemiczna, lotnicza, kosmiczna i jądrowa w latach 80. nie była popularna. Nastąpiło spowolnienie, z różnych powodów. [...]
±Myślę też, że prawdopodobnie sztuczna inteligencja jest prawdopodobnie potężniejsza niż internet i przynajmniej ma potencjał, by ponownie przyspieszyć wzrost wraz ze wszystkimi dobrymi i złymi skutkami, jakie się z tym wiążą.
±Mamy oczywiście wszelkiego rodzaju dystopijne filmy, takie jak "Matrix", "Terminator" i tym podobne. Nie sądzę, by prawdopodobieństwo, że wydarzy się coś takiego, takiego jak to, co przedstawiono w tych filmach, było zbyt wysokie. Z drugiej strony, nawet jeśli prawdopodobieństwo wynosi pięć 5 czy 10 proc., to i tak wydaje się dość niepokojące. Jest więc coś w dyskusji o AI, co ostatecznie skłania ludzi do przyjęcia bardzo defensywnej, ostrożnej postawy.
±Skoro mówimy o prawdopodobieństwie, niedawno przeprowadzono eksperyment, w którym zapytano sześć największych modeli LLM [dużych modeli językowych, czyli zaawansowanych modeli AI], czy istnieje ryzyko zagłady związane ze sztuczną inteligencją. Przewidywany przez nie odsetek wynosił od jednego 1 do 10 proc. Czy uważasz, że wynika to z tego, że modele LLM opierają się na ludzkich lękach i pesymizmie, czy też jest to uzasadniona obawa?
±Załóżmy dla potrzeb dyskusji, że to realna kwestia. Trudno stwierdzić, że prawdopodobieństwo wynosi zero 0 proc. Tak uważam. Ale nie należy wyciągać z tego wniosku, że trzeba działać wolniej [np. wstrzymując rozwój AI] i zawsze kierować się zasadą ostrożności. Bo jeśli nie podejmiemy żadnych działań i nie będzie postępu w żadnym wymiarze, nasze społeczeństwa nie będą funkcjonowały. funkcjonować.
±Często powtarzam, że klasę średnią w Stanach Zjednoczonych i w Europie tworzą właśnie ci ludzie, którzy oczekują, że ich dzieci osiągną więcej niż oni sami, i to właśnie tworzy coś w rodzaju międzypokoleniowego, progresywnego efektu kumulacyjnego. W naszym społeczeństwie z pokolenia na pokolenie zachodził postęp — gospodarczy, materialny, w dziedzinie zdrowia oraz w różnych mniej namacalnych wymiarach społecznych. Kiedy on się załamuje, to całe społeczeństwo zaczyna się dezorganizować w bardzo, bardzo dziwny sposób.
±Ludzie mają w podświadomości pewien obraz, że obraz: alternatywą dla sztucznej inteligencji będzie świat zerowego wzrostu, w którym nie ma żadnego postępu — postępu, a więc w jakiś sposób spokojne, socjaldemokratyczne społeczeństwo. Ale ta alternatywa również jest daleka od neutralności.
±Teoretycznie można by było spowolnić rozwój AI, gdyby istniała prawdziwa, głęboka współpraca na całym świecie. Ale myślę, że wymagałoby to czegoś w rodzaju "jednego światowego rządu" z prawdziwą władzą, prawdziwą siłą. A ta klasycznie liberalna część mnie uważa, że to niemal jak skok z patelni prosto w ogień, jak lekarstwo gorsze od choroby.
±Do tego dochodzi oczywiście ryzyko, że proces [rozwoju AI] zostanie spowolniony na Zachodzie, ale nie w Chinach. Papież opublikował niedawno encyklikę o sztucznej inteligencji — choć ja określiłbym ją raczej jako encyklikę przeciwko sztucznej inteligencji. Może to zbyt ostre stwierdzenie, ale moja retoryczna uwaga na ten temat jest taka, że Komunistyczna Partia Chin nie zamierza słuchać papieża. Istnieje [za to] za to szansa, że ludzie w USA to zrobią. W efekcie więc encyklika papieża działała na korzyść Komunistycznej Partii Chin. Nie twierdzę, że jest on agentem komunistów, ale przynajmniej odegrał rolę pożytecznego idioty dla KPCh.
±Rozmawiałem z dwoma założycielami dużych platform AI i obaj twierdzili, że mają dowody na to, iż Chińczycy rozpowszechniają treści anty-AI, szczególnie za pośrednictwem amerykańskich platform społecznościowych — społecznościowych, ale nie tylko — tylko, aby zmienić nastawienie Amerykanów w kierunku większego sceptycyzmu wobec sztucznej inteligencji i tym samym zwiększyć swoją przewagę. Czy ty też dostrzegasz podobne zjawiska? Czy są na to jakieś dowody? Wierzysz w to?