Yuval Noah Harari: How to Survive the 21st Century- Davos 2020

Yuval Noah Harari: How to Survive the 21st Century- Davos 2020

SUBTITLE'S INFO:

Language: Polish

Type: Human

Number of phrases: 1010

Number of words: 4957

Number of symbols: 30325

DOWNLOAD SUBTITLES:

DOWNLOAD AUDIO AND VIDEO:

SUBTITLES:

Subtitles prepared by human
00:00
-Pozwólcie, że się przedstawię. Jetem Orit Gadiesh. Porządek jest lekko pomieszany, jestem przewodniczącą Bain & Company. Witajcie na sesji "Jak przetrwać w XXI wieku". Pozwolę sobie zacząć stwierdzeniem, że temat nie jest nowy. 18 lat temu Martin Rees, brytyjski astronom, opublikował książkę na ten temat. Stwierdził, że ludzka cywilizacja ma 50% szans na przetrwanie XXI wieku. W ubiegłym roku opublikował kolejną książkę, w której był jeszcze bardziej pesymistyczny. Jako przyczyny tego pesymizmu podał niebezpieczne technologie i katastrofę klimatyczną. Ludzie, którzy, jak ja, mają 30 lat, prawdopodobnie nie przetrwają XXI wieku. Czasami, szczególnie gdy słyszę o takich sprawach jak pożary w Australii, albo, inny przykład, manipulacja naszymi danymi... Z jednej strony cieszę się, ale z drugiej strony, boję się że następne pokolenia mogą doświadczyć jeszcze gorszych rzeczy. Być może nie, jeśli zaczniemy poważnie traktować
01:11
problemy egzystencjalne, które zaczynają rzucać się w oczy. Jest z nami dziś Yuval Noah Harari, autor bestsellerowych książek, w tym ostatniej, "21 lekcji na XXI wiek". Jest historykiem i filozofem. Wiele myślał o trzech wyzwaniach egzystencjalnych: wojnie jądrowej, katastrofie klimatycznej i niebezpiecznych technologiach. Jest z nami również Mark Rutte, również historyk a ponadto od 10 lat premier Holandii. W 2019 roku Światowe Forum Ekonomiczne oceniło konkurencyjność Niderlandów na czwartą na świecie i pierwszą w Europie. Całkiem dobry wynik jak na państwo, które mierzy się z wieloma problemami związanymi z dzisiejszym tematem. Jak wiecie, około 1/3 powierzchni tego kraju znajduje się pod poziomem morza. Niderlandy słyną ze swoich tam. Ostatnio głośna była sprawa chłopca, który próbował samemu uszczelnić jedną z tam tak długo, aż nadeszła pomoc.
02:21
Niestety, nie mamy wystarczająco wiele małych chłopców, żeby poradzić sobie z dzisiejszymi problemami. Jednak myślę, że powinniśmy uczyć się od tego chłopca poświęcenia dla większej sprawy. Yuval podzieli się z nami swoimi przemyśleniami na temat tych problemów. -Dziękuję. Witajcie wszyscy. Mam nadzieję, że wszyscy mnie słyszą. Jeśli nie, dajcie znać. Wkraczając w trzecią dekadę XXI wieku, ludzkość mierzy się z tyloma problemami, że ciężko stwierdzić, na których należy się skoncentrować. Chciałbym, żebyśmy przez następne 20 minut, spośród tych wszystkich wyzwań które stoją przed nami, wybrali i skoncentrowali się na trzech, które są kluczowe dla przetrwania naszego gatunku. Są to mianowicie: wojna jądrowa, zmiany klimatyczne i niebezpieczne technologie. Na nich powinniśmy się skoncentrować. Zagrożenia wojną jądrową i katastrofą ekologiczną, nie są nam obce. Pozwólcie więc, że poświęcę trochę czasu,
03:33
żeby przybliżyć to nieznane zagrożenie: niebezpieczne technologie. Tu, w Davos, usłyszeliśmy wiele obietnic o możliwościach technologii. Z całą pewnością technologia jest bardzo obiecująca. Jednak może być też niebezpieczna dla ludzkiego społeczeństwa i sensu naszego życia. Objawia się to na wiele sposobów: od stworzenia klasy ludzi bezużytecznych, do początku ery kolonializmu danych i cyfrowych dyktatur. Początkowo prawdopodobnie doświadczymy postępu społecznego i ekonomicznego. Jednak automatyzacja wkrótce zniszczy miliony miejsc pracy. Z całą pewnością powstaną nowe zawody; jednak nie możemy być pewni, że ludzie odpowiednio szybko przyswoją nowe, potrzebne umiejętności. Wyobraźcie sobie, że jesteście pięćdziesięcioletnim kierowcą tira, który właśnie został zastąpiony autonomicznym samochodem.
04:39
Istnieją nowe zawody. Możecie zostać informatykami lub być trenerem jogi. Ale czy 50-letni kierowca tira jest w stanie nauczyć się informatyki albo jogi? A jednak ludzie będą musieli to robić. I to nie raz, ale ciągle podczas swojego życia, ponieważ rewolucja technologiczna nie będzie pojedynczym wydarzeniem, po którym nastąpi nowy, spokojny rynek pracy. Zamiast tego będzie to niekończący się ciąg coraz większych fluktuacji, ponieważ AI jeszcze długo będzie się rozwijać. Wszystkie znane nam zawody znikną, powstaną nowe, które również po jakimś czasie znikną. W przeszłości, ludzie musieli radzić sobie z wyzyskiem. W XXI wieku naszym największym zmartwieniem będzie bezużyteczność.
05:45
Znacznie gorzej jest być bezużytecznym niż wyzyskiwanym. Ci którzy nie poradzą sobie ze zmianą, stworzą nową klasę ludzi bezużytecznych. Nie bezużytecznych z punktu widzenia rodziny lub przyjaciół, ale bezużytecznych politycznie i ekonomicznie. Z biegiem czasu przepaść między bezużytecznymi a resztą będzie się tylko powiększać a elita będzie coraz silniejsza. Rewolucja AI może spowodować bezprecedensowy poziom nierówności nie tylko między klasami, ale również między krajami. W XIX wieku kilka krajów, między innymi Wielka Brytania i Japonia, które zindustrializowały się pierwsze, podbiły i eksploatowały większość świata. Jeśli nie będziemy ostrożni, to samo wydarzy się z AI w XXI wieku. Już jesteśmy u progu
06:53
wyścigu zbrojeń AI, w którym główną rolę grają Chiny i USA, a większość świata pozostaje w tyle. Jeśli nie podejmiemy wysiłku sprawiedliwego rozdzielenia korzyści AI między wszystkimi ludźmi, ta technologia, najprawdopodobniej spowoduje powstawanie wielkich majątków w kilku centrach technologicznych, podczas gdy reszta krajów zbankrutuje lub stanie się eksploatowanymi koloniami danych. Nie mówię tu o scenariuszu science-fiction, w którym roboty zbuntują się przeciw ludziom, ale o znacznie bardziej prymitywnym AI, które i tak będzie wystarczająco potężne, żeby zburzyć porządek świata. Pomyślcie co stanie się z krajami rozwijającymi się, gdy taniej będzie produkować tkaniny i samochody w Kalifornii niż w Meksyku. Jak za 20 lat będzie wyglądała
07:59
scena polityczna w waszym kraju, gdy ktoś w San Francisco czy Pekinie będzie znał całą historię medyczną i osobistą każdego polityka, każdego sędziego i każdego dziennikarza w waszym kraju, wliczając w to wszystkie eskapady seksualne, wszystkie słabości psychiczne i wszystkie wzięte łapówki. Czy wciąż będzie to niepodległe państwo, czy już kolonia danych? Gdy masz wystarczająco dużo danych, nie trzeba wysyłać żołnierzy, żeby kontrolować obcy kraj. Oprócz nierówności, innym znaczącym zagrożeniem, które stoi przed nami są cyfrowe dyktatury, które będą obserwowały wszystkich, wszędzie. Można to zagrożenie przedstawić w formie prostego równania, które, moim zdaniem, może być kluczowym równaniem dla wszystkich ludzi w XXI wieku.
09:03
B x C x D = AHH, co oznacza: wiedza biologiczna pomnożona przez moc obliczeniową pomnożona przez dostępne dane równa się umiejętności hackowania ludzi. Jeśli masz wystarczającą wiedzę biologiczną, moc obliczeniową i dane, możesz zhackować moje ciało, mój umysł i moje życie i możesz zrozumieć mnie lepiej niż ja sam siebie rozumiem. Poznasz moją osobowość, poglądy polityczne, preferencje seksualne, problemy psychiczne, moje największe lęki i nadzieje. Wiesz o mnie więcej niż ja sam. Możesz tak zrobić nie tylko ze mną, ale z każdym. Będzie to system, który rozumie nas lepiej niż my sami, może przewidzieć nasze decyzje i emocje, zmanipulować je i, ostatecznie, podejmować decyzje za mnie.
10:10
W przeszłości wiele tyranów i rządów chciało to osiągnąć, ale żaden z nich nie rozumiał w wystarczającym stopniu biologii i żaden z nich nie miał wystarczającej mocy obliczeniowej i danych, żeby zhackować miliony ludzi. Nie potrafiło tego zrobić ani gestapo, ani KGB. Ale już niedługo przynajmniej niektóre rządy i korporacje będą w stanie systematycznie hackować ludzi. Powinniśmy się przyzwyczaić do myśli, że nie jesteśmy już niezbadanymi duszami, ale hackowalnymi zwierzętami. Tym jesteśmy. Oczywiście, umiejętność hackowania ludzi może zostać użyta w szczytny sposób, na przykład w medycynie. Jednak jeśli ta technologia wpadnie w ręce XXI-wiecznego Stalina, konsekwencją będzie najgorszy system totalitarny w historii. Już teraz mamy kilku pretendentów do miana XXI-wiecznego Stalina.
11:18
Wyobraźcie sobie Koreę Północną za 20 lat. Każdy będzie musiał nosić opaskę biometryczną, która będzie bezustannie monitorowała ciśnienie krwi, rytm serca i aktywność umysłową. Będziesz słuchał przemówienia przywódcy, a on już wtedy będzie wiedział co czujesz. Możesz uśmiechać się i bić brawo, ale jeśli wewnątrz gotujesz się ze złości, jutro skończysz w gułagu. Nie myślcie, że, jeśli pozwolimy na powstanie takich systemów, to bogaci i wpływowi ludzie jak wy będą bezpieczni. Spytajcie tylko Jeffa Bezosa. W Rosji Radzieckiej, KGB monitorowało członków elity rządzącej bardziej niż kogokolwiek innego. Tak samo będzie w przyszłości. Całkowita inwigilacja reżimów, w której najwyżej postawieni w hierarchii są najuważniej obserwowani. Czy chciałbyś, żeby twój szef lub prezydent wiedział co naprawdę o nich myślisz? W interesie całej ludzkości,
12:29
w tym samej elity, jest zapobiec takim cyfrowym dyktaturom. A przy okazji, jeśli dostaniecie jakiegoś podejrzanego maila od jakiegoś księcia, nie otwierajcie go. Nawet jeśli uda nam się zapobiec powstaniu cyfrowych dyktatur, umiejętność hackowania ludzi może podważyć samą ideę ludzkiej wolności. W miarę jak ludzie będą powierzali coraz więcej swoich decyzji AI, władza przejdzie z naszych rąk do algorytmów. To już się dzieje. Już dzisiaj miliardy ludzi ufa algorytmom Facebooka w wyszukiwaniu nowości, algorytmom Google'a w szukaniu prawdy, Netflixowi w wyszukiwaniu rozrywki, a Amazonowi i Alibabie w zakupach. W niedalekiej przyszłości podobne algorytmy mogą nam mówić gdzie powinniśmy pracować, kogo powinniśmy poślubić,
13:40
ale również będą decydować czy dostaniemy pracę, czy dostaniemy pożyczkę i czy bank centralny powinien podnieść stopy procentowe. Jeśli zapytasz o powód, dla którego nie dostałeś pożyczki lub dlaczego bank nie podniósł stóp procentowych, odpowiedź zawsze będzie taka sama: ponieważ komputer tak zadecydował. A skoro umysł ludzki nie posiada wystarczającej wiedzy biologicznej, mocy obliczeniowej i danych, ludzie zwyczajnie nie będą w stanie zrozumieć decyzji komputerów. Nawet w teoretycznie wolnych krajach ludzie najprawdopodobniej stracą kontrolę nad własnym życiem i zdolność rozumienia polityki. Nawet teraz ile ludzi naprawdę rozumie system finansowy? Może 1%, w najlepszym przypadku. A za kilka dekad liczba ludzi, którzy rozumieją system finansowy, osiągnie
14:48
dokładnie 0. Często myślimy o życiu jako o teatrze podejmowania decyzji. Jaki będzie sens życia, gdy większość naszych decyzji zostanie przejęta przez algorytmy? Nie mamy nawet filozoficznych modeli, żeby zrozumieć taką egzystencję. Zazwyczaj relacja między filozofami a politykami wygląda tak, że filozofowie mają mnóstwo górnolotnych pomysłów, a politycy cierpliwie tłumaczą, że te pomysły są niewykonalne. Obecnie sytuacja jest odwrotna. Nasza filozofia bankrutuje. Bliźniacze rewolucje technologii informatycznych i biotechologii dają politykom i biznesmenom możliwość stworzenia na ziemi raju lub piekła. Jednocześnie filozofowie nie radzą sobie z wyobrażeniami jak będą one wyglądać. To bardzo niebezpieczna sytuacja.
16:00
Jeśli nie zdobędziemy odpowiednio wcześnie wizji raju, możemy zostać łatwo oszukani przez fałszywe utopie. A jeśli nie zrozumiemy wizji piekła, możemy zostać w nim uwięzieni bez drogi wyjścia. Wreszcie, technologia może zmienić nie tylko ekonomię, politykę i filozofię, ale również biologię. W najbliższych dekadach AI i biotechnologia dadzą nam prawie boskie umiejętności do zmieniania żyjących istot, a nawet tworzenia nowych form życia. Po 4 milionach lat biologicznej ewolucji życia, stoimy u progu nowej ery życia nieorganicznego, kształtowanego przez inteligentny projekt. Nasz inteligentny projekt będzie nową siłą napędową ewolucji. Używając takich boskich umiejętności do tworzenia nowego życia, możemy popełnić
17:06
niewiarygodne błędy. W szczególności rządy, korporacje i armie prawdopodobnie użyją tej technologii, żeby wzmacniać w ludziach pożądane cechy, takie jak inteligencja i dyscyplina, zaniedbując jednocześnie inne ludzkie cechy, takie jak współczucie, wrażliwość artystyczna i duchowość. Może to doprowadzić do powstania bardzo inteligentnej i bardzo zdyscyplinowanej rasy ludzi, ale pozbawionej współczucia, wrażliwości artystycznej i głębi duchowej. Oczywiście, to nie jest przepowiednia. To tylko możliwości. Technologia niczego nie determinuje. W XX wieku ludzie korzystali z technologii przemysłowych do budowy różnych rodzajów społeczeństw: faszystowskich dyktatur, komunistycznych reżimów i liberalnych demokracji. Tak samo będzie wyglądał XXI wiek. AI i biotechnologie z całą pewnością zmienią świat, ale możemy użyć ich, żeby stworzyć bardzo różne społeczeństwa.
18:18
Jeśli któraś z wymienionych przeze mnie możliwości cię przeraża, możemy jeszcze to zmienić. Ale żeby to zrobić, musimy współpracować globalnie. Wszystkie 3 egzystencjalne wyzwania, które stoją przed nami są problemami światowymi, które wymagają rozwiązań na skalę światową. Każdemu przywódcy, który twierdzi, że jego kraj jest najważniejszy, powinniśmy przypomnieć, że żaden pojedynczy kraj nie jest w stanie zapobiec wojnie jądrowej lub zmianom klimatycznym. Żaden kraj nie jest w stanie samemu uregulować AI i bioinżynierii. Praktycznie każdy powiedziałby: "Hej, nie chcemy rozwijać zabójczych robotów albo inżynierii genetycznej na dzieciach. My jesteśmy tymi dobrymi! Ale nie możemy ufać naszym rywalom, więc musimy zrobić to pierwsi." Jeśli pozwolimy na taki wyścig zbrojeń na polach takich jak AI i bioinżynieria, nie ma znaczenia
19:26
kto go wygra, bo przegra ludzkość. Niestety, właśnie dziś, gdy potrzebujemy międzynarodowej współpracy bardziej niż kiedykolwiek, niektórzy potężni przywódcy i kraje celowo podważają wartość międzynarodowej współpracy. Ludzie tacy jak prezydent Stanów Zjednoczonych twierdzą, że jest wewnętrzna sprzeczność między nacjonalizmem i globalizmem oraz że powinniśmy wybrać nacjonalizm i odrzucić globalizm. Ale to wielki błąd. Nie ma sprzeczności między nacjonalizmem i globalizmem, ponieważ nacjonalizm nie opiera się na nienawiści wobec obcokrajowców. Nacjonalizm opiera się na trosce o swoich rodaków. W XXI wieku troska o bezpieczeństwo i przyszłość rodaków oznacza współpracę z obcokrajowcami. W XXI wieku dobrzy narodowcy muszą być globalistami.
20:36
Globalizm nie oznacza ustanawiania rządu globalnego, zapominania tradycji narodowych lub otwierania granic na nieograniczoną imigrację. Globalizm oznacza zaangażowanie w niektóre zasady globalne. Zasady, które nie przeczą wyjątkowości każdego narodu, a jedynie regulują stosunki między narodami. Dobrym modelem takiego systemu są Mistrzostwa Świata w piłce nożnej. Mistrzostwa świata są zawodami między narodami, podczas których ludzie często okazują ogromną lojalność swojej drużynie narodowej. Jednocześnie Mistrzostwa Świata są niesamowitym pokazem międzynarodowej harmonii. Francja nie może zagrać meczu z Chorwacją, o ile obie nie zgodzą się na te same zasady. Tak wygląda globalizm w praktyce. Jeśli lubisz oglądać Mistrzostwa Świata, już jesteś globalistą.
21:42
Miejmy nadzieję, że kraje będą w stanie zgodzić się na uniwersalne zasady nie tylko w piłce nożnej, ale również w kwestiach środowiskowych, niebezpiecznych technologii i globalnych nierówności. Jak, na przykład, sprawić, że AI będzie służyć meksykańskim pracownikom włókienniczym, a nie tylko amerykańskim informatykom? Oczywiście, będzie to znacznie trudniejsze niż piłka nożna, jednak nie niemożliwe. Ponieważ niemożliwe... Już osiągnęliśmy niemożliwe. Wydostaliśmy się z dżungli agresji i przemocy, w której żyliśmy przez całą historię. Przez tysiące lat ludzie żyli prawem dżungli w stanie wszechobecnej wojny. Prawo dżungli stanowiło, że każde dwa sąsiadujące ze sobą państwa prawdopodobnie, w przeciągu roku, znajdą się w stanie wojny.
22:52
Pod tym prawem pokój był tylko tymczasową przerwą od wojny. Pokój między, na przykład Spartą i Atenami lub Francją i Niemcami, oznaczał, że w tym momencie nie są one skonfliktowane, ale za rok już mogą. Przez tysiące lat ludzie zakładali, że od tego prawa nie da się uciec. Ale przez ostatnie kilka dekad ludzkość osiągnęła niemożliwe. Złamała to prawo i uciekła z dżungli. Zbudowaliśmy liberalny porządek świata oparty na zasadach, który pomimo wielu wad przyczynił się do początku najbardziej obfitej i pokojowej ery w historii ludzkości. Samo znaczenie słowa "pokój" uległo zmianie. Nie oznacza już tymczasowego braku wojny. Oznacza brak prawdopodobieństwa wybuchu wojny. Jest wiele krajów na świecie,
24:03
o których wręcz nie myślimy, że mogłyby za rok rozpocząć wojnę. Na przykład Francja i Niemcy. Nie wyeliminowaliśmy wojen w ogóle. Sam pochodzę z bliskiego wschodu, więc wiem o czym mówię. Jednak nie powinno to zaburzać nam ogólnej perspektywy. W obecnym świecie mniej osób ginie z powodu wojny niż samobójstwa. Proch strzelniczy jest mniej groźny niż cukier. Większość krajów, z pewnymi wyjątkami takimi jak Rosja, nie myślą o podbijaniu swoich sąsiadów. Dlatego większość krajów może pozwolić sobie, żeby wydawać około 2% PKB na obronność, a znacznie, znacznie więcej na edukację i służbę zdrowia. Opuściliśmy dżunglę. Niestety, tak przywykliśmy do tych luksusów, że uznajemy je za oczywiste,
25:11
przez co przestajemy się o nie troszczyć. Zamiast robić wszystko co w naszej mocy, żeby wzmocnić delikatny porządek świata, kraje zaniedbują go, a nawet celowo go podważają. Świat przypomina obecnie dom, w którym każdy mieszka, ale którego nikt nie sprząta. Może przetrwać jeszcze kilka lat, ale jeśli czegoś z nim nie zrobimy, zawali się, a my znajdziemy się z powrotem w dżungli wszechobecnej wojny. Zapomnieliśmy jak ona wygląda, ale, zaufajcie historykom, nie chcecie tam wrócić. Jest znacznie, znacznie gorsza niż sobie wyobrażacie. Owszem, nasz gatunek wyrósł z tej dżungli. Żył tam, a nawet żył całkiem nieźle przez tysiące lat. Ale jeśli wrócimy tam teraz, mając potężną technologię XXI wieku, nasz gatunek prawdopodobnie sam siebie zabije. Oczywiście, nawet jeśli znikniemy, nie będzie to koniec świata.
26:21
Niektórzy przeżyją. Na przykład: szczury. Być może zdominują świat i odbudują cywilizację. Być może te szczury będą się uczyć na naszych błędach. Ale mam wielką nadzieję, że możemy polegać na obecnych tu przywódcach, a nie na szczurach. Dziękuję. -Dziękuję Yuval, to naprawdę wyzywający i skłaniający do myślenia wstęp. Miejmy nadzieję, że jednak wygramy ze szczurami. Chwila dla pana, panie prezydencie. Jesteś szefem rządu odpowiedzialnego za dobrobyt milionów ludzi. Tylko w 2019 podpisałeś wielostronne porozumienia strategiczne w kwestii klimatu i AI. Jesteś również jednym z liderów UE: pierwszej organizacji, która naprawdę myśli o danych oraz prywatności i wyszedłeś z odważną propozycją zielonej inicjatywy opartej nie na strachu, ale na faktycznym postępie. Co sądzisz o przyszłości?
27:41
-Dziękuję. Chciałbym rozpocząć, mówiąc że jestem trochę bardziej optymistyczny. Zawsze jestem naczelnym optymistą , również i tym razem, ponieważ wierzę, że istnieje imperatyw strategiczny, społeczny i ekonomiczny. W pewnym sensie jest to nagłość upewnienia się, że, na przykład sztuczna inteligencja lub kwestia globalnego ocieplenia, na którym możemy się skupić... Jednak odniosę się również do niektórych z wielkich kwestii, które podniosłeś. Dobrze że o nich wspomniałeś, ponieważ trzeba się do nich odnieść. Ale najpierw, dlaczego tak pilna jest sprawa sztucznej inteligencji i zmian klimatycznych? Tych drugich dlatego, że chcemy zmniejszyć ocieplanie naszego świata i odnieść się do kwestii emisji CO2, to jasne.
28:44
Jednocześnie istnieje duży ekonomiczny potencjał na nowe miejsca pracy, na przykład. Widzę to w moim kraju, gdzie pojawiają się nowe inwestycje ze względu na zmiany w kierunku odnawialnych źródeł energii. Jednak oczywiście, potrzeba do tego strategii, potrzeba aktywnego społeczeństwa. Mamy w Holandii bardzo dobre podejście uwzględniania każdego w debacie. Stworzyliśmy w zeszłym roku duże porozumienie klimatyczne, które obecnie wdrażamy. Porozumienie realne i osiągalne, które również tworzy nowoczesne, potrzebne miejsca pracy. Wierzę, że tak samo może być z AI. Możliwości, które stworzą, na przykład badania nowotworów, na przykład rolnictwo precyzyjne z mniejszym śladem węglowym, autonomiczne samochody, transformacja energetyczna... We wszystkich tych polach potrzebujemy sztucznej inteligencji. Wierzę,
29:46
że sztuczna inteligencja jest większym przełomem niż sam internet. Jeśli będziemy z nią właściwie postępować, bo wiele możemy zepsuć. Oznacza to również... Musimy się również skoncentrować na zmianach i adaptacjach klimatycznych. W tym roku, w październiku organizujemy szczyt klimatyczny. Musimy to zrobić biorąc pod uwagę, że 1/3 kraju znajduje się pod poziomem morza. Jak mówimy: Bóg stworzył ziemię, Holendrzy stworzyli Holandię. Musimy pokazać światu jak pracować nad adaptacją klimatyczną. W kwestii sztucznej inteligencji, oczywiście, niezwykle ważne jest żebyśmy unowocześnili system edukacji, który musi zostać przystosowany do współczesnych wyzwań związanych ze sztuczną inteligencją. Potrzebujemy podejścia europejskiego, skoncentrowanego na człowieku, który będzie wyznaczał kierunek naszych działań. Bardzo ważne są, na przykład, standardy w kwestii danych i prywatności. A teraz, wracając do tych wielkich kwestii... Po pierwsze: tak!
30:49
Musimy zakotwiczyć się w wielostronnym systemie światowym. Jednak nie wystarczy ciągle szkalować Trumpa. Nie twierdzę, że to robiłeś, jednak wiem, że na sesjach Davos lubimy szkalować Trumpa. A to nam nie pomoże. On jest prezydentem USA i, moim zdaniem, słusznie odnosi się do spraw związanych z ONZ, NATO, Światową Organizacją Handlu, więc skorzystajmy z tego, że jest prezydentem USA, żeby zmienić te organizacje, ponieważ, jak słusznie powiedziałeś, nie możemy rozwiązać tych kwestii negocjując sam na sam. Strongmani: Trump, Erdogan, Bolsonaro, Xi Jinping, nie są w stanie poradzić sobie z problemami światowymi w tradycyjny sposób. Po drugie, chciałbym zwrócić uwagę na kwestię wolności prasy. Facebook i inne wielkie firmy przyciągają reklamodawców do internetu, co działa na szkodę tradycyjnych
31:50
gazet i agencji informacyjnych. Jednak potrzebujemy dziennikarstwa, żeby na przykład... Wszyscy widzieliśmy ten filmik, na którym Obama mówi bardzo dziwne rzeczy. Jest to sfabrykowany klip, jednak wygląda zupełnie jak prawdziwy Barack Obama. Ktoś powiedział, że podobny klip zostanie wyemitowany w telewizji dzień czy dwa przed wyborami tym razem z innymi znanymi politykami na ekranie... W Internecie albo telewizji. Może to mieć ogromny wpływ na wybory. Potrzebujemy wolnej prasy, żeby tłumaczyć ludziom co naprawdę się dzieje. To kosztuje, więc jeśli mogę coś doradzić obecnym tu przedstawicielom wielkich biznesów: nie reklamujcie się jedynie w internecie. Upewnijcie się, że nasze gazety, nasze agencje informacyjne i nasze stacje telewizyjne będą w stanie w przyszłości utrzymać rzetelnych dziennikarzy. Wierzę, że to ważne. I na koniec, myślę, że ugruntowana demokracja z całą pewnością pomoże,
32:55
ponieważ ugruntowana demokracja, pozbawiona partyjniactwa, sama w sobie tworzy pewne społeczne tradycje debaty publicznej na temat sprawiedliwości i poglądów. To leży u podstaw naszej ludzkiej natury. Lubimy debatować. Pochodzisz z Izraela. Izrael jest jedną wielką debatą społeczną. Większość ugruntowanych demokracji opierają się na debacie i na kontrastujących poglądach. Musimy uczyć młodych ludzi rozróżniania pomysłów szalonych od realnych tak, żeby mieli własne przemyślenia na ważne tematy społeczne. Ugruntowana demokracja będzie w tej kwestii bardzo pomocna. Dlatego jestem zdecydowany kontynuować ją w Holandii. Dziękuję. -Było to optymistyczne, ale nie dość optymistyczne dla mnie. Mam pytanie do was obu. Obaj wspieracie wolną prasę. Zgadzam się, że technologia robi wiele dobrego
34:00
dla służby zdrowia, wielu innych sektorów i dla demokracji. Jednak technologia wciąż prze do przodu. Gdy przedstawialiście swoje poglądy, do głowy przyszły mi dwie książki napisane w pierwszej połowie XX wieku, które, w pewien sposób, przewidziały przyszłość ludzkości. Jedną był "Rok 1984" George'a Orwella, w którym ludzie byli kontrolowani przez budzącą strach dyktaturę, inwigilacja była wszechobecna, policja myśli wiedziała co myślą obywatele i mogła ich o to oskarżyć. Przypomina to trochę cyfrowe dyktatury, o których mówiliście. Drugą książką, w pewien sposób nawet bardziej przerażającą, jest "Nowy Wspaniały Świat" Huxley'a, gdzie ludzie są wychowywani lub programowani tak, żeby pragnęli dokładnie tego, co państwo może im dostarczyć. Kupują to, co podpowiada im algorytm. Robią to, co algorytm twierdzi że powinni robić. Jest to właśnie ta utopia o której mówiłeś. Swoją drogą, żaden autor nie użył sformułowania "algorytm", ponieważ nie istniało
35:08
ono wtedy w takiej formie, w jakiej my go używamy. Jednak w odróżnieniu od głównych bohaterów tych książek, my wiemy, że jesteśmy manipulowani. Wspomniałeś o tym, mówiąc dlaczego potrzebujemy wolnej prasy. Wspomniałeś o tym, mówiąc o algorytmach. Pytanie brzmi: czy pozwolimy, żeby taki stan rzeczy trwał? Czy powinniśmy, na przykład, wymagać, żeby wszystkie algorytmy podejmujące lub wpływające na decyzje były objęte kontrolą publiczną lub przynajmniej podlegały jakimś regulatorom, którzy są w stanie zrozumieć jak działają i wytłumaczyć to nam? Powiedzcie mi. Powiedzcie mi. -Tylko krótko, wierzę że, koniec końców, to obywatele powinni regulować wspólnie. Na przykład w 1984... - Ale potrzebujemy regulacji na skalę światową. Jak możemy pozwolić, żeby kraje same o tym decydowały? -Jeśli chodzi o regulowanie AI pod kątem ochrony prywatności i danych, owszem, zgadzam się, potrzebujemy regulacji i musimy się upewnić,
36:14
że, na przykład, Unia Europejska jest największą kopalnią danych na świecie. Każdy chciałby wejść w posiadanie tych danych, więc potrzebujemy regulacji. Jednak, koniec końców, najpotężniejszą regulacją są niezależnie myślący ludzie we wszystkich klasach społecznych. To jest podstawa naszego systemu społecznego. Do pewnego stopnia, kwestia manipulowania ludzi i skłaniania ich do konsumpcji nie jest nowa. Nawet w XIX-wiecznych gazetach znajdowały się reklamy skrojone pod preferencje Europejczyków. Nie jest to bardzo odmienne od tego, co dzieje się w dzisiejszych algorytmach internetowych. Oczywiście, było to relatywnie prymitywne, ale idea skierowania wiadomości do konkretnego odbiorcy jest taka sama jak w tradycyjnych mediach w XIX i XX wieku. Jednocześnie chcemy unikać sytuacji takich jak
37:16
Cambridge Analytica, kiedy ludzie mieli wrażenie, że ich aktywność w internecie lub na Facebooku była wykorzystywana do nakierowania na nich wiadomości, które zmanipulowałyby ich preferencje polityczne. Osobiście uważam, że w rzeczywistości nie było to zaawansowane. Jednak oczywiście, to ryzyko istnieje, więc potrzebujemy jakiejś formy regulacji. Jednak nie powinniśmy panikować, ponieważ przesadne regulacje od razu sprowokują pytanie: kto kontroluje regulacje? Ktoś taki będzie miał niesamowitą władzę. -Jeśli mogę być trochę bardziej pesymistyczny, rewolucja AI jest dopiero w powijakach. 5 lat temu nikt nie mówił o AI, za wyjątkiem może kilku naukowców. To co widzieliśmy w 2016 z Cambridge Analyticą jest niczym. Wciąż nie przekroczyliśmy najważniejszej granicy.
38:18
Prawdziwą granicą jest kombinacja AI i biometrii. Obecnie wciąż większość wydobywania danych i hackowania ludzi nie opiera się na wiedzy biologicznej lub danych biologicznych, ale na tym gdzie klikam, gdzie chodzę, co kupuję i tego typu rzeczach. Wszystko to jest zewnętrzne. Prawdziwą granicą jest moment, gdy sensory biologiczne będą wszechobecne a dane zaczną pochodzić z wewnątrz. Wówczas AI będzie w stanie zajrzeć do twojego serca i mózgu, nie tylko twojej karty kredytowej. AI nie jest nawet blisko swojego pełnego potencjału. W niedalekiej przyszłości będzie znacznie bardziej zaawansowane, a co za tym idzie, trudniejsze do uregulowania. Zwłaszcza że, nawet jeśli Unia Europejska ma prawo nakazujące AI wytłumaczenie swojej decyzji, jeśli chciałbym wiedzieć dlaczego, na przykład, zdecydowała się mnie nie zatrudnić.
39:23
To bardzo ważne, ale według mnie dosyć nierealistyczne, ponieważ algorytmy podejmują decyzje w oparciu o ogromne ilości danych. Gdy człowiek odrzuca moją aplikację o pracę, zazwyczaj opiera swoją decyzję na dwóch czy trzech czynnikach, a ja jestem w stanie go zrozumieć. "Hej, jesteś gejem, jesteś żydem, nie chcemy cię." To dyskryminacja, ale jestem w stanie zrozumieć. Ale algorytm... Najważniejszą cechą Big Data jest przetwarzanie dziesiątek tysięcy informacji, z których każda jest małą składową ostatecznej decyzji. Mogę mieć prawo dostępu do tych wszystkich informacji. Dostałbym wówczas wielką, tysiącstronnicową książkę wypełnioną cyferkami o tytule "Dlatego algorytm odrzucił twoją aplikację". Co moglibyśmy zrobić z taką książką? Oznacza to zmianę sposobu, w jaki podejmowane są decyzje. Algorytmy podejmują decyzje w sposób inny niż ludzie.
40:30
-Pozwólcie, że teraz ja przejmę głos. Rozumiem co mówicie i sama chciałabym coś dodać. Obaj jesteście historykami, a historia przepełniona jest imperiami i zawirowaniami. Często zdarza nam się myśleć; "Gdybyśmy tylko wtedy wiedzieli co należy zrobić, świat wyglądałby inaczej." Myślę, że jesteśmy w jednym z takich momentów. Mówimy o wielu rzeczach, takich jak wielostronne porozumienia. Jednak są państwa, które mówią nam, że nie chcą współpracować. Są ludzie, którzy twierdzą, że nie chcą odmawiać sobie dobrobytu. A nie ma regulacji, które by się do tego odniosły. Być może jesteśmy właśnie w tym momencie, kiedy musimy trochę pomyśleć. Ludzie współpracują, gdy mają wspólnego wroga. Mam pytanie do obu z was; mam nadzieję na różne perspektywy. Jak możemy znaleźć wspólnego wroga, rzeczywistego lub wymyślonego? Wiele mówisz o fikcjach, które jednoczą ludzi, religie i narody. Chciałabym spytać najpierw ciebie,
41:40
a potem pana premiera. -W przypadku wojny nuklearnej i katastrofy ekologicznej jest to względnie proste, ponieważ wiadomo, że zagrażają one wszystkim. Na wojnie jądrowej przegra każdy. Ale jest to znacznie trudniejsze w kwestii niebezpiecznych technologii, ponieważ niektórzy ludzie, korporacje i rządy myślą, nie bez powodów, że mogą wygrać wyścig zbrojeń AI. Że będą mogli kontrolować gospodarkę światową lub system polityczny, więc znacznie trudniej ich przekonać, że wszyscy jesteśmy po tej samej stronie. Centralną kwestią są nierówności. Nie martwię się tak bardzo o kraje takie jak Niderlandy. Myślę, że sobie poradzicie. Znacznie bardziej martwię się o kraje takie jak Wenezuela, Brazylia, Indie, Indonezja... Jak one się zmienią za 30 czy 50 lat? Przytoczyłem analogię do rewolucji przemysłowej w XIX wieku, gdy kilka krajów zdominowało i wykorzystywało resztę świata. Teraz może być
42:45
znacznie gorzej, jeśli kilka krajów zdominuje te nowe, boskie siły AI i biotechnologii. Nawet jeśli pomyśleć o Niderlandach i Europie.. Europa nie bierze udziału w wyścigu. Przynajmniej w kwestii AI konkurują tylko Chiny i USA. A żadna z tych dwóch nie jest dobrą opcją, na tyle na ile możemy powiedzieć. USA kilka lat temu przynajmniej mówiły, że chcą być przywódcą świata i pracować na wspólną korzyść. Obecnie zrezygnowały z tej pozycji i otwarcie mówią: "Nie obchodzi nas nikt poza nami samymi." Tak nie zachowuje się przywódca. Nikt nie podąża za liderem, którego motto brzmi "ja przede wszystkim". Myślę, że jest tu szansa... Szansa na przebudzenie się, szczególnie dla Europy, że nie możecie opierać się na USA i że, być może, powinniście stanowić trzecią, niezależną drogę. Ale wkraczając w 2020 rok,
43:51
nie wydaje mi się, żeby którakolwiek z czołowych 20 firm technologicznych była europejska. -Pozwólcie, że przedstawię to z punktu widzenia Europy i biznesu, o co również mnie prosicie. Bardzo ważnym elementem przyszłości będzie sposób w jaki będziemy podejmować decyzje dotyczące technologii. Gdzie ją kupować i jak jej używać. Podczas gdy USA i Chiny mają wielkie platformy i firmy, o których mówią ludzie, Europa jest dość wyjątkowa. Ma technologię 5G i ludzi, dzięki którym 5G działa. W USA nie ma ani jednej firmy, która potrafiłaby to zrobić. Powodem jest, że Europa, w odróżnieniu od USA, uzgodniła uniwersalny format telekomunikacji, a krzywa doświadczenia pomogła w kwestii kosztów i jakości. Wszystkie amerykańskie firmy sprzedane Europejczykom zniknęły. Europa jest zjednoczona. Obecnie mamy Chiny, Koreę i Europę. Moim zdaniem, to jest szansa dla Europy
44:57
na wejście w świat technologii i dokonania zmiany, ponieważ gdy myślimy o przyszłości, ci którzy tworzą i kontrolują 5G, kontrolują infrastrukturę na której wyrasta cała ta technologia o której dzisiaj mówimy. -Nie jestem tak negatywny wobec Ameryki jak niektórzy z was, ponieważ wciąż wierzę, że USA są przywódcą świata liberalnego i nie jestem sobie w stanie wyobrazić rozwiązywania jakiejkolwiek ważnej kwestii bez udziału Ameryki. Niezależnie od tego, kto jest prezydentem. Jednocześnie gospodarka Unii Europejskiej jest o 50% większa niż gospodarka USA i 3 czy 4 razy większa niż gospodarka Chin. Walka między USA i Chinami toczy się nie o pierwsze miejsce, ale o drugie miejsce. Nie zapominajmy o tym. Masz rację, Unia Europejska i kraje europejskie mają wiele innych przewag. Zgodziłbym się również, że kiedy mowa o AI i o tym, co wydarzy się w przyszłości, jak jasno przedstawiłeś to w prezentacji,
45:59
potrzebujemy regulacji i przejrzystości. A żeby mieć globalne standardy w kwestii przejrzystości, która da przynajmniej zrozumienie, że powodem odrzucenia twojej aplikacji był twój kolor skóry lub cokolwiek innego, bez konieczności czytania tysięcy stron cyfrowych danych, potrzebujemy jasno wyznaczonych standardów przejrzystości. To bardzo ważne. Możemy nawet pozwolić korporacjom na włączenie się w negocjacje podczas tworzenia systemu politycznego, który będzie podejmował decyzje. Potrzeba wkładu technologicznego. Jednak jestem bardzo optymistyczny w kwestii tego czy kraje europejskie będą w stanie to zrobić. W Holandii mamy strategię AI. Współpracujemy z firmami technologicznymi z całego świata, żeby stworzyć klastry AI w Niderlandach, ponieważ wiemy, że jeśli chcemy pozostać czwartą najbardziej konkurencyjną gospodarką na świecie i pierwszą w Europie, to jest to kluczowe, ponieważ w ten sposób będzie przebiegać transformacja. Owszem, musimy wziąć pod uwagę ryzyka i wady nowych technologii. Ale jednocześnie,
47:00
żeby nasze społeczeństwo nie zostało w tyle, weźmy pod uwagę również niewiarygodną ilość dobra, do której technologia może się przyczynić w kwestii zdrowia i wielu innych rzeczy, o których powiedziałem wcześniej, ponieważ jestem ekstremalnie optymistyczny co AI może dla nas zrobić, o ile nie będziemy naiwni. Tu masz rację. Oznacza to pracę nad standardami globalnymi, podtrzymywanie liberalnego, międzynarodowego porządku świata, ale również zmiany w wielkich, światowych organizacjach, które obecnie nie funkcjonują poprawnie. -Została nam mniej niż minuta, a powinnam to podsumować. Myślę, że wzięliśmy udział i widzieliśmy dyskusję między filozofem i przywódcą politycznym, którzy próbowali lepiej zobrazować, jak może wyglądać XXI wiek. Było trochę pesymizmu, trochę optymizmu. Myślę, że dużo realizmu w kwestii tego, co powinniśmy zrobić w najbliższym czasie.
48:03
Ważne jest, żeby mówić o takich rzeczach i uświadamiać je sobie. Proszę, podziękujcie ze mną dzisiejszym mówcom.

DOWNLOAD SUBTITLES: