Tytuł oryginału
2084: Artificial Intelligence and the Future of Humanity

Copyright © 2020 by Zondervan
Published by arrangement with HarperCollins Christian Publishing, Inc.
Copyright © for this edition by Fundacja Prodoteo, Warszawa 2023

Redakcja merytoryczna – dr hab. Tomasz Sieczkowski

Redaktor prowadzący – Anna Kaszubowska

Redakcja językowa – Dominika Ziemińska

Korekta – Anna Kaszubowska

Projekt okładki i stron tytułowych – Monika Makowska

Projekt graficzny książki – Stanisław Tuchołka • Panbook.pl

Skład – Kamil Gorlicki

Wydanie 1

ISBN 978-83-67634-24-3 (PDF)
ISBN 978-83-67634-21-2 (EPUB)
ISBN 978-83-67634-22-9 (MOBI)

Fundacja Prodoteo
ul. Rudzka 9 lok. 54
01-689 Warszawa
prodoteo.pl
ebook dostępny na: contragentiles.pl/ksiegarnia

Dedykuję tę książkę wszystkim wnukom, w tym dziesięciorgu moim własnym:

Janie, Grace, Herbie, Freddiemu, Sally, Lizzie, Jessice, Robin, Rowanowi, Jonah i Jessemu, aby pomogła im stawić czoło wyzwaniom świata zdominowanego przez sztuczną inteligencję.

WPROWADZENIE

Książka 2084 stanowi próbę odpowiedzi na pytanie, dokąd zmierza ludzkość w dziedzinie postępu technologicznego, bioinżynierii, a szczególnie sztucznej inteligencji. Czy zdołamy stworzyć sztuczne życie i superinteligencję? Czy ludziom uda się zmodyfikować samych siebie w taki sposób, że staną się kimś zupełnie innym, a jeśli tak, to jakie implikacje światopoglądowe, zwłaszcza jeśli chodzi o istnienie Boga, będzie mieć rozwój sztucznej inteligencji (AI)[1]?

Mam nadzieję, że ten Orwellowski tytuł nie zabrzmi zbyt pretensjonalnie, bo po wpierwsze, moja książka nie jest powieścią dystopijną, a po drugie, nie jestem George’em Orwellem. Tytuł podsunął mi profesor Peter Atkins, kolega z Oksfordu i adwersarz w uniwersyteckiej debacie Czy nauka może wszystko wyjaśnić? To jemu zawdzięczam ten pomysł oraz kilka debat publicznych poświęconych nauce oraz istnieniu Boga.

Jestem niezmiernie wdzięczny kilku innym osobom, w pierwszej kolejności doktor Rosalind Picard z MIT Media Laboratory, za cenne uwagi i obserwacje. Na szczególne podziękowanie zasługują profesorowie David Cranston, Danny Crookes i Jeremy Gibbons oraz doktor David Glass i mój niezawodny asystent badawczy, doktor Simon Wenham.

Z wykształcenia jestem matematykiem i filozofem nauki, a nie specjalistą w dziedzinie sztucznej inteligencji, więc czytelnik, a szczególnie ekspert od AI, może być zdumiony takim wtargnięciem na obcy teren. Śpieszę wyjaśnić, że mam inne intencje. Uważam, że istnieją różne stopnie zaangażowania i stosunku do AI. Są wśród nas pionierscy myśliciele i eksperci piszący programy wykorzystywane w systemach AI. Są inżynierowie konstruujący maszyny i ludzie rozumiejący możliwości systemów AI, którzy pracują nad stworzeniem nowych aplikacji. Na koniec są pisarze, posiadający czasami przygotowanie naukowe, których interesuje znaczenie i wpływ AI – głównie ich socjologiczne, ekonomiczne i etyczne oddziaływanie.

Oczywiście, nie trzeba wiedzieć, jak zbudować pojazd lub broń autonomiczną, aby mieć kompetentny pogląd w kwestii etyki wykorzystania tych narzędzi. Nie trzeba wiedzieć, jak napisać program śledzący zakupy, oparty na systemie AI, aby mieć uzasadnioną opinię w sprawie naruszenia prywatności, którego się on dopuszcza.

Wśród ludzi w różnym stopniu zaangażowanych w AI obserwujemy duże zainteresowanie literaturą popularnonaukową z tej dziedziny, przeznaczoną dla myślącego czytelnika. Moja książka ma właśnie taki charakter, dlatego chciałbym wyrazić wdzięczność wszystkim ludziom, ekspertom z różnych dziedzin, którzy wcześniej podejmowali ten temat.

Rozdział 1

WYKREŚLENIE MAPY

My, ludzie, odznaczamy się nienasyconą ciekawością. Od zarania dziejów zadajemy pytania, szczególnie te doniosłe o pochodzenie i przeznaczenie człowieka: „Skąd jesteśmy i dokąd zmierzamy?”. Znaczenie tych pytań jest oczywiste. Odpowiedź na pierwsze determinuje nasze pojmowanie siebie; odpowiedź na drugie wyznacza cel naszego istnienia. Obie odpowiedzi pomagają nam określić nasz światopogląd oraz narrację nadającą sens ludzkiemu życiu.

Niestety pytania te nie należą do łatwych, czego dowodzi wielość sprzecznych odpowiedzi. Mimo to nie zniechęcamy się. W ciągu minionych wieków ludzie zaproponowali stanowiska podsuwane przez naukę, filozofię, religię lub politykę.

Dwa najbardziej znane futurystyczne scenariusze znajdują się w powieściach Aldousa Huxleya Nowy wspaniały świat z 1931 roku i George’a Orwella Rok 1984, wydanej w 1949 roku. Obydwie książki zajmowały, w różnym czasie, wysokie miejsce wśród najbardziej wpływowych angielskich powieści. Przykładowo, w 2005 roku powieść Orwella została zaliczona przez magazyn „Time” do 100 najlepszych powieści angielskich powstałych w latach 1923–2005. Obydwie powieści to dystopie, czyli według definicji Oxford English Dictionary, utwory „przedstawiające wyobrażone miejsce lub warunki jako w najwyższym stopniu złe”. Jednak złe miejsca, które opisują, są zupełnie różne. Wspomniane rozbieżności, ważne dla naszych dalszych rozważań, zwięźle wyjaśnił socjolog Neil Postman w swojej cenionej książce Zabawić się na śmierć:

Orwell ostrzega, że zostaniemy zniewoleni przez jakąś przemoc pochodzącą z zewnątrz. Tymczasem w wizji Huxleya do pozbawienia ludzi ich autonomii, pełni osobowości i historii niepotrzebny jest żaden Wielki Brat. W jego mniemaniu ludzie pokochają osaczającą ich przemoc, zaczną wielbić technologie, które pozbawiają ich zdolności myślenia.

Orwell lękał się tych, którzy zakażą wydawania książek. Huxley zaś obawiał się, że nie będzie powodu do ustanawiania podobnego zakazu, ponieważ zabraknie kogokolwiek, kto zechce książki czytać. Orwella przerażali ci, którzy pozbawią nas dostępu do informacji. Przedmiotem obaw Huxleya natomiast byli ludzie, którzy dostarczą nam informacji w takiej ilości, że staniemy się bierni i egoistyczni, Orwell bał się, że nasza kultura przeistoczy się w kulturę niewolników. Huxley lękał się, że ogarnie nas kultura. [...] Słowem, Orwell obawiał się, że zniszczy nas to, czego nienawidzimy, Huxley zaś – że to, co uwielbiamy[2].

Orwell wprowadził koncepcje „powszechnej inwigilacji” totalitarnego państwa oraz „kontroli umysłu” i „nowomowy”. Pojęcia te pojawiają się dzisiaj coraz częściej w kontekście rozwoju sztucznej inteligencji (AI), szczególnie w związku z opracowaniem technologii komputerowej zdolnej do wykonywania zadań będących domeną ludzkiego umysłu – krótko mówiąc, ze stworzeniem imitacji umysłu. W naszych czasach inwestuje się miliardy dolarów w rozwój systemów AI, nie dziwi zatem ogromne zainteresowanie tym, do czego ten proces doprowadzi: z jednej strony do poprawy jakości życia dzięki wspomaganiu cyfrowemu, do innowacji w medycynie i udoskonalenia człowieka, z drugiej natomiast do bezrobocia i orwellowskiej inwigilacji społeczeństwa.

W rozwój wydarzeń zaangażował się nawet papież [Franciszek], który we wrześniu 2019 roku ostrzegł, że wyścig w dziedzinie sztucznej inteligencji oraz innych form rozwoju technologii cyfrowych może stworzyć zagrożenie w postaci rosnących nierówności społecznych, jeśli nie będzie mu towarzyszyć ocena etyczna podporządkowana wspólnemu dobru. Powiedział: „Jeśli rozwój technologiczny stanie się przyczyną coraz wyraźniejszych nierówności, nie będzie prawdziwym ani rzeczywistym postępem. Gdyby tak zwany postęp technologiczny okazał się wrogiem wspólnego dobra, doprowadziłby do niefortunnego cofnięcia się do jakiejś formy barbarzyństwa poddanej prawu silniejszego”[3].

Większość dotychczasowych sukcesów w dziedzinie AI wiąże się z systemami wykonującymi jedno konkretne zadanie, do którego realizacji potrzeba zazwyczaj ludzkiej inteligencji. Z drugiej strony, w dziedzinie bardziej spekulatywnych rozważań – przynajmniej obecnie – obserwuje się duże zainteresowanie znacznie bardziej ambitnym przedsięwzięciem polegającym na stworzeniu systemów zdolnych do wykonywania wszystkich czynności ludzkiej inteligencji, to jest ogólnej sztucznej inteligencji[4], która zdaniem niektórych w stosunkowo krótkim czasie ‒ z pewnością do 2084 roku, a może nawet wcześniej ‒ przewyższy ludzką inteligencję. Niektórzy sądzą, że AGI, jeśli zostanie stworzona, będzie pełnić rolę boga, inni uważają, że stanie się totalitarnym despotą.

Zastanawiając się nad sposobem zaprezentowania nowych zagadnień oraz nadziei i lęków, które wzbudzają, pomyślałem o trzech współczesnych książkach, które zdobyły pozycję bestsellerów. Dwie zostały napisane przez izraelskiego historyka Yuvala Noah Harariego: Sapiens. Od zwierząt do bogów[5] (która, jak sugeruje tytuł, zajmuje się pierwszym z naszych pytań, czyli pochodzeniem człowieka) oraz Homo deus. Krótka historia jutra[6] (o przyszłości ludzkości). Trzecia książka, Początek Dana Browna, jest powieścią, podobnie jak książki Huxleya i Orwella. Tematem powieści jest wykorzystanie AI do udzielenia odpowiedzi na oba nasze pytania. Utwór ma formę pasjonującego thrillera, więc przeczytają go prawdopoodbnie miliony ludzi, jeśli wielkie prognozy sprzedażowe Browna okażą się prawdziwe. Niewykluczone zatem, że powieść ta wywrze wpływ na poglądy wielu osób, szczególnie młodych. Ponieważ autor przyznaje, że Początek odzwierciedla jego własne poszukiwania, książka stanowi intrygujący punkt wyjścia dla naszych rozważań.

Chociaż zdaję sobie sprawę, że utwory science fiction stały się punktem wyjścia owocnej kariery naukowej dla niektórych, potrzebne jest w tym miejscu słowo przestrogi. Brown twierdzi, że doszedł do swoich wniosków dzięki wykorzystaniu prawdziwej nauki, ale jego książka zalicza się do fikcji literackiej, trzeba więc zachować ostrożność, badając jego argumenty i wnioski pod kątem ich prawdziwości.

Ma to ogromne znaczenie, ponieważ Brown twierdzi, że głównym motywem, który skłonił go do napisania książki, było udzielenie odpowiedzi na pytanie: „Czy Bóg przeżyje naukę?”. To samo pytanie, w różnych postaciach, zainspirowało mnie do napisania kilku książek. W tej nie tylko dochodzę do wniosku, że Bóg przeżyje naukę, ale stawiam poważne pytanie, czy przeżyje ją ateizm[7].

Jednym z głównych bohaterów Początku Dana Browna jest Edmond Kirsch, miliarder, informatyk i znawca sztucznej inteligencji, który utrzymuje, że znalazł odpowiedź na pytania o pochodzenie życia i przeznaczenie człowieka. Kirsch zamierza wykorzystać rezultaty tych poszukiwań do zrealizowania swojego odwiecznego celu: „Jeszcze za naszego życia religijne mity zostaną zmiażdżone przez odkrycia naukowe”[8], czyli obalenia trzech religii wywodzących się od Abrahama: judaizmu, chrześcijaństwa oraz islamu. W sposób być może nieuchronny koncentruje się na chrześcijaństwie. Rozwiązania, które Kirsch w końcu ujawnia światu, są owocem jego specjalistycznej wiedzy z dziedziny sztucznej inteligencji. Jego wizja przyszłości obejmuje technologiczną modyfikację istot ludzkich.

Na wstępie należy zaznaczyć, że nie tylko historycy i pisarze powieści science fiction, ale także niektórzy z najbardziej szanowanych naukowców sugerują, że ludzkość może zostać zmieniona dzięki technologii. Przykładowo, astronom królewski Lord Rees powiada: „Nie można mieć absolutnie żadnej pewności, że za kilka wieków dominujące istoty inteligentne będzie łączyć z nami jakiekolwiek emocjonalne pokrewieństwo – chociaż będą one mogły posiadać algorytmiczne zrozumienie naszego postępowania”[9].

W tym samym duchu Rees pisze: „Abstrakcyjne myślenie istot wyposażonych w biologiczny mózg leży u podstaw całej naszej kultury i nauki. Jednak aktywność ta – obejmująca w najlepszym razie dziesiątki tysiącleci  – będzie jedynie krótkim prekursorem nieorganicznych istot inteligentnych z ery postludzkiej. W odległej przyszłości to nie ludzkie umysły, ale umysły maszyn będą najpełniej rozumieć kosmos”[10].

Temat ten nie zniknie samoistnie, stanowi bowiem przedmiot zainteresowania nie tylko ludzi bezpośrednio zaangażowanych w badania nad AI, lecz także matematyków i przedstawicieli innych dyscyplin naukowych, których działalność i stanowisko pozostają pod jego coraz silniejszym wpływem. Ponieważ rezultaty i koncepcje związane z badaniami AI oddziałują na nas wszystkich, wielu ludzi piszących i snujących rozważania na ten temat w ogóle nie jest naukowcami. Dlatego ważne jest, aby filozofowie, etycy, teologowie, komentatorzy kultury, pisarze i artyści wzięli udział w szerszej debacie. Nie trzeba przecież być fizykiem atomowym lub klimatologiem, aby uczestniczyć w dyskusji na temat energii jądrowej lub zmian klimatu.

CZYM JEST SZTUCZNA INTELIGENCJA (AI)?

Zacznijmy od robotów. Słowo robot pochodzi od czeskiego (i rosyjskiego) słowa oznaczającego pracę – robota. Robot jest maszyną zaprojektowaną i zaprogramowaną przez inteligentną istotę ludzką do wykonywania zwykle pojedynczego zadania, które wymaga interakcji z fizycznym otoczeniem – zadania, którego wykonanie w normalnych warunkach wymagałoby udziału inteligentnej istoty ludzkiej. W tym sensie działanie tej maszyny imituje ludzką inteligencję. Wywołało to szeroką debatę w sprawie, czy sama maszyna powinna być uznana w jakimś sensie za inteligentną, choć nie w takim znaczeniu, w jakim rozumiemy ludzką inteligencję (co samo w sobie stanowi obszerne zagadnienie).

Termin AI został wprowadzony w 1956 roku podczas zajęć szkoły letniej Wydziału matematyki Dartmouth University, prowadzonej przez Johna McCarthy’ego, który powiedział: „Sztuczna inteligencja to nauka oraz inżynieria zajmująca się wytwarzaniem inteligentnych maszyn”[11]. Obecnie określenie to stosuje się dla zdefiniowania inteligentnych maszyn posiadających określony cel oraz nauki i technologii, które do tego celu zmierzają.

Badania w tej dziedzinie podążyły w dwóch kierunkach. Z jednej strony pojawiła się próba zrozumienia myślenia człowieka i procesu myślowego za pomocą ich modelowania przy użyciu technologii komputerowej, z drugiej strony rozpoczęto badania nad działaniami człowieka i konstruowaniem maszyn, które będą te działania naśladować. Różnica ma istotne znaczenie – co innego skonstruować maszynę naśladującą ludzką rękę podnoszącą jakiś przedmiot; co innego zaś zbudować maszynę zdolną do naśladowania myśli człowieka, gdy ten przedmiot podnosi. Pierwsze zadanie jest znacznie prostsze od drugiego, więc jeśli ograniczymy się do czystej użyteczności, pierwsze może okazać się wszystkim, co jest niezbędne. W końcu przemysł lotniczy zajmuje się budowaniem maszyn potrafiących latać, a nie konstruowaniem elektronicznego mózgu podobnego do mózgu ptaka, aby samolot leciał dokładnie tak samo jak ptak, czyli poruszając skrzydłami[12].

Pomysł konstruowania maszyn naśladujących określone elementy ludzkich i zwierzęcych zachowań ma długie dzieje. Dwa tysiące lat temu grecki matematyk Heron z Aleksandrii zbudował basen ozdobiony mechanicznymi śpiewającymi ptakami i sową, która poruszeniem głowy uciszała ptactwo. Ludzi od wieków fascynowało konstruowanie automatów, maszyn naśladujących jakiś aspekt życia. Bogatą kolekcję takich wymyślnych automatów można obejrzeć w londyńskim Science Museum, wiedeńskim Kunsthistorisches Museum oraz Museum Speelklok w Utrechcie. Zainteresowanie takimi maszynami osłabło w XIX stuleciu, ale przetrwało w świecie fikcji literackiej, na przykład w powieści Frankenstein pióra Mary Wollstonecraft Shelley. Właściwie stały się one jednym z podstawowych elementów literatury science fiction od początku istnienia tego gatunku.

Jedną z ważnych czynności codziennych człowieka są obliczenia, nic więc dziwnego, że poświęcono wiele trudu, aby zautomatyzować ten proces. W XVII wieku francuski matematyk Blaise Pascal skonstruował mechaniczny kalkulator[13], aby pomóc ojcu, poborcy podatków, w mozolnych obliczeniach. W XIX stuleciu Charles Babbage położył podwaliny programów obliczeniowych, konstruując maszynę różnicową, umożliwiającą automatyczne dodawanie, a następnie silnik analityczny, który był pierwszym programowalnym kalkulatorem. Babbage’a uważa się słusznie za ojca nowożytnego komputera.

Podczas drugiej wojny światowej genialny brytyjski informatyk Alan Turing użył zaawansowanej elektronicznej technologii komputerowej do skonstruowania maszyny zwanej Bombą, która pozwoliła jemu i jego zespołowi z Bletchley Park złamać niemiecki szyfr „Enigma” używany do tajnej komunikacji wojskowej. Wynalazki i prace teoretyczne Turinga doprowadziły do sformułowania postulatu „uczącej się maszyny”. Według Turinga maszyna, która potrafiłaby rozmawiać z ludźmi – nie wzbudzając podejrzeń, że mają do czynienia z maszyną – wygrałaby „grę w naśladowanie” i mogłaby zostać nazwana „inteligentną”. Definicja ta, obecnie nazywana testem Turinga, dostarczyła praktycznego sprawdzianu pozwalającego na przypisanie maszynie inteligencji. Jednak, jak się niebawem przekonamy, podejście to spotkało się z poważnymi zarzutami filozofów.

Mniej więcej w tym samym czasie (1951) Marvin Minsky (współzałożyciel laboratorium badawczego sztucznej inteligencji w MIT) i Dean Edmonds zbudowali pierwszy komputer oparty na sieci neuronowej. Kolejnym przełomowym osiągnięciem, które przyciągnęło ogromną uwagę opinii publicznej, był komputer Deep Blue, zbudowany przez IBM, który w 1997 roku pokonał szachowego mistrza świata Garry’ego Kasparowa, oraz program AlphaGo firmy Google, który jako pierwszy pokonał zawodowego gracza dzięki uczeniu maszynowemu. Znaczenie sztucznej inteligencji uznano w 2018 roku, ustanawiając Nagrodę Turinga, nazywaną „informatyczną nagrodą Nobla”. Przyznano ją trójce badaczy, którzy położyli podwaliny obecnego boomu w dziedzinie sztucznej inteligencji, szczególnie na polu tak zwanego głębokiego uczenia maszynowego[14].

Pierwsze roboty i systemy AI były pozbawione elementu nazywanego obecnie „uczeniem maszynowym”. Kluczem do zrozumienia obecnego procesu uczenia maszynowego jest koncepcja algorytmu, która może przyjmować wiele postaci, na przykład algorytmu symbolicznego, matematycznego itd.[15]. Słowo algorytm pochodzi od nazwiska słynnego perskiego matematyka, astronoma i geografa Muhammada ibn Musy al-Chuwarizmiego (około 780‒850)[16].

Dzisiaj przez algorytm rozumie się „precyzyjnie zdefiniowany zbiór operacji matematycznych lub logicznych służących wykonaniu określonego zadania” (OED)[17]. Jego koncepcja sięga starożytnego Babilonu (lata 1800‒1600 przed Chr.). Znany informatyk Donald Knuth ze Stanford University opublikował niektóre z wczesnych algorytmów i doszedł do następującego wniosku: „Obliczenia zapisane na babilońskich tabliczkach nie są jedynie rozwiązaniem konkretnych problemów. W rzeczywistości są to ogólne procedury służące rozwiązywaniu całej klasy problemów”[18]. Taka jest też główna idea algorytmu: kiedy poznasz jego działanie, możesz rozwiązać nie tylko jeden problem, ale całą klasę problemów.

Jednym z najsłynniejszych przykładów, o którym wielu z nas dowiedziało się w szkole, jest algorytm Euklidesowski będący procedurą stosowaną w celu znalezienia największego wspólnego dzielnika (GCD)[19] dwóch dodatnich liczb całkowitych. Jako pierwszy opisał go Euklides w swoim rękopisie zatytułowanym Elementy, powstałym około 300 roku przed Chr. Ten skuteczny algorytm w takiej lub innej postaci znajduje zastosowanie do dziś, na przykład w komputerach. Jego implementacja polega na kolejnym dzieleniu i zliczaniu reszty aż do osiągnięcia pożądanego wyniku. Działanie algorytmu najlepiej zrozumieć na poniższym przykładzie – ważne jest to, że działa on dla każdej pary całkowitych liczb dodatnich.

Przypuśćmy, że chcemy obliczyć GCD liczb 56 oraz 12. W tym celu wykonujemy następujące kroki:

1. Krok 1: Podzielić większą liczbę przez mniejszą.

◦ 56 ÷ 12 = 4 reszta 8

2. Krok 2: Podzielić dzielnik (12) przez resztę z poprzedniego kroku.

◦ 12 ÷ 8 = 1 reszta 4

3. Krok 3: Wykonywać krok 2, aż nie pozostanie żadna reszta (w tym przypadku pozostał jeszcze jeden krok).

◦ 8 ÷ 4 = 2 (brak reszty)

W naszym przykładzie największy wspólny podzielnik to 4.

Łatwo przełożyć to na kod programu i zastosować w komputerze. Wystarczy zajrzeć do Internetu, aby stwierdzić, że tysiące różnego rodzaju algorytmów znajdują zastosowanie w każdej dziedzinie nauki, inżynierii i medycyny. Głównym przykładem jest robotyka, ponieważ roboty projektuje się zwykle do wielokrotnego wykonywania tego samego zadania.

W typowym współczesnym systemie AI odpowiednie algorytmy zostają umieszczone w programie komputerowym, który sortuje, filtruje i selekcjonuje różne elementy informacji, które zostały do niego wprowadzone. Jedna z metod polega na naśladowaniu, przynajmniej w pewnym stopniu, działania ludzkiej kory mózgowej (siatki neuronów). Ogólnie mówiąc, system AI może wykorzystywać informacje szkoleniowe do „nauki” (uczenie maszynowe[20]) rozpoznawania, identyfikowania oraz interpretowania schematów cyfrowych, takich jak obrazy, dźwięki, mowa, tekst lub informacje. Inna metoda posługuje się aplikacjami komputerowymi opartymi na logice prawdopodobieństwa bayesowskiego zastosowanej do analizy informacji statystycznych, żeby na tej podstawie oszacować prawdopodobieństwo określonej hipotezy. Ująwszy krótko, system uczenia maszynowego odbiera informacje o przeszłości i podejmuje decyzje lub formułuje prognozy po otrzymaniu nowych informacji.

Należy podkreślić, że algorytmy zostały zaprogramowane do wykonywania aproksymacji funkcji[21], zwykle poprzez optymalizację, oraz w większości przypadków otrzymały wyraźne przykłady danych wejściowych i wyjściowych, a także kryterium kończące, ukierunkowujące proces tej optymalizacji. Algorytmy nie „mielą” informacji bez czynnika ludzkiego obecnego w pętli programu i na jakimś poziomie kierującego całym procesem (nawet wówczas, gdy to człowiek tworzy algorytm „krytyczny” i umieszcza go w pętli programu komputerowego itd.). Udział człowieka to element świadomy. Maszyna jest go pozbawiona.

W wielu wczesnych projektach z dziedziny AI ludzie wprost opracowywali algorytm rozwiązania konkretnego problemu. Jednak w nowocześniejszych systemach AI tak nie jest. Zamiast konkretnego rozwiązania tworzy się ogólny algorytm uczenia się, który następnie „uczy się” rozwiązania problemu. Programiści często nie znają dokładnego algorytmu rozwiązania problemu i nie mają pojęcia, w jaki sposób system dochodzi do swoich wniosków. Wczesne programy do gry w szachy zaliczały się do pierwszego rodzaju (nawet Deep Blue należał zasadniczo do tej kategorii), podczas gdy współczesne programy oparte na języku programowania Go należą do drugiego rodzaju.

Oto przykłady systemów AI, z których wiele jest już znanych opinii publicznej:

• Amazon używa algorytmów śledzących wszystkie produkty, które ty i miliony innych ludzi kupujecie od niego za pośrednictwem Internetu. Następnie przesiewa obszerną bazę danych i porównuje tę listę z podobnymi produktami, których jeszcze nie posiadasz. Na koniec wykorzystuje metody statystyczne do wybrania towarów kupowanych przez ludzi „takich jak ty” i sprawia, że pojawiają się one na twoim ekranie.

• Algorytmy komputerowe potrafią sortować bazy danych z podaniami o pracę i sugerować kandydatów, którzy najlepiej odpowiadają określonemu stanowisku. Zajęcia generujące wiele tysięcy aplikacji są następnie przekazywane do systemów AI, które przeprowadzają pierwsze wywiady, podczas których gromadzi się nie tylko informacje o odpowiedziach kandydatów na zadane pytania, ale również filmuje ich reakcje emocjonalne i przesiewa je celem ustalenia, czy nadają się do zaproszenia na rozmowę kwalifikacyjną.

• Systemy AI zostały z powodzeniem wykorzystane do projektowania energooszczędnych budynków, urządzeń gospodarstwa domowego podłączonych do Internetu przedmiotów (IoT)[22] oraz zintegrowanych systemów transportu.

• Systemy AI już dziś wykorzystują bazy z tysiącami zdjęć rentgenowskich, na przykład płuc w różnym stanie, oraz profesjonalnymi analizami ich kondycji. System porównuje zdjęcia rentgenowskie twoich płuc z bazą danych, żeby sprawdzić, czy chorujesz na określoną chorobę nowotworową. Mówiąc bardziej konkretnie, odczytuje dane i wzory widoczne na obrazie rentgenowskim płuc i porównuje je z innymi takimi danymi zapisanymi w bazie danych. W niektórych przypadkach tego rodzaju systemy potrafią postawić bardziej precyzyjną diagnozę od najlepszych lekarzy specjalistów.

• Astronomowie używają AI do szkolenia algorytmów maszynowego uczenia, aby identyfikowały szybkie błyski radiowe (pozagalaktycznych krótkich sygnałów radiowych), docierające z odległych galaktyk, poprzez przesiewanie potężnych baz danych z sygnałami zarejestrowanymi przez radioteleskopy. Do tej pory (wrzesień 2018) znaleźli 72 przykłady, które zostaną przeanalizowane w programie badawczym SETI. Wykorzystują również AI do zautomatyzowanego rozpoznawania galaktyk.

• Pojazdy autonomiczne jako maszyny pozbawione świadomości natychmiast wywołały problemy etyczne związane z zasadami, w które należałoby je wyposażyć, na przykład dotyczącymi sytuacji, których powinny unikać. Co ciekawe, system automatycznego pilota w samolocie nie został zaprojektowany jako układ całkowicie autonomiczny, chociaż można argumentować, że sterowanie statkiem powietrznym jest łatwiejsze od kierowania autonomicznym samochodem. Przyczyną może być fakt, że firmy lotnicze korzystające ze wspomnianego urządzenia pragną pozostać na rynku, bo nie ma przecież etycznych wątpliwości co do odpowiedzialności, gdyby doszło do katastrofy samolotu, niezależnie od tego, czy system zabiłby niektórych pasażerów, aby uratować innych.

• Systemy rozpoznawania twarzy są dziś w bardzo zaawansowanym stadium. Jedna z zabawnych aplikacji wykorzystuje technologię AI do rozpoznawania twarzy w pubie, żeby zidentyfikować następnego klienta czekającego na drinka przy barze i w ten sposób zapobiec nieuczciwemu przeskakiwaniu kolejki. Wszechobecne kamery telewizji przemysłowej są wykorzystywane przez policję do śledzenia działalności przestępczej. Takie systemy inwigilacji mogą być używane do kontrolowania społeczeństwa. Później zajmiemy się poważnymi kwestiami etycznymi, które wynikają z takich zastosowań.

• Broń autonomiczna i związane z nią problemy natury etycznej są przedmiotem międzynarodowej debaty.

Już na podstawie tej krótkiej listy jest oczywiste, że wiele, jeśli nie wszystkie ze wspomnianych powyżej, wynalazków budzi pytania natury etycznej – od manipulacji finansowej i przestępczości po naruszanie prywatności i kontrolowanie społeczeństwa. Istnieje niebezpieczeństwo, że ludzie ulegną logice „można, więc należy to zrobić” bez starannego przemyślenia potencjalnych problemów etycznych. Z drugiej strony trzeba przyznać, że kwestie etyczne szybko zyskują na znaczeniu u czołowych graczy ze świata sztucznej inteligencji. Wielkie pytanie, przed którym stoimy, brzmi: „Jak wprowadzić wymiar etyczny do algorytmu, który sam w sobie nie ma serca, duszy i umysłu?”.

Należy pamiętać, że większość systemów AI (choćby przedstawione wyżej) zaprojektowano do wykonania tylko jednego zadania, na przykład kierowania samochodem, diagnozowania chorób lub formułowania prognoz na podstawie danych z przeszłości. Aby o tym nie zapomnieć, często używa się określenia wąska (słaba) AI. Ponieważ wszystkie dotychczasowe zastosowania AI można scharakteryzować jako wąskie, niektórzy wolą posługiwać się terminem technologie kognitywne/poznawcze, obejmując nim wszystko, co do tej pory osiągnięto w badaniach nad stworzeniem inteligentnej maszyny.

Nick Bostrom i Eliezer Yudkowsky komentują:

Dzisiejsze algorytmy AI zastępujące człowieka lub przewyższające go skutecznością charakteryzuje kompetencja celowo zaprogramowana w tylko jednej wąskiej dziedzinie. Deep Blue został szachowym mistrzem świata, choć nie potrafi grać w warcaby, nie wspominając o kierowaniu samochodem lub dokonywaniu odkryć naukowych. Współczesne algorytmy AI przypominają formy życia biologicznego z jednym tylko wyjątkiem: Homo sapiens. Pszczoły wykazują kompetencję w budowaniu ulów; bóbr odznacza się kompetencją, jeśli chodzi o budowanie tam; ale pszczoły nie budują tam, a bór nie potrafi się nauczyć sztuki lepienia ula. Chociaż obserwujący je człowiek potrafi się nauczyć jednej i drugiej sztuki, jest to unikatowa zdolność wśród biologicznych form życia[23].

Innym potencjalnym (kolejnym) źródłem zamieszania w dyskusji jest to, że niektórzy informatycy sięgają po słowa z języka codziennego, jak uczenie się, planowanie, rozumowanie oraz inteligencja. Czynią je terminami technicznymi opisującymi nieożywione maszyny, co sprawia, że systemy AI wydają się bardziej inteligentne niż faktycznie są, często bowiem informatycy używają danych określeń w sensie znacznie węższym od potocznego. W rezultacie doniesienia mediów na temat AI cechują się dramatyzowaniem rezultatów, przesadnym optymizmem i nadmiernymi obawami. Profesor inżynierii komputerowej Danny Crookes z Queens University w Belfaście pisze:

Współczesne technologie, które wzbudzają niepokój z powodu swojej zdolności monitorowania i manipulowania całymi społecznościami, w rzeczywistości wcale nie są tak inteligentne. I nie muszą być. Ich siła polega na zdolności do opanowania ogromnej ilości danych, tworzenia profilu jednostki i wykrywania wzorców zarówno w postępowaniu jednostek, jak i całej populacji. Państwa nazistowskie i komunistyczne robiły to za pomocą ręcznych metod, na mniejszą skalę. Współczesna technologia umożliwia realizowanie wspomnianego zadania w skali globalnej. Chociaż można uznać tę zdolność za niepokojącą lub imponującą, nie jest ona prawdziwą inteligencją. Tak zwane „głębokie uczenie maszynowe” jest ostatnim krzykiem mody w badaniach nad AI, ale nie ma w tym niczego szczególnie nowego: chodzi jedynie o to, że obecnie istnieją moce obliczeniowe pozwalające obsługiwać wielopoziomowe (głębokie) sieci neuronów, które na papierze istniały od dziesięcioleci[24].

Profesor Joseph McRae Mellichamp z University of Alabama, podczas przemówienia na konferencji zorganizowanej przez Yale University do słuchaczy, wśród których znajdował się laureat Nagrody Nobla, Sir John Eccles, znany z odkrycia synapsy, oraz inni pionierzy AI, powiedział: „Mam wrażenie, że można by uniknąć wielu niepotrzebnych dyskusji, gdyby badacze AI zgodzili się przyznać, że istnieją fundamentalne różnice pomiędzy inteligencją maszynową a inteligencją ludzką – różnice, których nie można przezwyciężyć żadną ilością badań”. Innymi słowy, w tym miejscu pozwolę sobie zacytować wymowny tytuł odczytu Mellichampa, „wyraz »sztuczna« w określeniu »sztuczna inteligencja« ma jak najbardziej realne znaczenie”[25].

Profesor Crookes podkreśla potrzebę realistycznego podejścia:

Nadal bardzo daleko nam do stworzenia prawdziwej inteligencji przypominającej ludzką. Publiczność dała się ogłupić przetwarzaniu danych opartemu na wielkiej mocy obliczeniowej (jak w poprzednim paragrafie) i przekonać, że zbliżamy się w tej dziedzinie do poziomu ludzkiej inteligencji. Uważam, że bardzo daleko nam do tego. W rzeczywistości postęp badań w dziedzinie AI uległ ostatnio spowolnieniu. W dzisiejszych czasach prowadzi się mniej autentycznych badań nad AI niż wcześniej, bo większość funduszy przeznaczono na reklamę! Badacze podążają śladem pieniędzy.

Stoimy przed ogromnymi wyzwaniami, jeśli chodzi o zrozumienie procesu myślenia człowieka. Dostrzegam dwa fundamentalne problemy, które należy rozwiązać: (1) Nawet gdybyśmy znali ogólne prawa ludzkiego myślenia, jak przejść od sytuacji fizycznej do bardziej abstrakcyjnego sformułowania, żeby można było je wykorzystać? (2) W jaki sposób komputer mógłby wygenerować i zachować w pamięci wewnętrzny mentalny model realnego świata? Pomyślcie o tym, w jaki sposób niewidomy wizualizuje świat i jak o nim myśli. Ludzie mają zdolność wizualizowania rzeczy i myślenia o scenariuszach zawierających przedmioty i procesy istniejące jedynie w ich umyśle. Ta ogólna zdolność, którą posiadają wszyscy ludzie, jest wprost fenomenalna. Stanowi ona fundamentalny warunek prawdziwej inteligencji, którego w sposób zasadniczy brakuje wszystkim systemom AI. Są powody, aby wątpić, że kiedykolwiek zdołamy dotrzeć do tego punktu.

Moją główną myślą jest to, że powinniśmy zachować ostrożność, przyjmując założenie, iż ludzkość posiada intelektualną zdolność stworzenia inteligencji rywalizującej z inteligencją ludzką, nie wspominając o jej przewyższeniu, niezależne od tego, jaką ilością czasu będziemy dysponować[26].

Musimy o tym pamiętać, analizując sposób, w jaki Dan Brown wykorzystuje słabą (wąską) AI w swojej powieści, aby odpowiedzieć na dwa fundamentalne filozoficzne pytania.

Zapraszamy do zakupu pełnej wersji książki

PRZYPISY

[1] AI od ang. artificial intelligence (przyp. tłum.).

[2] N. Postman, Zabawić się na śmierć. Dyskurs publiczny w epoce show-businessu, tłum. L. Niedzielski, Wydawnictwo Literackie Muza SA, Warszawa 2006, s. 15‒16.

[3] The Pope Warns Tech Companies to Use AI for ‘Common Good’, „Time”, 27 September 2019, https://time.com/5688191/pope-francis-artificial-intelligence-common-good [dostęp: 10 I 2023].

[4] AGI od ang. artificial general intelligence (przyp. tłum.).

[5] Zob. Y.N. Harari, Sapiens. Od zwierząt do bogów, tłum. J. Hunia, Dom Wydawniczy PWN, Warszawa 2017 (przyp. red.).

[6] Zob. Y.N. Harari, Homo deus. Krótka historia jutra, tłum. M. Romanek, Wydawnictwo Literackie, Warszawa 2018 (przyp. red.).

[7] Będę używał słowa „ateizm” w najszerszym znaczeniu jako stanowiska odrzucającego koncepcję Boga jako stwórcy.

[8] D. Brown, Początek, tłum. P. Cichawa, Wydawnictwo Sonia Draga, Katowice 2017, s. 72.

[9] M. Rees, On the Future: Prospects for Humanity, Princeton University Press, Princeton, NJ 2018, s. 7.

[10] Tenże, Astronomer Royal Martin Rees: How Soon Will Robots Take Over the World? „The Telegraph”, 23 May 2015, www.telegraph.co.uk/culture/hay-festival/11605785/Astronomer-Royal-Martin-Rees-predicts-the-world-will-be-run-by-computers-soon.html [dostęp: 10 I 2023].

[11] J. McCarthy, What Is Artificial Intelligence?, www-formal.stanford.edu/jmc/whatisai.pdf [dostęp: 10 I 2023].

[12] Zob. Artificial Intelligence: A Modern Approach, eds. S. Russell, P. Norvig, 3rd ed., Pearson Education, Harlow 2016, s. 1–5.

[13] Pierwsza znana maszyna obliczeniowa została skonstruowana około 1623 roku przez niemieckiego profesora języka hebrajskiego i astronomii, Wilhelma Schickarda.

[14] Ang. deep learning (przyp. red.).

[15] Wczesne systemy AI nie wykorzystywały algorytmów.

[16] Zob. znakomity artykuł z „BMJ Opinion” pióra mojego oksfordzkiego kolegi, Jeffreya Aronsona, When I Use a Word... Algorithms, „BMJ Opinion”, 11 August 2017, https://blogs.bmj.com/bmj/2017/08/11/jeffrey-aronson-when-i-use-a-word-algorithms [dostęp: 10 I 2023].

[17] Por. ang optimal experimental design ‘optymalny projekt eksperymentalny’ (przyp. red.).

[18] D.E. Knuth, Ancient Babylonian Algorithms, „Communications of the ACM”, vol. 15, issue 7 (July 1972), s. 672–673.

[19] Ang. greatest common divisor (przyp. red.).

[20] Encyclopedia of Artificial Intelligence definiuje uczenie maszynowe jako dziedzinę sztucznej inteligencji, zajmującą się adaptacyjnymi metodami obliczeniowymi, takimi jak sztuczne sieci neuronowe i algorytmy genetyczne (Encyclopedia of Artificial Intelligence, eds. J.R.R. Dopico, J. Dorado de la Calle, A.P. Sierra, Information Service Reference, Hershey, PA 2009, s. 666).

[21] „Zastąpienie pewnej funkcji inną, zazwyczaj prostszą, umożliwiającą efektywne rozwiązanie postawionego problemu”, Aproksymacja [hasło], https://pl.wikipedia.org/wiki/Aproksymacja [dostęp: 21 IV 2023], (przyp. red.).

[22] Ang. Internet of Things (przyp. red.).

[23] N. Bostrom, E. Yudkowsky, The Ethics of Artificial Intelligence, w: Cambridge Handbook of Artificial Intelligence, ed. K. Frankish, W.M. Ramsey, Cambridge University Press, Cambridge 2014, s. 318.

[24] Rozmowa prywatna (2019). Wykorzystano za zgodą.

[25] Rozmowa prywatna (2018) z autorem odczytu wygłoszonego podczas konferencji Artificial Intelligence and Human Mind (Yale University, 1986). Wykorzystano za zgodą. Ciekawe sprawozdanie z tej konferencji można znaleźć pod adresem: www.aaai.org/ojs/index.php/aimagazine/article/view/601 [dostęp: 10 I 2023].

[26] Rozmowa prywatna (2019). Wykorzystano za zgodą.