Dedykowane Marvinowi Minsky’emu

Tytuł oryginału: What to think about machines that think

Copyright © 2015 by Edge Foundation

All rights reserved

First published in the United States of America. No part of this book may be used or reproduced in any manner whatsoever without written permission except in the case of brief quotations embodied in critical articles and reviews.

Projekt okładki i stron tytułowych: Agata Muszalska

Przekład: Kurhaus Publishing, GETIT, Katarzyna Kubala

Produkcja: Mariola Keppel

Skład wersji elektronicznej na zlecenie PWN Wydawnictwa Naukowego: Katarzyna Błaszczyk/Woblink

Książka, którą nabyłeś, jest dziełem twórcy i wydawcy. Prosimy, abyś przestrzegał praw, jakie im przysługują. Jej zawartość możesz udostępnić nieodpłatnie osobom bliskim lub osobiście znanym. Ale nie publikuj jej w internecie. Jeśli cytujesz jej fragmenty, nie zmieniaj ich treści i koniecznie zaznacz, czyje to dzieło. A kopiując jej część, rób to jedynie na użytek osobisty.

Szanujmy cudzą własność i prawo.

Więcej na www.legalnakultura.pl

Polska Izba Książki

Copyright © for the Polish edition by

Wydawnictwo Naukowe PWN SA

Warszawa 2020

ISBN 978-83-01-21165-3

eBook został przygotowany na podstawie wydania papierowego z 2020 r.,
(wydanie II (pierwsze wydanie w Wydawnictwie Naukowym PWN))
Warszawa 2020

Wydawnictwo Naukowe PWN SA

02-460 Warszawa, ul. G. Daimlera 2

tel. 22 69 54 321; faks 22 69 54 228

infolinia 801 33 33 88

e-mail: pwn@pwn.com.pl; www.pwn.pl

Informacje w sprawie współpracy reklamowej: reklama@pwn.pl

Chciałbym wyrazić wdzięczność Peterowi Hubbardowi z wydawnictwa HarperCollins oraz mojemu agentowi literackiemu Maksowi Brockmanowi – za to, że stale dodają mi otuchy. Jeszcze raz chciałbym przekazać szczególne podziękowania Sarze Lippicott za wnikliwą uwagę, jaką obdarzyła ten manuskrypt.

— John Brockman

Zakładam, że myślących maszyn nie tworzą dzisiaj bezmyślni ludzie. Dlatego wierzę, że w przyszłości maszyny z rozmysłem nie pozbędą się człowieka.

Inspirującej lektury,
— Sebastian Kulczyk

Spis treści

Przedmowa. Pytanie roku 2015 portalu Edge. John Brockman

1. Świadomość u sztucznej inteligencji na poziomie ludzkim. Murray Shanahan

2. Myślenie nie oznacza [chęci] podporządkowania sobie czegoś. Steven Pinker

3. W dłuższej perspektywie organiczna inteligencja nie ma przyszłości. Martin Rees

4. Punkt zwrotny w dziedzinie sztucznej inteligencji. Steve Omohundro

5. SI to ja. Dimitar D. Sasselov

6. Jeśli nie możesz z czymś walczyć, musisz to polubić. Frank Tipler

7. Maszyny inteligentne na Ziemi i gdzieś poza nią. Mario Livio

8. Cieszy mnie wizja władzy maszyn. Antony Garrett Lisi

9. Nasi władcy, panowie, niewolnicy czy partnerzy? John Markoff

10. Zaprojektowana inteligencja. Paul Davies

11. Superinteligentny samotnik. Kevin P. Hand

12. To będzie dzika przejażdżka. John C. Mather

13. Czy ktokolwiek za to odpowiada? David Christian

14. Świadek przed Wszechświatem. Timo Hannay

15. Przygotujmy się! Max Tegmark

16. Pytania „Turing+”. Tomaso Poggio

17. Epokowe wydarzenie w historii człowieka. Pamela McCorduck

18. Witajcie w waszym transhumanistycznym ”ja”. Marcelo Gleiser

19. Wszyscy jesteśmy maszynami myślącymi. Sean Carroll

20. Kryzys sterowania. Nicholas G. Carr

21. Konstruujemy je, ale ich nie rozumiemy. Jon Kleinberg

22. Musimy odrobić pracę domową. Jan Tallinn

23. Czy naprawdę obchodzi Was, co sądzą inne maszyny? George Church

24. Maszyny nie potrafią myśleć. Arnold Trehub

25. Tu nie ma mowy o ”ja” i przestrzeni na złe intencje. Roy Baumeister

26. Wykorzystanie ludzkiej inteligencji. Keith Devlin

27. Maszyna to element „materii” . Emanuel Derman

28. Mogę się mylić. Freeman Dyson

29. Dlaczego nie można obliczyć „bycia” ani „szczęścia”? David Gelernter

30. Maszyny nie zadają sobie pytań egzystencjalnych. Leo M. Chalupa

31. Osobliwość — miejska legenda? Daniel C. Dennett

32. Nanointencjonalność. W. Tecumseh Fitch

33. Piękny (wizjonerski) umysł. Irene Pepperberg

34. „Kolos” to bardzo fajny gigant. Nicholas Humphrey

35. Samoświadoma SI? Nie prędzej niż za 1000 lat! Rolf Dobelli

36. Maszyny nie myślą – ludzie również nie. Cesar Hidalgo

37. Uwikłani w poszukiwanie odpowiedzi. James J. O’Donnell

38. Działanie nie musi oznaczać umiejętności. Rodney A. Brooks

39. Sztuczna inteligencja sprawi, że będziemy mądrzejsi. Terrence J. Sejnowski

40. Uczenie płytkie. Seth Lloyd

41. Stworzenia pochodzące ze świata przyrody. Carlo Rovelli

42. Trzy uwagi na temat sztucznej inteligencji. Frank Wilczek

43. Kiedy mówię „Bruno Latour”, nie oznacza to „obróbki bananów”. John Naughton

44. To wciąż dopiero początek. Nick Bostrom

45. Ewoluująca SI. Donald D. Hoffman

46. Maszyny myślące są tylko w filmach. Robert Schank

47. Przeszczepy głowy? Juan Enriquez

48. Sztuczna inteligencja / sztuczne formy życia. Esther Dyson

49. Mózgi i inne maszyny myślące. Tom Griffiths

50. Uczynią więcej dobrego niż złego. Mark Pagel

51. Trzymając je w ryzach. Robert Provine

52. Następny replikator. Susan Blackmore

53. A co jeśli jesteśmy mikrobiomami w krzemowym siedlisku sztucznej inteligencji? Tim O’Reilly

54. Jesteś tym, co jesz. Andy Clark

55. System prawny i władza pod sztuczną inteligencją. Moshe Hoffmann

56. Robot z ukrytym planem. Brian Knutson

57. Czy okręty podwodne potrafią pływać? William Poundstone

58. Nie lękajcie się SI. Gregory Benford

59. Dlaczego miałbym się martwić? Lawrence M. Krauss

60. Maszyny do radzenia sobie ze złożonością świata. Peter Norvig

61. Narodziny maszyn narracyjnych. Jonathan Gottschall

62. Myślcie o protopii – nie o utopii czy dystopii. Michael Shermer

63. Granice biologicznej inteligencji. Chris Dibona

64. Każde społeczeństwo ma taką SI, na jaką zasługuje. Joscha Bach

65. Bestie z wyspy SI. Quentin Hardy

66. Staniemy się jednością. Clifford Pickover

67. Pozaziemska percepcja ludzkiej pychy. Ernst Pöppel

68. Ten, kto płaci (za sztuczną inteligencję), nadaje ton. Ross Anderson

69. Myślę więc jestem (sztuczną inteligencją). W. Daniell Hillis

70. Jakie będzie w tym wszystkim miejsce ludzi? Paul Saffo

71. Wielki przekręt SI. Dylan Evans

72. Typowanie SI. Anthony Aguirre

73. Nowa mądrość ciała. Eric J. Topol

74. Od inteligencji zwykłej do sztucznej. Roger Highfield

75. Potrzebujemy czegoś więcej niż myśli. Gordon Kane

76. Czy zmierzamy w złym kierunku? Scott Atran

77. O dwóch funkcjach poznawczych, których wciąż brakuje maszynom. Stanislas Dehaene

78. Pomiędzy maszynami, ale nie w maszynie. Matt Ridley

79. Inny rodzaj różnorodności. Stephen M. Kosslyn

80. Narracje i nasza cywilizacja. Luca De Biase

81. Ludzka odpowiedzialność. Margaret Levi

82. Amplifikatory/wdrożeniowcy ludzkich decyzji. D. A. Wallach

83. Wystarczy stworzyć rzecz, której nie da się nie lubić. Rory Sutherland

84. Maszyny-aktorki. Bruce Sterling

57. Nazywajcie ich sztucznymi obcymi. Kevin Kelly

86. Czy maszyny rzeczywiście coś robią? Martin Seligman

87. Denkraumverlust. Timothy Taylor

88. Analogowa rewolucja, której nie mamy odwagi nazwać po imieniu. George Dyson

89. Wartości sztucznej inteligencji. S. Abbas Raza

90. Dobór sztuczny a nasze wnuki. Bruce Parker

91. Naprawdę sprytne sztuczki. Neil Gershenfeld

92. Airbus i orzeł. Daniel L. Everett

93. Człowieczość. Douglas Coupland

94. Manipulatorzy i manipulowani. Josh Bongard

95. Czy swoim sposobem myślenia przypominamy maszyny? Ziyad Marar

96. Zaledwie fraktalny szczegół na tle ogółu. Brian Eno

97. eGaia, techniczno-społeczny rozproszony system sterowania umysłem. Marti Hearst

98. Inteligencja zbiorowa. Chris Anderson

99. Globalna sztuczna inteligencja już tu jest. Alex (Sandy) Pentland

100. Komputery niczym myślące, gadające psy? Randolph Nesse

101. Maszyny myślące i nuda. Richard E. Nisbett

102. Dumni z naszych maszyn. Samuel Arbesman

103. Nie ma wspólnej teorii umysłu. Gerald Smallberg

104. Ślepy na podstawowe ludzkie doświadczenie. Eldar Shafir

105. Intuicyjna teoria maszyny. Christopher Chabris

106. Myślące solniska. Ursula Martin

107. Maszyny-zabójcy pozwalają nam mieć czyste sumienia. Kurt Gray

108. Kiedy maszyny myślące łamią prawo. Bruce Schneier

109. Elektryczne mózgi. Rebecca Mackinnon

110. Robolekarze. Gerd Gigerenzer

111. Czy maszyny będą kiedykolwiek tak inteligentne jak trzylatki? Alison Gopnik

112. Kura grająca w kółko i krzyżyk. Kevin Slavin

113. Dzięki SI będziemy inteligentni, a roboty będą się nas bały. Alun Anderson

114. Kiedy maszyny myślące nie są błogosławieństwem. Mary Catherine Bateson

115. Sprawiedliwość wobec maszyn w organicystycznym świecie. Steve Fuller

116. Nie bądźcie szowinistami w kwestii myślenia. Tania Lombrozo

117. Brzmi jak bajka. Virginia Heffernan

118. Maszyny, które pracują, dopóki nie przestaną. Barbara Strauch

119. Stale podnoszona poprzeczka. Sheizaf Rafaeli

120. Inteligencja nieukierunkowana. Edward Slingerland

121. Kultura jako prekursor sztucznej inteligencji. Nicholas A. Christakis

122. Poza Doliną Niesamowitości. Joichi Ito

123. Figura czy tło? Douglas Rushkoff

124. Szybkie, dokładne i głupie. Helen Fisher

125. Czy one uczynią nas lepszymi ludźmi? Stuart Russell

126. Kwestia zaszczepiania wartości. Eliezer S. Yudkowsky

127. Na nasze podobieństwo. Kate Jeffery

128. Umwelt, który nie daje odpowiedzi. Maria Popova

129. Czy będą myślały o sobie? Jessica L. Tracy

130. Myślenie organiczne kontra myślenie artefaktowe. June Gruber

131. Oczywiście, że kontekst ma znaczenie. Paul Dolan

132. Jak zapobiec eksplozji inteligencji? Thomas G. Dietterich

133. Myślenie od środka czy z zewnątrz? Matthew D. Lieberman

134. Miękki autorytaryzm. Michael Vassar

135. Co sztuczne inteligencje będą myśleć o nas? Gregory Paul

136. Czasy godne Johna Henry’ego. Andrian Kreye

137. Maszyny nie są dobre w budowaniu związków. N.J. Enfield

138. Kolejna faza ewolucji człowieka. Nina Jablonski

139. Dominacja kontra udomowienie. Gary Klein

140. Maszyny nie będą myśleć w najbliższym czasie. Gary Marcus

141. Czy możemy zapobiec cyfrowej apokalipsie? Sam Harris

142. Czy maszyny myślące mogą zamknąć lukę empatyczną? Molly Crockett

143. Maszyny troskliwe. Abigail Marsh

144. Silniki wolności. Alexander Wissner-Gross

145. Czy ktoś ma jakieś pytania? Sarah Demers

146. Maszyny myślące – stare algorytmy na szybszych komputerach. Bart Kosko

147. Problemy wynikające z metafory. Julia Clarke

148. Uniwersalna podstawa ludzkiej godności. Michael McCullough

149. Rozmyślając o ludziach, którzy myślą jak maszyny. Haim Harari

150. Metamyślenie. Hans Halvorson

151. Wartość oczekiwania. Christine Finn

152. Ekosystem idei. Dirk Helbing

153. Żelazne prawo inteligencji. John Tooby

154. Maszyny, które kradną myśli. Maximilian Schich

152. Niezamierzone skutki. Satyajit Das

156. To zależy. Robert Sapolsky

157. Czy maszyny będą myśleć za nas? Athena Vouloumanos

158. Przepraszam, że przeszkadzam. Brian Christian

159. Maszyny moralne. Benjamin K. Bergen

160. Po wyciągnięciu wtyczki. Laurence C. Smith

161. Monitorowanie planety i zarządzanie nią. Giulio Boccaletti

162. Wszechdoznaniowość. Ian Bogost

163. Gdy sługa nie jest sługą. Aubrey de Grey

164. Niewystarczająco szalony. Michael I. Norton

165. Więcej funku, więcej duszy, więcej poezji i sztuki. Thomas A. Bass

166. Przyszłość jest zablokowana. Hans Ulrich Obrist

167. Dająca się wyobrazić niematerialna maszyna. Koo Jeong-a

168. Zbity z tropu i opętany. Richard Foreman

169. Kto się boi sztucznej inteligencji? Richard H. Thaler

170. Widzę rozwijającą się symbiozę. Scott Draves

171. Przeobrażając „ja” w świecie rozproszonym. Matthew Ritchie

172. Łatwo jest przewidywać przyszłość. Raphael Bousso

173. Bójcie się Boga, powtórka. James Croak

174. Tulipany na nagrobku mojego robota. Andrés Roemer

175. Ku naturalistycznemu pojęciu mózgu. Lee Smolin

176. Maszyny myślące? Szaleństwo! Stuart A. Kauffman

177. Przyszłe pole możliwości inteligencji. Melanie Swan

178. Miłość. Tor Nørretranders

179. Niesamowity test trzech okręgów dla Machina sapiens. Kai Krause

180. Wolni od nas samych. Georg Diez

181. Pozbawiona błędów SI to dopiero science fiction. Eduardo Salcedo-Albarán

182. Narodziny hybrydowego człowieka / mechaniczne wymysły. Maria Spiropulu

183. A co, jeśli będą musiały cierpieć? Thomas Metzinger

184. Czy będziemy w stanie rozpoznać, że to już się dzieje? Beatrice Golomb

185. Metareprezentacja. Noga Arikha

186. Przesłanie: Krótki dystans przed nami – i jeszcze moc do zrobienia. Demis Hassabis

Przypisy

PRZEDMOWA

Pytanie roku 2015 portalu Edge

John Brockman

Wydawca i redaktor, Edge

Zapoczątkowane jeszcze w latach 80. filozoficzne dyskusje o sztucznej inteligencji (SI lub artificial intelligence, AI) – o tym, czy komputery mogą „naprawdę” myśleć, mieć świadomość itd. – w ostatnim czasie przerodziły się w nowy typ rozmów, poświęcony temu, w jaki sposób możemy radzić sobie z formami sztucznej inteligencji występującymi (zdaniem wielu) już dziś, we współczesnym świecie. Jeśli bowiem te formy SI osiągną „superinteligencję” (termin zapożyczony z opublikowanej w 2014 roku książki Nicka Bostroma), to mogą stać się zagrożeniem dla egzystencji człowieka, doprowadzając do – jak określił to Martin Rees – naszej „ostatniej godziny”. Całkiem niedawno międzynarodowa prasa cytowała w nagłówkach artykułów Stephena Hawkinga, który powiedział w wywiadzie dla telewizji BBC: „Rozwój pełnej sztucznej inteligencji może oznaczać koniec ludzkiej rasy”.

Pytanie roku 2015 portalu Edge¹ brzmiało więc: „A ty, co myślisz o myślących maszynach?”.

Ale zaraz, chwileczkę! Czy nie powinniśmy spytać także samych myślących maszyn, co one sądzą na ten temat? Czy może chciałyby lub czy wręcz oczekują, że będą im przysługiwać prawa obywatelskie? Czy będą miały świadomość? Jakiego rodzaju rządy owe sztuczne inteligencje by dla nas wybrały? Jakiego kształtu społeczeństwo chciałyby budować? A w ogóle to czy „ich” społeczeństwo byłoby zarazem „naszym” społeczeństwem? Czy my i sztuczne inteligencje włączymy się wzajemnie w nasze kręgi empatii?

Bardzo wielu członków klubu Edge było pionierami w dziedzinie SI – zarówno jeśli chodzi o prace doświadczalne nad nią, jak i teorię. SI była najbardziej widocznym i zarazem kluczowym punktem dyskusji pomiędzy Pamelą McCorduck (Machines who think) i Isaakiem Asimovem (Machines that think), toczonych już w latach 80. podczas naszych pierwszych spotkań. Rozmowy prowadzimy nieprzerwanie – czego dowodem jest choćby opublikowany na stronie Edge materiał pioniera wirtualnej rzeczywistości Jarona Laniera pt. „The myth of AI” (Mit sztucznej inteligencji). Sposób, w jaki wyjaśnia on błędy logiczne i niepokoje, jakie wywołują próby postrzegania komputerów jako „ludzi”, wzbudził masę ubogacających i prowokujących komentarzy.

Czy SI staje się coraz bardziej rzeczywista? Czy wkroczyliśmy już w nową erę inteligentnych maszyn? Czas dojrzeć, by zmierzyć się z tym tematem. Autorzy tegorocznej odsłony Pytania Edge (jest ich niemal dwustu) stanowią dojrzałe grono specjalistów wystrzegających się nawiązań do science fiction i filmów w rodzaju: „Star maker”, „Zakazana planeta”, „Projekt Forbina”, „Łowcy androidów”, „2001”², „Ona”, „Matrix” czy „The Borg”. Osiemdziesiąt lat po tym, jak Alan Turing opracował swą uniwersalną maszynę, czas już oddać honor jemu i innym pionierom sztucznej inteligencji i pozwolić im na zasłużony spoczynek. Historię już znamy (Chętnych zapraszam do materiału George’a Dysona z 2004 roku pt. „Turing’s Cathedral”, który znajdziecie na stronie Edge). Co dalej?

Otóż, zgodnie z należytym porządkiem, teraz Edge zadaje pytanie: A TY, CO MYŚLISZ O MYŚLĄCYCH MASZYNACH?

— John Brockman
Wydawca i redaktor, Edge

Przypisy

Przedmowa

1 Edge to fundacja oraz portal skupiające środowisko amerykańskich naukowców i publicystów zajmujących się popularyzacją wiedzy: https://www.edge.org/about-edgeorg. Fundacja Edge założona została przez Johna Brockmana w 1988 roku – przyp. red.

2 Chodzi o film „2001: Odyseja kosmiczna” – przyp. red.