Książka „Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów” Susan Schneider, wydana pod patronatem PTSP, nie jest wyłącznie próbą naszkicowania przyszłości sztucznej inteligencji. Sednem rozważań autorki jest los człowieka i szanse na zachowanie naszej autonomii i świadomości.
Książka „Świadome maszyny” Susan Schneider
Rok 2045
Susan Schneider, jak wielu innych autorów publikacji poświęconych rozważaniom nad przyszłością, rozpoczyna swoją książkę historyjką-scenariuszem. Otóż, w roku 2045 wybieramy się na zakupy – naszym celem jest „centrum projektowania umysłu”. Jest to sklep, w którym z bogatego „menu” wybieramy ulepszenia mózgu, którymi jesteśmy zainteresowani, aby udoskonalić własne możliwości percepcji i myślenia. Dzięki mikrochipom możemy regularnie i bez trudu osiągać niedostępne dla nas wcześniej stany medytacyjne, na stałe posiąść niesamowite zdolności matematyczne czy muzyczne. Dalej – chcemy kupić androida do wykonywania prac domowych, którego możliwości, jak można się domyślić, daleko wykraczają poza zoptymalizowane odkurzanie kociej sierści. Starannie wybieramy więc opcje, projektujemy, porównujemy je z własnymi potrzebami i tak dalej.
Świadome maszyny
„Świadome maszyny” Susan Schneider nie są jednak wyłącznie próbą naszkicowania przyszłości sztucznej inteligencji i zanurzenia wyobraźni czytelnika w tę przyszłość – dajmy na to – w hipotetycznym 2045 roku. Autorka, która z wykształcenia jest ekonomistką i filozofką, omawia oczywiście w swojej pracy nowe czasy, w których powoli i z niejaką trudnością się odnajdujemy. Opisuje, na czym polega epoka sztucznej inteligencji i jakie są jej wyzwania. W swoim eseju porusza również dość szeroko temat problemu świadomości sztucznej inteligencji oraz inżynierii świadomości SI.
Nie to jest jednak głównym tematem tej książki, a nieporozumienie zaczyna się już od tytułu polskiego tłumaczenia. W oryginale to „Artificial You: AI and the Future of Your Mind” [Sztuczny ty. Sztuczna inteligencja i przyszłość twojego umysłu] [wyd. Princeton University Press, 2019]. A więc chodzi tu nie tyle o sztuczną inteligencję i uzyskanie świadomości przez maszyny, a nawet nie o przeprojektowywanie i udoskonalanie ludzkich umysłów.
Los człowieka nie maszyn
Tematem książki i sednem rozważań autorki jest los człowieka, nie zaś maszyn – a także problem zachowania świadomości przez człowieka w czasach wzmożonego rozwoju technologicznego, za którym – jak sądzi autorka – nie nadąża nasz rozwój społeczny. Czy będziemy potrafili z rozmysłem i mądrością rozwijać AI, tak aby nie utracić swojego człowieczeństwa? Kto będzie decydował o kierunkach jej rozwoju – czy wyłącznie biznes? Jaka będzie odczuwana jakość naszego życia umysłowego? Czy stracimy zmysły, wolność i możliwość kontroli nad własną świadomością, a zatem możliwościami odczuwania bólu, cierpienia, radości, ciekawości i żalu? Potrzebującym może to przynieść ulgę, ale dla ogółu populacji może okazać się zbrodnicze. Czy możliwe będzie jeszcze indywidualne odczuwanie świata – pod jakimi warunkami?
W omawianej książce mniejsze znaczenie ma zatem świadomość i ewentualne życie duchowe sztucznej inteligencji, do których zaistnienia możemy doprowadzić. Prawdziwie istotne pytania zadawane przez autorkę „Świadomych maszyn” dotyczą „przewrotnych konsekwencji” rozwoju AI. Może do nich należeć m.in. doprowadzenie do pogorszenia się warunków życia świadomych bytów, już istniejących bądź tych, które dopiero stworzymy lub do sytuacji, w której w najlepszym razie będziemy pozbawieni świadomości, a w najgorszym – świadomie cierpieć w jakiejś formie niewoli i będziemy wyzyskiwani.
Projektowanie sztucznej inteligencji
Skoro bowiem nasza znajomość natury umysłu jest jeszcze daleko niepełna i wiąże się z wieloma niewiadomymi oraz wątpliwościami – jak możemy podejmować próby projektowania umysłu? Skoro nasze własne mózgi są ograniczone przez ewolucję i anatomię, a projektantem nowych rozwiązań będzie mający technologiczną dowolność człowiek, a nie natura, która napotyka na biologiczne i środowiskowe ograniczenia w ewolucji – jak możemy liczyć na to, że ustrzeżemy się błędów? Skoro nasz rozwój społeczny zatrzymał się na raczej niedoskonałych formach – dopuszcza wyzysk, niezasłużoną biedę, niesprawiedliwość, nierówności, dyskryminację czy zabijanie – jak możemy projektować nową rzeczywistość?
Wszak maszyny nie będą funkcjonować w próżni. Będą działać w systemie, który zaprojektuje im człowiek, a raz zaprogramowany wedle ludzkich standardów – bez wmontowanych „bezpieczników”, a dzięki uruchomionym mechanizmom uczenia i rozwoju – może on ewoluować w nieznanych nam kierunkach, w tempie, za którym nasze umysły już nie nadążają. Niezależnie od osobistego światopoglądu, możemy się zgodzić, że standardy etyczne w ludzkim świecie kuleją. Rzadko zgadzamy się w pełni co do zasad i wartości w naszych wspólnotach i zgadzać się prawdopodobnie nigdy nie będziemy, ale nie potrafimy też działać tak, aby ta niezgoda nie wpływała negatywnie na nasz dobrostan. Jak więc nauczyć sztuczną inteligencję, by nie powielała naszych błędów? Naiwnie byłoby liczyć na to, że maszyna racjonalnie i z czułością rozsądzi, a następnie ustali słuszne zasady. Niebezpiecznie byłoby udoskonalać własny umysł, wszczepiając weń mikroczipy, czy też wpuszczając w nasze ciała autonomicznie działające nanoroboty, bez pewności dotyczącej tego, jak na nasze ciała i umysły działają wciąż zewnętrzne wobec nas, a istniejące już technologie, takie jak choćby algorytmy mediów społecznościowych czy leki hormonalne. Wszak nadal nie mamy pewności nawet, na jakich zasadach działają nasze ciała i umysły.
Syntetyczna świadomość
Susan Schneider w swojej książce nie formułuje zbyt daleko idących wniosków ani nie stawia przesadnie odważnych, definitywnych tez. Nie omawia także zewnętrznych wobec technologii uwarunkowań rzeczywistości, które wpłyną i ukształtują świat, w którym AI będzie funkcjonować (o nich mogą Państwo przeczytać w naszym cyklu o megatrendach). Jednak zasadniczą wartością jej pracy jest to, iż wobec niewiedzy i niepewności sugeruje kierowanie się ostrożnością i przychylnością wobec drugiej istoty – choćby miała nią być maszyna.
Schneider nie przesądza, czy w możliwej do rzetelnego rozważenia przyszłości będziemy w stanie wytworzyć „świadomość syntetyczną”, a więc przynależną sztucznej inteligencji. Sugeruje natomiast, byśmy zawczasu, dla własnego bezpieczeństwa i bezpieczeństwa innych istot, zastanowili się nad regułami. Będą one niezbędne podczas podejmowania decyzji o udoskonalaniu własnych umysłów i tworzeniu kolejnych technicznych rozwiązań, co już się dzieje i niechybnie przyspieszy w nie tak odległych dekadach. By nie ulec zagładzie – potrzeba jednak sporo metafizycznej pokory.
