70 lat tradycji. Inspirujemy Prowokujemy Dyskutujemy

Przyszłość otwarta na dobre i na złe

Zagadnieniu „sztucznej inteligencji” poświęcono do dziś całe biblioteki. Podział stanowisk od siekiery dzieli wypowiedzi ekspertów i laików na obóz przekonanych, że AIda się zrealizować technicznie lub biotechnicznie, i na przeciwników, utrzymujących, że maszyny inteligencji ludzkiego typu nigdy nie osiągną. Ponieważ muszę być zwięzły, muszę być apodyktyczny.

1. Inteligencja nie jest mądrością. Na przykład samonaprowadzające się bronie (FAF– Fire and forget) są tylko metaforycznie „inteligentne”, są raczej „chytro-celne”. W przyszłości zasięg sprawności będzie specjalizacyjnie rósł. Jużistnieją maszyny zdolne do ekspertyz na wielu polach (diagnostyczno-terapeutyczne w medycynie; wyliczanka byłaby długa), ale wszystkie funkcjonują na zasadzie całkowicie „bezmyślnej” selekcji w obrębie dendrytów danych, one się niczego nie „domyślają”, są to raczej – muszę znów użyćmetafory – sita połączone z encyklopedyczną informacją dotyczącą danej dziedziny”. Są pożyteczne, mogą być bardziej nieomylne od ludzi (geologów, lekarzy), ponieważ ich „wiedza” jest funkcją rozmiarów nagromadzonej specjalistycznej informacji. Z inteligencją człowieka mają niezmiernie mało wspólnego. Twierdzenie pospolite, jakoby dziś AI osiągała potencjał mniej więcej trzyletniego dziecka, jest dyskusyjne, bo różne są także dzieci. W przyszłości może stać się tak, że trendy dziś rozchodzące się (maszyny celują w ekspertyzach i w symulacjach, zwłaszcza cyfrowych „na rozkaz dany”, ludzie nie mogą ich na tych polach doścignąć: nożyce otwierają się tu szeroko) będą powoli schodziły się. Uważam, że „inteligencja” może służyć „wszystkim poczynaniom” („inteligentne” bronie trudno zwać nosicielami jakiegokolwiek „dobra”), jest ona jak nóż, instrument, ale nie jak ręka, powodowana aktami myśli i woli.

Natomiast stoją na stanowisku, że osobowość, jako władczyni inteligencji, i rozumność, jako sprawność obleczonej albo nie obleczonej w mowę zdolności do transferu dowolnych danych („performatywność”), mogą być rozłączane. To znaczy, że może powstać rozum bezosobowy, zdolny do rozwiązywania zadań, także tych, które nieposilne są dla człowieka, ale ten rozum mógłby ewentualnie symulować posiadanie osobowości (że niby ,jest personą”). Czy wtedy „byłby naprawdę osobą”, czy nie, to będzie zależało od ustalonej przez ludzi konwencji, ponieważ żaden test typu testu Turinga nie może dać 100% pewności co do tego, czy mamy kontakt z osobowością, czy z jej imitacją. Zresztą nie mamy bezpośredniego dowodu na to, że każdy człowiek poza nami (poza mną) ma świadomość i zarazem, że jest świadomie inteligentny; to domniemanie, uznawane za pewne, wynika po prostu z nawyku, wygody i stąd, że funkcjonowaniem, budową „konstrukcyjnie” jesteśmy omal tożsami (jako gatunek zwierząt rozumnych). Spis tego, co jeszcze maszyny sprawią jako przetwarzacze informacji, byłby juz rozmiarów książki telefonicznej.

2. Maszyny do przetwarzania danych powodują swym istnieniem i działaniem konsekwencje natury egzystencjalnej, etycznej, emocjonalnej, bez względu na okazywane w ich pracy podobieństwo lub niepodobieństwo do podobnych prac ludzkich (przykład: maszyna może działać jak sędzia w sensie „summum ius summa injuria”, gdy trzyma się wszystkich kodeksów stanowionego prawa karnego i cywilnego oraz wprowadza „poprawki” rodem z zaprogramowanego w niej kodeksu etycznego, który musi być zawsze pełen potencjalnie powstających antynomii praktycznego działania – por. Kołakowskiego Etykę bez kodeksu). „Wirtualizacja” prac umysłowych jako na przykład rezygnacja z bezpośredniej współpracy ludzi na rzecz „wirtualnych” instytucji, biur, urzędów, gdzie człowiek kontaktuje się przez komputer z komputerami, przy których siedzą inni ludzie, musi mieć powyżej nazwane konsekwencje (przykład: łatwo wydać komendę, mocą której inni ludzie będą cierpieć lub ginąć drogą „łańcucha pośredniczeń” komputerowych, gdyż zadanie końcowe może być przeformułowywane z dowolną intensywnością peryfrastyczną, ale z mocą ekwifinalną). Znaczy to, że nie człekokształtność inteligencji czy pseudointeligencji maszynowej powoduje nazwane konsekwencje. Epoka pary albo epoka atomu spowodowały konsekwencje pośrednio od ludzi zależne i na ludzi wpływające, natomiast mierzalny IQ (iloraz inteligencji) jako miernik wagi owych konsekwencji wcale nie musi być istotny. (I wśród ludzi agresywny dureń u władzy może powodować konsekwencje gwałtowniejsze od konsekwencji pracy tysiąca Einsteinów.) Rozwój – każdy – prowadzi do rozstaju skutków „dobrych” i „złych”. Technology assessment Amerykanów czyli przewidywanie konsekwencji psychosocjalnych wdrażania każdej (nowej) technologii nie jest w pełni z góry możliwe. „Odsiew” złych skutków „dobrej jako bardzo sprawnej” technologii jest zadaniem na ogół niepokonywalnym. (Komputer mógłby stać się nawet cenzorem, ale też bezmyślnym, wedle zaprogramowania swojego, a nie podług jakiegoś „prawa Natury”). Każda technologia o efektywnej mocy sprawczej jest potencjalnie w awersie zbawienna, w rewersie – niebezpieczna. Tak było i sądzę, że tak będzie. Komputer programowany na rzecz „dobra dla ludzi” też, jako zniewalający do „algorytmu dobrych zachowań”, może powodować wiele nieszczęść.

3. Myśleć i działać jak ludzie przeszkadza maszynom to, że nie są ani architektonicznie (budową), ani funkcjonalnie (czynnością) podobne do ludzi. Zgadzam się w części ze stanowiskiem Douglasa Hofstädtera, że myślenie nasze nie jest „obliczeniowe” (computation), lecz jego podstawą, źródłem jego sprawności albo niesprawności jest obliczeniowość „podświadoma”, ale introspekcyjnie rozpoznać własnej umysłowej „mechaniki” nikt nie może.

Jak nogi nie są ani śmigłami, ani kołami, tak komputer nie jest mózgiem i wszystkie rodzaje (setki już) i generacje komputerów nie zbliżają się budową do mózgów człowieka. To nie znaczy wcale, żeby się trend nie mógł w przyszłości odmienić. Pytanie w strywializowanej wersji brzmi: dlaczego rydwany dowolnego typu z dowolnymi zaprzęgami i woźnicami nie mogą rywalizować ani z czołgami, ani z autami wyścigowymi, ani z motocyklami, ani z naddźwiękowymi odrzutowcami? Skoro są budowane na innych zasadach, to nie mogą. Nic nie stoi w nieograniczanej aprioryzmem (albo niewiarą w „postęp biotechniczny”) sprzeczności z tym, że maszyny będą mogły kiedyś myśleć jak ludzie, ale tylko w rezultatach. Znaczy to, że aby się dowiedzieć, czy maszyna okazująca zachowaniem (także językowym) podobieństwo do człowieka jest z człowiekiem homologiczna, trzeba być taką maszyną. Stany umysłowe rozpoznajemy zawsze pośrednio, poprzez behawior (także językowy) i zawsze porozumiewamy się przez język (może to być i Körpersprache, i mimika, i gestykulacja, i działania symboliczne, nie językowe). Przyszłość nadal stoi otworem na dobre jak na złe.


Staniał Lem

„Znak” wrzesień 1995, nr484

 
 

Dołącz do nas!

Prenumeratorzy zyskują więcej.

Zobacz ofertę!

Prenumerata