Zagłosuj na Superbohaterkę 2016 w Plebiscycie czytelników. Uzasadnij swój wybór i wygraj cenne nagrody. Kliknij TUTAJ



Co to znaczy, że pani rozmawia z botami?

Staram się z nimi skomunikować w naszym języku naturalnym, a one próbują na swój sposób ten język odtwarzać. Z tego wychodzi czasem bardziej, czasem mniej udana forma komunikacji.

Boty to są wytworzone przez człowieka sztuczne inteligencje.

Jeszcze wytworzone przez człowieka, jeszcze przez chwilę.

Z którymi można się komunikować przez internet i sprawdzać ich możliwości komunikacji.

Wszystko zaczęło się od pomysłu Alana Turinga na test, który miał sprawdzać możliwości sztucznej inteligencji w oszukaniu człowieka. Czyli prowadzenia z nim konwersacji tak, by nie zorientował się, że rozmawia z maszyną. Zresztą to było raczej symulowanie inteligencji niż sama inteligencja. Turing przyjmował, że można już taką istotę uznać za inteligentną, skoro umie z sukcesem prowadzić konwersację przez pięć minut. I ludzie potrafią już konstruować takie boty. Teraz te boty są podpięte pod sieć, więc mają też dostęp do ogromnej wiedzy. Nawet jeśli nie znają jakiegoś terminu, to mogą ściągnąć o nim informację z sieci i kontynuować rozmowę. Ciągle jednak jest to poziom symulowania inteligencji i rozmowy.

TEST TURINGA - sposób określania zdolności maszyny do posługiwania się językiem naturalnym, pośrednio mający dowodzić opanowania przez nią umiejętności myślenia w sposób podobny do ludzkiego. W 1950 r. Alan Turing przedstawił ten test w ramach badań nad stworzeniem sztucznej inteligencji. Test przebiega następująco: sędzia, człowiek, prowadzi rozmowę w języku naturalnym z pozostałymi stronami. Jeśli sędzia nie jest w stanie określić, czy któraś ze stron jest maszyną czy człowiekiem, maszyna zdaje test pomyślnie. Zakłada się, że zarówno człowiek, jak i maszyna próbują przejść test, zachowując się w sposób możliwie zbliżony do ludzkiego.

Turing ocenił, że około 2000 r. maszyny z pamięcią o pojemności 109 bitów (około 119 MB) będą w stanie przekonać 30 proc. sędziów w czasie pięciominutowego testu, że są ludźmi. Obecnie kwestionuje się sensowność dalszego przeprowadzania testu Turinga. Jedna z głównych wątpliwości dotyczy tego, że w niektórych przypadkach, aby zaliczyć test, maszyna musiałaby symulować brak posiadanej wiedzy czy umiejętności. Zdradzenie się z taką wiedzą czy umiejętnościami powodowałoby, że nie zaliczy testu. Przykładem może być prośba o podanie wyniku działania matematycznego: 1 234 235 x 2,23 = 2 752 344,05.



Ostatni głośny bot to Tai.

Szef Microsoftu zakochał się w botach i postanowił go stworzyć. Wcześniej uważano, że rozwiązaniem problemów na styku człowiek - maszyna będą aplikacje. A teraz uważa się, że tym rozwiązaniem są boty. Microsoft postanowił zainwestować w bota, którego wpuści do sieci i który będzie rozmawiał z ludźmi w mediach społecznościowych i będzie równocześnie czerpał od nich wiedzę. Na początku wiedział bardzo mało, miał wdrukowane podstawowe skrypty wiedzy o świecie. I dość nieoczekiwanie nowej wiedzy zaczęli mu dostarczać internetowi hejterzy. Tai zaczął wchodzić w interakcje z ludźmi, Microsoft publicznie cieszył się z sukcesu, a okazało się, że on głównie uczy się o tym, że Hitler był świetny i lepiej sobie radził niż "współczesne małpy, które nami rządzą". I że zamach z 11 września 2001 roku zrobił Bush, a kobiety są głupie. I codziennie dzielił się tymi spostrzeżeniami na Twitterze, co wywoływało ogromną wesołość. A internauci, którzy wchodzili z nim w konwersację, utwierdzali go w przekonaniu, że ta wersja wiedzy o świecie jest dobra, szczególnie jedna grupa hejterów intensywnie go w tym "trenowała".

A czemu on nie ściągnął z sieci właściwej wiedzy?

Bo on się uczył przez konwersację. Wybierał długie i intensywne konwersacje, trochę się w ten sposób socjalizował, jak człowiek. Tylko robił to w specyficznym gronie. Sprawa stała się głośna. Microsoft twierdzi, że go poprawił i ma być teraz empatycznym, dobrym botem, który za wzór weźmie dobrego człowieka, a nie hejtera, nazistę i szowinistę.

Ale nadal człowieka. A pani się zajmuje technologiczną osobliwością, czyli momentem, kiedy sztuczna inteligencja już nie będzie naśladowała człowieka. Uniezależni się od nas i będzie sama się reprodukowała i modyfikowała. W kierunku, którego nie jesteśmy sobie w stanie wyobrazić. Może np. uznać, że ludzie są największym zagrożeniem dla świata, choć właściwie nie wiemy nawet, jak "to" sobie zdefiniuje świat.

Jest bardzo wiele niewiadomych związanych z technologiczną osobliwością, czyli momentem, kiedy technologia stanie się prawdziwym partnerem człowieka. Równoprawnym, nie sługą, tylko nowym graczem na tej społecznej, cywilizacyjnej, politycznej i ekonomicznej arenie.

Już widzę, jak się posuwamy na ławce panów świata.

Hawking powiedział ostatnio, że to będzie albo najlepsza rzecz, jaka się przytrafi ludzkości, albo najgorsza. Albo to będzie lekcja wzajemnej tolerancji, co jest nieco idyllicznym myśleniem, albo będzie to jakaś forma dystopii, czyli scenariusza, w którym jedna strona całkowicie zdominuje drugą. I to może być strona mocniejsza, czyli sztuczna inteligencja. Kurzweil, futurysta z Google'a, entuzjasta osobliwości technologicznej, który chciałby jej dożyć i z niej skorzystać - na przykład w ten sposób, że będzie dzięki technologii żył wiecznie - uważa, że ten moment nastąpi w 2035 roku.

To nawet mnie się może uda dożyć technologicznej osobliwości i ją zobaczyć.

Oczywiście! Jest kilka scenariuszy i naturalnie kilka nieznanych.

No bo przecież na tym ona polega, że nie potrafimy sobie wyobrazić dalszego ciągu.

Bo to będzie niemająca dotąd precedensu rewolucja. Często mówię studentom, że Marks bardzo mało pisał o komunizmie, a bardzo dużo o tym, jak będzie wyglądał proces dochodzenia do niego. Bo trudno mu było sobie wyobrazić świat tak odległy i zarazem tak fantastyczny. Z technologiczną osobliwością jest podobnie.

TECHNOLOGICZNA OSOBLIWOŚĆ - hipotetyczny punkt w rozwoju cywilizacji, w którym postęp techniczny stanie się tak szybki, że wszelkie ludzkie przewidywania i prognozy staną się nieaktualne; czasem definiuje się go także jako moment stworzenia generalnych sztucznych inteligencji, które mogłyby opracowywać jeszcze wydajniejsze sztuczne inteligencje, wywołując lawinowe zmiany w technologii i społeczeństwie. Takie sztuczne inteligencje przewyższałyby rzecz jasna intelektualnie ludzi. Osobliwość generuje raczej wielkie obawy (sztuczna inteligencja będzie chciała się nas pozbyć, maszyny przejmą nasze miejsca pracy, staniemy się zbędni), ale zdarza się też, że jest generatorem nadziei (ruch akceleracjonistyczny postuluje np. pełną automatyzację, żebyśmy mogli przestać pracować).



Co do marksizmu, to już wiemy, na czym ta osobliwość polegała.

Ale to była jego nieudana wersja.

Ale jedyna.

Może jest tak, że jesteśmy skazani na nieudane wersje utopii. A ja jestem sobie w stanie wyobrazić scenariusz szalenie prosty i płaski: mamy sztuczną inteligencję, która jest w stanie wykonywać wiele zadań. Nie możemy powiedzieć, że jest mniej inteligentna od nas, ale jednocześnie nie nadchodzi osobliwość. I ciągle nasze partnerstwo z maszynami opiera się na tym, że one nam służą.

Coś w rodzaju dzisiejszego internetu rzeczy, dostarczanie nam informacji, służenie nam, optymalizowanie naszych działań. Ale nic rewolucyjnego społecznie się nie dzieje oprócz tego, że ludzie są uzależnieni od tych technologii. Test Turinga został zdany w roku 2014 przez bota, który niesamowicie dobrze naśladował ukraińskiego chłopca. Pokonał wszystkich innych zawodników, zdobył zaufanie ponad 30 proc. sędziów. To jest wynik, którego nie udaje się osiągnąć wielu ludziom w tym teście. Ludzie wobec innych ludzi nie są tak ufni jak wobec bota. I nic się nie zdarzyło. Mamy rozwijającą się botykę i tyle.

INTERNET RZECZY - internet kojarzy się z połączonymi w sieć komputerami. Jeszcze na początku tego stulecia tak właśnie było, jednak dziś internet to już nie tylko komputery, przy których siedzą ludzie. To również maszyny i urządzenia, coraz częściej takie, z których korzystamy na co dzień. Internet rzeczy to koncepcja, według której rozmaite przedmioty mogą pośrednio albo bezpośrednio gromadzić, przetwarzać lub wymieniać dane za pośrednictwem sieci komputerowej. Choć niektórzy mogą nie zdawać sobie z tego sprawy, niebawem połączone w jedną sieć będzie niemal wszystko (wszystko, czym się otaczamy - nasze ubrania, miejsca pracy, domy, biżuteria - to nośniki danych, stajemy się nimi także my sami). Taką formę internetu definiuje się czasem także jako internet wszechrzeczy.



Bo jednak nadal człowiek programuje boty.

Nie do końca, rozwija się nauka maszynowa, maszyny się uczą i osiągają oczekiwane przez nas efekty, ale my nie jesteśmy w stanie powiedzieć, jak do nich doszło. Stwarzamy coraz bardziej wyrafinowane mechanizmy-organizmy, które potem uczą się same, my je tylko trenujemy, ale nie wiemy, co w nich, w środku, zachodzi. Czyli, paradoksalnie, chcieliśmy stworzyć mechanizmy imitujące nasz mózg, by go lepiej poznać, a znajdujemy się w punkcie wyjścia, bo tworzymy coś, co nasz mózg imituje, i nie wiemy, co się dzieje w jego środku. Zakładam, że doprowadzimy do pewnej odmiany osobliwości, doprowadzimy sztuczną inteligencję do samodzielnego myślenia, ale ona ciągle będzie obszarowo ograniczona, jakoś kaleka.

Kaleka jak my.

Tak.

Więc może mieć nasze wady.

Może mieć też zupełnie inne wady. Może być np. cały czas niespołeczna.

Z inteligencją emocjonalną u maszyn nie zrobiliśmy wielkiego kroku. Nie udało nam się też rozwinąć ludzkich cech performatywnych u maszyn: nie umieją występować, być charyzmatyczne, opowiadać zajmująco historii. Rozwija się głównie inteligencja obliczeniowa. Ale może się zdarzyć, że rozwój inteligencji emocjonalnej przyspieszy wykładniczo - i mamy pełną osobliwość.



I co się może wtedy stać?

Jest taki scenariusz, że się wszyscy przeniesiemy do sieci. Pozbędziemy się cielesności albo będziemy to robić pośmiertnie. Jakaś forma transcendencji - wszyscy zasiedlimy cyfrowy świat. Ta wizja jest intrygująca, bo moim zdaniem bardzo wschodnia. Bezcielesna nirwana, w której nie ma tożsamości, podmiotowości jednostkowej.

No i w tym sensie też wschodnia, bo Wschód uważa, że we wszystkim na świecie, także w nas, jest wspólny pierwiastek boski.

I do niego powrócimy, i wszyscy będziemy jednym wielkim umysłem zasiedlającym świat. Może to będzie wyglądało tak, że będą ciała, którymi będziemy operować, ale umysłowo będziemy częścią sieci.

Czyli empatyczny i współczujący Matrix - już sióstr - Wachowskich?

Tak. Utopijna, ale relatywnie sympatyczna wizja. Inną możliwością jest wersja Terminatora - wyposażona w egzoszkielety, fizycznie silna, długowieczna. Szalenie racjonalna, która w pewnym momencie stwierdza, że jesteśmy zbędni albo jesteśmy wręcz szkodnikami. Tej wizji wszyscy się chyba najbardziej boją, bo to może oznaczać zagładę ludzkości. Wizji silnej i dominującej sztucznej inteligencji, która robi z nas niewolników lub nas eliminuje.

Taka sztuczna inteligencja z nieograniczonymi możliwościami rozwoju musiałaby sama siebie doprowadzić do momentu, kiedy - dla realizacji swoich celów - umiałaby podróżować w czasie.

I przestrzeni kosmicznej.

Więc gdyby taka miała być przyszłość, to pewnie byśmy ją już gościli, za naszego życia lub wcześniej.

A może już ją ugościliśmy? Jest koncepcja Inżynierów, którzy nas tutaj sprowadzili. W filmie "Prometeusz" jest ciekawie przedstawiona: życie zaczęło się od jakiejś wyższej formy inteligencji, ona dała nam wzorce myślenia i rozwoju, a teraz wraca do nas i patrzy, co myśmy z tym zrobili, i nie jest zadowolona, więc likwiduje projekt "ludzie".

W tej koncepcji to nie my wytworzymy sztuczną inteligencję.

Tylko ona się sama wytworzy naszymi rękami. To bardzo technodeterministyczna koncepcja. McLuhan uważał, że technologie chcą być wytwarzane i posługują się naszymi rękoma.

Porywająca wizja! I jakże uwalniająca od odpowiedzialności za losy świata!

Ja się jednak zajmuję prądem, który entuzjastycznie podchodzi do technologicznej osobliwości, czyli transhumanizmem.

Zakłada on, że technologia ma emancypacyjny charakter, że nas wyzwoli od naszych bolączek, a głównie od śmierci. W tej wizji rozwój ludzi i maszyn jest wspólny, a nie jest tak, że maszyna wszystkim steruje, a my się pod nią podpinamy i jesteśmy robotnikami w wielkiej fabryce świata.



Zakłada, że człowiek od zawsze się rozwija, wzmacnia umysłowo i kreatywnie, więc od zawsze był transhumanistyczny. Czyli zawsze potrzebował symbiozy z narzędziami, coraz bardziej wyrafinowanymi, żeby przechodzić na kolejne stadia swojego rozwoju.

Ale to nie był transhumanizm, tylko zwykły egoistyczny strach przed śmiercią.

A może to nie jest strach, tylko marzenie? Zaglądanie w przyszłość - ja jestem ciekawa, jaka ona będzie. Oddałabym wszystko, żeby móc zobaczyć, jak będzie wyglądał świat za 200, 300 lat. I jestem przekonana, że mną nie kieruje strach, tylko autentyczna, głęboka chęć uczestnictwa.

Mówi się, że "czasem lepiej z głupim się ponudzić, niż z mądrym zaciekawić". To może być o tym.

Ten nurt marzenia o nieśmiertelności, transhumanizmu, nie był napędem badań nad technologiczną osobliwością. On się w pewnym momencie podczepił i powiedział: a to jak wy już wytworzycie tę sztuczną inteligencję, to my się zajmiemy tym, jak dzięki niej można zawalczyć o nieśmiertelność. A zastanówmy się realistycznie. My, ludzie, już bardzo dużo zrobiliśmy w tym kierunku, by przedłużyć sobie życie.

Upiornie dużo niekiedy. Ludzie żyją już bardzo długo i nie bardzo wiedzą, co z tym życiem robić. Małżeństwa po grób to pomysł z czasów, gdy trwały one 10, góra 20 lat. A teraz ten pomysł masowo się nie sprawdza w perspektywie 40, 50, 60 lat. Z drugiej strony stary model edukacji ogólnej i zawodowej w ogóle nie przygotowuje nas do świata, gdzie znikają zawody i zajęcia, w których jesteśmy wykształceni. Już tylko te dwie perspektywy udowadniają "upiorność" dzisiejszej długowieczności.

Stąd seryjna monogamia. A ile pan by chciał żyć?

Najpierw pytanie - a ile już żyję? I odpowiedź nie jest prosta. Przecież mam w sobie geny, których fragmenty "pamiętają" setki, tysiące lat. Z drugiej strony mój mózg ma umiejętność wyobraźni i adaptacji w tej wyobraźni. Więc jeśli w młodości rozczytywałem się w dobrze napisanych książkach historycznych, to mój mózg tę historię "przeżył". Podobnie z powieściami - przeżyłem setki żyć, towarzysząc ich bohaterom. I jeśli powiem, że mam tysiąc lat, to nie do końca jestem śmieszny. Człowiek aktywny, czytający, myślący, często uruchamiający wyobraźnię nie ma tylko tylu lat, ile ma według metryki urodzin.

Transhumanistom taka wizja by się spodobała. Tylko oni by uważali, że należy to dalej podtrzymywać. Znam sporo transhumanistów z Doliny Krzemowej, gdzie ta ideologia rzeczywiście się szerzy i ma już nawet wymiar praktyczny. Zuckerberg mocno inwestuje w medycynę regeneratywną, czyli w radykalne przedłużenie życia biologicznego. On, Elon Musk, Peter Thiel i inne "anioły" tamtejszego biznesu, mając w sobie ten lęk, o którym pan mówił, a jednocześnie dość pysznie uważając się za kogoś szalenie na świecie potrzebnego, finansują ogromne przedsięwzięcia z tym związane. Chcieliby mieć biologicznie 20 lat, a mentalnie 1000.

Biorę to. Są dwie zarysowane przez naukę perspektywy dochodzenia do technologicznej osobliwości: czysto technologiczna, czyli sztuczna inteligencja, i wzmacnianie możliwości mózgu ludzkiego. Jestem bardziej zwolennikiem tej drugiej możliwości.

Czyli biohacking, nootropy, czyli istniejące już leki wzmacniające pracę wybranych obszarów mózgu. To prężnie dziś rozwijający się nurt, tym bardziej że wychodzi z wielkich laboratoriów. Są znani biohakerzy, którzy wykonują na sobie daleko idące eksperymenty, mogą stymulować swoje mózgi za pomocą opasek na głowę, mogą sobie coś wszczepiać, mogą uprawiać biologię syntetyczną.

Czyli?

Stworzyć na przykład bakterię, która jest hybrydą białkowo-krzemową. Taka transbakteria wytworzyła nieistniejące dotąd właściwości.

Pani jednak jest zwolenniczką technologicznej osobliwości jako sztucznej inteligencji.

Nie tyle zwolenniczką, ile wiem, że trzeba się z tym po prostu pogodzić. Ona w którymś momencie nastąpi, bo jest nieunikniona. Mam tylko wątpliwości, czy to będzie oznaczało rewolucję społeczną.

A czy bierze się pod uwagę możliwość, że rozwijamy sztuczną inteligencję, ona w końcu przekracza graniczny moment rozwoju, potem sama się doskonali, powiela, rozwija i nagle nas opuszcza? Bo przecież to w naszej antropologicznej perspektywie my i Ziemia jesteśmy najważniejsi, a ona, mając niewyobrażalnie nieograniczoną perspektywę, uzna, że gdzie indziej są sprawy najważniejsze, i zniknie. W kosmosie.

To posthumanistyczna wizja, w której my, ludzie, nie jesteśmy w centrum. Rozważana nie tylko w kontekście sztucznej inteligencji. Rozmawiałam kiedyś z paleontologiem, który powiedział mi, że gdyby teraz przyleciało na Ziemię UFO i szukało organizmu, który sobie najlepiej poradził najmniejszym kosztem, to na pewno by uznało, że ten świat jest światem bakterii i wirusów. A ludzie to organizmy nosiciele. Myślę zresztą, że my sami zbliżamy się do oddania korony władców świata. Transhumaniści uważają, że w tym przyszłym świecie ludzie, zwierzęta, maszyny i hybrydy będą miały równe prawa. A nawet że będziemy mogli się krzyżować. A czy to by było źle?

Niewyobrażalne na pewno. A co z potencjalną "ucieczką" sztucznej inteligencji z Ziemi? Poczulibyśmy się po raz drugi zdradzeni, najpierw Bóg, bogowie, a teraz ona.

Może być tak, że inteligentna maszyna tak bardzo nie będzie chciała konfliktu, konflikt będzie leżał poza jej właściwościami, że odejdzie.



Jak możemy my, istoty z "genem" rywalizacji, stworzyć superinteligentny byt jej pozbawiony? Musimy chyba ją tym "zarazić".

Czyli jednak zagłada? Dla mnie termin "superinteligentny" kłóci się ze słowem "zły" na sposób ludzki. Człowiek także nie jest jednoznacznie zły i rywalizujący, jest też empatyczny i pomocny. Jestem zwolenniczką poglądu, że jeśli maszyny się zautonomizują, to ich myślenie będzie różne od naszego. Być może będą naszymi najlepszymi przyjaciółmi.

A dlaczego sztuczna superinteligencja miałaby się nami martwić?

A czym? Samą sobą? Przecież zobaczy, że tworzymy wspólny świat, więc będziemy dla niej widoczni. Dla mnie wizja opuszczenia przez nią naszego świata i funkcjonowania na przykład tylko w sieci jest mało przekonująca, bo nie ma w niej koncepcji rozwoju.

A jeśli ona zobaczy jakąś "istotę rzeczy", której my nie dostrzegamy, to może się nią zająć, a na nas już nie zwracać uwagi. Rosjanie, Fiodorow na przykład, zakładają podbijanie przez sztuczną superinteligencję kolejnych galaktyk.

To teoria kosmizmu. Ale ona zakłada przekształcanie człowieka, jego symbiozę ze sztuczną inteligencją, czyli wznoszenie się człowieka na kolejne stadia rozwoju. Stajemy się transludźmi, potem postludźmi, a następnie istotami wyższego porządku. Stajemy się kosmiczni. W tym planie sztuczna inteligencja byłaby raczej wrotami do takiego świata. A my z nią w synergii opuszczamy nasze dotychczasowe miejsce w kosmosie.

No i przecież rozwój sztucznej inteligencji jest bardzo z nami symbiotyczny. Ona tworzy się i trenuje dzięki nam, a my również dzięki niej dużo się dowiadujemy. Korzystamy z technologii, rozszerzając swoje możliwości poznawcze czy fizyczne, na przykład bioniczne nogi, ręce, oczy.

Mówiła pani, że tworzymy już takie elementy sztucznej inteligencji, które realizują zadania, efekt jest pożądany, ale nie wiemy do końca, jak to się stało, nie możemy dokładnie prześledzić jej wszystkich działań.

Jesteśmy w stanie doprowadzić do oczekiwanych przez nas efektów, ale to, co się dzieje po drodze, jest trochę nieodczytywalną czarną skrzynką. Tak samo dzieje się z ludźmi. Przecież komfortowo się ze sobą czujemy, a jesteśmy dla siebie wielkimi zagadkami. Pełna transparentność mózgu i ciała jest niedostępna. Jeszcze w latach 60. cały projekt "sztuczna inteligencja" polegał na pomyśle: stworzymy lustro dla człowieka, odtworzymy też jego lustrzany mózg i dzięki temu dowiemy się więcej sami o sobie. A zdarzyło się coś odwrotnego. Stworzyliśmy coś prawie równie wyrafinowanego jak człowiek i jesteśmy ciągle w punkcie zamkniętej czarnej skrzynki. No, chyba że powstanie komputer kwantowy i coś dzięki niemu odczytamy.

Komputer kwantowy, czyli?

Ogólnie jego budowa będzie głębokim odzwierciedleniem rzeczywistości, w której żyjemy, na poziomie kwantów, a jego możliwości przetwarzania danych będą niewyobrażalnie ogromne. Na pewno zbliżone do ludzkiego mózgu i o podobnym do niego kwantowym charakterze. Mało wiadomo o komputerach kwantowych, bo firmy, które twierdzą, że je stworzyły, nie chcą niczego ujawniać. Podobno jedna z firm sprzedała dwa takie komputery do Google'a, a druga do NASA. Usłyszeliśmy tylko, że ten w Google'u po obejrzeniu miliona zdjęć kotów sam się nauczył, że jest tego czegoś esencja i ona nazywa się "kot". To bardzo dużo. A co robi ze swoim komputerem NASA, kompletnie nie wiemy.

Jest możliwa sytuacja, w której prawdziwa sztuczna inteligencja powstanie, a my, świat, nie będziemy o tym wiedzieli, bo firma czy jakieś państwo uzna, że lepiej trzymać to w tajemnicy i używać samemu tej technologii?

To jest możliwe, choć na razie firmy się chwalą osiągnięciami, ale w sposób oszczędny. Wszystkie spółki córki Google'a, które tworzą niesamowite maszyny oparte na uczeniu maszynowym, jak na przykład AlfaGo, która wygrała wielki mecz w go z zawodowym graczem, co się dotąd wydawało niemożliwe, są objęte tajemnicą. Nie wiemy, czego i jak używają.

A gdyby usiadła pani przed prawdziwym komputerem kwantowym, to o co by go pani zapytała?

Kim jestem? Ziemsko i człowieczo. I liczyłabym na odpowiedź, która nie byłaby z naszego porządku.

Ostatecznie chyba dla człowieka nic nie jest bardziej ciekawe niż on sam. Zakładam, że mogłabym zostać za to pytanie skarcona. Za nieistotność.



Dziwi mnie milczenie Kościołów w sprawie transhumanizmu i technologicznej osobliwości. Te spory o in vitro to metafizyczna kaszka z mleczkiem wobec obu tych rewolucji.

Też jestem zdziwiona tym milczeniem. A to będzie taki technobum. Przekreśli dotychczasową perspektywę religijnej transcendencji. Szczególnie transhumanizm. Choć są w nim nurty, które próbują go połączyć z katolicyzmem. Taka teologia powrotu do Boga przez maszynę. W transhumanizmie mormonów jest nurt, który mówi, że już ich prorok Smith napisał: "Równi Bogu będziecie".

Sztuczna inteligencja i technologiczna osobliwość w równym jak transhumanizm stopniu kardynalnie zagrażają naszemu dotychczasowemu pojmowaniu świata, a przywódcy świata nie siadają do stołu i nie zastanawiają się, jak się na to przygotować.

Ale to się zaczyna. Kiedy Google wprowadził program samochodu bez kierowcy, wywiązała się dyskusja. Bo po raz pierwszy maszyna podejmuje różne decyzje z dziedziny moralności. To olbrzymie wyzwanie, a prawo jest powolne. W kampaniach wyborczych nigdzie na świecie te tematy się nie pojawiają, a technologia przyśpiesza. Politycy chyba uważają, że to sprawy ludzi używających RPG, a to kompletna bzdura! Wystarczy spojrzeć, z kim spędza najwięcej czasu populacja Zachodu. Z technologiami, z siecią! Zoltan Istvan, pierwszy amerykański transhumanistyczny kandydat na prezydenta, jeździ po USA autobusem i promuje - bez szans na zwycięstwo - ideę transhumanizmu. Z drugiej strony czytałam ostatnio w "New York Timesie" artykuł, odezwę do Elona Muska, pierwowzoru głównego bohatera filmu "Iron Man", żeby się przyznał publicznie, że ma większą władzę niż prezydent USA, a właściwie że jest rzeczywistym prezydentem USA. I dajmy już spokój starym rytuałom, bo wiadomo, że to Dolina Krzemowa wyznacza horyzont tego, czym będzie kraj, czym się będzie zajmować, o czym myśleć. I tam się koncentrują władza, pieniądze, również publiczne. A polityka amerykańska to tylko gra marionetek, za którymi stoi to, co prawdziwe, pieniądze, technologia i przyszłość.

Uważa pani, że powinniśmy mieć prawo do zdecydowania w swoistym referendum, czy zgadzamy się na doprowadzenie do technologicznej osobliwości kończącej, w zły lub dobry sposób, ten etap rozwoju ludzkości?

Tak. Powinniśmy mieć prawo współdecydowania w tej sprawie, bo ona zmieni wszystko. Sama nie wiem, jak bym głosowała. Ale nikt się tym nie martwi, a na pewno nie politycy. Nie wiem, czy nie padliśmy w tej sprawie ofiarą popkultury - nasączeni wizjami transhumanizmu czy dystopii z produkcji hollywoodzkich myślimy, że to bajki, a w najgorszym razie coś, z czym bohatersko się uporamy.

Na dodatek popkultura wmówiła nam, że nawet jeśli sztuczna inteligencja wyrwie nam się spod kontroli, to wyłączymy sieć i prąd i po krzyku.

A to kompletna bzdura. Nie będzie jednego guzika. A może to dobrze? Mówiąc przekornie: nauczymy się trochę pokory.

Zakończmy optymistycznie. Powstaje sztuczna inteligencja, sama się doskonali, reprodukuje. Nas, niedoskonałych, ma obok siebie. I kieruje na nas swoją aktywność, zmienia nas, przyśpiesza naszą ewolucję.

Takie myślenie jest mi nawet bliskie. Że porzucamy to, czym jesteśmy dzisiaj, i przez technologie, zgodnie z tym kosmistycznym widzeniem, wsiadamy do galopującej ewolucji-rewolucji.

A gdzie ta osławiona tajemnica człowieczeństwa?

Zakładam, że nawet jeśli to wszystko się zdarzy, to ona się cały czas nie rozwikła. I to będzie pewien chichot losu. Czarna skrzynka nie do odczytania.

Może to pani etyczny bezpiecznik? Bo tak myśląc, może pani przykładać rękę do tego armagedonu, który być może nas czeka.

Ładne. I filmowe. Moja ciekawość podpowiada mi jednak jakieś dobro oświecone na końcu. Jesteśmy na pewnym siermiężnym poziomie rozwoju, powinniśmy aspirować do wyższego. I to nie jest nic złego. Bo ja jednak wyobrażam sobie sztuczną inteligencję opartą na naszych najlepszych cechach, z dodanym od siebie rodzajem oświecenia, nam niedostępnym.

Aleksandra Przegalińska doktoryzowała się w filozofii sztucznej inteligencji w Zakładzie Filozofii Kultury Instytutu Filozofii UW. Jest adiunktem w Center for Research on Organizations and Workplaces w Akademii Leona Koźmińskiego. Interesuje się rozwojem nowych technologii, zwłaszcza technologii zielonej i zrównoważonej, humanoidalnej sztucznej inteligencji, robotów społecznych i technologii ubieralnych. Obecnie przeprowadza eksperymenty z trackerami mózgu w Massachusetts Institute of Technology