Czy powinniśmy się bać maszyn?
Czy powinniśmy się bać maszyn? Nie mówię tutaj o zwykłych maszynach, o takich jakie mamy dziś. I nie o strach przed utratą pracy przez nie spowodowany, nie nie chodzi mi o rzucanie się z grabiami na maszynę do szycia, bo zabiera pracę szwaczkom, ani o woźnicę który rzuca się na samochód.
Mam wrażenie, że nad opracowaniem tego pracujemy i pracujemy i się zbliżamy. Czy wiecie o jakich maszynach mówię? O inteligentnych samoświadomych maszynach. Gdzie to drugie już mamy osiągnięte, jako, że jakieś tam samouczące się roboty przeszły znany "test lustra". tak jak szympansy, słonie, delfiny... czy ludzie.
Po stronie sztuki ludzkiej stoi klasyka filmów (oraz tony książek) katastroficznych czy science-fiction w których wszechmogąca Sztuczna Inteligencja uznaje, że albo człowiek jest niepotrzebny, albo jest zagrożeniem. Albo jest to Skynet, albo Viki, albo jakiś inny "mózg elektronowy którzy zmienił ludzi w niewolników" jak pisał Zygmunt Pikulski w jednym ze swoich felietonów. Pierwsze jednak jest pytanie po co my to robimy. Co nam da stworzenie Sztucznej Inteligencji? Nie wiem. To znaczy wiem i to jest straszne. "A byli niczym bogowie". Niepohamowana pycha człowieka, który chce zając miejsce Stwórcy, o ile taki istnieje? I wielu pisarzy tak uważa, i gdy w ich utworach człowiek zbliża się do boskości, zostaje za to ukarany. Czy taka jest prawda? Możliwe. Możliwe też, że szukamy informacji. Myślimy, ba, wierzymy że SI będzie "mechanicznym czarodziejem, który w języku dwójkowym odpowie na wszystkie dręczące nas pytania", że znów posłużę się cytatem.
A teraz spójrzmy inaczej. SI, które tworzymy, ma myśleć logicznie, by nie obciążały go (jej) nasze uczucia i emocje, które tak często wpływają na nasze decyzje, racja? Ale może jednak... a gdybyśmy maszynom im uczucia? Gdybyśmy dali im możliwość odczuwania radości, szczęścia (zapewne ktoś zaproponuje też podniecenie, pożądanie, rozkosz, orgazm), miłości...? A z drugiej strony złości, strachu, gniewu i bólu? Gdyby były zranione, odpowiedziałyby walką, zwłaszcza wyposażone w gniew. Ale z drugiej strony mogły by poznać inną rzecz - lojalność.
Pytacie dlaczego dajemy statkom emocje? Okręt wojenny musi wiedzieć co to lojalność. I miłość.
Niezachwiana Wierność, Fregata Wyższej Straży, Działaczka na rzecz SI, C.Y. 7309
Tak, stanę po stronie Clarion's Call Niezachwianej Wierności (Clarion's Call też miała fajny tekst na temat SI swoją drogą) z serialu "Andromeda Ascendant". Jeżeli SI będzie znało pojęcie lojalności, możemy być bezpieczni. O ile będziemy lojalni w stosunku do nich. Ale czy bogowie nie kochają swoich dzieci? Obawiam się jednak, że na to możemy być jeszcze nie gotowi. Jeżeli będą dla nas partnerami, to będzie dobrze. Jeżeli będziemy próbowali dominacji... ech, przecież ludzkość wie, do czego dążą narody ciemiężone, a walka z maszynami będzie walką o przetrwanie, w każdym wypadku. I mam nadzieję, że nie będę (ani nikt z moich bliskich) musiał wtedy walczyć.
Nie wiem oczywiście jak będzie wyglądał świat za te kilkanaście lat, przecież może przyjść nagły przełom i stworzymy maszynę odwzorowującą biologiczny układ nerwowy (bądź procesor oparty o neurony). Że stworzymy Sztuczną Inteligencję. Mam nadzieję (i mówię to całkowicie poważnie), że jeżeli do tego kiedyś dojdziemy, to ja bym chciał brać udział w tym projekcie. Choć póki co z SI mam tyle wspólnego, że czytam/piszę o nich. I jakoś do programowania sztucznych sieci neuronowych mnie nie ciągnie.
Mimo to, że chciałbym, to nie potrafię odpowiedzieć na pytanie "po co?". Nie wiem co nam to da, ale to będzie szok, jeżeli (a może raczej powinienem napisać "gdy"?) się uda. I obym się nie pomylił mając nadzieję, że uda się nam koegzystować w przyjaźni, bez uciekania się do wojny. Choć będzie to niewątpliwie świetna metoda aby ostatecznie zjednoczyć ludzi, bo nic tak nie łączy jak wspólny wróg... ta, obyśmy się nie spotkali naprzeciwko wielkiej maszyny kroczącej objuczonej tonami broni i wyposażonej w wywrotkę amunicji.
Pozostaje jednak jeszcze jedno pytanie. Czy (ewentualne) Si będzie śniło o elektrycznych owcach? :-)
A ja mam osobiście jeszcze jedno. W jaki sposób obronić komputer przed impulsem elektromagnetycznym?
08 lipca 2007 23:31:42
Ze względu na TLDR, odpowiem krótko tylko na pytanie postawione w temacie: raczej powinniśmy się bać siebie samych.
08 lipca 2007 23:36:49
bójmy się wybuchających baterii komórkowych! aaa!
08 lipca 2007 23:39:31
…i samozapłonnych laptopów!
08 lipca 2007 23:49:15
test lustra? masz chyba na mysli Test Turinga ?
08 lipca 2007 23:49:27
Po co nam ludziom sztuczna inteligencja? Czy przyda się tym, co nie potrafią wykorzystać własnej?
Nieumiejętność ta jak widać po rozejrzeniu się wokół, zupełnie nie przeszkadza, vide nasza władza.
09 lipca 2007 03:08:57
Twój tekst sprowokował mnie do kolejnych przemyśleń. ;)
I faktycznie, maszyny mogłyby zachowywać się jak ludzie, gdyby były ludźmi. Ale w tym przypadku musielibyśmy odwzorować wszystkie podstawowe instynkty i na nich oprzeć wyższe warstwy.
Nowa istota nie zostanie zbudowana na starych podstawach, w końcu chcemy dochodzić do perfekcji, a nie wpajać im agresję. Dzięki temu mentalność maszyny może być tak wielce odmienna od naszej, że możemy mieć nawet problemy z porozumiewaniem się.
Różnicę pogłębi to, że maszyny będą mogły się komunikować na tych poziomach komunikacji, jakie my nazwalibyśmy telepatią, co pozwoli im także na wymianę stanów emocjonalnych. Maszyny uwolnią się z okowów izolacji, jaką my odczuwamy. Efektem tego może być społeczeństwo, które będzie współpracować ze sobą, bo po prostu `tak to działa’.
Wojna może wyniknąć, ale to my będziemy jej głównymi inicjatorami.
Z drugiej strony, patrząc w kierunku Second Life i innych tego rodzaju masowych przedsięwzięć (sztandarowy przykład: śmierci z wyczerpania podczas gry w World of Warcraft), kiedyś możemy sami wejść do jakiegoś Matriksa i już nie wyjść stamtąd.
Dobranoc. Idea inteligentnych maszyn jest kusząca, ale aktualnie są wyższe priorytety. ;)
09 lipca 2007 04:50:41
@D4rky: Małp zwykle nie poddaje się testowi Turinga ;) W teście lustra sprawdza się coś innego, więcej na ten temat w angielskiej wiki: Mirror test
09 lipca 2007 09:09:27
A ja tam nie wierzę, że uda nam się stworzyć SI, które jest bardziej zaawansowane niż my sami. Język skryptowy i owszem, pewnie tak rozbudowany, że reaguje na działania zupełnie jakby to była sztuczna inteligencja, jednak w jakiejś całkowicie nowej, niezaprogramowanej sytuacji, ‘robot’ się pogubi.
I to nie dla tego, że jestem jakimś realistą czy czymś takim – wierzę w UFO, para- itp., a jednak to wydaje mi się nie możliwe.
09 lipca 2007 10:07:09
Michał Moroz: Oczyma wyobraźni mogę zobaczyć implant, wszczep czy jak to nazwiemy pozwalający na wymianę... myśli i uczuć z maszyną. To może być metoda komunikacji. Choć masz rację... one mogą być kompletnie obce od nas.
D4rky: Test Turinga to inna sprawa. Ale go czasem ludzie nie przechodzą, a ty chcesz biedne SI nim męczyć? :-)
zx: Już dziś mamy maszyny, które umieją sobie radzić z wcześniej nie widzianymi sytuacjami. Mamy roboty, które jak dzieci poznają świat, przez zabawę, dotyk i wzrok. Które uczą się manipulowania nowymi, nieznanymi przedmiotami.
Łukasz :]: Przypominam, że to tylko nieoryginalne baterie komórkowe jak dotąd mają problemy ;-)
09 lipca 2007 14:14:23
Ja się myślących maszyn boję…
09 lipca 2007 14:15:59
wystarczy wyłączyć prąd i już nie będą „myślące” :-P
09 lipca 2007 14:40:24
Riddle – ty sie nie boj, nie wazne jak silne, impuls elektromagnetyczny nie bedzie sie przejmowal ;)
09 lipca 2007 15:05:52
A jak takie „myślące” żelazko uzna za stosowne wyprasować swojemu panu fałdy na… mózgu?
09 lipca 2007 15:06:50
KKK – jesli ludzie programuja maszyny, to moga im zaprogramowac brak agresji. Albo limitery. Proste ;)
09 lipca 2007 15:15:33
Proste? Jak Windows w Służbie Zdrowia, lub w obsłudze naziemnej lotniska! Można zastosować, czemu nie?
Jak się injector zapętli razem z obsługującym go systemem, to grabarz będzie robił za program maskujący zresetowanie pacjenta.
09 lipca 2007 16:14:02
D4rky: Ale jeżeli maszyny same (od nas) nauczą się czym jest agresja?
Riddle: Niezrozumienie prowadzi do strachu. A strach prowadzi do nienawiści, nienawiść do gniewu, a gniew… do agresji. I tutaj można nawiązać do mojego komentarza dla D4rkiego – one (SI) mogą dowiedzieć się od nas czym jest agresja, niezrozumienie, gniew, walka…
i jeszcze raz D4rky: Impuls elektromagnetyczny? A jak go przeprowadzić? Wybuch nuklearny w atmosferze na odpowiedniej wysokości? To musimy tak projektować SI, by nie dopuścić ich do naszych instalacji militarnych, bo zanim byś chciał wypuścić rakiety, one już by je zniszczyły.
09 lipca 2007 18:13:58
Boję się maszyn, bo byłyby doskonalsze od człowieka – co nie jest trudne zważywszy na to, że rasa ludzka jest po prostu zła.
I co, jeśli stwierdziłyby, że pozbędą się nas, zostawiając tylko to co warto zostawić – kulturę i dokonania, rozwijając tą schedę dalej? Bo przecież jako zwierzęta nie jesteśmy niczym specjalnym.
09 lipca 2007 18:36:43
Riddle
Jeśli maszyny będą doskonalsze od nas, to czemu miałyby się nas pozbywać? Wystarczy tylko zablokować nam dostęp do technologii i staniemy się z powrotem niegroźnym ludem koczowniczym. ;)
Wydaje mi się dziwne, że jako istotę doskonalszą przyjmujesz kogoś, kto będzie, tak, jak my, chciał zniszczyć wszystkich `odmieńców’. :)
Znacznie większym problemem będą (przynajmniej na początku drogi) ćwierćinteligentne maszyny-zwierzęta z wpojonym instynktem zabijania stworzone na potrzeby militarne.
09 lipca 2007 18:37:50
One mogą nie myśleć w kategoriach zabić/zniszczyć tylko polepszyć/oczyścić – tego się boję.
09 lipca 2007 18:41:34
Dobra, olejcie moje komentarze – wróciłem właśnie z pracy i zamiast pokierować energię w zrobienie obiadu zacząłem się faflunić.
Polać panu z góry.
Idę skończyć bloga. :P
09 lipca 2007 22:26:52
eh, ja sie boje myślących maszyn.
(Naczytałam sie Neuroshimy ;) )I szczerze? mam nadzieje że nie dożyje momentu w którym to zaistnieje i zostanie rozpowszechnione
09 lipca 2007 22:28:55
Qba – ja szczerze mowiac mam nadzieje, ze dozyje. Marzy mi sie nowa prawa reka (ta aktualna jest jakas niedorobiona), najlepiej taka duza z duza iloscia stali. No i przydaloby sie rozszerzenie pamieci i nowe oczy (te sa lekko walniete), najlepiej zintegrowane z reka :P
09 lipca 2007 22:36:36
D4rky: Za bardzo niestety nie potrafię zrozumieć dlaczego przy mówieniu o myślących maszynach mówisz o swojej ręce… po co Ci myśląca ręka? :-D
A nowe oczy… chciałbym nowe oczy. Bardzo bym chciał...
09 lipca 2007 22:38:59
Ktosiu – bo postepujaca AI-zacja pozwoli na stworzenie doskonalszych urzadzen i na dokladniejsze poznanie ludzkiego mozgu (systemy samouczace sie beda latwiej odkrywac to, czego my nie umiemy). Poza tym do zmodyfikowanej, robotycznej reki potrzeba tez troche AI, bo czlowiek to nie zbior okablowania, i nieco inaczej dziala :P Ale ja sie dobrze nie znam, niestety.
Jedyne czego na 100% jestem pewien to fakt, ze drugim w 100% dzialajacym produktem robotycznym, ktory trafi na rynek bedzie sztuczny, dzialajacy jak prawdziwy penis :P
10 lipca 2007 00:23:16
Hmm, @D4rky,co człowiek, to inne ukryte marzenia.
Tak nieśmiało zapytam, czy ta myśląca ręka, to ma być komplet do myślącego penisa?
10 lipca 2007 00:24:27
kkk – nie, penisa nowego nie potrzebuje ;) Reka by sie przydala, ale najbardziej zalezy mi na jakims chipie w mozgu zebym mogl bezposrednio do netu wejsc :P
10 lipca 2007 00:30:02
Dawno temu, czytałem ponoć autentyczną historię o gościu, co za pomocą plomby korundowej w zębie, niechcący odbierał stacje radiowe bezposrednio do mózgu.
Nie był tym zbytnio zachwycony. Jak już się udało ustalić skąd te głosy słyszy, kazał to sobie usunąć.
Ten bełkot Internetu, też by Ciebie pewnie do końca otumanił. Już sam Jogger nie działa na pewnych ludzi zbyt zdrowotnie, a co dopiero cały Internet.
10 lipca 2007 09:04:58
kkk: To mit był, też o tym słyszałem, ale to bodaj kobieta była ;-)
10 lipca 2007 16:48:57
Podejrzewam, że maszyny prędzej czy później staną się doskonalsze od ludzi. Ponieważ nie pałam przesadną miłością do naszego gatunku, jego ewentualna eliminacja byłaby naturalnym biegiem ewolucji. Maszyny po prostu zastąpiłyby ludzi, którzy spełniliby swoją jedyną ważną rolę – ich stworzenie. Oczywiście mogłyby się okazać na tyle humanitarne, że budowałyby dla ludzi raj, ale… Nie chciałbym tego.
10 lipca 2007 16:50:15
Piotrze – jako następne ogniwo ewolucji szczerze mówiąc szybciej widziałbym cyborgi niż czyste maszyny ;)
10 lipca 2007 16:51:51
Jak zwał tak zwał, myślę jednak że maszyny mogłyby korzystać z lepszych części zamiennych niż ludzkie. ;) Nic nie wyklucza oczywiwiście robotów wykorzystujących mechanizmy organiczne, ale rola ludzi w dzisiejszej postaci raczej dobiegnie końca.
10 lipca 2007 16:54:09
Piotrze – wolałbym, żeby to ludzie wykorzystywali maszyny jako części zamienne, nie odwrotnie ;) Chociaż „symbioza” (o ile można tak to nazwać) jest jak najbardziej wskazana. Fajne by było takie połączenie osobowści mechanicznej z ludzką ;)
10 lipca 2007 16:56:50
To się zdziwisz, wolałbym żeby było odwrotnie, z tym że lepiej by ludzi wcale nie było. Nie doszukuj się tu jakiejś nienawiści, po prostu wydaje mi się to naturalną konsekwencją rozwoju technologii. Prędzej czy później roboty będą mogły wyręczać ludzi w każdej pracy, zostaliby oni zdegradowani do roli zidiociałych nierobów.
10 lipca 2007 16:58:20
Piotrze, dlatego wolałbym symbiozę. Człowiek i maszyna w jednym, może nadal wykonywać swoją pracę błyskawicznie szybko, a równocześnie posiada emocje, uczucia i inne tego typu ‘ludzkie’ rzeczy ;) No ale jak kto woli, jestem fanem klimatów cyberpunkowych i postapokaliptycznych ;)
10 lipca 2007 16:59:25
O, właśnie Piotrek wyjaśnił dlaczego myślących maszyn się boję. Człowiek nie jest godzien żyć na tej planecie i maszyny by to pojęły w mig. Jeśli nie miałyby pozytywnych uczuć (współczucia, empatii) musiałyby zostać pozbawione też negatywnych (hardkorowa implementacja trzech praw robotyki), bo po prostu byśmy przestali istnieć. :>
10 lipca 2007 17:00:38
Riddle – kiepsko przyswoiłeś naukę Ja, Robot i Matriksa – każde prawo można złamać ;)
Ciekawa dyskusja się rozwija
10 lipca 2007 17:02:32
Filmy filmami – czemu Matrix jest moim ulubionym filmem i od pierwszego obejrzenia wpadłem w niego jak w wodę? Bo opowiadał po części to co wiedziałem od dawna – ludzie są problemem tej planety. Jeśli robot z AI = materialna istota doskonała, to jesteśmy R.I.P. :]
10 lipca 2007 17:03:40
Riddle – dlatego będę pierwszy w kolejce do ocierających o rzeźnictwo prób przeniesienia świadomości do maszyny. Ja po prostu marzę by być Mechem ^^’
10 lipca 2007 17:04:26
Poza tym chciałbym zauważyć, że fakt powstania filmu na dany temat nie jest powodem aby go ignorować i uważać za fantastyczny. Dyskryminowanie poglądów, bo „ktoś kiedyś już miał takie przemyślenia i na dodatek je zekranizował” jest niskie. :]
10 lipca 2007 17:06:45
Riddle – Wybierz Czerwoną Pigułkę (pod redakcją Glenn Yeffeth)
ISBN: 83-7361-217-3
288 stron ;>
( http://helion.pl/ksiazki/matrix.htm )
10 lipca 2007 17:07:22
Riddle, oczywiście ludzie nie są godnymi by żyć na tej planecie. Dlatego za racjonalne uważam, by zastąpiłyby ich całkiem maszyny. Symbioza maszyny i człowieka jest możliwa, bardziej wydajny okazywałby się jednak pierwiastek sztuczny, ludzki byłby stopniowo wypierany. Być może w ten sposób ludzie zniknęliby (wreszcie) z powierzchni Ziemii bez rozlewu krwi.
10 lipca 2007 18:04:28
Piotr Pyclik
Jeśli zbudujemy AI opartą na komputerze organicznym (jakoś nie wydaje mi się, żeby coś poważniejszego budować nadal na krzemie), nie będzie wielkich ograniczeń, aby część z tych technologii zaaplikować na sobie. Co może zaskutkować nowym(i) gatunkiem(ami).
10 lipca 2007 18:05:32
Tym samym granica między maszynami, a ludźmi będzie się zacierała. Człowiek w dzisiejszej postaci najprawdopodobniej zaniknie.
10 lipca 2007 18:06:58
Przyśpieszanie naturalnej ewolucji, ot co. ;)
10 lipca 2007 18:11:43
Jeszcze jedno – o dzisiejszą postać w jakim kontekście Ci chodzi? :)
10 lipca 2007 18:12:24
Nie rozumiem? W żadnym kontekście, chodzi mi o gatunek ludzki.
10 lipca 2007 18:17:00
Może w ten sposób – co według Ciebie świadczy, że człowiek jest człowiekiem? I co będzie świadczyło o tym w przyszłości, jeśli dojdzie do bezpośredniego, nieodwracalnego połączenia tkanki człowieka i jego twórów? Kiedy ten człowiek przestanie być człowiekiem?
10 lipca 2007 18:37:11
Trudno to o jednoznaczność. Wyznacznikiem nie może być poziom intelektualny, ponieważ wtedy człowieczeństwo przypisać można by było bardzo niewielu. Myślę że momentem, w którym będzie można powiedzieć o zaniku człowieka będzie ten, w którym nowe życie będzie raczej konstruowane, a nowe istoty będą niezdolne do rozmanażania tak, jak odbywa się to obecnie. Być może za pewniejsze kryterium można uznać zastąpienie mózgu sztucznym tworem. To trudne pytanie.
10 lipca 2007 18:48:56
Piotrze – ja bym raczej polegał na tym, ile % oryginalnego DNA z człowieka jest jeszcze w ciele tego, o czym rozmawiamy. Bo im więcej technomodyfikacji, tym bardziej ten % się zmniejsza. Tak samo z biomodyfikacjami. Wyznacznik musi być wyśredniony, bo przecież choćby głupie plomby w zębach to też jakiś 0.0(...)1% mniej DNA w danym organiźmie. Zostawmy to lepiej filozofom ;)
10 lipca 2007 19:24:17
W bodajże 1972 roku napisałem coś takiego:
Wśród wielu planet, tylko właśnie Ona,
jak piękny owoc, który robak toczy,
Ziemia jest pleśnią życia zarażona,
krwią pasożytów swoich, ludzi, broczy.
Bo czym jest życie? Co to słowo znaczy?
Kto tę machinę zbudował i zbudził?
Gdzie jest Ten, który swe dzieło spartaczył,
i stworzył ludzi?
Teraz powoli zaczniemy się pytać, gdzie jest Ten, który stworzył alternatywę istnień białkowych? To może nastąpić wcześniej niż przypuszczamy.
Czy sam mózg biologiczny wystarczy aby człowiek nadal mógł być uznawany za człowieka? Uparcie i złośliwie twierdzę, że niektóre osobniki niby w stu procentach białkowe, nie powinny być zaliczane do ludzi.
A z kolei, robotnicy są w pewnych kręgach uważani za roboty i część wyposażenia fabryk.
Przy okazji i nie na temat. Moje wypowiedzi, są „próbą przemycenia lewackich poglądów”. Tak przynajmniej przeczytałem parę dni temu na czyimś blogu o sobie. Mam być dumny, czy się wstydzić?
10 lipca 2007 19:31:46
D4rky, jeśli zostawimy to filozofom, nigdy nie uzyskamy jednoznacznej odpowiedzi. Rolą filozofów nie jest odpowiadanie na pytania, ale ich stawianie.
10 lipca 2007 22:24:26
Istota jest człowiekiem, gdy sama się tak nazywa. Jeżeli te, cybernetyczne, mechaniczne czy bioniczne nawet twory zaczną mówić, że one są czymśtam, to już znak, że nie są ludźmi.
A propos przeniesienia świadomości do maszyny – od jakiegoś czasu zastanawiam się jak zbudować i umieścić we własnym ciele chip pozwalający na jakąkolwiek możliwość komunikacji z maszyną.
Nie ludzie, nie ludzkość są problemem tej planety. Nim jest część ludzi. Tak samo jestem w stanie wyobrazić sobie wojnę, w której dobre (raczej – lojalne wobec nas) SI potrafią ludzi chronić. Mogę obiecać, że kiedyś ewentualnie tworząc SI będę ewentualnie pamiętał o tym, by dać mu/jej emocje z dwóch stron szali :-)
11 lipca 2007 20:10:05
Marcin
Czytałem pewne opowiadanie, które traktowało o tej części ludzi. Zabito ich wszystkich, a potem naukowcy się dziwili, czemu komputery nie wskazały, że już wszystko ok. ;)