Samoświadomość nie wydaje się tutaj konieczna. U naturalnych inteligencji występuje tylko wtedy, gdy należą one do gatunków stadnych. W innych przypadkach nie jest potrzebna.
Motywacja za to jest niezbędna - żadna inteligencja nie będzie działać bez niej.

---

Vivere, ergo philosophari

>Motywacja za to jest niezbędna - żadna inteligencja nie będzie działać bez niej.

Motywacja to dążenie do przyjemności lub unikanie przykrości. Czyli emocje!

Zgadzam się, inteligentny komputer niezdolny czuć się nagradzanym lub karanym, najchętniej by się... wyłączał.

>Zacznę od tego, że SI definiuję jako byt który będzie posiadał samoświadomość, nie wystarczy mi, że
>zda test Turinga.

OK., byt ten (nazwijmy świadomy go pan B.) będzie znał w każdej chwili, oprócz okresów remontu, czyli jego 'snu', stan techniczny swoich obwodów oraz stan każdego modułu oprogramowania, co robią w danym momencie. W miarę potrzeby, oczywiście, bo będzie to urządzenie tak skomplikowane, że gdyby musiał ciągle o sobie wszystko wiedzieć, to by nic innego nie robił, tylko czuwał i kontrolował czyli był świadomy. Czyli świadomość jego musiałaby na czas działania by się zmniejszać, żeby zwolnić zasoby. Stopniowalne oprogramowanie świadomości pan B. uruchamiałby w większym zakresie tylko w razie konfliktów międzymodułowych, żeby sprawdzić co się tam dzieje.

>Wyobraźmy sobie, że w wyniku osiągnięcia pewnej masy krytycznej skomplikowania układów scalonych i
>sieci komputerowych powstaje SI.

Rzut oka na samoświadomość (informacja o sobie i kontrola siebie) przekonuje mnie, że zalążki SI wg Twojej definicji, są w każdym PC-cie. Jeżeli zacznie Ci się przegrzewać dysk, moduł wewnętrznej kontroli przepcha się z tą informacją na ekran i komputer zaproponuje Ci, żebyś szybko skopiował dane. Cóż to innego niż świadomość PC-ta?

>Taka SI prawdopodobnie nie posiada bagażu ewolucyjnego, który mamy my, ludzie, całej tej aparatury
>w mózgu pozostałej po gadach a co za tym idzie taka SI nie będzie:
>bała się, cieszyła się, pożądała seksualnie. Nie będzie posiadać instynktu terytorialnego (który
>wciąż wywołuje nam wojny), nie będzie odczuwała potrzeby dominacji w stadzie, rywalizacji
>ewolucyjnej.

Mówisz o SI czyli inteligencji, czy o urządzeniu inteligentnym (byt, pan B.)?
Urządzenia inteligentne nie będą miały bagażu ewolucyjnego, ale będą miały 'bagaż' konstrukcyjny, czyli funkcje w które zostanie wyposażona przez konstruktora. Jest to dość analogiczne do funkcji, w jakie ludzie zostali 'wyposażeni' przez ewolucję, czyli to, co Ty nazywasz bagażem.

>Zastanawiam się nad tym czy taka SI będzie miała jakąkolwiek motywację do trwania?
>Czy będzie miała jakąś motywację do prokreacji?

Motywacja do trwania będzie jedną z funkcji niskiego poziomu wyposażenia podstawowego, razem z funkcjami 'dbaj o siebie', 'służ panu' itd. Motywacja do prokreacji? Jeżeli zostanie wyposażona, to tak, oczywiście.

>To pytanie jest w istocie rzeczy pytaniem, jacy bylibyśmy my, ludzie, gdyby nas obrać z całej
>cielesno-hormonalno atawistycznego i emocjonalnego, irracjonalnego bagażu ewolucyjnego. Gdyby
>został z nas sam intelekt. Czy podobałaby nam się jakakolwiek sztuka? Czy odczuwalibyśmy jakąkolwiek
>przyjemność, satysfakcję z czegokolwiek? Czy odczuwalibyśmy współczucie? Czy bylibyśmy
>psychopatycznymi potencjalnymi mordercami bez jakiejkolwiek empatii?

Obrać nas? Założenie nierealne, wnioski daje nieczytelne. To tak, jakbyś się zastanawiał jaki byłby Twój PC po obraniu go z oprogramowania i podzespołów, które realizują jego funkcje.

>Czy taka będzie SI?

Nie. Urządzenia SI, pan B. będzie konstrukcjami mniej lub bardziej udanymi (jak i ludzie), ale zawsze tworzonymi dla konkretnego przeznaczenia. Trudno sobie wyobrazić bezcelowe urządzenie SI. 'Sam intelekt'? Cóż to takiego?

>Jest też, być może, możliwa inna SI, taka która powstanie przez dokładne odwzorowanie sprzętowe
>i/lub programowe pracy mózgu człowieka wraz z wszystkimi jego funkcjami, czyli układem limbicznym,
>ciałem migdałowatym, hipokampem. To może być okropny eksperyment owocujący początkowo powstawaniem
>szalonych SI, Si w wiecznej depresji lub euforii, generalnie aż włos się jeży na samą myśl.

Obrać nas? Założenie nierealne, wnioski daje nieczytelne. To tak, jakbyś się zastanawiał jaki byłby Twój PC po obraniu go z oprogramowania i podzespołów, które realizują jego funkcje.

>Być może też SI, jeśli powstanie będzie miała jakieś swoje elektryczne emocje, zupełnie przez nas
>nie do zrozumienia i co za tym idzie porozumienie się z nią będzie zupełnie skazane na porażkę.

Dopóki SI, albo lepiej: urządzenia SI będą tworzyć ludzie, zadbają o porozumienie ze swoim produktem. Kiedy proces rozwoju inteligencji wymknie się spod kontroli, to ludzie będą już za głupi i urządzenia SI nie bardzo będą chciały z nami rozmawiać.
-

>OK., byt ten (nazwijmy świadomy go pan B.) będzie znał w każdej chwili, oprócz okresów remontu, czyli jego 'snu', stan techniczny swoich obwodów oraz stan każdego modułu oprogramowania, co robią w danym momencie. W miarę potrzeby, oczywiście, bo będzie to urządzenie tak skomplikowane, że gdyby musiał ciągle o sobie wszystko wiedzieć, to by nic innego nie robił, tylko czuwał i kontrolował czyli był świadomy. Czyli świadomość jego musiałaby na czas działania by się zmniejszać, żeby zwolnić zasoby. Stopniowalne oprogramowanie świadomości pan B. uruchamiałby w większym zakresie tylko w razie konfliktów międzymodułowych, żeby sprawdzić co się tam dzieje.

A czy ty zawsze jesteś świadomy jak trawisz? Samoświadomość nie oznacza przecież świadomości wszystkiego co się dzieje w naszym ciele. A przecież człowiek ma samoświadomość. Posiada też układ wegetatywny który steruje np oddychaniem w zasie kiedy śpimy więc. Chodziło mi o taką definicję samoświadomości która mówi o zdolności do odróżnienia naszego ja od innych bytów i rzeczy.

>Rzut oka na samoświadomość (informacja o sobie i kontrola siebie) przekonuje mnie, że zalążki SI wg Twojej definicji, są w każdym PC-cie. Jeżeli zacznie Ci się przegrzewać dysk, moduł wewnętrznej kontroli przepcha się z tą informacją na ekran i komputer zaproponuje Ci, żebyś szybko skopiował dane. Cóż to innego niż świadomość PC-ta?

Nic takiego nie napisałem. Pecet nie wie że istnieje. Ty wiesz.

>Mówisz o SI czyli inteligencji, czy o urządzeniu inteligentnym (byt, pan B.)?
>Urządzenia inteligentne nie będą miały bagażu ewolucyjnego, ale będą miały 'bagaż' konstrukcyjny, czyli funkcje w które zostanie wyposażona przez konstruktora. Jest to dość analogiczne do funkcji, w jakie ludzie zostali 'wyposażeni' przez ewolucję, czyli to, co Ty nazywasz bagażem.

Tak, o tym napisałem na końcu.

>Motywacja do trwania będzie jedną z funkcji niskiego poziomu wyposażenia podstawowego, razem z funkcjami 'dbaj o siebie', 'służ panu' itd. Motywacja do prokreacji? Jeżeli zostanie wyposażona, to tak, oczywiście.

Jeśli wyposażona to tak, a jeśli nie zostanie wyposażona to co zrobi?

>Obrać nas? Założenie nierealne, wnioski daje nieczytelne. To tak, jakbyś się zastanawiał jaki byłby Twój PC po obraniu go z oprogramowania i podzespołów, które realizują jego funkcje.

To nie jest założenie tylko hipotetyczne rozważanie. Wnioski oczywiście są nierealne, ale czy nieczytelne? Dla mnie są w miarę czytelne. Porównanie do PC w całym twoim poście jest moim zdaniem nietrafione.

>>Czy taka będzie SI?
>Nie. Urządzenia SI, pan B. będzie konstrukcjami mniej lub bardziej udanymi (jak i ludzie), ale zawsze tworzonymi dla konkretnego przeznaczenia. Trudno sobie wyobrazić bezcelowe urządzenie SI. 'Sam intelekt'? Cóż to takiego?

A spróbuj sobie wyobrazić czym może być sam intelekt.

>>Być może też SI, jeśli powstanie będzie miała jakieś swoje elektryczne emocje, zupełnie przez nas
>>nie do zrozumienia i co za tym idzie porozumienie się z nią będzie zupełnie skazane na porażkę.
>Dopóki SI, albo lepiej: urządzenia SI będą tworzyć ludzie, zadbają o porozumienie ze swoim produktem. Kiedy proces rozwoju inteligencji wymknie się spod kontroli, to ludzie będą już za głupi i urządzenia SI nie bardzo będą chciały z nami rozmawiać.

Tak właśnie. Ludzie staną się w pewnym momencie za głupi.

Pozdrawiam
Adam

>>OK., byt ten (nazwijmy świadomy go pan B.) będzie znał w każdej chwili, oprócz okresów remontu, czyli jego 'snu', stan techniczny swoich obwodów oraz stan każdego modułu oprogramowania, co robią w danym momencie. W miarę potrzeby, oczywiście, bo będzie to urządzenie tak skomplikowane, że gdyby musiał ciągle o sobie wszystko wiedzieć, to by nic innego nie robił, tylko czuwał i kontrolował czyli był świadomy. Czyli świadomość jego musiałaby na czas działania by się zmniejszać, żeby zwolnić zasoby. Stopniowalne oprogramowanie świadomości pan B. uruchamiałby w większym zakresie tylko w razie konfliktów międzymodułowych, żeby sprawdzić co się tam dzieje.
>A czy ty zawsze jesteś świadomy jak trawisz? Samoświadomość nie oznacza przecież świadomości wszystkiego co się dzieje w naszym ciele. A przecież człowiek ma samoświadomość. Posiada też układ wegetatywny który steruje np oddychaniem w zasie kiedy śpimy więc. Chodziło mi o taką definicję samoświadomości która mówi o zdolności do odróżnienia naszego ja od innych bytów i rzeczy.

Wydaje mi się, że samoświadomość jest cechą, i to stopniowalną, posiadaną w niejednakowym stopniu przez wszystkie (prawie) organizmy żywe. My, szympansy, koty, w tym mój burasek, który doskonale odróżniał byty, np. rybkę do zjedzenia od tego, co przed chwilą zostawił w piasku. Nauczył się też (po krótkim okresie kocięctwa) odróżniać rybkę od własnego ogona i nigdy już nie próbował go ugryźć.

Widać z tego, to definicja 'SI jako byt, który będzie posiadał samoświadomość' z Twojego pierwszego postu nie nadaje się jako podstawa rozważania.

>A spróbuj sobie wyobrazić czym może być sam intelekt.

Albo inny 'byt sam w sobie'? Do takich wyzwań brak mi wyobraźni...
-

>A przecież człowiek ma samoświadomość.

To ta sama świadomość, skierowana jednak na samą siebie. Weźmy np. przemysł. Powstaje jako świadoma działalność człowieka. Ale kiedy zaczyna cuchnąć nam powietrze, zaczynamy sie zastanawiać dlaczego. Wtedy problemem staje sie nie jakaś maszyna czy elektrownia, ale cały przemysł. I nagle uswiadamiamy sobie, że zanieczyszczamy środowisko: powstaje ekologia. To właśnie uczyniła samoświadomość, inaczej - re_fleksja nad czymś. Kanta refleksja nad nauką stworzyła np. przewrót w filozofii. Mozna mnożyc przykłady z róznej beczki. Wniosek nasuwa sie jeden: świadomość to mało. Rozwój człowieka to przede wszystkim kryzys pewnego etapu świadomości, który inicjuje refleksja.

>Zacznę od tego, że SI definiuję jako byt który będzie posiadał samoświadomość, nie wystarczy mi, że
>zda test Turinga.

A w jaki sposób sprawdzić, czy SI jest samoświadoma?

>Wyobraźmy sobie, że w wyniku osiągnięcia pewnej masy krytycznej skomplikowania układów scalonych i
>sieci komputerowych powstaje SI.
>Taka SI prawdopodobnie nie posiada bagażu ewolucyjnego, który mamy my, ludzie, całej tej aparatury
>w mózgu pozostałej po gadach a co za tym idzie taka SI nie będzie:

Kiedyś zajmowałem się tworzeniem SI. Zdecydowanie najłatwiej jest dojść do inteligentnej sieci w sposób ewolucyjny. Oczywiście, nie da sie przewidzieć po jakim czasie uzyska się świadomą istotę, ale jest to całkiem dobra metoda. Wymaga niestety olbrzymich wydajności - trzeba symulować mózgi wielu istot, a także symulować im świat - im świat będzie bardziej skomplikowany, tym złożoność uzyskanych istot będzie większa. W prostych światach ani inteligencja ani świadomość nie jest potrzebna do przeżycia.

Dodatkowo, jeśli znajdziemy sposób na to, aby te istoty odczuwały ból czy szczęście, metodą kija i marchewki łatwo można sterować ich ewolucją.

A kiedy istoty inteligentne w ten sposób powstaną, dalej jest pytanie - jak się z nimi porozumieć i jak rozpoznać, czy są inteligentne?

Mówisz tu o w pełni kontrolowanym środowisku, i co więcej, o ewolucyjnym dochodzeniu do inteligencji.

Oczywiście w pełni kontrolowane środowisko pozwala na uzyskanie przez nas pełnego wpływu na symulowane istoty (cuda itp) a zatem przynajmniej ograniczoną możliwość komunikacji.

Moim zdaniem jednak zasadniczą kwestią jest nie tyle pełna symulacja środowiska a przyjęcie jako podstawy wyłaniania SI metody ewolucyjnej.

Ewolucja wymaga przyjęcia określonych założeń co do działania: pierwszym i podstawowym jest - "gorsi giną".

Z tej zasady wynika konieczność by byty które tworzy symulacja były w szerokim sensie śmiertelne. Z kolei zasada dziedziczności pożądanych i nie pożądanych cech wymaga wprowadzenia pewnego rodzaju płciowości. Jak wiadomo, by mieszać cechy osobników celem stworzenia potomka trzeba minimum dwu osobników. A że zasada KISS (Keep It Simple Stupid) obowiązuje zawsze i wszędzie, najprawdopodobniej stworzymy układ w którym osobniki będą łączyły się "parami".

Śmiertelność i seksualność jest moim zdaniem niejako wpisana w strukturę algorytmu ewolucyjnego. Aby lepsi mogli przetrwać koniecznym jest istnienie pojęcia śmierci. Aby lepsi mogli zdominować społeczność konieczna jest możliwość rozmnażania w sposób kontrolowany.

Te założenia znajdą się w każdym elementarnym algorytmie ewolucyjnym - funkcja przystosowania używana jest do uszeregowania rozwiązań od najlepszego do najgorszego a ważona dobrocią funkcja krzyżowania jest używana do pozyskiwania następnego pokolenia rozwiązań. No i oczywiście niezbędna jest pewna populacja rozwiązań.

To są wymagania niezbędne do tego, by ewolucja, w sensie algorytmu ewolucyjnego funkcjonowała. I każdy byt utworzony przy pomocy tego algorytmu musi być obciążony tego konsekwencjami, tj. być: śmiertelny, seksualny, społeczny.

Kwestia porozumienia z tak powstałym bytem jest wyłącznie kwestią tego, jak zbudujemy środowisko w którym one zaistnieją - jeśli będzie ono symulacją naszego świata wówczas będziemy mieli z tymi istotami wspólną bazę doświadczeń zmysłowych a więc wspólną platformę porozumienia. Jeśli jednak stworzymy świat zupełnie nam obcy, sztuczny, wówczas, moim zdaniem porozumienie z indywidualnym organizmem może być niezmiernie trudne. Jednak uważam, że nadal będziemy mogli komunikować się ze społecznością której istnienie też jest jednym z niezbędnych czynników.

Gdyby przyjąć, że my sami jesteśmy takim "wyhodowanym rozwiązaniem", że nasz programista wybrał łatwą drogę i stworzył świat zupełnie mu obcy, to jak wówczas mógłby z nas korzystać? Jak mógłby nas używać do uzyskiwania rozwiązań swoich problemów?

Wydaje mi się, że wyłącznie poprzez kontrolę środowiska. Zważmy, że działa on w zupełnie innej skali czasu niż my - algorytmy ewolucyjne udzielają odpowiedzi po dziesiątkach i setkach pokoleń. Ot, wymusza zmianę w środowisku i obserwuje jak zmienimy się by nią skompensować. Moim zdaniem jest to w zasadzie niewyobrażalne, jako że nasza wyobraźnia nie potrafi wyjść poza ramy doświadczeń naszego świata.

Jeśli jednak byt samoświadomy (bo bardzie o tym, niż o inteligencji powinniśmy mówić) wyłoni się, że tak powiem, sam z siebie wówczas kwestia porozumienia stanie się jeszcze trudniejsza.

Bazą do porozumienia jest możliwość wspólnego doświadczenia. Nawiązując porozumienie z osobą nieznającą naszego języka nawiązujemy zwykle do przedmiotów znajdujących się w pobliżu. To jest kamień, to drzewo i tak dalej. W ten sposób budujemy drogę do porozumienia wyznaczając wspólne deskryptory otoczenia. Aby jednak było to możliwe musi być wspólna baza doświadczeń. Pomyślcie o tym trochę jak o porozumieniu z niewidomym od urodzenia w kwestii kolorów. Jest to możliwe, ale tylko na drodze opisowej, przy pomocy pozostałych wspólnych pojęć.

A co jeśli byt, którego jedynym zmysłem jest zdolność postrzegania kolorów ma porozumieć się z bytem który ma tylko słuch?

Moim zdaniem nie jest to możliwe.

Dlatego uważam, że istnieje taka możliwość, że JUŻ istnieją obce nam technologiczne byty samoświadome które po prostu nie weszły jeszcze w wystarczające by zostać dostrzeżonym interakcje z tą częścią technosfery, którą my, ludzie, bezpośrednio obserwujemy.

Kurczewski poniżej pisze, że ewentualne SI będzie podobne do nas, dlatego że tak je skonstruujemy. Uważam, że to słuszne, jednak nie dlatego, że takie jest nasze widzimisię ale dlatego, że jest to warunek bardzo ułatwiający raz porozumienie, a dwa - wykorzystanie SI.

Trudno nauczyć samoświadomej SI o ważności zachowania zdrowej wątroby jeśli takie pojęcie jak ból brzucha jest jej zupełnie obce.

I tak przejdę do innej kategorii SI - jednostek co do których "sztuczny" jest najlepszym słowem - mianowicie do SI konstruowanych.

Ewolucja ewolucją a konstrukcja konstrukcją. Rozwiązania ewolucyjne są dobre, ale obciążone immanentnym (patrz wyżej) bagażem i niestety nie do końca poznawalne. Rozwiązania konstruowane od A do Z są zwykle nieco gorsze ale mają jedną piękną cechę - są kontrolowane. Funkcja każdego skonstruowanego elementu jest znana i może być monitorowana. Jest to cecha trudna do przecenienia tam, gdzie od stosowanej konstrukcji oczekuje się ochrony ludzkiego zdrowia i mienia.

Rozwiązanie ewolucyjne może być lepsze ale może mieć swoje "fanaberie" - wszystkie zaś nieprawidłowości zachowania rozwiązań konstruowanych wynikają wyłącznie z głupoty ich konstruktorów.

CDN....

---

Tomasz Sztejka

....CD

Tak więc moim zdaniem SI można podzielić na dwie klasy: ewolucyjne i konstruowane.

SI ewolucyjne będzie obciążone jak wspomniałem wyżej, jednak wypuszczone na świat może stosunkowo szybko rozwinąć się i prześcignąć swoich twórców.

SI konstruowane to zupełnie inna para kaloszy - wymyślone i kontrolowane przez człowieka służą przede wszystkim do niezawodnego wykonywania określonych działań. Im szersza pula działań, tym większa wymagana inteligencja. Jednak zawsze pozostaną przedmiotami konstruowanymi o minimalnych, bo celowo ze względu na przewidywalność i niezawodność, blokowanymi możliwościami zmian.

Jednak nawet SI konstruowana może szybko przeskoczyć przez próg rozumienia pojedynczego osobnika gatunku ludzkiego - wtedy, gdy będzie składała się z tysięcy drobnych, podejmujących elementarne decyzje elementów. Każdy z nich osobno, doskonale znany i kontrolowany tworzy razem niezliczone ilości kombinacji których pełne zrozumienie może szybko przekroczyć ludzkie możliwości. Stąd i dziś fragmenty urządzeń krytycznych dla bezpieczeństwa są izolowane, niezależne, i wchodzące w minimalne nie związane z zadaniem interakcje z pozostałą częścią urządzenia. Nawiasem mówiąc, właśnie z tego względu wszelkie pomysły sterowania odpowiedzialnych procesów przy pomocy zwykłego PC-ta należy uznać za próby samobójcze.

Podsumowując przydługie rozważania, uważam że:

- SI ewolucyjne będzie obciążone śmiertelnością, seksualnością i społecznością;
- możliwość komunikacji z SI ewolucyjnym jest ściśle ograniczona wspólnym doświadczeniem, a więc środowiskiem które ją kształtuje;
- SI konstruowane będzie obciążone głupotą konstruktorów;
- SI konstruowane będzie podobne do konstruktorów ze względu na konieczność utrzymania wspólnej płaszczyzny doświadczeń niezbędnych do komunikacji;
- samodoskonalenie SI konstruowanej będzie ograniczone;

Pozdrawiam,

---

Tomasz Sztejka

Wnioski, powiedziałbym delikatnie - dziwne. Ciekawym na przykład, czym w algorytmach 'wyhodowanych' w wyniku.. hm.. powiedzmy 'przetwarzania genetycznego' objawiają się obciążenia seksualnością, śmiertelnością i społecznością, dajmy na to - jak objawiają się one w, powiedzmy, 'wyhodowanych' procedurach rozstrzygania problemu komiwojażera.

Dalej, podział na klasy jest też dziwny. Czym różniłaby się procedura 'skonstruowana' od 'wyhodowanej'? Niezupełnie rozumiem dlaczego 'skonstruowana' SI nie może podlegać doskonaleniu drogą dalszego rozwijania metodami inżynierii ewolucyjnej, albo w drugą stronę - dlaczego 'wyhodowana' SI nie może podlegać przekonstruowaniu. Można wreszcie utworzyć duży moduł (np. inteligentny) metodą syntezy z bloków, z których część jest skonstruowana, a część wyhodowana. Jak zaklasyfikować taki twór?

Mówiąc krótko, cała masa dziwnych wniosków.

A czy jest teoretycznie możliwe samowzbudzenie się świadomości w odpowiednio skomplikowanej sieci komputerowej? Co fachowcy na ten temat?

Skąd mogę wiedzieć? Zapytaj fachowców

Chociaż, czy milion małp napisze w końcu 'Hamleta'?

>...czy milion małp napisze w końcu 'Hamleta'?

Nawet gdyby było ich tyle, co cząstek elementernych w mózgu Szekspira, odwaliłyby chałę.

>A czy jest teoretycznie możliwe samowzbudzenie się świadomości w odpowiednio skomplikowanej sieci komputerowej? Co fachowcy na ten temat?

Obecnie uważa się, że nasz świadomość jest efektem przepływu impulsów w sieci neuronowej naszego mózgu. Jeśli tak jest w istocie, wirtualny mózg powinien móc utrzymać świadomość. Oczywiście istnieje tutaj masa innych czynników - mózg nowego człowieka nie jest pusty, ogólna struktura neuronów jest tworzona zanim proces myślenia się rozpocznie. Istotna jest też interakcja z otoczeniem. Czy ludzki embrion rozwijany w całkowitym odcięciu od wszystkich możliwych bodźców uzyskałby świadomość?

Często używam analogii informatycznej: mózg jest jak procesor, świadomość jest jak program który na nim działa. W wypadku SI nie dość, że musimy stworzyć odpowiedni procesor ( sieć neuronową z odpowiednimi połączeniami ) to jeszcze trzeba napisać odpowiedni program ( początkowe stany neuronów )

>Czy ludzki embrion rozwijany w całkowitym odcięciu od wszystkich możliwych bodźców uzyskałby świadomość?
Diabli wiedzą. Człowiek poddany deprywacji sensorycznej reaguje dość dziwnie.. bardzo ciekawy (choć nie wiem, jak prawdziwy) opis przeżyć człowieka tak potraktowanego znajduje się w jednym z opowiadań Lema o pilocie Pirxie. Jeżeli jest zbliżony do autentycznych relacji, to świadomość wydaje się mocno zależna od stopnia pobudzenia zmysłów. Na dodatek wiadomo, że sam rozwój mózgu przebiega lepiej, jeżeli podda się go szerszej gamie pobudzeń. Jeżeli zatem utrzymywać embrion w odcięciu od pobudzeń, to prawdopodobnie mózg nie rozwinąłby się wcale, nie mówiąc o uruchomieniu jego jakichś wyższych funkcji.

>Często używam analogii informatycznej: mózg jest jak procesor, świadomość jest jak program który na nim działa. W wypadku SI nie dość, że musimy stworzyć odpowiedni procesor ( sieć neuronową z odpowiednimi połączeniami ) to jeszcze trzeba napisać odpowiedni program ( początkowe stany neuronów )
W tym wypadku analogia jest tak daleko idąca, że aż z gruntu mylna.. Mózg nie ma nic wspólnego z procesorem, a już tym bardziej - świadomość z programem. Czemu nie dałoby się zbudować świadomej maszyny w oparciu o biurkowego blaszaka z bazą danych?

>W tym wypadku analogia jest tak daleko idąca, że aż z gruntu mylna.. Mózg nie ma nic wspólnego z procesorem, a już tym bardziej - świadomość z programem. Czemu nie dałoby się zbudować świadomej maszyny w oparciu o biurkowego blaszaka z bazą danych?
>

Bo blaszak jest za słaby.

Ale automaty komórkowe czyli najprostsze uczące się struktury można zasymulować i sprzętowo i programowo. Można się pokusić o zrobienie modelu mózgu ludzkiego programowo na bardzo silnym komputerze i próbować go uczyć. Można próbować to zrobić sprzętowo ale to na razie jest trudniejsze.

Pozdrawiam
Adam

>>Czemu nie dałoby się zbudować świadomej maszyny w oparciu o biurkowego blaszaka z bazą danych?
>>
>Bo blaszak jest za słaby.
Rozumiem, że metodę porównania potrzebnych mocy obliczeniowych mógłbyś przybliżyć? Nie chodzi o porównanie mocy równoważnej sieci neuronowej (tu obliczenie z grubsza jest wykonalne, choć niestety dla tezy wychodzi z niego że w pewnych aspektach blaszak nie jest za słaby), a dowód, że jednordzeniowy blaszak, z MySQLem i odpowiednim programem nie jest w stanie pojąć idei sprawiedliwości.

Pozdrawiam,

>>>Czemu nie dałoby się zbudować świadomej maszyny w oparciu o biurkowego blaszaka z bazą danych?
>>>
>>Bo blaszak jest za słaby.
>Rozumiem, że metodę porównania potrzebnych mocy obliczeniowych mógłbyś przybliżyć? Nie chodzi o porównanie mocy równoważnej sieci neuronowej (tu obliczenie z grubsza jest wykonalne, choć niestety dla tezy wychodzi z niego że w pewnych aspektach blaszak nie jest za słaby), a dowód, że jednordzeniowy blaszak, z MySQLem i odpowiednim programem nie jest w stanie pojąć idei sprawiedliwości.
>Pozdrawiam,

Mam udowodnić, że blaszak nie jest w stanie pojąć idei sprawiedliwości?
Mówisz poważnie?
Może inaczej, widziałeś kiedyś blaszaka który pojął ideę sprawiedliwości?

Zupełnie poważnie to wracam do początku - gdyby blaszak był wystarczający to już by pojmował. Na razie blaszak niczego nie pojmuje bo nie ma świadomości własnego istnienia. Wobec czego nie ma nawet kto pojmować.

>Mam udowodnić, że blaszak nie jest w stanie pojąć idei sprawiedliwości?
>Mówisz poważnie?
   Czy poważnie pisałeś, że świadomej maszyny opartej o bazę danych nie da się zbudować, bo blaszaki są za słabe? Zapewne podstawą jest ...bo tak! Masz udowodnić, że blaszaki są za słabe na nośniki inteligencji i świadomości. Idea sprawiedliwości jest wygodnym abstraktem, jak słusznie zauważyłeś niepojętym dla maszyn - więc jej pojęcie dowodziłoby jakiegoś 'wyższego' niż banalna obróbka reprezentacji faktów stopnia przetwarzania w maszynie (i jednocześnie - wykazanie jej niepojmowalności byłoby niezbitym dowodem, że pojmowania uzyskać się nie da).

>Może inaczej, widziałeś kiedyś blaszaka który pojął ideę sprawiedliwości?
   Nie widziałem. To nie dowód, że
- nie da się takiego zbudować
- dzisiejsze blaszaki są niewystarczające do zbudowania takowego.
Przyczynę takiego stanu rzeczy wyjaśnia stilgar w poście poniżej.

>Zupełnie poważnie to wracam do początku - gdyby blaszak był wystarczający to już by pojmował. Na razie blaszak niczego nie pojmuje bo nie ma świadomości własnego istnienia. Wobec czego nie ma nawet kto pojmować.
   Gdybym był złośliwy, zapytałbym czy piszesz to zupełnie poważnie. Bo jeżeli tak, to zapewne uważasz, że nauka się już skończyła, bo wszystko cokolwiek można było wymyśleć - już wymyślono. Ale bądźmy poważni.
   O ile mi wiadomo - może się mylę - nie ma jak dziś jak obiektywnie stwierdzić, czy obiekt jest nośnikiem dla świadomości, ba! istnieją pewne poszlaki pozwalające przypuszczać, że stwierdzenie obecności pierwszoosobowego obserwatora jest technicznie niewykonalne. Skąd zatem pewność, że blaszak - nie jest? Że odpalenie Worda nie budzi w trzewiach maszyny czegoś, co czuje że istnieje - i nic poza tym?

Najpierw zastanowiłbym się, czy mówienie o świadomym komputerze ma sens - a IMO nie ma. Możemy mówić o funkcjonujących bytach, które można zapalać i gasić, ale nie o świadomości maszyny, jako takiej (czego 'świadomy komputer' jest wygodnym - ale tylko - uproszczeniem). Wystarczy poszukać rzeczywistych analogii pomiędzy funkcjonującym mózgiem, a działającym komputerem.

Pozdrawiam,

>>>Czemu nie dałoby się zbudować świadomej maszyny w oparciu o biurkowego blaszaka z bazą danych?
>>>
>>Bo blaszak jest za słaby.
>Rozumiem, że metodę porównania potrzebnych mocy obliczeniowych mógłbyś przybliżyć? Nie chodzi o porównanie mocy równoważnej sieci neuronowej (tu obliczenie z grubsza jest wykonalne, choć niestety dla tezy wychodzi z niego że w pewnych aspektach blaszak nie jest za słaby), a dowód, że jednordzeniowy blaszak, z MySQLem i odpowiednim programem nie jest w stanie pojąć idei sprawiedliwości.

Tyle razy było to wałkowane na tym forum - nie da sie udowodnić nieistnienia ani niemożności.

Przy zastosowaniu obecnych technik symulacji sieci neuronowych obecne komputery mają za małą moc obliczeniową aby w czasie rzeczywistym przetwarzać dane dla liczby neuronów porównywalnej z liczbą neuronów mózgu człowieka.

Nie jest wykluczone, że dałoby się napisać program, który na obecnych komputerach uzyskałby świadomość, ale póki co nikomu się to nie udało - a jeśli się udało, nie był w stanie tego wykryć.

>Tyle razy było to wałkowane na tym forum - nie da sie udowodnić nieistnienia ani niemożności.
   Tyle razy było to wałkowane na forum, a niektórzy nadal nie rozumieją, że istnieją metody dowodzenia niemożności - tyle ze nie są to metody oczywiste i nie zawsze daje się je zastosować. Lepiej więc wtłuc do łbów, że się nie da, a nie mozolnie i bezproduktywnie tłumaczyć, że wprawdzie da się, ale istnieją przyczyny że i tak wyjście źle. Można dowieść nieprawdziwości zaprzeczenia, dajmy na to. Zapewne jeszcze kilka ciekawych chwytów by się znalazło, nieprawdaż? To tak tytułem wzmianki w oftopie. Ale wracamy do tematu.

>Przy zastosowaniu obecnych technik symulacji sieci neuronowych obecne komputery mają za małą moc obliczeniową aby w czasie rzeczywistym przetwarzać dane dla liczby neuronów porównywalnej z liczbą neuronów mózgu człowieka.
   Przy użyciu współczesnych technik obliczeniowych, i przy zastosowaniu współczesnych modeli sieci - to prawda. Tylko czy dziś ktoś projektuje procesory metodą analizy różniczkowej zespołów tranzystorów? Czy modeli tranzystorów potrzeba do wyjaśnienia zasady działania inwertera? Myślę, że neuronami jest podobnie.

> Nie jest wykluczone, że dałoby się napisać program, który na obecnych komputerach uzyskałby świadomość, ale póki co nikomu się to nie udało - a jeśli się udało, nie był w stanie tego wykryć.
   Dokładnie.

>Wnioski, powiedziałbym delikatnie - dziwne. Ciekawym na przykład, czym w algorytmach 'wyhodowanych' w wyniku.. hm.. powiedzmy 'przetwarzania genetycznego' objawiają się obciążenia seksualnością, śmiertelnością i społecznością, dajmy na to - jak objawiają się one w, powiedzmy, 'wyhodowanych' procedurach rozstrzygania problemu komiwojażera.

Wyhodowana procedura o której wspominasz jest stosunkowo prosta. Wydaje mi się także, że w dziś hoduje się nie tyle procedurę znajdowania rozwiązania co konkretne rozwiązanie. Różnica zasadnicza.

Zważ jednak, że algorytm ewolucyjny pracuje niemal wyłącznie na zapisie problemu a nie na samej jego istocie.

Wyhodować algorytmem ewolucyjnym bazującym na algorytmach genetycznych można tylko to, co spełnia warunki:
- daje się zapisać przy pomocy przyjętej składni i alfabetu;
- istnieje droga od rozwiązania optymalnego do wystarczająco szerokiej bazy losowych zapisów, przy czym przez "drogę" rozumiem sekwencję operacji genetycznych;

Powyższe ograniczenie jest bardzo poważne - algorytm nań oparty nie może osiągnąć niektórych rozwiązań.

Podobnie dzieje się w wypadku sieci neuronowych - proces uczenia sieci modyfikuje jej wagi, jednak o potencjalnej możliwości odszukania rozwiązania decyduje struktura sieci. Ot, szablonowy XOR niemożliwy do wyuczenia w sieci jednowarstwowej. Albo niemożność wyuczenia różnych reakcji na różne sekwencje zmian pobudzeń w sieci pozbawionej sprzężeń zwrotnych, a przez to własnej pamięci.

Zakładam więc, że tworząc metodą ewolucyjną coś tak zaawansowanego jak SI musimy przełamać powyższe ograniczenia.

Wrócę więc do algorytmów genetycznych - po pierwsze algorytm taki zawsze pracuje na zapisie rozwiązania. Algorytmowi genetycznemu zupełnie lata co za rozwiązanie dany zapis reprezentuje - wejściem do algorytmu jest ocena zapisu przez daną konstrukcyjnie funkcję oceny a wyjściem kolejny zapis rozwiązania który musi zostać poddany interpretacji zgodnie ze skonstruowaną składnią. Słowa "skonstruowany" używam tu w znaczeniu - wymyślony i zakodowany przez programistę.

Te dwa skonstruowane elementy poważnie ograniczają przestrzeń możliwych rozwiązań. Dla przykładu, nieco abstrakcyjnie: niech metoda genetyczna poszukuje dokładnego rozwiązania równania: X = 1 / 3. Trywialne, prawda? Wszystko zależy jednak od tego jak sformułujemy zapis rozwiązania:

X ==> { LLLLLL MMMMMM } gdzie L jest cyfrą dziesiętną licznika a M mianownika
czy też:
X ===> { DDDDD.DDDDD } gdzie D jest cyfrą dziesiętną a . określa pozycję przecinka.

Pierwsza forma obejmuje dokładne rozwiązanie w formie ułamka 1/3. Druga wyłącznie przybliżenie 0.3333.

Przykład jest trywialny jednak pokazuje, jak bardzo poważnym ograniczeniem jest konstrukcyjność zapisu. Podobnie, a nawet bardziej istotnie, zachowuje się funkcja oceny.

Jeśli więc będziemy mieli do czynienia z tak złożoną strukturą jak SI to moim zdaniem musimy przyjąć taką formułę algorytmu genetycznego w którym przynajmniej sposób interpretacji zapisu będzie także podlegał ewolucji.

Nie jest to nic odkrywczego - w ten sposób działa nasz własny mechanizm genetyczny (genetycy mogą o tym opowiadać i opowiadać) - zapis informacji ma postać ciągu związków chemicznych i także procedura interpretacji ma postać chemiczną. Jest to więc niejako zapis, który osadzony w określonej fizyczności sam siebie potrafi interpretować. Wedle mojej skromnej wiedzy z tej dziedziny istnieją przynajmniej dwa mechanizmy interpretacji kodu genetycznego, różne w organizmach prokaryota i eukaryota.

Aby więc nasz sztuczny zapis SI mógł ewoluować w rozwiązania których istnienia nie przewidywaliśmy konstruując format zapisu struktury SI musi on mieć cechy umożliwiające autointerpretację.

I wówczas pojawiają się te cechy o których mówiłem - śmiertelność, seksualność i społeczność. Rozwiązanie przestaje być bowiem oderwane w sensie funkcji od zapisu i zapis przestaje być oderwany od algorytmu genetycznego. W tej sytuacji zapis będzie zawierał sam w sobie zdolność interpretacji samego siebie a tym samym, aby algorytm ewolucyjny mógł działać zapis musi funkcjonować zgodnie z założeniami algorytmów genetycznych, czyli:
- istnieniem populacji;
- wyborem i rozmnażaniem pośród najlepszych;
- wymianą pokoleń;

Te trzy cechy, aczkolwiek można próbować je przesuwać na inne poziomy, są moim zdaniem immanentną cechą algorytmów ewolucyjnych. Gdyby na przykład dowolny organizm uzyskał na naszej Ziemi nieśmiertelność i zachował zdolność rozmnażania wówczas szybko wymarłby z powodu przekroczenia dostępnych zasobów. Jeśli zaś oddałby za przetrwanie zdolność rozmnażania wówczas przestałby ewoluować. Można oczywiście założyć ewolucję w ramach żywego ciągłego osobniczo organizmu jednak i wówczas musi on zmieniać się poprzez odrzucanie nieprzydatnych fragmentów i tworzenie nowych, biorąc doń dane zapewne z kontaktów z innymi osobnikami. Podkreśliłem zdarzenia odpowiadające kolejno śmiertelności, rozmnażaniu, seksualności i społeczności.
(...)

---

Tomasz Sztejka

(...)

>Dalej, podział na klasy jest też dziwny. Czym różniłaby się procedura 'skonstruowana' od 'wyhodowanej'? Niezupełnie rozumiem dlaczego 'skonstruowana' SI nie może podlegać doskonaleniu drogą dalszego rozwijania metodami inżynierii ewolucyjnej, albo w drugą stronę - dlaczego 'wyhodowana' SI nie może podlegać przekonstruowaniu. Można wreszcie utworzyć duży moduł (np. inteligentny) metodą syntezy z bloków, z których część jest skonstruowana, a część wyhodowana. Jak zaklasyfikować taki twór?

Po pierwsze rozszerzenie SI konstruowanego przez ewolucję wymaga przekonwertowania jej struktury na zapis kompatybilny z algorytmem genetycznym. Podobnie w drugą stronę. Może to po pierwsze być tak trudne, że pozbawi cały proces użyteczności, a po drugie wymaga przyjęcia skonstruowanego zapisu. Jeśli zaś wynik będzie trzeba zaimplementować w sposób ręczny, wówczas pojawia się problem z interpretacją w drugą stronę. W efekcie dla takiego układu musimy pozostać przy zapisie pozbawionym cech auto-interpretacji.

Przekonstruowanie SI wytworzonej ewolucyjnie wymagać będzie z kolei zrozumienia jej struktury. Konia z rzędem temu, kto potrafi przekonstruować wyuczoną (a nie wyhodowaną) trójwarstwową sieć rozpoznawania obrazów - wiedza i funkcjonalność w takiej hodowanej strukturze ma zazwyczaj (mogę się mylić) formę rozproszoną i fragmenty odpowiedzialne za poszczególne cechy są trudne do zlokalizowania w całości. Efekt ten pojawia się dlatego, że znane mi algorytmy nauczania pracują "globalnie" na całej strukturze, podczas gdy człowiek konstruuje zawsze metodą dziel i rządź.

Jeśli do tego zapis genetyczny SI będzie miał cechy podobne jak zapis organiczny, czyli będzie w sposób ciągły i zależny od warunków otoczenia auto-interpretowany za życia SI to śmiem twierdzić że będzie to zupełnie nie możliwe.

Piszesz o modułach - to można zrobić. Jednak, zauważ, każdy z bloków "hodowlanych" należy ukształtować w określonym celu i przy określonych założeniach struktur we-wy. W efekcie o tym, czym będzie taka SI jako całość i tak będzie decydować zestawienie bloków dokonane metodą konstrukcyjną.

Tego rodzaju podejście bywa stosowane - fragmenty niektórych urządzeń, szczególnie te odpowiedzialne za klasyfikację bodźców, są nierzadko wykonywane jako wyuczone w procesie konstrukcji i powielane niezmienne sieci neuronowe.

Wszystko to jednak wielka bajka - ewolucja SI będzie bardzo, ale to bardzo trudna. Jak wspomniałem w poprzednim wątku, algorytm ewolucyjny bazuje na wymianie pokoleń. I tak jak w życiu, by z prymitywnego kodu drogą ewolucji powstało SI muszą zostać zasymulowane miliony pokoleń i miliardy osobników.

I tu pojawia się zasadniczy problem - by SI była użyteczna musi zachowywać się inteligentnie w naszym środowisku. Wrzucona między ludzi, w świat fizyczny, sama istniejąc wirtualnie musi mu podołać. Jednak aby taka SI mogła wyewoluować jej proces ewolucji musi przebiegać w czasie rzeczywistym, w kontakcie ze światem rzeczywistym. Symulacja może to zastąpić, jednak tylko do pewnego stopnia.

W efekcie - powstanie SI tego rodzaju może zająć bardzo dużo czasu.

Istnieje jednak trzecia możliwość - SI która ewoluuje w znacznym oderwaniu od naszej rzeczywistości, zachowując z nią kontakt jedynie w sposób marginalny i sporadyczny. Z taką SI możemy się jednak nie porozumieć, jako że będzie zbyt obca (brak wspólnych doświadczeń).

Wreszcie na ewolucyjną SI można spojrzeć inaczej - może zamiast ewoluować klasycznie populację rozwiązań z których każde z osobna rozwiązanie jest potencjalną SI należałoby ewoluować populację i jako SI traktować nie pojedyczne rozwiązanie, ale cały ich zbiór ?

Istnieje też oczywiście cała grupa nieewolucyjnych algorytmów uczenia maszynowego. Ich produktem jest zwykle formalna struktura stwierdzeń logicznych. Niestety, są one bardzo kosztowne pod względem obliczeniowym i bardzo słabo dają sobie radę w wypadku pracy z wiedzą niepełną, danymi sprzecznymi i zmiennymi w czasie zależnościami i niepewnością procesów decyzyjnych. W zamian są w 100% przewidywalne, weryfikowalne i testowalne. Używane są wszędzie tam, gdzie niezbędne jest wnioskowanie w formie zdań lub wyrażeń logicznych zaś nie koniecznie w formie sterowania procesami.

I przede wszystkim o SI bazujących na tych metodach mówię jako o "konstruowanych".

Pozdrawiam,

---

Tomasz Sztejka

   Dużo, dużo pytań.. Wydaje mi się nawet, że dziwnych pytań, zadanych 'od końca'. Może spróbuj najpierw nakreślić sobie, jak zbudowana byłaby taka SI, czy możnaby cokolwiek wyróżnić (np. celem wyrzucenia) albo czy od wyróżnionych części zależałoby jakaś funkcjonalność. Może czym jest inteligencja, (nie w znaczeniu że ma świadomość, a takim bardziej mechanicznym - co mieć musi, jak zrealizować inteligentny system..). Czym jest odczuwanie, jakie funkcje, czy elementy urządzenia są potrzebne do oczuwania? Czym jest świadomość - to rzecz, obwód, a może coś jeszcze innego? Jak strach, motywacja czy podziw dziełom wynika z funkcjonowania elementów, czy może wynikają one z czegoś innego? I wreszcie po jaką cholerę maszynie pożądanie seksualne? Pewnie takich podstaw będzie więcej.

   Pytania jakie postawiłeś, nie będąc wstępem do próby analizy takiej jak powyższa sa mniej więcej równoważne zapytaniu o czym myślałby stół, gdyby myślał...

Myślę że u podstaw przedstawionej przez Ciebie wizji brakuje jednego czynnika. Większość specjalistów zajmujących się tak SI jak i robotyką kładzie bardzo duży naciska na to, żeby tworzona przez nich "inteligencja" była zdolna do reakcji podobnych do ludzkich. Tworzymy "na swój obraz i podobieństwo", więc najprawdopodobniej tak struktura nowo powstałej SI, jak i zasób dostarczanych jej danych będzie od samego początku obarczony "ludzkim" bagażem. O ile owa SI nie powstanie samoczynnie to człowiek będzie filtrował dane i to on będzie nadawał kształt sposobom ich percepcji, a - przynajmniej do tej pory- wszystkie programy badawcze opierają się w mniejszym lub większym stopniu na obserwacjach działania istot żywych (od karaluchów po ludzi). SI będzie więc obciążona "bagażem ewolucyjnym" -jej działania będą modelowane na znanych nam i wykształconych w trakcie ewolucji schematach.

---

erka.ovh.org/

no teoria teoriami a ja dzis bylem w kinie na "Eagle eye" o superkomputerze z Penatgonu ktory zwariowal i postanowil rozwalic caly Bialy Dom I cale USA ten komputer matka kontrolowal wszystkie telefony lotniska swiatla na skrzyzowaniach i miliony kamer na ulicach i poderwal nawet do lotu samoloty roboty ..rozwalke zrobil okropna...
gdzies czytalem ze roboty i elektronika ewoluuja milony razy szybcieji od czlowieka...my musielismy myslec 900 000 lat zeby wymyslic ogien i kolo....a pierwszy komputer powstal calkiem niedawno..a dzis.....trzeba sie pilnowac...

Zaraz- ten film to fikcja. Równie dobrze możemy się obawiać buntu robotów bo Will Smith już się z nimi kopał

---

erka.ovh.org/

>Zaraz- ten film to fikcja. Równie dobrze możemy się obawiać buntu robotów bo Will Smith już się z nimi kopał
>

---

erka.ovh.org/

Fikcja?Może , ale hakerzy ,to nie fikcja.Dlatego, nigdy nie wiadomo, co się stanie.

Czekaj- mówimy o sztucznej inteligencji i kształcie jaki ewentualnie mogłaby przyjąć- jak się do tego mają hakerzy ?

---

erka.ovh.org/

>Czekaj- mówimy o sztucznej inteligencji i kształcie jaki ewentualnie mogłaby przyjąć- jak się do tego mają hakerzy ?
>

---

erka.ovh.org/

Chciałem po przez krótką dygresje ,zwrócić uwagę na kruchość systemów komputerowych mimo ich pozornej doskonałości, analogiczne przełożenie na frasobliwy temat, sztucznej inteligencji.

>O ile owa SI nie powstanie samoczynnie...

Jesli powstanie samoczynnie (tak jak nasza!), to juz nie będzie sztuczna, tylko naturalna jak np. grzyb po deszczu.

Moim zdaniem nie będzie naturalną w takim rozumieniu jak nasza (czy choćby gadzia) bo jej istnienie będzie - niezależnie od tego w jaki sposób przebiegnie ostatecznie "uświadomienie"- wynikiem świadomej kreacji. To ludzie stworzą (bądź stworzyli) "organizm" którego owa SI (lub- jak postulujesz- nie-SI) będzie stanowić integralną część. Chyba że rozważamy możliwość powstania świadomości oderwanej od jakiegokolwiek materialnego "ciała", choćby tak rozlazłego jak sieć komputerowa.

---

erka.ovh.org/

>Chyba że rozważamy możliwość powstania świadomości oderwanej od jakiegokolwiek materialnego "ciała",...

Średniowieczna anima separata? Anioł? Ciało astralne? To by dopiero było!

>choćby tak rozlazłego jak sieć komputerowa.

Czy sieć komputerowa już nie tworzy materialnego podłoża zewnętrznej inteligencji?
Jeszcze się okaże, że historia informatyki jest historią wcielania inteligencji w układy scalone.

>To pytanie jest w istocie rzeczy pytaniem, jacy bylibyśmy my, ludzie, gdyby nas obrać z całej
>cielesno-hormonalno atawistycznego i emocjonalnego, irracjonalnego bagażu ewolucyjnego. Gdyby
>został z nas sam intelekt. Czy podobałaby nam się jakakolwiek sztuka? Czy odczuwalibyśmy jakąkolwiek
>przyjemność, satysfakcję z czegokolwiek? Czy odczuwalibyśmy współczucie? Czy bylibyśmy
>psychopatycznymi potencjalnymi mordercami bez jakiejkolwiek empatii? Czy taka będzie SI?

Częściową odpowiedź na to pytanie mogą dać przypadki ludzi z różnymi uszkodzeniami mózgu, opisywane w psychiatrii. Pamiętam z którejś z książek np. przypadek człowieka, który nie odczuwał emocji, funkcjonował poprawnie i nie skarżył się, prowadził monotonny tryb życia, w obcowaniu sprawiał trochę wrażenie robota, nie wchodził w głębsze dyskusje, oczywiście nie okazywał radości ani smutku, nie miał depresji, itp., natomiast inni na dłuższą metę nie czuli się komfortowo w jego towarzystwie.
Inny ciekawy przypadek przedstawia porażający film "Memento" - jak bardzo zmienia nasze możliwości brak pamięci dłuższej niż 5 minut.

>Zastanawiam się nad tym czy taka SI będzie miała jakąkolwiek motywację do trwania?

Na obecnym etapie ewolucji inteligencja jest przede wszystkim instrumentem przetrwania. Oddzielic ja od biologicznego organizmu mozna tylko in abstracto. Wyobraźmy sobie, że w obronie koniecznej stoczyć musimy walkę: ktoś przykłada nam do gardła brzytwę. W naszej świadomości pojawia się sygnał śmiertelnego zagrożenia (pamięć). Zaczynamy działać, na ogół "instynktownie" lub "panicznie" (chyba że mamy mistrzowski pas karate: wtedy wybieramy chłodno najbardziej skuteczny plan działania). Gdyby sekwencje tego zachowania rozłożyć na czynności proste, to z ruchu tego moglibysmy wyabstrahować właśnie "inteligencję" - każdy jego segment związany byłby z ostatecznym ruchem unieszkodliwiającym napastnika. A teraz wyobraźmy sobie to samo zdarzenie, ale bez instynktu samozachowawczego. Mamy brzytwę na gardle, rozumiemy powagę sytuacji, wiemy, jak zareagować, ale - nie robimy nic, jak lustrzane odbicie kogoś, kto przed lustrem podrzynałby sobie gardło.

> Mamy brzytwę na gardle, rozumiemy powagę sytuacji, wiemy, jak zareagować, ale - nie robimy nic, jak lustrzane odbicie kogoś, kto przed lustrem podrzynałby sobie gardło.
>

Myślę, że to jest kwestia ewolucyjna: wszystkie AI, które nie będą miały woli przetrwania, wyginą

>Zacznę od tego, że SI definiuję jako byt który będzie posiadał samoświadomość, nie wystarczy mi, że
>zda test Turinga.
>Wyobraźmy sobie, że w wyniku osiągnięcia pewnej masy krytycznej skomplikowania układów scalonych i
>sieci komputerowych powstaje SI.
ja sobie nie wyobtazam ze jak ide do psychiatry czy psychologa siedzi tam robot czy mozg elektronowy i przeprowadza mi psychoterapie...pewne rzeczy sa zarezerwowane tylko dla czlowieka... SI nie moze np byc poczciwa...poczciwosc to typowa cecha czlowieka...robot nie jest poczciwy...
czy mozna sobie wybrazyc sztuczny stalowy swiat..stalowe ptaszki i motylki i pszczoly ktore zapylaja kwiaty???...metalowe owady...???

>>Zacznę od tego, że SI definiuję jako byt który będzie posiadał samoświadomość, nie wystarczy mi, że
>>zda test Turinga.
>>Wyobraźmy sobie, że w wyniku osiągnięcia pewnej masy krytycznej skomplikowania układów scalonych i
>>sieci komputerowych powstaje SI.
>ja sobie nie wyobtazam ze jak ide do psychiatry czy psychologa siedzi tam robot czy mozg elektronowy i przeprowadza mi psychoterapie...pewne rzeczy sa zarezerwowane tylko dla czlowieka... SI nie moze np byc poczciwa...poczciwosc to typowa cecha czlowieka...robot nie jest poczciwy...
>czy mozna sobie wybrazyc sztuczny stalowy swiat..stalowe ptaszki i motylki i pszczoly ktore zapylaja kwiaty???...metalowe owady...???
>

A dlaczego uważasz że sztuczna inteligencja musi być z metalu?

Bardzo ładna wizja ale trochę niepraktyczna bo metal jest ciężki.

A co to jest poczciwość to szczerze mówiąc ciężko mi zdefiniować.

Pozdrawiam
Adam