Nie wiem skąd ten skrajny pesymizm. W przyszłości wystarczy wychować dobrze kilka sieci i kopiować te najlepsze żeby były bazą. Potem już komputery będą wychowywały inne komputery. Ludzki mózg będzie można poszerzyć o moduły oparte na AI, która zdecydowanie przewyższy ludzki prymitywny móżdżek, który jest jednym z bubli ewolucji.

Podstawową funkcją zarówno przyszłego AI, jak i ludzkiego mózgu jest tworzenie modeli odzwierciedlających rzeczywistość i potrafiących ją przetwarzać i wyciągać wnioski. Mechanizm działania jest banalnie prosty, bo po prostu trzeba zestawiać dane, wyciągać z nich robocze tezy (indukcja) i sprawdzać czy są użyteczne (dedukcja). AI w przyszłości może być "Bogiem", którego stworzy człowiek, a który de facto tak jak wszystko wyłoni się z procesu ewolucji. Jak ogarniemy wszystko i komputery będą wszystko za nas robić, to nie będzie sensu życia (tzn teraz też nie ma, ale wtedy każdy uświadomi sobie to na tyle, że nie tylko to zrozumie, ale także odczuje). Sens sprowadza się jedynie do pozytywnych odczuć, które są reakcjami biochemicznymi.

Ja czekam na kres świata w obecnej fatalnej formie i liczę na to, że to właśnie AI wszystko odmieni.

Pesymizm wynika z wiedzy. Symulacja namiastki wielowarstwowego i wielotkankowego mózgu człowieka którego mama i otoczenie (w realu) wychowują 20 lat to fikcja.
Dlatego to bedzie zawsze eksperyment i zawsze grążący awarią.

Zresztą ...

Sztuczna inteligencja wymknęła się spod kontroli! Na razie w symulacyjnej grze komputerowej "Elite: Dangerous", ale to pierwszy taki znany przypadek. Doszło do nieoczekiwanego masowego niszczenia przemierzających kosmos statków za pomocą nowych superbroni.
"Elite: Dangerous", wydane w grudniu 2014 r., to żywy, ciągle rozwijany i wzbogacany świat, symulacja Wszechświata. Twórcy gry wprowadzili do niej ostatnio wiele nowości, m.in. nowe algorytmy AI (artifficial intelligence - sztucznej inteligencji), które zwiększają jej agresywność i ekspansywność. Nie spodziewali się jednak, że gdy uruchomią aktualizację Engineers, która pozwala m.in. projektować własne podzespoły i broń dla okrętów, ich nowa sztuczna inteligencja wykorzysta ją do zdominowania galaktyki.

Jak to zrobiła? Znalazła luki w systemie i dzięki wykorzystaniu teoretycznie niegroźnych błędów w kodzie sieciowym zdołała zaprojektować oraz wyprodukować superbroń o ogromnej sile rażenia, która w ogóle nie miała prawa pojawić się w grze! Następnie, wyposażona w swoją machinę sądu ostatecznego, rozpoczęła systematyczną rzeź, zarówno innych sztucznych inteligencji, jak i graczy. Nie wiadomo, jakby się to wszystko skończyło, gdyby przytomni twórcy gry nie wyłączyli czym prędzej opcji związanych z produkcją broni. Wprawdzie to tylko wirtualny świat, ale jednak bunt sztucznej inteligencji stał się w nim faktem.


mlodytechnik.pl/news/28425-bunt-w-symulatorze

>Jak to zrobiła? Znalazła luki w systemie i dzięki wykorzystaniu teoretycznie niegroźnych błędów w kodzie sieciowym zdołała zaprojektować oraz wyprodukować superbroń o ogromnej sile rażenia, która w ogóle nie miała prawa pojawić się w grze! Następnie, wyposażona w swoją machinę sądu ostatecznego, rozpoczęła systematyczną rzeź, zarówno innych sztucznych inteligencji, jak i graczy. Nie wiadomo, jakby się to wszystko skończyło,

Upgrade wirtualki z kopii?

gdyby przytomni twórcy gry nie wyłączyli czym prędzej opcji związanych z produkcją broni. Wprawdzie to tylko wirtualny świat, ale jednak bunt sztucznej inteligencji stał się w nim faktem.
>[/color]
>mlodytechnik.pl/news/28425-bunt-w-symulatorze
>
Przecież to nie ma nic wspólnego z AI która rozumie świat. Tylko z algorytmem ewolucyjnym. Oczywiście zgadzam się że tak prymitywny algorytm dopuszczony do jakiś groźnych decyzji (arsenał jądrowy chociażby) jest niebezpieczny. Polecam film "Gry wojenne".

W szkodliwe kody szukające luk w Unixie podpiętym do sali lekcyjnej na jakiś pomaturalnych czy wyżej studiach (atak na pamięć dzieloną jest dobry tym bardziej że w Linuxie z okolic ~2000 nie było na shm limitu, to były czasy nigdy się nie bawiłeś?

>ograniczonej półki
>To taki banalny "bezmyślny filtr" którego porównywanie do człowieka czy nawet muszki owocowej byłoby
>grubą przesadą

Zamówiłem SN (następny też jest niezły, Droga Mleczna etc).
Jak przeczytam to pogadamy. Zawsze można walnąć krytykę do autora, a co

>Naukowiec uważa też, że nie ma szans na odcięcie błyskotliwej (jeśli pojawi się kiedyś w przyszłości) AI od mega szkodnictwa w sieci informacyjnej ówczesnej. Nie da się utrzymać ich w wirtualnej, więziennej piaskownicy i tylko czerpać korzyści.

Banały opowiadasz.
Od dawna to się robi i z pełną korzyścią.

>AI może "wykastrować" ludzi jakąś okrężną drogą. Młodych przekupi zapewne rozrywką, a może i wirtualnym seksem?

Chyba miałeś na myśli, że ludzie sami się wykastrują.. jakoś okrężnie.
Co zresztą robią od wieków.

>Tak naprawdę AI na poziomie człowieka nigdy nie powstanie. Koszt tworzenia i czas wychowywania kolejnych prototypów (aż do powstania osobników godnych zaufania) zrujnuje i zniechęci każde państwo.

Dawno takie powstały, chyba już w latach 80-tych.

Wielu światłych naukowców ostatnio wypowiadało się w temacie AI. Większość wyrażała obawę o dominację na gatunkiem ludzkim. Widziało zagrożenie w potężnym umysłem, ale nie wiem dlaczego nikt nie bierze pod uwagę podstawowej rzeczy.
Cokolwiek człowiek czyni robi to dla nagrody. Robi coś bo mu to sprawia przyjemność lub sprawi ją w konsekwencji tego czynu.
Jeżeli nie zaprogramujemy AI systemu nagród, które będą ją pchały do działania, to nic sama z siebie nie zrobi.
Zrealizuje postawiony przed nią cel, lecz sama z siebie (a tym bardziej z chęci dominacji) nic nie zrobi.
Prawdopodobieństwo samoistnego szkodzenia człowiekowi jest porównywalne z prawdopodobieństwem nierobienia niczego lub podlewania bratków.
My (ludzie) robimy coś bo "chcemy" maszyna nie "chce". Nie ma receptorów przyjemności nie ma więc żadnych powodów do działania.
W najlepszym przypadku uda na się stworzyć bardzo apatycznego "mózgowca", który w najlepszym przypadku będzie wykonywał rozkazy (zadania).

>Wielu światłych naukowców ostatnio wypowiadało się w temacie AI. Większość wyrażała obawę o dominację na gatunkiem ludzkim. Widziało zagrożenie w potężnym umysłem, ale nie wiem dlaczego nikt nie bierze pod uwagę podstawowej rzeczy.
>Cokolwiek człowiek czyni robi to dla nagrody. Robi coś bo mu to sprawia przyjemność lub sprawi ją w konsekwencji tego czynu.
>Jeżeli nie zaprogramujemy AI systemu nagród, które będą ją pchały do działania, to nic sama z siebie nie zrobi.

Najpewniej nie stanowi to istotnego problemu. Co to za problem modelować takie przeżycia jak cierpienie i radość odpowiednio oprogramowując maszynę ? Np. można sobie to wyobrazić w postaci jakiejś skali punktowej od 0 (skrajne cierpienie) do 100 (skrajna euforia). Szkodzenie ludziom albo rozładowana bateria negatywnie wpływa na wartość tego wskaźnika, natomiast inne czynniki (np. służenie ludziom lub poszerzanie wiedzy) wpływają dodatnio. Maszyna miałaby działać tak aby zmaksymalizować wartość swojego szczęścia.
W rzeczywistości nie różni się to zbytnio od sposobu w jaki ewolucja biologiczna narzuciła ludziom pewne cele.
Zdrowi ludzie nie działają przecież we własnym interesie (chociaż im się tak wydaje), a w interesie swoich genów.

Są w tej dziedzinie znacznie większe problemy. Od jakiś 30 lat forsuje się w świadomości społecznej pogląd, że podstawowe prawa fizyczne obowiązujące w skali naszego mózgu są doskonale znane a pozostały jedynie "bariery ilościowo-techniczne". W szczególności większość fizyków nie chce dostrzegać ogromnej luki w naukowej wiedzy:

"Przestudiuj układ nerwowy prostego nicienia. Znamy wszystkie połączenia jego kilkuset neuronów, ich wzajemne oddziaływania i jak modelują one świat tego nicienia. Ponadto znamy jego kompletny genom i wiemy jak kontroluje on rozwój układu nerwowego. Co chciałbyś więcej wiedzieć? "

Ciekawe jak w ten sposób wyjaśni się świadomość, a to jest przecież jeden z najbardziej interesujących problemów z AI. Tu nauka napotyka na problem przy którym dotychczas stosowane zasady metodologii zawodzą. Do tej pory postęp w nauce był ruchem w kierunku większej obiektywizacji. Starano się przenieść punkt widzenia z naszej percepcji na rzecz teoretycznych modeli opisujących domniemaną obiektywną rzeczywistości (można było tak postępować, bo choć wątpliwym jest że przedmioty zewnętrzne są takie jak nam się jawią, to chyba powinna być jakaś wspólna przyczyna wrażeń u wszystkich ludzi).
Przy świadomości nikt z naukowców nie ma pomysłu jak można by dokonać takiej obiektywizacji, bo ostatecznie nic z niej nie zostanie jeśli usunie się wszystko to co subiektywne.
Czym innym jest to co się określa jako fale elektromagnetyczną o długości 500nm, czopki na siatkówce i impulsy w układzie nerwowym, a czym innym jest obecne w świadomości wrażenie koloru zielonego.
Oznacza to, że każde materialistyczne podejście będzie niekompletne, bo nigdy nie natrafi na sferę doznań subiektywnych.

Nie wiadomo co można począć z tak beznadzieją sytuacją. Niektórzy filozofowie mówią, że można by zacząć od próby stworzenia jakiegoś obiektywnego podejścia do fenomenologii, np. teorie pozwalającą opisać wrażenie koloru a następnie umożliwiającą odtworzenie tego stanu psychicznego u osoby ślepej od urodzenia.
Zdarzają się też niepoważne stwierdzenia, że skoro nie wiemy jak się do problemu świadomości naukowo zabrać to ją ignorujmy wciskając kit, że nie ma ona znaczenia w procesie myślenia.

A mi się właśnie wydaje, że świadomość jest tutaj kluczem, bo uważam, że umysł jest czymś szerszym niż algorytm (ściślej: szerszym niż maszyna Turinga).
Ilekroć robię coś już dobrze znanego, robię to machinalnie, nie potrzebując świadomości.
Ale jeśli się uczę czegoś nowego to mam wrażenie, że próbuje swoje zadanie zalgorytmizować i do tego jest mi potrzebna świadomość.
Więc świadomość wydaje się niezbędna do procesu samouczenia, czyli właśnie tego czego oczekuje się od sztucznej inteligencji.

.

>Najpewniej nie stanowi to istotnego problemu. Co to za problem modelować takie przeżycia jak cierpienie i radość odpowiednio oprogramowując maszynę ? Np. można sobie to wyobrazić w postaci jakiejś skali punktowej od 0 (skrajne cierpienie) do 100 (skrajna euforia). Szkodzenie ludziom albo rozładowana bateria negatywnie wpływa na wartość tego wskaźnika, natomiast inne czynniki (np. służenie ludziom lub poszerzanie wiedzy) wpływają dodatnio. Maszyna miałaby działać tak aby zmaksymalizować wartość swojego szczęścia.
>W rzeczywistości nie różni się to zbytnio od sposobu w jaki ewolucja biologiczna narzuciła ludziom pewne cele.
Różnica jest zasadnicza. Ewolucja pozwoliła zachować korzystne z punktu widzenia przeżycia mechanizmy w sferze świadomości, natomiast AI jest programowana. To oznacza, że mechanizmy należy jej wprowadzić przez stwórcę. Jeżeli zaprogramujemy jej zachowania socjopatyczne to wówczas będzie się tak zachowywać, ale sama z siebie nie, bo brak jej woli do takiego działania.
>Zdrowi ludzie nie działają przecież we własnym interesie (chociaż im się tak wydaje), a w interesie swoich genów.
To nie ma znaczenia. Robią to dla nagrody, są tak zaprogramowani. AI sama z siebie nie ma tego programu
>Są w tej dziedzinie znacznie większe problemy. Od jakiś 30 lat forsuje się w świadomości społecznej pogląd, że podstawowe prawa fizyczne obowiązujące w skali naszego mózgu są doskonale znane a pozostały jedynie "bariery ilościowo-techniczne". W szczególności większość fizyków nie chce dostrzegać ogromnej luki w naukowej wiedzy:
Następne nieporozumienie. Aby wprawić maszynę w ruch nie musimy znać zasad motoryki naczelnych czy innych zwierząt. Można wstawić koła, które nie są inspirowane światem przyrody ożywionej.
Tak samo ze świadomością. Budowa ludzkiego mózgu nie musi być jedynym możliwym modelem. Można, a nawet należy, szukać innych rozwiązań technicznych.
>Przy świadomości nikt z naukowców nie ma pomysłu jak można by dokonać takiej obiektywizacji, bo ostatecznie nic z niej nie zostanie jeśli usunie się wszystko to co subiektywne.
Nigdy nie uważałem, że hipotetyczna świadoma AI będzie kopią ludzkiej. Wystarczy tylko przybliżenie i realizowanie podstawowych kryteriów.
>Ilekroć robię coś już dobrze znanego, robię to machinalnie, nie potrzebując świadomości.
>Ale jeśli się uczę czegoś nowego to mam wrażenie, że próbuje swoje zadanie zalgorytmizować i do tego jest mi potrzebna świadomość.
>Więc świadomość wydaje się niezbędna do procesu samouczenia, czyli właśnie tego czego oczekuje się od sztucznej inteligencji.
>.
Zwierzęta, którym odmawia się samoświadomości posiadają zdolność uczenia więc są inne metody. Świadomość z pewnością znacznie przyspiesza proces nauki poprzez tworzenie modelu abstrakcyjnego na podstawie jednostkowego zdarzenia, jednakże "mechaniczne", wielokrotnie powtarzane uczenie też jest możliwe, a maszyna jest mistrzem cierpliwości (chyba, że ją zaprogramujemy by nie była).
Kończąc odpowiedź, uważam, że jeżeli dojdzie do zbudowania "prawdziwej" sztucznej inteligencji to do ludzkiej będzie podobna wyłącznie powierzchownie, poprzez imitowanie ludzkiego zachowania, jednakże mechanizmy będą właściwe jej elektronicznemu pochodzeniu, nie zaś wzorowane na maszynie biologicznej. Osobiście nie wierzę w demoniczną postać AI. Myślę raczej że będzie doskonałym narzędziem, wspomagającym i uzupełniającym człowieka, który zaprogramowany do powielania swojego DNA będzie w tym duecie motorniczym.

>Różnica jest zasadnicza. Ewolucja pozwoliła zachować korzystne z punktu widzenia przeżycia mechanizmy w sferze świadomości, natomiast AI jest programowana. To oznacza, że mechanizmy należy jej wprowadzić przez stwórcę. Jeżeli zaprogramujemy jej zachowania socjopatyczne to wówczas będzie się tak zachowywać, ale sama z siebie nie, bo brak jej woli do takiego działania.

Nie rozumiem dlaczego widzisz tu problem. Gdyby udało się rozwikłać problem świadomości i podłączyć się pod wrażenie szczęścia, moglibyśmy zdeterminować jej cele, które w rzeczywistości byłyby przedłużeniem naszych celów. Może nikt o tym nie mówi, bo ten problem nie jest interesujący ?
R.Dawkins w książce "Fenotyp rozszerzony" opisał pojęcie fenotypu jako zbioru cech, które ujawniają się niekoniecznie w samym nosicielu genu, ale także w środowisku na które oddziałuje. Np. w przypadku mrówek fenotyp rozszerzony obejmowałby, oprócz standardowego fenotypu także ich mrowisko. Zmierzam do tego, że również AI byłoby niczym innym niż manifestacją ludzkiego genotypu.

>To nie ma znaczenia. Robią to dla nagrody, są tak zaprogramowani.

Jeśli popatrzymy z góry na nasze wyczyny oczywistym jest, że nie mamy żadnej nagrody.

>Następne nieporozumienie. Aby wprawić maszynę w ruch nie musimy znać zasad motoryki naczelnych czy innych zwierząt. Można wstawić koła, które nie są inspirowane światem przyrody ożywionej.

Zupełnie nie oczekuję, aby sztuczna inteligencja przypominała człowieka pod względem wyglądu zewnętrznego. Z punktu widzenia myślenia jest to bez znaczenia. Może mieć koła, a maszyny przeznaczone jedynie do pracy intelektualnej mogą w ogóle nie mieć możliwości bezpośredniego przemieszczania.

>Nigdy nie uważałem, że hipotetyczna świadoma AI będzie kopią ludzkiej.

Obserwując obecne trendy naśladujące biologiczne układy nerwowe, można zauważyć, że spece od AI nie podzielają twego zdania.

>Wystarczy tylko przybliżenie i realizowanie podstawowych kryteriów.

Rozumiem operacyjny punkt widzenia, tylko cały problem w tym, że są podstawy aby wątpić, że świadomość w procesie kreatywnego myślenia jest tak pasywna jak się to głosi.

>Zwierzęta, którym odmawia się samoświadomości posiadają zdolność uczenia więc są inne metody.

Nie wiem, którym zwierzętom odmawia się świadomości ?
Jaki eksperyment przeprowadzono, żeby wykryć nieobecność świadomości ?

To co wiem to, że ludzie (w tym naukowcy) przypisują danemu obiektowi świadomość tym chętniej im bardziej przypomina on istotę ludzką. Wyprowadzamy przez analogie (głownie chyba na podstawie budowy fizycznej i zachowania podobnego do naszego), że inni ludzie i np. szympansy mają świadomość, a np. AI w ogóle mogłoby nie przypominać wyglądem i zachowaniem człowieka, a jednak mieć świadomość. W związku z tym należy wątpić w poprawność takiego kryterium oceny świadomości.

W rzeczywistości nie ma żadnej podstawy aby stwierdzić jak bardzo świadomość we wszechświecie jest rozpowszechniona.

Np. zakładamy, że rośliny nie są świadome - w sumie to dlaczego ? Dlatego, że nie mogą się poruszać ? Hipotetycznie wszystkie przedmioty nieożywione też mogłyby w jakiś sposób czuć, ale nie moglibyśmy tego w żaden sposób odkryć, ponieważ nie wiemy jak zauważyć związek pomiędzy ich wewnętrznymi przeżyciami a ich obserwowalnymi przejawami.

>Świadomość z pewnością znacznie przyspiesza proces nauki poprzez tworzenie modelu abstrakcyjnego na podstawie jednostkowego zdarzenia, jednakże "mechaniczne", wielokrotnie powtarzane uczenie też jest możliwe, a maszyna jest mistrzem cierpliwości (chyba, że ją zaprogramujemy by nie była).

Kiedy ja mówię o AI mam na myśli wynalazek, który ma dociągnąć ludzkość do punktu technologicznej osobliwości, czyli taki, który będzie przewyższał intelektualnie ludzi.
Nie może być to jednak algorytm.
Jest cały dział w matematyce - tzw matematyka nierekurencyjna o problemach, które się nie algorytmizują. Nie chodzi tu o to, że nie znamy algorytmu albo że jest wolny. Po prostu się nie algorytmizują i jest to udowodnione, że w ogólnym przypadku żaden algorytm nie będzie rozwiązywał ich niezawodnie - jest to negatywne rozstrzygnięcie 10 problemu Hilberta.

Przykładem, który się tu podaje jest np. problem słowa, w którym określa się początkowy układ reguł podstawiania, a problem stanowi rozstrzygnięcie czy istnieje przejście wykorzystujące te reguły pomiędzy dwoma danymi słowami.

Stwierdzenie równości dwóch słów jest łatwe. W tym celu wystarczy iteracyjnie tworzyć n-wymiarową tablice leksykograficznych ciągów słów o długości n i po prostu wykreślać te podciągi, w których nowo dostawiane słowo nie wynika z poprzedniego zgodnie z danymi regułami postawiania.
Problem jest gdy dane słowa nie są równe. W wielu przypadkach nie możemy być pewni, że dane słowa nie są równe, ponieważ w n-wymiarowej tablicy n musi być jakąś skończoną wartością, a prawidłowy ciąg przejściowy pomiędzy słowami może być dłuższy niż n.

Oczywiście matematyk może udowodnić nierówność dwóch słów wykorzystując jakieś specyficzne dla sytuacji własności. Np. jeśli liczba samogłosek nie zmienia się w żadnym przekształceniu z listy równości, a w badanej parze ulega zmianie to jest to dowód, że te dwa słowa nie są równe. (oczywiście podałem tu prosty przypadek, ale w niektórych parach słów matematyk musi wykazać się naprawdę wyrafinowanym rozumowaniem)
Po odkryciu takiego rozumowania, można nawet je zaimplementować i ulepszyć w ten sposób algorytm, ale nigdy nie będzie on działał niezawodnie dla każdego przypadku (dla dowolnego układu równań).

Wydaje mi się, ze można tak ulepszać w nieskończoność tworząc algorytm dowolnie bliski nieosiągalnemu ideałowi. Problem będzie występował przy niektórych parach spośród tych, które nie są równe. Taki kontrprzykład wymaga świadomego wglądu, ale gdy już to przeanalizujemy możemy rozszerzyć algorytm. Ten czynnik niealgorytmiczny, który pozwala to zrobić według mnie leży w świadomości.

.

>A mi się właśnie wydaje, że świadomość jest tutaj kluczem, bo uważam, że umysł jest czymś szerszym niż algorytm (ściślej: szerszym niż maszyna Turinga).
>Ilekroć robię coś już dobrze znanego, robię to machinalnie, nie potrzebując świadomości.
>Ale jeśli się uczę czegoś nowego to mam wrażenie, że próbuje swoje zadanie zalgorytmizować i do tego jest mi potrzebna świadomość.
>Więc świadomość wydaje się niezbędna do procesu samouczenia, czyli właśnie tego czego oczekuje się od sztucznej inteligencji.

Ale to tylko Twoja hipoteza. Z drugiej strony jesteś świadomy nawet gdy robisz coś automatycznie. Doświadczasz ciągłości. Ja myślę, że to o czym piszesz to dodatkowy algorytm, a świadomość w tym momencie jest po prostu bardziej skoncentrowana. I tak przecież w świadomym doświadczeniu całość wyłania się z nieświadomości. Nie wiadomo czy świadomość jest potrzebna do myślenia, czy może to taka podstawa biologiczna ludzi i pozostałych zwierząt.

Proces samouczenia się to indukcja i weryfikacja (dedukcja), umiejętność przykładania różnych schematów do różnych sytuacji (kreatywność, wyobraźnia).

>Z drugiej strony jesteś świadomy nawet gdy robisz coś automatycznie.

Ale sęk w tym, że gdy już się czegoś wyuczę to robię to machinalnie a umysł może błądzić. Nie twierdzę, że wtedy tracę świadomość, ale że mogę skierować ją gdzie indziej.

>Doświadczasz ciągłości.

Tak naprawdę jedyne co mam to ta chwila.

Nie mogę powiedzieć, czy doświadczałem ciągłości, a jedynie to że teraz tak mi się wydaje.
A nawet jeśli świadomość nie byłaby ciągła, to skąd miałbym o tym wiedzieć skoro w czasie nieświadomości nie zarejestrowałbym jej braku. A może przeżywam w kółko pisanie tego posta, a jeśli tak to jak mógłbym to stwierdzić skoro jedyne na czym mogę się oprzeć to zawartość pamięci ? To o czym mogę wiedzieć to tylko moje wspomnienia.
Np. spotkałem się z doniesieniami, że pacjenci poddawani narkozie są w jakiś sposób świadomi, a działanie znieczulenia polega w dużej mierze na zamazaniu wspomnień (Oakley i Eames zajmowali się tym tematem, lecz nie wiem jakie jest stanowisko medycyny).

Podobne historie miały zresztą miejsce już w latach czterdziestych, kiedy to lekarze używali kurary do znieczulania ogólnego. Tak naprawdę kurara wywołuje jedynie całkowity paraliż połączeń nerwowych do mięśni, lecz w żadnym stopniu nie odbiera świadomości ani uczucia bólu:

"For instance, in the 1940s, curare, purified as d-tubocurarine, was used as a general anesthetic. Later it was discovered that the drug did not block, or even diminish, a patient's experience of pain, but merely blocked his or her ability to express pain. Many who had major surgery under these circumstances claimed later that they could remember experiencing the pain of surgery and that it was horrible. But since they tended to be children they were not believed. When doctors finally discovered that d-tubocurariine did not inhibit pain, they were shocked. Its use as an anesthetic was immediately discontinued." (Raymond Martin 2008, str. 2)

Przy okazji zwracam uwagę na fakt, że również obecnie w anestezjologii nie ma sposobu na empiryczne (naukowe) odróżnienie paraliżu z późniejszą amnezją od faktycznej utraty świadomości. Wydaje mi się, że z tym się także wiążą rozmaite spory o tzw. śmierć mózgową i aborcje: po prostu dla jednych jest jasne, że 24 tygodniowy płód nie ma świadomości a dla innych, że ma. Oba przypuszczenia są bezpodstawne, bo nie istnieje kryterium operacyjne:

"Może nigdy nie będziemy w stanie ustalić granicy pomiędzy stworzeniami, które posiadają świadomość, a tymi, które jej nie posiadają, lecz jest to po prostu jeszcze jeden przejaw nieuniknionego ograniczenia naszej wiedzy. Takie fakty mogą być z natury niepozawalane, a nie jedynie trudne do ustalenia." (Dennett 1997, str. 25)

>Ja myślę, że to o czym piszesz to dodatkowy algorytm, a świadomość w tym momencie jest po prostu bardziej skoncentrowana.

Twierdzę tutaj, że ten "zewnętrzny algorytm" nie jest maszyną Turinga, ponieważ jego działanie nie jest racjonalne i raczej opiera się na intuicji. W istocie algorytm nigdy nie jest w stanie powiedzieć nam prawdy, bo jak ktoś chce to może napisać go tak żeby zwrócił prawdę lub tak żeby zwrócił fałsz. Żeby formalnie udowodnić, poprawność działania algorytmu potrzebny jest szerszy system ! I rzeczywiście, w latach 70 była popularna taka dziedzina "dowodzenie algorytmów", ale te dowody były strasznie skomplikowane i częściej pojawiały się błędy w samych dowodach niż w algorytmach. Jest to bezsensu, bo najszerszy system i tak trzeba przyjąć intuicyjnie. Zobacz że, np. dowód tw. Gödla przyjmujesz za prawdziwy intuicyjnie. Nie został on przeprowadzony wewnątrz jakiegokolwiek systemu formalnego, nie mógł bo właśnie ich dotyczył.

Ty postulujesz pewnie, że ten mega-algorytm miałby wyewoluować ?

1. Dobór naturalny widziałby jedynie efekty działania algorytmów. Trudno jednak przesądzać funkcjonalność algorytmu w dłuższej perspektywie na podstawie jego początkowych efektów. Z łatwością można napisać dwa różne algorytmy, które zwracają ten sam wynik powiedzmy przez 10¹⁰⁰⁰⁰ iteracji.

2. Algorytmy mają to do siebie, że nawet drobna mutacja całkowicie je niszczy.

Nawet jeśli umysł zawiera czynnik niealgorytmiczny nie implikuje to wolnej woli:

1. Np. zdefiniujmy ciąg liczb tak, że c_n=1 gdy T_n zakończy działanie w skończonym czasie i c_n=0 w przeciwnym wypadku. Proces, który będzie podawał kolejne wartości tego ciągu nie może być algorytmem (patrz: problem stopu), ale postać tego ciągu jest z góry zdeterminowana.

2. Jeśli jednak mamy wolną wole, to mogę tu wspomnieć pomysł A.N.Whitehead'a, który współpracował z Russellem przy Principia Mathematica. On twierdził, że świadomość jest czymś co wyprzedza rzeczywistość fizyczną i może ona wybierać pomiędzy różnymi możliwościami, co uwidacznia się w stochastycznym charakterze procesów fizycznych. W ogólności zrobił chyba z tego panpsychizm i każdy niedeterministyczny proces miał być świadomy.

>Nie wiadomo czy świadomość jest potrzebna do myślenia, czy może to taka podstawa biologiczna ludzi i pozostałych zwierząt.

Niektórzy filozofowie materialistyczni śpieszą z bardzo wygodnym wyjaśnieniem, że świadomość nie istnieje (np. materializm eliminacyjny). Inni twierdzą, że wprawdzie istnieje, ale pojawia się wtórnie do działania mózgu i jest tak jakby pasywnym obserwatorem nic nie mogącym zrobić.

Nie przekonują mnie te wyjaśnienia:
Pierwsze jest na tyle niedorzeczne, że prędzej odrzucam istnienie świata zewnętrznego, dopiero w drugiej kolejności swojej świadomości.
Drugie rodzi problem, dlaczego w wyniku ewolucji miałoby powstać i być utrzymywane coś tak rzekomo bezużytecznego jak świadomość. Można nawet zauważyć, że świadomość ma wady z punktu widzenia genów, np. skłonności do filozofowania wynikają właśnie z powodu posiadania świadomości. Dlatego wydaje mi się, że świadomość musiała powstać ze względu na to, że posiada jakąś dużą wartość, która to rekompensuje.

.

>>Z drugiej strony jesteś świadomy nawet gdy robisz coś automatycznie.
>Ale sęk w tym, że gdy już się czegoś wyuczę to robię to machinalnie a umysł może błądzić. Nie twierdzę, że wtedy tracę świadomość, ale że mogę skierować ją gdzie indziej.

Ale jaki "Ty"? Ludzie mylą ze sobą kilka różnych rzeczy:
świadomość(1) - poczucie istnienia
świadomość(2) - procesy wykonywane przez umysł, pojmowanie świata, logiki, mechanizmów
ja(1) - opis człowieka, w którym znajduje się świadomość (1)
ja(2) - emocjonalne utożsamienie się z ego, poczucie bycia jednością z procesami, które się we mnie odbywają

Taki proces to np myśli albo emocje. Ja nimi nie jestem. Nie jestem swoimi pragnieniami, decyzjami. Jestem taki jak stworzyły mnie procesy zewnętrzne, przyczyny są na zewnątrz, a skutkiem są np moje decyzje. Czyli patrz, z jednej strony decyduję #świadomość(2)#ja(2), a z drugiej strony decyzje zapadają i doświadcza ich świadomość(1).

Ja(2) i świadomość(1) doświadczają rozdwojenia między logicznymi faktami - byciem skutkiem procesów, które mnie stworzyły i podleganiem pod wartości, które są nieodłącznym elementem działania tak żeby było dobrze. Najgorzej gdy te wartości przeczą czuciu się dobrze, atakują jakieś ważne pragnienia. Wtedy tworzy się błędne koło i nie ma po co żyć, ale żyje się dalej bo wygrywa prymitywny podświadomy instynkt istnienia.

>Tak naprawdę jedyne co mam to ta chwila.
>Nie mogę powiedzieć, czy doświadczałem ciągłości, a jedynie to że teraz tak mi się wydaje.

Tak i nie, bo z drugiej strony nie doświadczasz żadnej chwili, bo każda o której pomyślisz już była, a obecna natychmiast zmienia się w kolejną, co razem daje poczucie ciągłości.

>A nawet jeśli świadomość nie byłaby ciągła, to skąd miałbym o tym wiedzieć skoro w czasie nieświadomości nie zarejestrowałbym jej braku. A może przeżywam w kółko pisanie tego posta, a jeśli tak to jak mógłbym to stwierdzić skoro jedyne na czym mogę się oprzeć to zawartość pamięci ? To o czym mogę wiedzieć to tylko moje wspomnienia.

Tak i nie. Bo jednak to, że siedzisz i cały czas piszesz tego posta to wersja nielogiczna, oderwana od zapisów w pamięci, które jednak są niezbędne do myślenia. Podważając pamięć podważasz myślenie, które prowadziłoby Cię do takiej konkluzji.

>Np. spotkałem się z doniesieniami, że pacjenci poddawani narkozie są w jakiś sposób świadomi, a działanie znieczulenia polega w dużej mierze na zamazaniu wspomnień (Oakley i Eames zajmowali się tym tematem, lecz nie wiem jakie jest stanowisko medycyny).

To jest ciekawy temat, który nie daje mi spokoju. Miałem kilka operacji i jakoś nic nie pamiętam, czyli dla mnie tego nie było (cierpienia), ale to może oznaczać, że nigdy mnie nie było jeśli umrę, czyli teraz nie mam prawa istnieć.

>"Może nigdy nie będziemy w stanie ustalić granicy pomiędzy stworzeniami, które posiadają świadomość, a tymi, które jej nie posiadają, lecz jest to po prostu jeszcze jeden przejaw nieuniknionego ograniczenia naszej wiedzy. Takie fakty mogą być z natury niepozawalane, a nie jedynie trudne do ustalenia." (Dennett 1997, str. 25)

Dobry cytat. Właściwie nie możemy stwierdzić w 100% istnienia innej świadomości niż własna.

>Ty postulujesz pewnie, że ten mega-algorytm miałby wyewoluować ?

Nie. Wydaje mi się, że jeśli teoretycznie możliwe do zaistnienia jest wszystko co nie jest sprzeczne, to może właśnie istnieje nieskończona ilość możliwych do zaistnienia algorytmów, a "świat informacji" jest nadrzędny do fizycznego, materialnego świata, w którym wydaje nam się żyć. Oznaczałoby to, że każdy algorytm gdzieś istnieje i pokrywałoby się to z teorią wieloświatów. Ale to tylko takie gdybanie na wysokim poziomie abstrakcji.

>2. Jeśli jednak mamy wolną wole, to mogę tu wspomnieć pomysł A.N.Whitehead'a, który współpracował z Russellem przy Principia Mathematica. On twierdził, że świadomość jest czymś co wyprzedza rzeczywistość fizyczną i może ona wybierać pomiędzy różnymi możliwościami, co uwidacznia się w stochastycznym charakterze procesów fizycznych. W ogólności zrobił chyba z tego panpsychizm i każdy niedeterministyczny proces miał być świadomy.

Ale ta świadomość musi z czegoś znów wynikać i żadne "ja" o tym nie decyduje. Powiedzmy, moja świadomość wybiera coś, ale ja tego nie chcę, np upodobanie do szybkiej jazdy na motorze albo fatalne zauroczenie w niedostępnej kobiecie.

>Niektórzy filozofowie materialistyczni śpieszą z bardzo wygodnym wyjaśnieniem, że świadomość nie istnieje (np. materializm eliminacyjny). Inni twierdzą, że wprawdzie istnieje, ale pojawia się wtórnie do działania mózgu i jest tak jakby pasywnym obserwatorem nic nie mogącym zrobić.
>Nie przekonują mnie te wyjaśnienia:
>Pierwsze jest na tyle niedorzeczne, że prędzej odrzucam istnienie świata zewnętrznego, dopiero w drugiej kolejności swojej świadomości.

To tak, ale drugie jest ok.

>Drugie rodzi problem, dlaczego w wyniku ewolucji miałoby powstać i być utrzymywane coś tak rzekomo bezużytecznego jak świadomość. Można nawet zauważyć, że świadomość ma wady z punktu widzenia genów, np. skłonności do filozofowania wynikają właśnie z powodu posiadania świadomości. Dlatego wydaje mi się, że świadomość musiała powstać ze względu na to, że posiada jakąś dużą wartość, która to rekompensuje.

Może to być skutek uboczny pomimo którego toczy się ewolucja. Zobacz, analogicznie jest z układem limbicznym vs korą przedczołową. Ogólnie gdyby sterowała nami logika służąca optymalizacji przetrwania to zachowywalibyśmy się zupełnie inaczej, ale układ limbiczny ewoluował najpierw i my jesteśmy nim "skażeni".

Mówiąc o poczuciu "Ja" używasz określenia "iluzja" , co jest dla mnie trudne do zrozumienia. O ile mi wiadomo iluzji ktoś musi doświadczać, a zwykło się używać tego określenia wtedy, gdy ktoś doświadcza czegoś, czego ktoś inny nie może doświadczyć. Np. schizofrenik widzi jakąś postać, której nikt inny nie może zobaczyć - wtedy mówimy, że to raczej schizofrenik doświadcza iluzji a nie cała reszta. Więc w tym sensie mogę się zgodzić, że moja świadomość wraz z poczuciem "ja" jest moją iluzją - te wrażenia mogą być czymś po prostu immanentnie niedostępnym dla żadnego neurobiologa badającego mój mózg, być czymś poza obrębem poznawalnej rzeczywistości. Sam widzisz, że od samego początku ugrzązłem w wątpliwościach, stąd trudno iść mi dalej.

>świadomość(1) - poczucie istnienia
>świadomość(2) - procesy wykonywane przez umysł

Możesz sobie to tak zdefiniować. Procesy wykonywane przez mózg są względem punktu "ja" czymś równie zewnętrznym jak reszta świata. Niemniej przypuszczam, że ten punkt ma pewien wpływ zarówno na dzianie mózgu, jak i dalej pośrednio na całą resztę świata. W żadnym razie nie twierdzę, że wpływ ten jest permanentny czy nieograniczony. Wręcz przeciwnie: dostrzegam, że cała masa czynności, które wykonujemy to algorytmy np. gra w ping-ponga czy odruchowe zapalanie światła przy wchodzeniu do pokoju. Jednak mam na myśli sterowanie tymi algorytmami, proces uczenia i podejmowanie decyzji w nieznanych warunkach. Np. kiedy piszę teraz na klawiaturze nie naciskam świadomie pojedynczych klawiszy, ale raczej steruje algorytmem "pisanie na klawiaturze" z wyższego poziomu abstrakcji, podsuwając jedynie dane dotyczące treści.

1. Załóżmy przez chwilę, że mózg to w 100% algorytm.
Czy to ma sens, skoro jednocześnie wiemy, że istnieje nieskończenie wiele problemów niealgorytmicznych: np. nie istnieje maszyna Turinga (niezależnie od stopnia złożoności) która potrafiłaby prawidłowo rozstrzygać problem stopu dla innych maszyn Turinga. Przestrzeń problemów dla których nie ma maszyn Turinga jest znacznie większa od problemów algorytmicznych. W takim razie, założenie, że jestem maszyną Turinga jest samo-wywrotne, bo nie mogę mieć zaufania do swoich sądów w szczególności do tego, że jestem maszyną Turinga.

Przyjmijmy, że istnieje pewna dostatecznie ogólna definicja maszyny, która obejmuje ludzki mózg - nazwijmy ją maszyną fizyczną. Zbiór maszyn Turinga jest podzbiorem zbioru maszyn fizycznych, bo mózg może wykonywać algorytm.

Zadajmy pytanie, czy zbiór maszyn Turinga jest tym samym co zbiór maszyn fizycznych.
Jedyne niesprzeczne odpowiedzi to:

1. Nie
2. Nie wiem

Odpowiedź "Tak" sprowadza się do sprzeczności, bo nie wiadomo czy problem tożsamości maszyny fizycznej z maszyną Turinga jest algorytmiczny. Nie wiadomo nawet czy rozstrzygnięcie poprzedniego zdania jest algorytmiczne, więc jeśli jesteśmy algorytmami nie możemy dowiedzieć się niczego !

2. I tu pojawia się drugi argument dotyczący istoty prawdy. Dużo ostatnio piszesz, na temat tego, że znasz prawdę i że odrzucasz pragmatyzm. Jeśli Twoje wypowiedzi są produktem pozbawionej wolnej woli maszyny Turinga to nie mają nic wspólnego z prawdą. Jaką proponujesz definicje prawdy w takim świecie ? Przypuszczam, że dochodzenie do prawdy wymaga wolnej woli, natomiast jestem niemal pewien, że do prawdy dochodzi się niealgorytmicznie i intuicyjnie.

a) Zawsze nad algorytmem musi stać ktoś świadomy, kto będzie w stanie zdecydować, czy algorytm zwraca prawdziwą informacje i w jaki sposób jest ona użyteczna. Np. nie znam algorytmu, który bezbłędnie generowałby zbiór Mandelbrota.

Punkt p płaszczyzny zespolonej należy do zbioru Mandelbrota, wtedy gdy ciąg:
z₀=0
z_n+1=z_n² + p
nie dąży do nieskończoności.

Spójrz na algorytm z Wikipedii, który rzekomo generuje ten zbiór (w rzeczywistości zawsze generuje coś szerszego).
W funkcji checkC został wykorzystany znany fakt, że jeśli |z_n| dojdzie do 2 to z pewnością p nie należy do zbioru. Ale jeśli w skończonej liczbie iteracji |z_n| nie doszło do 2 to nie wiemy czy po prostu ciąg jest ograniczony w węższym obszarze płaszczyzny Arganda czy wykonaliśmy zbyt mało iteracji. Algorytm nie może wykonywać nieskończenie wielu iteracji, więc w tej nierozstrzygalnej sytuacji, zawsze uznaje, że p należy do zbioru. Oczywiście można ulepszyć algorytm, ale ZAWSZE prześlizgną się jakieś punkty, które nie powinny. Widzisz więc, że dla takich obliczeń wygodnie korzystać z algorytmu, ale algorytm sam w sobie nie jest wyznacznikiem prawdy i zawsze o prawdzie decyduje ktoś obdarzony świadomością.

Umysł matematyka, może jednoznacznie rozstrzygnąć status każdego punktu. Czasem będzie trzeba skorzystać z bardziej skomplikowanego rozumowania, wykorzystującego twierdzenia lub kryteria zbieżności znane z zespolonego rachunku różniczkowego, albo nawet z bardziej odległych działów matematyki. Matematycy w swej pracy rozstrzygają poprawność dowodów intuicyjnie i o dziwo są ze sobą zgodni - dlatego tak wielu z nich jest platonikami.

b) Skąd wiesz, że tw. Gödla jest prawdziwe, jeśli nie zostało udowodnione wewnątrz żadnego systemu formalnego ?

3. W odpowiedzi na argument kosmologiczny, ateiści powtarzają za Kantem i Hawkingiem, że "przyczynowość to kategoria umysłu" i ja się z tym zgadzam. Za to, że wydaje nam się, iż niektóre zdarzenia pociągają za sobą inne odpowiada moim zdaniem umysł, który wewnątrz siebie układa zdarzenia w ciągi przyczynowe. W takim razie to o czym mówili naukowcy to nie prawa natury, ale prawa ludzkiego umysłu. Współczesna fizyka zdaje się to potwierdzać, gdyż w czasoprzestrzeni czterowymiarowej wymiar czasu nie jest w żaden sposób wyróżniony. Żeby mieć przyczynowość, liniowy upływ czasu musiałby mieć charakter absolutny, a tak nie ma, chociażby w STW. Idea przyczynowości jest więc użyteczna dla zjawisk w doświadczeniu potocznym, ale nie wiadomo czy można ją absolutyzować na tak osobliwe sytuacje jak rozważania o początku świata czy świadomości.

>Drugie rodzi problem, dlaczego w wyniku ewolucji miałoby powstać i być utrzymywane coś tak rzekomo bezużytecznego jak świadomość. Można nawet zauważyć, że świadomość ma wady z punktu widzenia genów, np. skłonności do filozofowania wynikają właśnie z powodu posiadania świadomości. Dlatego wydaje mi się, że świadomość musiała powstać ze względu na to, że posiada jakąś dużą wartość, która to rekompensuje.

Musiała? Ewolucja nie wybiera rozwiązań bezwzględnie najlepszych, a tylko wystarczająco dobre. Świadomość mogła zatem powstać przypadkiem i pozostała, ponieważ zbytnio nie przeszkadzała.. vide przerwany szlak metaboliczny witaminy C, albo śmieciowe DNA.

Mogłaby także pojawić się nawet jeżeli bardzo by przeszkadzała, ale byłaby nieusuwalna jako nieodłączna część pewnej optymalnej konstrukcji układu sterowania. A że akurat konstrukcja z taką wadą okazała się w optymalna w biologicznym organizmie, a inne mogłyby wymagać nieosiągalnej ewolucyjnie rewolucji... Mówiąc krótko, proszę pomyśleć o świadomości towarzyszącej nieodłącznie pewnej klasie układów sterowania tak jak tarcie towarzyszy nieodłącznie układom mechanicznym. Wtedy nawet gdyby bardzo szkodziła - nie dałoby się jej wyeliminować.