A czymże jest mózg, jeśli nie pewnego rodzaju układem scalonych?
Mnie osobiście wydaje się to bardzo możliwe, że w przyszłości powstaną "inteligentne maszyny", zdolne do uczenia się na błędach, wyciągające wnioski,posiadające pewnego rodzaju wolną wolę itd. A to czy będą zdolne zniszczyć rasę ludzką jest niby też możliwe. Ale żeby tego dokonać będą musiały również mieć uczucia, kierować się emocjami takimi jak nienawiść, chęć zemsty lub chęć posiadania władzy. Oczywiście wyniszczenie ludzkości mogą traktować jako eksperyment (jak będzie wyglądała Ziemia bez ludzi?), więc w tym przypadku wszystko jest możliwe.
Ale zobaczymy co pokaże przyszłość.

>A czymże jest mózg, jeśli nie pewnego rodzaju układem scalonych?

wiec dlaczego kompy nie mają świadomości?

>Mnie osobiście wydaje się to bardzo możliwe, że w przyszłości powstaną "inteligentne maszyny", zdolne do uczenia się na błędach, wyciągające wnioski,posiadające pewnego rodzaju wolną wolę itd.

na jakiej podstawie to zakładasz? jak powstaną?

>A to czy będą zdolne zniszczyć rasę ludzką jest niby też możliwe. Ale żeby tego dokonać będą musiały również mieć uczucia, kierować się emocjami takimi jak nienawiść, chęć zemsty lub chęć posiadania władzy. Oczywiście wyniszczenie ludzkości mogą traktować jako eksperyment (jak będzie wyglądała Ziemia bez ludzi?), więc w tym przypadku wszystko jest możliwe.

wcale nie trzeba tych niskich emocji [jakże ludzkich...] aby podjąć decyzję eksterminacji człowieczej rasy. wystarczy zimna logika - ludzie niszczą planetę, są swego rodzaju pasożytami, eksploatującymi Ziemię bez dawania czegoś w zamian, nie ma mowy o symbiozie, jest tylko ingerencja i zachwianie równowagi w przyrodzie. do eksterminacji ludzkości doszłoby raczej ze względów profilaktycznych.
pozdr

>wiec dlaczego kompy nie mają świadomości?
>na jakiej podstawie to zakładasz? jak powstaną?

Trudno porównywać możliwości obecnych komputerów do możliwości mózgu. Mózg (obojętnie do jakiego obecnego stworzenia należy) nie wykształcił się nagle lecz przez jakiś okres czasu. Komputer w porównaniu do możliwości mózgu myszy na przykład, jest bardzo prymitywny. Na razie.Technika komputerowa nie zatrzymała sie jeszcze na "skończonym" poziomie.Aktualnie , wydaje mi się zaledwie raczkuje. A patrząc w jakim tempie "raczkuje" czy można stwierdzić ,że za dajmy na to 300 lat "komputer" będzie nadal takim samym narzędziem , ułatwiajacym jedynie prowadzenie badań , komunikację i umożliwiajacym nowe formy rozrywki ? A co będzie w przypadku ,gdy jego rozwój potrwa tyle co proces powstania mózgu wspomnianej już myszy ?

>wcale nie trzeba tych niskich emocji [jakże ludzkich...] aby podjąć decyzję eksterminacji człowieczej rasy. wystarczy zimna logika - ludzie niszczą planetę, są swego rodzaju pasożytami, eksploatującymi ziemię bez dawania czegoś w zamian, nie ma mowy o symbiozie, jest tylko ingerencja i zachwianie równowagi w przyrodzie. do eksterminacji ludzkości doszłoby raczej ze względów profilaktycznych.

Można odnieść wrażenie ,że ludzkość zasłuży na główną "nagrodę Darwina" podcinając nadal gałąż ,na której siedzi. Może jednak to się zmieni ,a może ludzie znajdą sposób na przetrwanie pomimo wyniszczenia środowiska naturalnego. A jak się nie uda można będzie najwyżej pogratulować tym organizmom ,które będą dalej trwać w warunkach jakie im pozostawimy. Dlatego trudno egoistycznie mysleć,że jesteśmy (jako gatunek) czymś lepszym od innych ,jeżeli jakiś "marny" karaluch będzie sie dobrze "trzymał" gdy nas już dawno nie będzie. Niewykluczone również ,że pozostaną po nas "maszyny" jeżeli doprowadzimy ich rozwój do punktu ,w którym staną sie samodzielne. Brzmi to wszystko dość niewiarygodnie ale czy dzisiejszy świat byłby wiarygodny dla tyranozaura gdyby mógł sie nad tym zastanawiać ?

>wiec dlaczego kompy nie mają świadomości?

Bo są inaczej zbudowane. Różnic jest dużo.

To pytanie przypomina pytanie o to dlaczego radio nie świeci.
Przecież żarówki podłączone do prądu świecą...

>na jakiej podstawie to zakładasz? jak powstaną?

Myślę, że mogą powstać po prostu poprzez wzorowanie się na naturze. Najpierw będą analogicznie zbudowane jak układy u prostych zwierząt, tylko duże i toporne. Potem nadejdzie miniaturyzacja, zwiększanie złożoności i dokładności odwzorowania różnych czynników, a także prawdopodobnie nauczymy się modelowania odpowiednio do potrzeb. Czyli będzie można stworzyć taką istotę, która będzie miała odpowiednie chęci i cele.

>> Ale żeby tego dokonać będą musiały również mieć uczucia, kierować się emocjami takimi jak nienawiść, chęć zemsty lub chęć posiadania władzy.

Wątpię by powstało wiele takich akurat. Musiałyby mieć też inne elementy typowo ludzkiej struktury. Musiałyby być zbudowane tak by w pewnych warunkach chcieć krzywdy drugiego. To nie przychodzi tak po prostu samo - nienawiść jako reakcja na pewne bodźce i zdarzenia i pewna reakcja na stan nienawiści muszą zostać odpowiednio wprowadzone do struktury, czy to poprzez nauczenie czy przez wbudowanie (a do tego pierwszego potrzebne jest wbudowanie możliwości umożliwiających i ułatwiających takie nauczenie - poprzez obserwację lub adaptację).

>wcale nie trzeba tych niskich emocji [jakże ludzkich...] aby podjąć decyzję eksterminacji człowieczej rasy. wystarczy zimna logika - ludzie niszczą planetę, są swego rodzaju pasożytami, eksploatującymi Ziemię bez dawania czegoś w zamian, nie ma mowy o symbiozie, jest tylko ingerencja i zachwianie równowagi w przyrodzie.

Możliwe, że nie trzeba. Ale trzeba celów z tym związanych. A sztuczne świadomości nie muszą mieć typowo ludzkich (lub raczej zwierzęcych - to tyczy się większości świata zwierząt) celów takich jak potrzeba posiadania, zdobywania, eksploracji, obrony samego siebie, zmniejszania własnych cierpień, zwiększanie własnego szczęścia, obrona własnej grupy itp. itd. Roboty mające inne cele zaimplementowane w wewnętrznej strukturze nie będą zdolne do eksterminacji - nie będą tego robić bo po prostu nic to im nie da z ich punktu widzenia.

Człowiek pozbawiony celów i popędów (jest taka choroba) nic nie robi. Nie czuje szczęścia ani cierpienia, nie ma potrzeb, choć wszystkie możliwości intelektualne funkcjonują, to nie rusza się nawet, jest jak kukła. Wyleczeni z niej (dopiero nie dawno wynaleziono na to środek) mówią, że wtedy nic nie czuli i nic nie potrzebowali, całkowita obojętność, coś w rodzaju ideału buddyjskiej nirwany.

Podobnie świadoma maszyna musi mieć zaimplementowane cele i popędy by działać (teraz wyrażają je algorytmy nastawione zwykle zadaniowo i deterministycznie, rzadziej uczące się, ale kiedyś może pełnić tą funkcję nadrzędny ośrodek sterowania, część "elektronicznego mózgu" działająca na najwyższym poziomie abstrakcji).

> do eksterminacji ludzkości doszłoby raczej ze względów profilaktycznych.

Wątpię by możliwa była eksterminacja całej ludzkości.
Jako kreatorzy ewentualnych świadomych maszyn tworzymy w nich wszystko, wątpię, by zaimplementowano im cele prowadzące do wrogości wobec ludzi, a nawet jeśli (roboty wojskowe), to wątpie by nie zaimplementowano zabezpieczeń oraz celów i chęci (taki robot realnie będzie tego chciał, co zostanie zaimplementowane, tak jak ludzie chcą się rozmnażać, jeść czy być akceptowani przez otoczenie) wymuszających np. brak agresji wobec przełożonych lub cywilów.

W ewentualny błąd działania też wątpię - przynajmniej nie masowy (taki, który by sprawił, że duża ilość robotów "zbuntowała się").

Jedynym zagrożeniem byłoby stworzenie robotów o bardzo elastycznej psychice i możliwości uczenia się, a także wybierania celów.
Przy czym wtedy, to już pewnie ludzie będą dosyć mocno zcybernetyzowani sami w sobie - bo każdy będzie chciał wydłużyć sobie życie, poprawić wzrok, pamięć, szybkość etc.

Ale to wszystko to nadal science-fiction, mózg jest w trakcie poznawania i nadal bardzo słabo poznany (i na poziomie tego jak działają podstawy i jak chodzi o badania struktury i tego jak jej modelowanie wpływa na jej działanie).

>Czy to możliwe, by maszyny z czasem wykształciły własną, niezależną od człowieka świadomość i zdolność podejmowania
>alternatywnych decyzji? "Wolną wolę" i instynkt przetrwania?
>czy przypadkiem do tego nie potrzeba ciała, a może układy scalone etc. mogłyby w pełni zastąpić mózg, a bez reszty by się obeszło?

Jestem zdania, że zdarzeń umysłowych nie można zredukować do zdarzeń fizycznych, więc nie będzie możliwe wykształcenie zdarzeń umysłowych które byłyby konieczne do zajścia powyższych możliwości (zakładając, że mówimy o maszynach działających na podobnych zasadach co obecne maszyny)
Drugi kontrargument jest taki, że (również zakładając, że mówimy o maszynach działających na podobnej zasadzie co obecne maszyny) maszyna korzysta w "podejmowaniu decyzji" z określonych matematycznie algorytmów, więc :
1) Maszyny nigdy nie wyjdą możliwościami poza ten algorytm.
2) Człowiek (który zna matematykę) będzie mógł przewidzieć wszystkie możliwości "wyborów" tej maszyny - co powoduje, że maszyna nie może podejmie "decyzji" której nie można obliczyć.

>Drugi kontrargument jest taki, że (również zakładając, że mówimy o maszynach działających na podobnej zasadzie co obecne maszyny) maszyna korzysta w "podejmowaniu decyzji" z określonych matematycznie algorytmów, więc :
>1) Maszyny nigdy nie wyjdą możliwościami poza ten algorytm.
>2) Człowiek (który zna matematykę) będzie mógł przewidzieć wszystkie możliwości "wyborów" tej maszyny - co powoduje, że maszyna nie może podejmie "decyzji" której nie można obliczyć.

tego właśnie staram się dowiedzieć: czy dzięki jakiemuś błędowi w oprogramowaniu, wirusowi etc, może się zdarzy jakieś spięcie, przeładowanie, COŚ NIEPRZEWIDZIANEGO, co sprawiłoby, że maszyny zaczęłyby na inny sposób manipulować dostępnymi im możliwościami matematycznymi. ostatecznie wszystko działa tak jak zakładamy w "granicach błędu" i choć do tej pory wyjście poza te granice powodowało zazwyczaj zniszczenie systemu czy maszyny, to może pewnego dnia spowoduje jej metamorfozę?
pozdr

Założenie, że maszyna wewnętrznie zachowywać się zawsze musi deterministycznie i można obliczyć jak się zachowa, jest błędne.

Przy odpowiednim stopniu skomplikowania i/lub odpowiednich algorytmach zachowanie może być indeterministyczne chociażby z tego względu, że otoczenie nie zachowuje się deterministycznie (nie mówiąc już o częściach robota, które mogą się poruszyć inaczej niż w sposób wyidealizowany).

Chociażby przykład z moich zajęć z wstępu do robotyki: robiliśmy roboty z klocków Lego Mindstorms programowane w C. Roboty miały odszukać źródło światła podczerwonego omijając przy tym przeszkody w postaci czarnych plam oraz ustawionych fizycznych przeszkód. Mieliśmy do użytku kilka sensorów światła i dotyku (użyliśmy 4, po 2 z każdego rodzaju). Algorytm zrobiliśmy w miarę prosty. Układ na planszy był stały (przynajmniej w zakresie jednych zajęć). Robot startował z tej samej pozycji. I nie można było przewidzieć w jakim czasie i jaką drogą dotrze do celu. Ani czy się na pewno nie zgubi w "krytycznym" obszarze (wszystko przez zwiększenie precyzji kosztem czasu reakcji - przez "radar").

Tak więc wnioskuję, że maszyny same z siebie nie są w stanie nabyć świadomości, a jedynie ich twórcy mogą je zaprogramować adekwatnie do swoich potrzeb i celów. Nie mogą osiągnąć instynktu przetrwania - tak, hm, "gatunkowego" jak i jednostki, ani poczuć żadnej potrzeby, która nie byłaby wprowadzona do oprogramowania przez fabrykanta. Awarie nigdy nie będą miały innych skutków niż niszczące? I chociaż nie można przewidzieć jaką drogę obierze robot, by osiągnąć swoj cel, to jednak zawsze będzie się poruszał w obrębie zadania do wykonania. Czyli o samodzielności maszyn mowy nie ma, chyba, że takiej, jaką im nadadzą twórcy, ograniczonej ich wolą? Bunt maszyny to pic na wodę?
pozdr

>Tak więc wnioskuję, że maszyny same z siebie nie są w stanie nabyć świadomości, a jedynie ich twórcy mogą je zaprogramować adekwatnie do swoich potrzeb i celów.

Musiałyby ewoluować lub same się rozwijać w niekontrolowanym kierunku by to było ewentualnie możliwe samoistnie.

To nie wykluczone oczywiście, ale wątpliwe.

Ewolucja jest czasem przydatna, ale do projektowania zapewne okaże się zbyt powolna by powierzyć jej wszystko (od początku do końca cały proces projektowania).

Samorozwój - raczej będzie ograniczony, wątpię by ktoś zrobił system, który sam się rozbudowuje, poszerza i wymyśla sam swoje nowe elementy (to znaczy może kiedyś taki powstanie, ale nie sądzę, by zrobiono go bez zabezpieczeń tak by się rozwijał dowolnie - człowiek też sam się rozwija, ale ma ograniczenia korzystne dla genów, np. strach przed śmiercią by na przykład raczej nie postanowił w normalnych warunkach w wyniku rozwoju i myślenia, że jednak lepiej jest nie żyć niż żyć, a poza tym zakres i kierunek rozwijania się też będzie w pewnych granicach ustalony).

> Nie mogą osiągnąć instynktu przetrwania - tak, hm, "gatunkowego" jak i jednostki, ani poczuć żadnej potrzeby, która nie byłaby wprowadzona do oprogramowania przez fabrykanta.

Maszyny będą miały tyle wolności, ile im damy.
Jeśli damy ich za dużo bez zabezpieczeń, to będzie nasz błąd. Może nawet ostatni (maszyny mogą być kolejnym krokiem ewolucji - chociaż jeśli już to moim zdaniem raczej to nastąpi przez cybernetyzację ludzi niż przez stworzenie przez ludzi swoich następców którzy nas wybiją - to by było po prostu głupie, a wiedząc jak funkcjonuje mózg i świadomość będzie można nie tylko tworzyć analog bardziej elektroniczny niż biologiczny, ale także formować dowolnie jego strukturę, czyli dodać zabezpieczenia i odjąć niebezpieczne rzeczy - przy czym wątpię, że nastąpi to w niedługim czasie)

> Awarie nigdy nie będą miały innych skutków niż niszczące?

Awarie mogą mieć inne skutki niż niszczące. Już teraz mają - wie to każdy kto używa od dłuższego czasu windows... Poza tym wystarczy popatrzeć na efekty awarii u ludzi. Ale wątpię w awarię na dużą skalę i nie przeceniałbym skutków ewentualnych awarii. Najczęściej przez awarie mózgu coś się traci lub zmieniają się jakieś parametry, raczej nie zyskuje się całkiem nowej funkjonalności jak nowe instynkty (a agresja i instynkty z nią związane raczej nie zostaną nabyte tak po prostu w wyniku awarii - byłyby nową funkcjonalnością - mogą co najwyżej być wzmocnione gdyby były wcześniej dodane).

> I chociaż nie można przewidzieć jaką drogę obierze robot, by osiągnąć swoj cel, to jednak zawsze będzie się poruszał w obrębie zadania do wykonania.

Choć może to być bardzo złożone zadanie (na razie są to głównie proste zadania).
I może wystąpić pętla zwrotnego sprzężenia z uczeniem się, poznawaniem otoczenia oraz generowaniem samemu sobie w pewnym zakresie celów (tak jak u ludzi - też cele sobie generujemy, chociaż jak już zauważył Arystoteles większość nakierowana jest na albo unikanie cierpień albo zwiększanie przyjemności, czyli generowanie celów też ma podparcie, nie jest totalnie dowolne i obojętne, choć może być mocno zależne od środowiska).

Roboty będą miały tyle wolności w każdym zakresie, ile dostaną od twórcy (i zależnie od jego możliwości technicznych).

Na razie roboty świadomości nie mają, zwykły komputer ma dużo gorsze możliwości niż mózg małej rybki (w dodatku mózg przetwarza informacje nie w postaci binarnej, ale ciągłych impulsów, nie dokładnie, ale w sposób przybliżony, wiele jest chaosu w procesach i nie krok po kroku, ale hybrydowo [częściowo równolegle a częściowo jak komputer - czyli równolegle, ale z synchronizacją]).
Ale może w kolejnym wieku już mieć będą.

> Czyli o samodzielności maszyn mowy nie ma, chyba, że takiej, jaką im nadadzą twórcy, ograniczonej ich wolą?

Zależy jak rozumieć samodzielność.
Na pewno pewien stopień wolności i samodzielność będą miały.
Ale będą też miały ograniczenia na tą wolność.
Ludzie też mają ograniczenia i to bardzo dużo. Wielu sobie nie uświadomiamy a większość traktujemy jak element własnej natury lub coś oczywistego. Na przykład strach przed własną śmiercią. Albo reakcja na ból. Albo poczucie smaku, reakcje na jedzenie. Można długo wymieniać. I awarie mogą niektóre z nich wyłączyć (dlatego u robotów o ile nie będą bardziej niezawodne, to przyda się redundancja). Myślę, że jako ludzie jesteśmy wolni, ale ta wolność ma ograniczenia - i to nie tylko zewnętrzne (jak grawitacja). Wiele wynika z wewnętrznej struktury naszej świadomości, psychiki, czyli mózgu.

> Bunt maszyny to pic na wodę?

Nie koniecznie.
Ale jest raczej wątpliwy.

Ludzie mają wewnętrzne zabezpieczenie przed zabiciem siebie, samobójców jest nie wiele względem ilości ludzi jacy żyją na świecie. Robot może mieć podobne zabezpieczenie (tylko nawet silniejsze) przed zrobieniem krzywdy człowiekowi. A nawet więcej takich zabezpieczeń, pewną ich redundancję na wszelki wypadek.

Myślę, że poznanie sposobu działania mózgu, umysłu, świadomości i jego struktur to tylko kwestia czasu. A kwestią tylko trochę dłuższego czasu jest wymyślenie sposobu naśladowania "elektronicznego", a także sposobu generowania odpowiednich struktur.
Już obecnie są prace (z efektami) nad odtworzeniem działania warstw neuronów przetwarzających wstępnie informacje z siatkówki.

>Na razie roboty świadomości nie mają, zwykły komputer ma dużo gorsze możliwości niż mózg małej rybki (w dodatku mózg przetwarza informacje nie w postaci binarnej, ale ciągłych impulsów, nie dokładnie, ale w sposób przybliżony, wiele jest chaosu w procesach i nie krok po kroku, ale hybrydowo [częściowo równolegle a częściowo jak komputer - czyli równolegle, ale z synchronizacją]).

Nie dystrybuuj tego zestawu bzdur. Tym bardziej, że parę postów niżej sam wykazujesz, dlaczego tego typu 'poglądy' to bujdy...

Nie rozumiem.
Gdzie wykazuję? I czemu bujdy?
Możesz jaśniej?

Tak, mogę jaśniej. Bzdury, to poglądy tego typu:

1.
> zwykły komputer ma dużo gorsze możliwości niż mózg małej rybki
W jakiej kategorii? Jeżeli chodzi o moc obliczeniową, to współczesne domowe komputery średnej klasy bez problemów są w stanie wykonywać sieci neuronowe o skali złożoności rzędu pojedyńczych tysięcy-dziesiątek milionów elementów. Rybi mózg nie zawiera chyba wiele więcej? Dokładna wartość zależy jedynie od przyjętej górnej częstotliwości przetwarzania i złożoności modeli elementów sieci. Oczywiście to, że mozna takie coś symulować nie znaczy, ze będzie to rybi mózg - cała komplikacja siedzi w danych, które te neurony przetwarzają. Dlatego zbudowanie superkomputera, który zapewni moc obliczeniową wystarczającą do symulowania ludzkiego mózgu i przygotowanie ścisłego modelu sieci nic nie da - zabraknie danych, którymi możnaby tę sieć skonfigurować lub algorytmów, które te dane pozwoliłyby przygotować. Dlatego opinie typu 'zbudujmy coś o złożoności mózgu, a na pewno będzie świadome' przypomina tzw. kult cargo.

2.
> nie dokładnie, ale w sposób przybliżony
I mózg, i komputer dokładnie realizują swoje zasady działania. Neurony realizując ściśle zasady dzaiałania realizują przybliżone przetwarzanie. Odpowiednio oprogramowany komputer również może pracować na przybliżeniach. Istnieją nawet procesory pracujące w oparciu o logikę rozmytą (tyle, że nie są to rozwiązania popularne). Różnica polega wyłącznie na tym, że uniwersalny procesor musi wykonywać program realizujący przybliżone przetwarzanie, a neuron realizuje to niejako z definicji. Przy zachowaniu parametrów technicznych sygnału różnic nie da się wykryć, zatem wymieniony pogląd to popularna bzdurka, cnd.

3.
> w dodatku mózg przetwarza informacje nie w postaci binarnej, ale ciągłych impulsów
Ta bzdura występuje też w dosadniejszej postaci. Komputer przetwarza cyfrowo, a mózg analogowo, a ponieważ przetwarzanie analogowe jest 'pełniejsze' - mózgu cyfrowo 'wykonywać' się nie da. Tyle że jedno i drugie - to sposób kodowania subsymboli informacji, na której dopiero wykonuje się przetwarzanie. Nieprawdaż? Prawdaż. Proszę bardzo:

>Ale jednak pewną funkcjonalność komputera można odtworzyć i to na wiele sposobów. Po prostu występuje pewna niezależność poziomów abstrakcji, pewna nieczułość ogólnego schematu na szczegóły działania jego składowych (muszą tylko z pewną dokładnością w pewien sposób się zachowywać). Myślę, że z umysłem jest podobnie - i wystarczy do jego odtworzenia odpowiednio dokładne naśladowanie tego, co dzieje się na poziomie międzykomórkowym (struktura połączeń, sygnały, ich przetwarzanie przez komórki, pewne inne czynniki jak oddziaływania chemiczne).

Dokładnie. Dlaczego z mózgiem miałoby nie być podobnie?

To, że mózg koduje sygnalizację między neuronami w postaci ciągłych impulsów na dobrą sprawę nie znaczy nic. To pewien poziom abstrakcji, przyjęte rozwiązanie wymagane przez fizyczną implementację procesu przetwarzania (biologiczne komórki z aktywną błoną). Przyjęta realizacja wymusiła taką, a nie inną reprezentację sygnałów. Poziom ten można opisać abstrahując od ciągłości sygnałów, a następnie zaimplementować inaczej - i wtedy da się zrobić system robiący to samo, ale na przykład w postaci cyfrowej implementacji. Warto zauważyć, że każdy neuron z każdym wymienia tenże 'ciągły sygnał' w ten sam sposób wymuszony cyklem pracy błony komórkowej. Zastąpmy zatem ten 'ciągły sygnał' jednorazowym impulsem Diraca w strzałce sygnału - i okazuje się że sygnał ciągły w czasie i dziedzinie jest już tylko ciągły w czasie, za to dyskretny w dziedzinie. System róznicy nie widzi - to w końcu jedynie atrybut implementacji.. Postępując tak dalej możnaby opisać całą warstwę - dość to złożone, ale w zamian mamy dowolność implementacji. Na przykład na jednoprocesorowej maszynie, oczywiście jeżeli ta udostępni wystarczające zasoby...

Co więcej - jeżeli podobny proces przeprowadzimy w warstwach wyższych, i nie wystąpią jakieś fundamentalne problemy to będzie można zaimplementować świadomy system w oparciu o - na przykład - bazę danych.

BTW często podpierając się tym porównaniem dowodzi się, że przetwarzanie cyfrowe jest gorsze, a analogowe lepsze, bo zapewnia więcej możliwości, czy więcej dokładności. W rzeczywistości jest dokładnie odwrotnie - maszyna realizująca przetwarzanie analogowo zawsze będzie 'gorsza', ponieważ samo przetwarzanie jest ograniczone własną fizycznością. Nie da się zrealizować analogowego przetwarzania, które nie da się wyrazić prawami fizyki, a to, które da się - będzie obciążone (na przykład szumem). Maszyna cyfrowa nie ma takich ograniczeń. A co do dokładności.. Popularne przyrządy pomiarowe mają dokładność rzędu trzech cyfr. Precyzyjne, naukowe - 6-9, i to właściwie wszystko, co można uzyskać jako dokładność przetwarzania przy użyciu układów dyskretnych i małej skali integracji. Uzyskanie dokładności przetwarzania i pomiaru rzędu 12-14 cyfr to majstersztyk. To właśnie wpoływ fizycznego szumu. Dla porówniania - prosty typ zmiennoprzecinkowy pamięta 7 cyfr. Podstawowy obecnie typ zmiennoprzecinkowy to 15 cyfr i to wewnętrzna dokładność. Istnieją jeszcze dokładniejsze reprezentacje, a 'ucyfrowione' przetwarzanie nie wprowadza zaszumień...

Nieprawdaż? Dokładnie tak:
>Sądzę, że tak jest między innymi z takiego powodu, że w mózgu pojawia się sporo zakłóceń i szumu. Szum ten nie wpływa za bardzo w normalnej sytuacji na działanie układu (działanie nie zależy w sposób krytyczny od wartości tego szumu), gdyby był inny (inne chaotyczne wartości nie rozkład) to układ też by działał (może inna decyzja by była podjęta w jakiejś sytuacji lub jakieś inne różnice by się pojawiły, ale ogólne funkcjonowanie pozostałoby to samo). A to oznacza, że elementy funkcjonalności działające z dokładnością większą niż poziom szumu nie mają także wpływu na funkcjonowanie.

>> zwykły komputer ma dużo gorsze możliwości niż mózg małej rybki

>W jakiej kategorii? Jeżeli chodzi o moc obliczeniową, to współczesne domowe komputery średnej klasy bez problemów są w stanie wykonywać sieci neuronowe o skali złożoności rzędu pojedyńczych tysięcy-dziesiątek milionów elementów.

Raczej kilka-kilkadziesiąt tysięcy, góra 100 tysięcy neuronów. Zauważ, że liczba neuronów nie przekłada się na ilość elementów, trzeba ją jeszcze przemnożyć przez ilość połączeń/neuron. Ludzki mózg ma mniej więcej (według różnych źródeł) od 10 do 100 miliardów neuronów (podobno bliższe prawdy jest to drugie, ale może się mylę) i około 7000 połączeń na neuron.

Rybki mają kilkaset tysięcy góra kilka milionów neuronów.
Jak komputery domowe będą co najmniej kilkadziesiąt razy szybsze i pojemniejsze to można będzie się zająć takimi symulacjami.

Superkomputer BlueGene potrafi symulować 100 milionów neuronów. Jest on milion razy szybszy od peceta. Oczywiście nie przekłada się to na to, że pecet może symulować milion razy mniej neuronów - bo dochodzi jeszcze kwestia ilości połączeń. Ale połączenia nie są każdy z każdym lecz każdy z pewną średnią ilością (różną także dla różnych ilości ogólnych - dla małych na pewno mniejszą). Więc nie jest tak, że domowy komputer może bardzo dużo mniej niż superkomputer (co by znaczyło, że może coś koło 100 neuronów symulować) ani tak, że tylko trochę mniej (czyli może nawet miliony neuronów symulować), ale gdzieś po środku - kilkadziesiąt tys. góra 100 tys.

> Dlatego zbudowanie superkomputera, który zapewni moc obliczeniową wystarczającą do symulowania ludzkiego mózgu i przygotowanie ścisłego modelu sieci nic nie da - zabraknie danych, którymi możnaby tę sieć skonfigurować lub algorytmów, które te dane pozwoliłyby przygotować.

Myślę, że jednak da - jeśli obejmiemy możliwościami obliczeniowymi całość (wtedy trzeba dobrze symulować i neurony wraz z połączeniami i impulsy przez nie przetwarzane) to i obejmiemy wstępną konfigurację. Zresztą może pomóc naśladowanie natury - naturalne mózgi konfigurują się "same" pod wpływem impulsów z otoczenia. Kolejny przykład samoorganizacji.

> Dlatego opinie typu 'zbudujmy coś o złożoności mózgu, a na pewno będzie świadome' przypomina tzw. kult cargo.

A czy ja coś takiego stwierdziłem?
Nie wystarczy złożoność porównywalna do mózgu (jest konieczna lub prawie konieczna [może da się to zrobić w prostszy sposób], ale nie wystarczająca). Ale na pewno wystarczy odtworzenie jego struktury i funkcjonalności.

>2.
>> nie dokładnie, ale w sposób przybliżony
>I mózg, i komputer dokładnie realizują swoje zasady działania.

Zasady działania - tak. Miałem na myśli inny poziom abstrakcji niż fizyczne zasady działania. Poziom przetwarzania informacji chociażby. Na tym poziomie funkcjonują takie pojęcia jak szum czy chaos.

> Neurony realizując ściśle zasady dzaiałania realizują przybliżone przetwarzanie.

Każdy neuron to nie praktycznie tak samo działający i nieodróżnialny element jak w komputerze, ale coś, co ma indywidualną, złożoną i zmienną charakterystykę. Komórki nie są aż tak jednakowe jak sztucznie stworzone części komputera. Gdybyśmy chciali neurony symulować aż tak dokładnie to nie wiele moglibyśmy ich symulować na współczesnych komputerach.

> Odpowiednio oprogramowany komputer również może pracować na przybliżeniach.

Komputer pracuje na przybliżeniach. Ale innych niż mózg. Komputer ma ograniczoną ilość bitów na przedstawienie wartości. A w mózgu występuje szum i pewne chaotyczne procesy, a także ograniczenie częstotliwości pracy - co implikuje, że część sygnału nie jest ważna (poniżej pewnej granicy różnicy amplitudy i powyżej pewnej częstotliwości).

No ale jak się uprzeć, to można zauważyć podobieństwo, a także można przetwarzać jedno na drugie, więc nie będę się spierał. Ok, obydwa pracują na przybliżeniach.

> Istnieją nawet procesory pracujące w oparciu o logikę rozmytą (tyle, że nie są to rozwiązania popularne). Różnica polega wyłącznie na tym, że uniwersalny procesor musi wykonywać program realizujący przybliżone przetwarzanie, a neuron realizuje to niejako z definicji. Przy zachowaniu parametrów technicznych sygnału różnic nie da się wykryć, zatem wymieniony pogląd to popularna bzdurka, cnd.

Może źle to sformułowałem - chodziło mi o to, że komputer dokładnie realizuje pewien stały algorytm, jaki mu zadamy. Algorytm się nie destabilizuje, nie zmienia samoistnie. Za to w mózgu występują procesy powodujące zmiany - także chaotyczne w sensie teorii chaosu, czyli nie przewidywalne na dłuższą metę.
Oczywiście, mózg działa zgodnie z pewnymi zasadami - fizyki.
Tyle tylko, że w komputerze możesz zasady działania wiodące do stwierdzenia co komputer zrobi opisać np. na poziomie programu komputerowego, a z mózgiem taki opis nie jest tak łątwo możliwy. Działanie nie jest sprowadzalne - ogólnie, bo oczywiście pewne cechy i działania można - do pewnego dokładnego algorytmu. W komputerze puścisz ten sam algorytm 10 razy i jeśli nie masz w kodzie wykorzystania generatora liczb losowych to otrzymasz te same wartości. W mózgu musiałbyś zagwarantować dokładne odtworzenie warunków (przy bardziej złożonym i długotrwałym "algorytmie" to do poziomu grup atomów w komórkach - efekt motyla się odzywa...).

>3.
>> w dodatku mózg przetwarza informacje nie w postaci binarnej, ale ciągłych impulsów
>Ta bzdura występuje też w dosadniejszej postaci. Komputer przetwarza cyfrowo, a mózg analogowo, a ponieważ przetwarzanie analogowe jest 'pełniejsze' - mózgu cyfrowo 'wykonywać' się nie da.

Wiadomo, że jedno na drugie jest przekładalne i vice versa. Twierdzenie Shannona. Nie stwierdziłem, że to coś uniemożliwia, ale że utrudnia - podkreśliłem różnice.

>Raczej kilka-kilkadziesiąt tysięcy, góra 100 tysięcy neuronów. Zauważ, że liczba neuronów nie przekłada się na ilość elementów, trzeba ją jeszcze przemnożyć przez ilość połączeń/neuron.

>Rybki mają kilkaset tysięcy góra kilka milionów neuronów.
>Jak komputery domowe będą co najmniej kilkadziesiąt razy szybsze i pojemniejsze to można będzie się zająć takimi symulacjami.

Fakt, trochę zagalopowałem się z tymi dziesiątkami milionów elementów. Zakładając najprostszy obliczeniowo model neuronu (sumator - wtedy na akson potrzeba ~3 operacje, 1 słowo na akson na wagę i 2 słowa na neuron jako stan układu) i 1000 aksonów na neuron, komputer mający 300MFLOPS będzie w stanie wykonywać sieć 10^5 neuronów odświerzając stan sieci co sekundę.. Do modelowania rzeczywistych systemów to faktycznie mało. Nawet gdyby pomanipulować długością słowa, nie wykorzystywać arytmetyki zmienno-, a stałoprzecinkową i wykorzystać niektóe rozwiązania przystpieszające pracę (np. instrukcje SSE) - pewnie dąłoby się wyciągnać jeszcze z rząd wielkości.. Co do pojemności komputerów - 10^5 neuronów, 1000 aksonow na neuron daje zapotrzebowanie na 10^8 słów (100M) na wagi i 2*10^5 słów na stan układu. Zakładając 4 bajty na słowo - to nieco mniej niż 500M pamięci na potrzeby symulacji mózgu rybki. To wartość osiągalna dla współczesnych komputerów, prawda? Nawet nie wspominajac o twardych dyskach..

Kilkadziesiąt razy szybsze? OK, tu masz rację. Niektóre komputery są za cienkie. Kilkadziesią razy pojemniejsze? A po co? To co już jest wystarczy.

> Superkomputer BlueGene potrafi symulować 100 milionów neuronów. Jest on milion razy szybszy od peceta. Oczywiście nie przekłada się to na to, że pecet może symulować milion razy mniej neuronów [...].

Tak, masz rację. Milion razy szybszy komputer może symulować sieć wymagającą milion razy większej mocy obliczniowej. Czy będzie to sieć mająca milion razy węcej neuronów i tyle samo aksonów na neuron, tysiąc razy więcej neuronów i tysiąc razy więcej aksonów na neuron, czy tysiąc razy więcej neuronów z taką samą ilością aksonów, ale tysiąckrotnie bardziej złożonym modelem obliczeniowym neuronu - nie ma znaczenia.

>> Dlatego opinie typu 'zbudujmy coś o złożoności mózgu, a na pewno będzie świadome' przypomina tzw. kult cargo.

>A czy ja coś takiego stwierdziłem?

Rzuciłem uwagę niejako 'w powietrze', wskazując inną często cytowaną opinię i komentując ją jako bzdurną. Nie wskazałem, ze stwierdziłeś coś takiego. Ale jednak...

Jeżeli napiszę jakiś ogólny algorytm pracujący na danych i nie dobiorę danych inicjalnych - system tak stworzony zadziała? Nie zadziała, i tak starałem się sformuować zdanie:

>> Dlatego zbudowanie superkomputera, który zapewni moc obliczeniową wystarczającą do symulowania ludzkiego mózgu i przygotowanie ścisłego modelu sieci nic nie da - zabraknie danych, którymi możnaby tę sieć skonfigurować lub algorytmów, które te dane pozwoliłyby przygotować.

Prawda? Ale jak rozumiem to możliwe:

> Myślę, że jednak da - jeśli obejmiemy możliwościami obliczeniowymi całość (wtedy trzeba dobrze symulować i neurony wraz z połączeniami i impulsy przez nie przetwarzane) to i obejmiemy wstępną konfigurację.

Znaczy jak? Jeżeli napiszę ten ogólny algorytm i uruchomię go bez dobranego stanu początkowego, to i tak całość zadziała? Stan inicjalny dobierze się sam, bo, panie, wisz - samoorganizacja? To własnie ten wspominany przeze mnie kult cargo...

A zresztą, po co symulować potencjał czynnościowy błony komórkowej? Nie wystarczy jakaś ogólniejsza reprezentacja? Po co w ogóle symulować neurony? Bo mózg ma? To kolejny aspekt owego 'kultu cargo'. Dlaczego nie odtworzyć wspominanej już 'cechy konstrukcyjnej' w relacyjnej bazie danych?

> Zresztą może pomóc naśladowanie natury - naturalne mózgi konfigurują się "same" pod wpływem impulsów z otoczenia. Kolejny przykład samoorganizacji.

Naturalne mózgi to piękny przykład samoorganizacji - ale jest to przykład ogranizacji zaczynając od zera, na dodatek rozwoju w początkowym okresie mocno wspomaganego z zewnątrz. Jeżeli poznalibyśmy szczegóły algorytmu nie tylko bieżącej pracy, konserwacji i rozwoju ukształtowanej sieci, ale i rozwoju mózgu niejako od początku, łącznie z otoczeniem i środowiskiem które w cyklu rozwojowym dobiera tenże 'stan inicjalny', a następnie odpowiednio 'podkarmili' danymi taki mózg, to się zgodzę. W takim wypadku masz racje. wydaje mi się tylko, że o ile opanowanie funkcjonalności mózgu to wyzwanie, któremu już niewiele brakuje do spójnych, całościowych modeli działania, o tyle odtworzenie 'inkubatora' w którym rozwija się mózg i odtworzenie pierwszych kilkudziesięciu miesięcy rozwoju sieci (fazy wstępnego namnażania komórek, fazy preselekcji i rozwoju połączeń, potem wstępne trenowanie sieci z intensywnym jej rozwojem) to zupełnie inna para kaloszy, z której chyba niewielu 'badaczy' w ogóle zdaje sobie sprawę.. Ten 'inkubator' to właśnie algorytm dobrania stanu inicjalnego, na których pracowałby model ludzkiego mózgu. Bez stworzenia takiego zestawu samoorganizacja niewiele nam pomoże, wszak ona działa na już działającym mózgu gdy układ ma już jakąś dynamikę. Bez 'wstrzelenia się' w odpowiednią pętlę takiej wewnętrznej dynamiki, bez odpowiednich danych inicjalnych całość samoorganizować się po prostu nie będzie. Nieprawda? 'Eden' Lema, 'Piknik na skraju drogi' Strugackich, w ogóle temat 'oszalałej fabryki' - oto przykłady systemów, które pracują i wykonują swoje cząstkowe algorytmy, ale utraciły już dynamikę całości. Miliard neuronów skonfigurowanych podobnie jak mózg bez 'stanu inicjalnego' będzie właśnie taką oszalałą fabryką.

Zresztą wszelkie cechy konstrukcyjne sieci neuronów zawarte są właśnie w wagach połączeń. Twierdzić, że układ 100mln neuronów po napisaniu programu będzie działał mniej-więcej tak, jak chcemy jest tak samo zasadne, jak twierdzenie że samo wysypanie piachu z wywrotki da nam model Zamku Królewskiego...

> Zakładając 4 bajty na słowo - to nieco mniej niż 500M pamięci na potrzeby symulacji mózgu rybki. To wartość osiągalna dla współczesnych komputerów, prawda? Nawet nie wspominajac o twardych dyskach..

Mniejsza o liczby, z oszacowaniem pamięci (którego dokonałem w pamięci) się zagalopowałem. Owszem, komputer domowy da radę, choć będzie działał wolno (czas dostępu do znacznych obszarów pamięci...).

>Jeżeli napiszę jakiś ogólny algorytm pracujący na danych i nie dobiorę danych inicjalnych - system tak stworzony zadziała? Nie zadziała, i tak starałem się sformuować zdanie:

Racja, nie zadziała.

>Znaczy jak? Jeżeli napiszę ten ogólny algorytm i uruchomię go bez dobranego stanu początkowego, to i tak całość zadziała? Stan inicjalny dobierze się sam, bo, panie, wisz - samoorganizacja? To własnie ten wspominany przeze mnie kult cargo...

Wiadomo, samo to się nie zrobi. Ale można brać przykład z procesów, które mają miejsce w mózgu - który organizuje się i dostosowuje się (a także dobiera te wstępne wartości) na podstawie sygnałów ze zmysłów. Ilość genów w całym genomie nie starczyłaby do zakodowania mózgu wraz z jego stanem początkowym. Natura radzi sobie nieco inaczej - projektuje ogólną strukturę oraz zasady łączenia i "nawiązywania kontaktu" między neuronami. Stan początkowy jest generowany wraz z szczegółami strukturalnymi oraz "kalibracją". Pierwsze próby z powieleniem takiego efektu w sztucznych strukturach są udane, patrz "Mikroprocesowy neuromorficzne" Świat Nauki czerwiec 2005.

>A zresztą, po co symulować potencjał czynnościowy błony komórkowej? Nie wystarczy jakaś ogólniejsza reprezentacja? Po co w ogóle symulować neurony? Bo mózg ma? To kolejny aspekt owego 'kultu cargo'. Dlaczego nie odtworzyć wspominanej już 'cechy konstrukcyjnej' w relacyjnej bazie danych?

Gdybyśmy znali cechy konstrukcyjne wystarczające, to wystarczyłoby je odtworzyć. Ale nie znamy.

>Naturalne mózgi to piękny przykład samoorganizacji - ale jest to przykład ogranizacji zaczynając od zera, na dodatek rozwoju w początkowym okresie mocno wspomaganego z zewnątrz. Jeżeli poznalibyśmy szczegóły algorytmu nie tylko bieżącej pracy, konserwacji i rozwoju ukształtowanej sieci, ale i rozwoju mózgu niejako od początku, łącznie z otoczeniem i środowiskiem które w cyklu rozwojowym dobiera tenże 'stan inicjalny', a następnie odpowiednio 'podkarmili' danymi taki mózg, to się zgodzę.

Właśnie o to mi chodzi. Przy czym algorytm ten musi nie być ogromnie skomplikowany lub czuły na dokładne szczegóły warunków - bo przenoszony jest przez geny w pewnym stopniu zmiennym środowisku. A więc istone są stałe części środowiska tworzenia oraz geny. Złożoność tego jest duża, ale nie taka jak "ręcznego" ustawienia danych początkowych dla każdego neuronu (czyli wygenerowania go algorytmem o jakiejś wielkiej złożoności).

> Ten 'inkubator' to właśnie algorytm dobrania stanu inicjalnego, na których pracowałby model ludzkiego mózgu. Bez stworzenia takiego zestawu samoorganizacja niewiele nam pomoże, wszak ona działa na już działającym mózgu gdy układ ma już jakąś dynamikę. Bez 'wstrzelenia się' w odpowiednią pętlę takiej wewnętrznej dynamiki, bez odpowiednich danych inicjalnych całość samoorganizować się po prostu nie będzie.

Racja.
Nie twierdzę, że to takie proste - hop siup i zrobione.
Ale sądzę, że jest to do zrobienia (w bliższej lub dalszej przyszłości).

>Zresztą wszelkie cechy konstrukcyjne sieci neuronów zawarte są właśnie w wagach połączeń. Twierdzić, że układ 100mln neuronów po napisaniu programu będzie działał mniej-więcej tak, jak chcemy jest tak samo zasadne, jak twierdzenie że samo wysypanie piachu z wywrotki da nam model Zamku Królewskiego...

Tego nie twierdzę. Porównanie dobre.
Twierdzę jednak, że budowa tego zamku może być prostsza niż na pierwszy rzut oka się wydaje.

>Ilość genów w całym genomie nie starczyłaby do zakodowania mózgu wraz z jego stanem początkowym.

>Właśnie o to mi chodzi. Przy czym algorytm ten musi nie być ogromnie skomplikowany lub czuły na dokładne szczegóły warunków - bo przenoszony jest przez geny w pewnym stopniu zmiennym środowisku. A więc istone są stałe części środowiska tworzenia oraz geny. Złożoność tego jest duża, ale nie taka jak "ręcznego" ustawienia danych początkowych dla każdego neuronu (czyli wygenerowania go algorytmem o jakiejś wielkiej złożoności).

Nigdzie nie twierdzę, że stan początkowy mózgu jest zapamiętany w jakimkolwiek miejscu. Jeżeli nawet jest zapisany - na pewno nie jest to genom. Proste wyliczenie pokazuje że genom jest parę rzędów wielkości za krótki, żeby zapamiętać choćby konfigurację przesadnie uproszczonego 'mózgu' złożonego z sumatorów. Jeżeli już jesteśmy przy genomie - najpewniej zawiera on jedynie skrótowy opis algorytmu, na podstawie którego generowany jest 'inkubator' o którym wspominałem wcześniej (zresztą też pewnie nie bezpośrednio). Dodajmy dla ścisłości - również nie wydaje mi się, iż jest to algorytm wysoce skomplikowany. Pewna niewielka liczba prostych kroków powtarzanych w kółko przez ileś iteracji w rosnącej ilości miejsc załatwia sprawę. Nigdzie nie twierdziłem, że dane te muszą być wygenerowane 'za jednym zamachem' przez wysoce złożony program.

Co więcej, myślę, że 'normalna', operacyjna praca dojrzałego mózgu to po prostu zdegenerowana forma tej 'inicjalnej' fazy uczenia i rozwoju sieci.

Ciekawym byłby ten drugi sposób przygotowania danych inicjalnych. Myślę że sprowadzałby się on do rozwiązania pewnego - zapewne wysoce skomplikowanego - równania, któego wynikiem byłaby macierz inicjalnego stanu układu. Mogłoby to być ciekawsze o tyle, że zapewne parametrami wejściowego równania mogłbyby być - na przykład - cechy charakteru takiej maszyny czy język, którego maszyna ma używać. Swoją drogą, pamiętam opowiadanie 'Noteka 2035', w którym używano na potęgę właśnie takiego 'matematycznego' modelu 'generowania świadomosci

>Zasady działania - tak. Miałem na myśli inny poziom abstrakcji niż fizyczne zasady działania. Poziom przetwarzania informacji chociażby. Na tym poziomie funkcjonują takie pojęcia jak szum czy chaos.

Neuron oraz procesor z programem realizującym neuron sięgają tej samej wysokości na poziomach abstrakcji. Neuron oraz procedura realizująca neuron w środowisku większego programu - tak samo. Neuron jest tylko nieco bardziej 'głęboki', bo sięga fizyki, procesor opiera się o nieco wyższe konstrukcje, a procedura jest już prawie całkiem 'płaska'.

Szumów mózg również się pozbywa i nie przeceniałbym ich wpływu : neurony mózgu są jedynymi komórkami nie mającymi bezposredniego kontaktu z krwią; neurony nie odżywiają sie same, a są 'karmione' i podtrzymywane przez komórki gleju; błona komórkowa jest dość odporna na zakłócenia i przypadkowe wytworzenie fali potencjału czynnościowego jest stosunkowo trudne - to tylko trzy fakty w kwestii wyciszania szumów przez mózg. Oczywiście nie zawsze to działa - działanie alkoholu, duchy, wrażenie obecności, OOBE to własnie skutki zakłóceń. Jestem jednak pewny że mózg nie działa w oparciu o szum i ma on marginalny wpływ na działanie mózgu. A chaos pojawi się sam. wystarczy że podkarmimy takie cyfrowe ustrojstwo zaszumionymi danymi i każdemy decydować na podstawie niepełnych przesłanek. Dwie identyczne co do bitu próby dadzą pewnie dwa identyczne rezultaty.. Ale nie założyłbym się o to Zwłaszcza jeżeli chodziłoby o złożony system - nawet dużo prostszy, niż mózg.

Najlepszy dowód - to fakt, że matka natura wybrała taką realizację przenoszenia sygnałów między neuronami, która jest odporniejsza na szumy niż 'ściśle analogowe' rozwiązanie.

>Każdy neuron to [...] coś, co ma indywidualną, złożoną i zmienną charakterystykę. [...]

Podobnie jak każdy tranzystor w procesorze, którego parametrów idealnie odtworzyć się nie da. Całość jednak działa tak, aby te drobne rozbieżności kompensować. Każda komórka macierzysta przekształcona w neuron może zostać wbudowana w dowolne miejsce w sieci. Dopiero po procesie uczenia staje się ona nieprzenaszalna. Procesor działa tak samo. Kość kupioną w sklepie można użyć w dowolnym urządzeniu, wcześniej odpowiednio ją oprogramowując, jednak przeniesienie zaprogramowanego proca z termostatu do kuchenki źle się skończy.

O ile pamiętam, pierwsze superkomputery Cray, zrobione z elementów dyskretnych zbudowane były z tranzystorów, które stanowiły odpady produkcyjne. Nie trzymały parametrów i każdy był inny. O panu Cray'u chodziła później fama, że jest w stanie z odpadów zrobić najszybszy komputer na świecie

>Komputer pracuje na przybliżeniach. Ale innych niż mózg. Komputer ma ograniczoną ilość bitów na przedstawienie wartości. A w mózgu występuje szum i pewne chaotyczne procesy, a także ograniczenie częstotliwości pracy - co implikuje, że część sygnału nie jest ważna (poniżej pewnej granicy różnicy amplitudy i powyżej pewnej częstotliwości).

Pisałeś że znasz twierdzenie Shannona.. Rozumiem że wnioski z niego wypływające również. Skąd zatem powyższe stwierdzenie? Czym różnią się 'przyblizenia mózgowe' od 'przybliżeń komputerowych'? Nie do końca rozumiem, o co chodzi z 'nieważną częścią sygnału', zarówno w częsci o amplitudzie jak i częstotliwości?

>Może źle to sformułowałem - chodziło mi o to, że komputer dokładnie realizuje pewien stały algorytm, jaki mu zadamy. Algorytm się nie destabilizuje, nie zmienia samoistnie.

Fizycznie zrealizowany neuron stanowi odpowiednik co najmniej trzech logicznych warstw abstrakcji. Neuron w jednej 'puszce' zawiera mechanizm wykonujący regułę działania (chemia i fizyka), jak i samą regułę (pewna konstrukcja neuronu) oraz strukturę danych parametryzujących w danym momencie neuron (istniejące połączenia, obecność lub brak zestawów białek realizujacych ważenie połączeń i inne zmienne w ramach działania neuronu akcenty). Komputerowa realizacja również posiada te elementy, ale są one jasno rozdzielone : sprzęt (procesor, układy we/wy, wszystko co realizuje reguły działania), oprogramowanie (reguły działania) i stan układu (struktura danych z parametrami). Dlatego można mieć wrażenie, że w mózgowej sieci każdy element jest indywidualny, a procesory czy tranzystory właściwie tłucze się z jednej sztancy i są całkowicie wymienne. Co więcej, 'dzięki' takiemu zamknięciu w puszce trzech warstw można odnieść wrażenie, że neuron zmienia algorytm swego działania - nic bardziej mylnego!! Neuron zawsze działa tak samo w ramach swojej konstrukcji (algorytmu), natomiast w sposób ciągły dobierane są wagi połączeń i parametry funkcji przejścia i wyjścia (a więc dobieranie zestawów białek realizujących odpowiednią parametryzację). Co z tego wynika? Ano neuron również 'się nie destabilizuje, nie zmienia samoistnie'. Pewne cechy konstrukcyjne neuronu są stałe. Zawsze. Neuron w procesie uczenia się dobiera sobie połączenia, zestawy białek realizujących parametryzację funkcji. Z punktu widzenia realizacji maszynowej, sprzęt nie zmienia się (neuron działa w warstwie chemicznej, przetwarza białka i syntetyzuje je według jakichś reguł). Algorytm (konstrukcja, fukcje przejscia i wyjścia, reguły syntezy, włączania i wyłączania białek realizujących parametry fukcji) też się nie zmieniają. W wyniku działania neuronu modyfikacji ulega jedynie układ białek, która jest tożsama ze strukturą danych, na której pracuje 'algorytm' neuronu. Identycznie, jak w przypadku procesora realizujacego zadany program. Jedyną różnica polega na elegancji rozwiązania : Procesor ma ładnie wydzielony kawałek, gdzie wszystkie stany są ładnie Neuron może włączyć dziesiątki białek w tysiące miejsc, co realizuje parametryzacje 'algorytmu neuronu' na setki sposobów. I najgorsze jest to, że chyba nadal nie wiemy, gdzie co można wlepić i co to daje... Nie wspominając że nie wiemy, kiedy co jest wlepiane.
No, przynajmniej ja nie wiem

Ok, poddaje się - w zasadzie istotnej różnicy nie ma.
Jest pewna różnica mało istotna - chaos (nie szum, nie losowość, nie indeterminizm [te także, ale nie o nie chodzi], ale chaos w rozumieniu teorii chaosu).
W komputerze samoistnie (nie zaprogramowany specjalnie) nie występuje - poziom działania programów jest silnie oddzielony od źródeł zaburzeń. Są one b. dobrze kompensowane.
Ale ta różnica istotna nie jest (i może być eliminowana; zarówno w mózgu można eliminować pewne błędy jak i w komputerze chaos wprowadzić).

>W komputerze samoistnie (nie zaprogramowany specjalnie) [chaos] nie występuje - poziom działania programów jest silnie oddzielony od źródeł zaburzeń. Są one b. dobrze kompensowane.

Ależ chaos występuje. Widziałeś kiedyś niechaotyczny uczący się algorytm? Źródłem zaburzeń są dane wejściowe przecież, zarówno w neuronie, jak i w programie komputerowym.

>Ależ chaos występuje. Widziałeś kiedyś niechaotyczny uczący się algorytm?

Nie widziałem.

>Źródłem zaburzeń są dane wejściowe przecież, zarówno w neuronie, jak i w programie komputerowym.

No tak, ale w mózgu zaburzenia są także wewnętrzne.

Na przykład na komputerze piszesz program i w większości wypadków masz pewność co do powtarzalności tego, co zrobi, jeśli dane wejściowe są te same. Nie musisz dbać o bardzo dokładne odtworzenie stanu wewnętrznego. Nie musisz się martwić o tak zwany "efekt motyla", drobne różnice się nie rozejdą i raczej nie wpłyną na działąnie programu.

Oczywiście jeśli chce się być wyjątkowo dokładnym to i o mózgu można powiedzieć, że dane wejściowe zaburzają (czyli wszystko co fizycznie wchodzi i wychodzi z obszaru mózgu, krew, chemia, inne oddziaływania z otoczeniem mózgu).
Ale nadal widać różnice - dane wejściowe dla programu w komputerze mają zwykle pewien wyższy poziom abstrakcji (jakieś liczby, bity, jak sygnał to zwykle zdyskretyzowany etc.), dobrze oddzialony od poziomu fizycznego, a dane dla mózgu które mają jakiś wpływ (od pewnego progu dokładności nie istotny w tym sensie, że nie zmieniają chwilowo znacznie działania, a istotny w tym, że mogą wywoływać zaburzenia chaotyczne na dłuższą metę) to większość fizycznych oddziaływań z otoczeniem.

Rzeczywiście - aspekt nie istotny z punktu widzenia uczenia maszynowego czy odtwarzania działania sieci neuronowych w komputerze.

Racja, moja wypowiedź:
>Na razie roboty świadomości nie mają, zwykły komputer ma dużo gorsze możliwości niż mózg małej rybki (w dodatku mózg przetwarza informacje nie w postaci binarnej, ale ciągłych impulsów, nie dokładnie, ale w sposób przybliżony, wiele jest chaosu w procesach i nie krok po kroku, ale hybrydowo [częściowo równolegle a częściowo jak komputer - czyli równolegle, ale z synchronizacją]).

sugerowała, że chaos i dokładność to istotne różnice uniemożliwiające odtworzenie działania mózgu w komputerze. Mój błąd, źle to sformułowałem - różnice te istnieją, być może mogą być utrudnieniem, ale nie są istotne, nie wykluczają możliwości odpowiedniej implementacji na komputerze.

>Tyle że jedno i drugie - to sposób kodowania subsymboli informacji, na której dopiero wykonuje się przetwarzanie. Nieprawdaż? Prawdaż. Proszę bardzo:
>>Ale jednak pewną funkcjonalność komputera można odtworzyć i to na wiele sposobów. Po prostu występuje pewna niezależność poziomów abstrakcji, ...

>Dokładnie. Dlaczego z mózgiem miałoby nie być podobnie?

A gdzie stwierdziłem, że miało nie być?
Twierdzenie Shannona znam...

>BTW często podpierając się tym porównaniem dowodzi się, że przetwarzanie cyfrowe jest gorsze, a analogowe lepsze, bo zapewnia więcej możliwości, czy więcej dokładności.

Jedno na drugie jest przekładalne dopóki mamy górne ograniczenie na częstotliwość, a w realnej sytuacji zawsze mamy, bo chociażby zawsze jest szum lub/i ograniczenia w częstotliwości górnej z którą układ robi coś "sensownego" (rozumiejąc sensowność zależnie od funkcji).

Wracając do neuronów: muszę jeszcze nadmienić, że współczesne sztuczne sieci neuronowe nie działają jak neurony w mózgu. Czyli nie symulują wszystkich istotnych ich aspektów. Neurony poprawnie symulowane będą bardziej złożone jak chodzi tak o rozmiar danych, jak i algorytm - czyli to, że współczesny superkomputer potrafi zasymulować 100 mln. neuronów nie oznacza, że mógłby zasymulować tyle neuronów wystarczająco dokładnie odwzorowujących pracę tych organicznych. Podejrzewam, że sporo mniej, przy czym nadal znacząco lepszy model neuronu nie jest znany (czynniki jakie są pomijane to np. wiele spośród tych chemicznych...).

>3.
>>Tyle że jedno i drugie - to sposób kodowania subsymboli informacji, na której dopiero wykonuje się przetwarzanie. [...]
>>Dokładnie. Dlaczego z mózgiem miałoby nie być podobnie?
>A gdzie stwierdziłem, że miało nie być?

To miało być pytanie retoryczne, na które obaj znamy odpowiedź dowodzącą tezy

>Wracając do neuronów: muszę jeszcze nadmienić, że współczesne sztuczne sieci neuronowe nie działają jak neurony w mózgu. Czyli nie symulują wszystkich istotnych ich aspektów. Neurony poprawnie symulowane będą bardziej złożone jak chodzi tak o rozmiar danych, jak i algorytm - czyli to, że współczesny superkomputer potrafi zasymulować 100 mln. neuronów nie oznacza, że mógłby zasymulować tyle neuronów wystarczająco dokładnie odwzorowujących pracę tych organicznych. Podejrzewam, że sporo mniej, przy czym nadal znacząco lepszy model neuronu nie jest znany (czynniki jakie są pomijane to np. wiele spośród tych chemicznych...).

No, niezupełnie. O ile mi wiadomo, dostatecznie dokładnego modelu zarówno zachowania sieci neuronów, jak i pojedyńczych neuronów nie ma. Nie ma elastycznych modeli nauki dużych grup neuronów. Z punktu widzenia metody brak lub stosowanie uproszczonych niektórych algorytmów to drobiazgi, na pewno nie na tyle istotne, aby twierdzić że oba modele są jakościowo różne. Różnica IMO jest wyłącznie ilościowa, prostsze algorytmy pozwalają uruchomić prostsze modele. Nic więcej.

Jedyną istotną różnicą, o jakiej jeszcze nie czytałem, ale nie sądzę żeby nikt jeszcze tego nie zauważył są różne dziedziny, na jakich pracują oba modele. Sztuczne neurony najczęściej buduje się w formie 'analogowej' pracującej w dziedzinie problemu; mózg wykorzystuje neurony pracujące na pewnej analogowej reprezentacji systemu impulsowego. Nie potrafię określić, czy oba podejścia są równoważne, czy nie - mam wrażenie że tak, ale nie potrafię tego dowieść. Jeżeli nie byłyby równoważne - byłby to istotny przyczynek będący potwierdzeniem tezy o braku zamienności.
BTW taka realizacja sieci neuronów w mózgu stanowi kolejny przyczynek za potwierdzeniem tezy. Twierdzenie, że żywe neurony mózgu pracują analogowo jest równie zasadne, jak twierdzenie że stojący u mnie na biurku komputer też - wszak wszyskie bity są reprezentowane przez jakieś napięcia, a przekazywanie danych odwywa się dzięki jakimś ciągłym impulsom...

>4.
>>Istnieje dosadniejsza wersja tej bzdury.
>Której nie miałem na myśli, trzeba to zaznaczyć.

Zauważ jednak że oba - to dwa sformuowania tej samej tezy. W obu wypadkach sugeruje się, iż istneje istotna, jakościowa róznica pomiędzy przetwarzaniem szeregowym, a równoległym, a dalej - przeniesienie przetwarzania realizowanego równolegle na jakościowo gorsze, szeregowe przetwarzanie jest niemożliwe bez utraty pewnej jakości. Searle na przykład twierdzi że uruchomienie systemu odwzorowującego ściśle mózg na cyfrowym komputerze da wyłacznie przetwarzanie, nieodróżnialne od 'ludzkiego' zachowania, ale pozbawione świadomości ('słaba' SI). Należałoby chyba rozumieć to tak, że uruchomienie systemu inteligentnego w 'ludzki' sposób na BlueGene dałoby świadomy system, natomiast na moim domowym sprzęcie system zachowywałby sie tak samo, ale nie byłby świadomy. Może i coś w tym jest.. Tylko co w takim razie z twierdzeniem o równoważności?

Co do dalszego ciągu mam wrażenie że czegoś nie rozumiem.

1.
> Jest faktem, że mózg działa hybrydowo (równolegle i sekwencyjnie), a komputer nie.

2a.
> Nie twierdzę, że to jest konieczne do stworzenia mózgu sztucznego. Można go symulować także na sekwencyjnie działającym procesorze.

2b.
> No właśnie. To nie moja teza [problem równoległy/szeregowy - przyp. salek]. Wiem, że się da. Problem tylko w tym, że to wymaga ogromnej prędkości obliczeń.

Stwierdzenie 1. rozumiem tak, że cecha równoległego przetwarzania jest na tyle istotna i tak rozbieżna od szeregowego przetwarzania, że nie da się uruchomić czegoś co działa jak mózg - na cyfrowym komputerze (nie ma znaczenia, czy byłby to domowy blaszak, czy BlueGene - wszak logicznie oba są równoważne). Teza 2a i 2b świadczy o czymś wręcz przeciwnym. Rozmawiamy wszak o możliwości lub jej braku, a nie skali trudności. O co zatem chodzi? Albo 'równolegle/szeregowo' to prawda dla dzieci i w poważnej dyskusji nie ma sensu nawet o tym wspominać, albo jest coś na rzeczy, wspominanie o tym jest zasadne i 'równoległość' mózgu jest istotna, stąd świadomych systemów na BlueGene uruchamiać się nie da. No więc?
Twierdzenie, że w jednym i drugim jest coś na rzeczy dla mnie wygląda - delikatnie rzecz ujmując - na uznawaniu że można być jednocześnie za i przeciw.

>Nie udało się jak na razie (chyba że o czymś nie wiem) stworzyć maszyny łączącej w sposób skuteczny przetwarzanie sekwencyjne (jak w procesorze) z równoległym (jak w sztucznych sieciach neuronowych).

Jak to nie? W kompie który mam przed nosem działa mi jednocześnie Word, kompilator, przeglądarka, GG, outlook wymienia pocztę, IIS udostępnia strony, karta od Ethernetu miga że wymienia pakiety (i coś we środku te pakiety obrabia), Winamp dekoduje muzyczkę, jakiś kawałek systemu odgrywa zdekodowane sample... Kupa rzeczy dzieje się równocześnie. Komp wykonuje te programy równolegle. Złudzenie? Jak najbardziej, wiem jak to działa Świadomosć działa równolegle? Dlaczego nie na takiej samej zasadzie jak komputer? Twierdzenie że świadomosć działa równolegle może być równie zasadne, jak twierdzenie że komputer działa równolegle, mimo tego, że ten ostatni ma tylko jeden licznik rozkazów.

Jeżeli się mylę: czy mógłbyś wyjaśnić na czym polega tenże 'równoległy' aspekt przetwarzania w mózgu i czym różni się od sekwencyjnego przetwarzania w procesorach? Chętnie dowiedziałbym sie także czym charakteryzowałoby się przetwarzanie 'w skuteczny sposób łączące sekwencyjne z rownoległym'? W świetle stwierdzenia o braku sensu rozróżnienia już postawienie takiego problemu brzmi cokolwiek zabawnie...

>Z punktu widzenia metody brak lub stosowanie uproszczonych niektórych algorytmów to drobiazgi, na pewno nie na tyle istotne, aby twierdzić że oba modele są jakościowo różne.

Pewności chyba jednak nie ma - całkiem możliwe, że w ten sposób coś istotnego pomijamy.

Poza tym model modelowi nie równy.

Jeden z najdokładniejszych modeli nauronu według badań De Schuttera wymaga układu coś koło 32 tysięcy równań różniczkowych i prawie 20 tys parametrów do jego dostrojenia - dla jednej komórki.

Prawdopodobnie jest to zbyt dokładny model. Ale również prawdopodobnym jest że najprostszy model z wagami jest zbyt uproszczony.

>Zauważ jednak że oba - to dwa sformuowania tej samej tezy. W obu wypadkach sugeruje się, iż istneje istotna, jakościowa róznica pomiędzy przetwarzaniem szeregowym, a równoległym, a dalej - przeniesienie przetwarzania realizowanego równolegle na jakościowo gorsze, szeregowe przetwarzanie jest niemożliwe bez utraty pewnej jakości.

Niewątpliwie istnieje różnica.
Nie jest istotna w tym sensie, że coś uniemożliwia, a tylko w tym, że może co nieco utrudniać.

>Searle na przykład twierdzi że uruchomienie systemu odwzorowującego ściśle mózg na cyfrowym komputerze da wyłacznie przetwarzanie, nieodróżnialne od 'ludzkiego' zachowania, ale pozbawione świadomości ('słaba' SI).

Mnie teza Searle nie przekonuje. Pachnie mi jakimś ukrytym dualizmem (lub czymś podobnym).

>Stwierdzenie 1. rozumiem tak, że cecha równoległego przetwarzania jest na tyle istotna i tak rozbieżna od szeregowego przetwarzania, że nie da się uruchomić czegoś co działa jak mózg - na cyfrowym komputerze (nie ma znaczenia, czy byłby to domowy blaszak, czy BlueGene - wszak logicznie oba są równoważne).

Widocznie źle to sformułowałem...
Nie jest na tyle istotna, że się nie da.
Jest istotna bo na pewno stanowi utrudnienie. Szara masa w głowie działa sobie skutecznie operując na częstotliwościach raczej nie przekraczających znacznie KHz, a komputer który mógłby to skutecznie symulować, to na pewno nie GHz blaszak.

> Teza 2a i 2b świadczy o czymś wręcz przeciwnym. Rozmawiamy wszak o możliwości lub jej braku, a nie skali trudności.

Miałem na myśli właśnie skalę trudności.

>>Nie udało się jak na razie (chyba że o czymś nie wiem) stworzyć maszyny łączącej w sposób skuteczny przetwarzanie sekwencyjne (jak w procesorze) z równoległym (jak w sztucznych sieciach neuronowych).

>Twierdzenie że świadomosć działa równolegle może być równie zasadne, jak twierdzenie że komputer działa równolegle, mimo tego, że ten ostatni ma tylko jeden licznik rozkazów.

Jest zasadne - wykazują to pewne badania z zakresu psychologii poznawczej.

>Jeżeli się mylę: czy mógłbyś wyjaśnić na czym polega tenże 'równoległy' aspekt przetwarzania w mózgu i czym różni się od sekwencyjnego przetwarzania w procesorach?

Na tym, że informacja jest przetwarzana równolegle w paru miejscach. Coś jak w maszynie wieloprocesorowej.

> Chętnie dowiedziałbym sie także czym charakteryzowałoby się przetwarzanie 'w skuteczny sposób łączące sekwencyjne z rownoległym'?

Od działania na maszynie wieloprocesorowej rózniłoby to się tym, że algorytmy działałyby skutecznie i powodowałyby, że całość działa w sposób całkiem dobrze zsynchronizowany (także w sensie synchronizacji w rozumieniu systemów operacyjnych i programów wielowątkowych / wieloprocesowych) mimo braku bezwzględnej synchronizacji (np. czekania na to aż jakaś część coś skończy, niczego w rodzaju bezwzględnych semaforów znanych z operacyjnych systemów) i w ogóle niedużej i rzadkiej synchronizacji.

>>Z punktu widzenia metody brak lub stosowanie uproszczonych niektórych algorytmów to drobiazgi, na pewno nie na tyle istotne, aby twierdzić że oba modele są jakościowo różne.

>Pewności chyba jednak nie ma - całkiem możliwe, że w ten sposób coś istotnego pomijamy.

Zgadza się. Uproszczenie zawsze prowadzi do pominięcia czegoś. W tym wypadku - uproszczenie algorytmu daje obniżenie ilości neuronów, które możemy skutecznie używać (uczyć i odpytywać). Diabli wiedzą, czy pewne jakości nie zależą od ilości neuronów.. W takim wypadku osiągniemy je, jeżeli tylko poprawimy algorytmy.

>Jeden z najdokładniejszych modeli nauronu według badań De Schuttera wymaga układu coś koło 32 tysięcy równań różniczkowych i prawie 20 tys parametrów do jego dostrojenia - dla jednej komórki.

>Prawdopodobnie jest to zbyt dokładny model. Ale również prawdopodobnym jest że najprostszy model z wagami jest zbyt uproszczony.

Zdecydowanie jest zbyt dokładny, podobnie jak model z sumatorami jest przesadnie uproszczony. Prawdopodobnie modeluje w tym przypadku również trakie rzeczy, jak wpływ pola e-m na tempo propagacji sygnałów w aksonach, opisuje tempo przemian energetycznych w komórkach czy inne drobiazgi, w normalnej pracy będące cechą implementacji i nie mające żadnego znaczenia dla pracy mózgu. Zauważ że tranzystor również można opisac wieloma równiami różniczkowymi. Z takiego układu można wyprowadzić model inwertera (CMOS - dwa tranzystory), ale nikt przy zdrowych zmysłach - pomijając pewne szczególne przypadki - nie budowałby procesora z bramek opisując każdą z nich zestawem równań różniczkowych. Inwerter można opisać znacznie prostszą funkcją przejścia, a dla układów zbudowanych z inwerterów - równoważną i dużo bardziej użyteczną.

Model z wagami jest zdecydowanie uproszczony, zresztą sam nawet wskazałem różnicę - nie wiem, czy i jak istotną - pomiędzy neuronem-sumatorem, a biologicznym neuronem pracującym w układzie nerwowym człowieka. IMHO wystarczajacy model neuronu z aksonami powinien być opisany jakąś znaczną ilością zmiennych (być może nawet więcej niż 20tys), niewielką ilością parametrów i najwyżej kilkoma wyrażeniami, i najpewniej różnicowymi, nie różniczkowymi.

>>Searle na przykład twierdzi że uruchomienie systemu odwzorowującego ściśle mózg na cyfrowym komputerze da wyłacznie przetwarzanie, nieodróżnialne od 'ludzkiego' zachowania, ale pozbawione świadomości ('słaba' SI).

>Mnie teza Searle nie przekonuje. Pachnie mi jakimś ukrytym dualizmem (lub czymś podobnym).

Mnie też nie. Zresztą bardzo ostrożnie to ująłeś, podsumowałbym 'chiński pokój' znacznie dosadniej. Zresztą powtórzyłbym kognitywistów i prof. Ducha.

>>Z punktu widzenia metody brak lub stosowanie uproszczonych niektórych algorytmów to drobiazgi, na pewno nie na tyle istotne, aby twierdzić że oba modele są jakościowo różne.

>Pewności chyba jednak nie ma - całkiem możliwe, że w ten sposób coś istotnego pomijamy.

Zgadza się. Uproszczenie zawsze prowadzi do pominięcia czegoś. W tym wypadku - uproszczenie algorytmu daje obniżenie ilości neuronów, które możemy skutecznie używać (uczyć i odpytywać). Diabli wiedzą, czy pewne jakości nie zależą od ilości neuronów.. W takim wypadku osiągniemy je, jeżeli tylko poprawimy algorytmy.

>Jeden z najdokładniejszych modeli nauronu według badań De Schuttera wymaga układu coś koło 32 tysięcy równań różniczkowych i prawie 20 tys parametrów do jego dostrojenia - dla jednej komórki.

>Prawdopodobnie jest to zbyt dokładny model. Ale również prawdopodobnym jest że najprostszy model z wagami jest zbyt uproszczony.

Zdecydowanie jest zbyt dokładny, podobnie jak model z sumatorami jest przesadnie uproszczony. Prawdopodobnie modeluje w tym przypadku również trakie rzeczy, jak wpływ pola e-m na tempo propagacji sygnałów w aksonach, tempo przemian energetycznych w komórkach czy inne drobiazgi, w normalnej pracy będące cechą implementacji i nie mające żadnego znaczenia dla pracy mózgu. Zauważ że tranzystor polowy również można opisac kilkunastoma równiami różniczkowymi. Z takiego układu można wyprowadzić model inwertera CMOS (dwa tranzystory), ale nikt przy zdrowych zmysłach - pomijając pewne szczególne przypadki - nie budowałby procesora z bramek opisując każdą z nich zestawem równań różniczkowych. Inwerter można opisać znacznie prostszą funkcją przejścia, a dla układów zbudowanych z inwerterów - równoważną i dużo bardziej użyteczną.

Model z wagami jest zdecydowanie zbyt uproszczony do praktycznych porównań, zresztą sam nawet wskazałem różnicę - nie wiem, czy i jak istotną - pomiędzy neuronem-sumatorem, a biologicznym neuronem pracującym w układzie nerwowym człowieka. Wystarczy do zgrubnych oszacowań jako 'dolna granica'. IMHO wystarczajacy model neuronu powinien być opisany jakąś znaczną ilością zmiennych (być może nawet więcej niż 20tys), niewielką ilością parametrów i najwyżej kilkoma wyrażeniami, i najpewniej różnicowymi, nie różniczkowymi.

>>Searle na przykład twierdzi że uruchomienie systemu odwzorowującego ściśle mózg na cyfrowym komputerze da wyłacznie przetwarzanie, nieodróżnialne od 'ludzkiego' zachowania, ale pozbawione świadomości ('słaba' SI).

>Mnie teza Searle nie przekonuje. Pachnie mi jakimś ukrytym dualizmem (lub czymś podobnym).

Mnie też nie. Zresztą bardzo ostrożnie to ująłeś, podsumowałbym 'chiński pokój' znacznie dosadniej. Zresztą powtórzyłbym kognitywistów i prof. Ducha.

"Chiński pokój" ma jedno, bardzo dualistyczne zresztą, niejawne założenie: świadomość nie może być cechą emergentną systemu składającego się z części, które same w sobie świadomości nie mają (jak atomy czy nie koniecznie - np. inne proste struktury).

4.
> nie krok po kroku, ale hybrydowo [częściowo równolegle a częściowo jak komputer - czyli równolegle, ale z synchronizacją]
Istnieje dosadniejsza wersja tej bzdury. Komputer pracuje szeregowo (rozkaz po rozkazie), a mózg równolegle (neurony asynchronicznie i równocześnie przetwarzają informację), więc mózgu/świadomego systemu wykonać na domowym komputerku się nie da, no może na wieloprocesorowym superkomputerze, czy też układzie procesorów...
Ciekawe, czy głoszący tezę pamięta o równoważności maszyn cyfrowych?

Kawałek w tym temacie:
> Poza tym ograniczona jest prędkość przetwarzania, a dokładniej częstotliwość sygnałów. Powyżej pewnej częstotliwości składowe nie są przetwarzane. To sugeruje pewien poziom próbkowania sygnałów (twierdzenie Shannona) wystarczające do opisania sygnałów wędrujących po mózgu z dokładnością wystarczającą do zupełnego odtworzenia wszystkich składowych, które procesie przetwarzania biorą udział (czyli robią jakąś róznicę). Te dwie rzeczy sugerują, że procesy w mózgu są opisywalne w ramach skończonych. Trzeba tylko poznać: sposób działania komórek, sposób działania połączeń, sposób oddziaływania nieelektrycznego między komórkami, sposób działania struktur na różnych poziomach ich złożoności.

Twierdzenie Shannona dotyczy minimalnej częstotliwości próbkowania sygnału, która jest wymagana do zachowania całości informacji zawartej w sygnale. wymagana ilość poziomów kwantowania (ilość bitów próbki) zależy od dynamiki sygnału, i chyba jeszcze jakichś parametrów. W wypadku systemu, który przetwarza sygnał analogowy przetwarzanie przez przetwornik musi odbywać się z częstotliwością większą, niż wynikającą z twierdzenia Shannona i rozdzielczością lepszą, niż wymagana - jeżeli ten warunek będzie spełniony, obserwator nie będzie w stanie odróżnić, czy wynikowy analogowy sygnał jest generowany przez układ cyfrowy jedno- czy wieloprocesorowy, analogowy czy jakikolwiek inny. Nie jest istotne, czy sygnał ten będzie jedynym wyprowadzany przez układ, czy jednym z wielu - jeżeli techniczne warunki przetwarzania pozostaną spełnione różnic nie będzie. Jeżeli będzie w stanie zapewnić odpowiednie parametry przetwarzania - wszystkie przypadki będą nieodróżnialne. A stąd już jasno wynika, że dla systemu implementującego cechę dajacą świadomość przez implementację sieci neuronów raczej nie będzie miało znaczenia, czy komputer na którym jest on uruchamiany składa się z jednego, dwóch czy stu tysięcy procesorów. Sieć neuronów będzie działać tak samo.

No chyba ze coś dziwnego jest wpisane w samą istotę cechy dającej świadomy system, ale wtedy 'chiński pokój' Searle'a może mieć coś na rzeczy...

BTW trzeba pamiętać o wspomnianym w p.3. Problem 'analogowy-cyfrowy' i kłopot z przetwarzaniem analogowego sygnału przekazywanego pomiędzy neuronami może okazać się papierowym tygrysem.

>4.
>> nie krok po kroku, ale hybrydowo [częściowo równolegle a częściowo jak komputer - czyli równolegle, ale z synchronizacją]

>Istnieje dosadniejsza wersja tej bzdury.

Której nie miałem na myśli, trzeba to zaznaczyć.

> Komputer pracuje szeregowo (rozkaz po rozkazie), a mózg równolegle (neurony asynchronicznie i równocześnie przetwarzają informację), więc mózgu/świadomego systemu wykonać na domowym komputerku się nie da, no może na wieloprocesorowym superkomputerze, czy też układzie procesorów...

No właśnie. To nie moja teza. Wiem, że się da. Problem tylko w tym, że to wymaga ogromnej prędkości obliczeń.

Jest faktem, że mózg działa hybrydowo (równolegle i sekwencyjnie), a komputer nie.

Co o niczym nie przeświadcza, bo można działanie równoległe przetwarzać na sekwencyjne. Tyle tylko, że wymaga to dużej prędkości przetwarzania. Sieć komórek w mózgu prawdopodobnie pomija składowe powyżej kilku KHz, a sama ma główny "zegar" (czyli takty symchronizacji czy jak by to nazwać - dotyczące składowej sekwencyjnej) na poziomie gdzieś koło 25-35 Hz (podobno około 30-40 ms trwa jeden "takt"). Każda komórka z osobno wcale nie jest szybka, siła tkwi w ilości i połączeniach.
Ciekawe co by było gdyby powstał elektroniczny analog - tylko bardziej miniaturowy, symulujący tylko istotne aspekty i pracujący z większą prędkością.

Nie udało się jak na razie (chyba że o czymś nie wiem) stworzyć maszyny łączącej w sposób skuteczny przetwarzanie sekwencyjne (jak w procesorze) z równoległym (jak w sztucznych sieciach neuronowych).
Nie twierdzę, że to jest konieczne do stworzenia mózgu sztucznego. Można go symulować także na sekwencyjnie działającym procesorze.

>Ciekawe, czy głoszący tezę pamięta o równoważności maszyn cyfrowych?

Nie wiem, nie jestem głoszącym.

>BTW trzeba pamiętać o wspomnianym w p.3. Problem 'analogowy-cyfrowy' i kłopot z przetwarzaniem analogowego sygnału przekazywanego pomiędzy neuronami może okazać się papierowym tygrysem.

Głównym problemem jest złożoność problemu (tak algorytmiczna jak i ilości danych oraz poznawcza - za mało jeszcze wiemy o działaniu mózgu).

>Założenie, że maszyna wewnętrznie zachowywać się zawsze musi deterministycznie i można obliczyć jak się zachowa, jest błędne.
>I nie można było przewidzieć w jakim czasie i jaką drogą dotrze do celu.

Nie napisałem nigdzie, że zachowa się deterministycznie. (każdy jej ruch nie jest z góry ustalony, ponieważ "wybór" dokonuje się pod wpływem warunków panujących w chwili podejmowania wyboru)
I wydaje mi się, że mógłbyś przewidzieć wyszystkie możliwości wykonania przez niego ruchów i określić prawdopodobieństwo wykonania takiego czy innego ruchu? (oczywiście musiałbyś uwzględnić mnóstwo dodatkowych danych które mają wpływ na "decyzje" robota. I oczywiście to "tylko" prawdopodobieństwo które nie ma dokładnego przełożenia na rzeczywistość)

>Awarie nigdy nie będą miały innych skutków niż niszczące?

Przecież awarie już teraz wywołują inne skutki niż zniszczenie. I oczywiście można sobie wyobrazić, że ktoś napisał wirusa komuterowego który spowoduje, że np. komputer sterujący ogrzewaniem w jakimś pomieszczeniu usmaży znajdujących się tam ludzi, ale nadal będzie to zależało od człowieka (pośrednio) - nie będzie to świadoma decyzja maszyny.

>I wydaje mi się, że mógłbyś przewidzieć wyszystkie możliwości wykonania przez niego ruchów i określić prawdopodobieństwo wykonania takiego czy innego ruchu? (oczywiście musiałbyś uwzględnić mnóstwo dodatkowych danych które mają wpływ na "decyzje" robota. I oczywiście to "tylko" prawdopodobieństwo które nie ma dokładnego przełożenia na rzeczywistość)

wszystko można przewidzieć. w granicach błędu.

>Przecież awarie już teraz wywołują inne skutki niż zniszczenie.

skutki inne niż destruktywne? awaria kreatywna?

>wszystko można przewidzieć. w granicach błędu.

No właśnie jeśli chodzi o zdarzenia umysłowe to nie zostały sformułowane żadne prawa naukowe pozwalające to określić.

>skutki inne niż destruktywne? awaria kreatywna?

Wyobraź sobie taśmę produkcujną np. samochodów. W pewnej chwili dochodzi do awarii układu montującego jakieś tam elementy w samochodzie - jakiś tam element jest montowany w miejscu innym niż to było pierwotnie zaplanowane.

>Wyobraź sobie taśmę produkcujną np. samochodów. W pewnej chwili dochodzi do awarii układu montującego jakieś tam elementy w samochodzie - jakiś tam element jest montowany w miejscu innym niż to było pierwotnie zaplanowane.

to oznacza straty. samochód może potem źle działać, albo w ogóle nie nadawać się do użytku. zniszczenie pod wpływem awarii.

Statystycznie awarie nie są kreatywne, ale raczej coś psujące.
Niskie jest prawdopodobieństwo, że awaria maszyny spowoduje w kreatywny sposób dodanie nowej złożonej właściwości do samochodu (np. pojawią się boczne zderzaki, albo szyby z zwykłych staną się przyciemniane, albo kierownica i układ sterujący będzie zamocowana tak żeby pasażer z tyłu mógł kierować a nie kierowca etc.). Podobnie robot raczej nie nabędzie nowej funkcji. Raczej zmienią się jego pewne parametry, może straci jakąś właściwość, ale raczej nie zyska takiej jak np. agresywne nastawienie wobec ludzi. Oczywiście może w ten sposób stracić zabezpieczenie przed zrobieniem krzywdy ludziom. Dlatego wymagana powinna być tutaj redundancja. Na wszelki wypadek.

>Statystycznie awarie nie są kreatywne, ale raczej coś psujące.

Oczywiście, ale pytanie brzmiało : Czy istnieją (będą istniały) awarie mające skutek inny niż destruktywny.
Odpowiedzią na nie jest : tak istnieją.

>Mógłbym - teoretycznie - zrobić to także odnośnie człowieka.

Jeżeli zdarzenia umysłowe są nieredukowalne do fizycznych to nie możesz wyprowadzić żadnych praw dla tych pierwszych, więc nie możesz obliczyć prawdopodobieństwa, ponieważ nie masz do tego podstawy, masz tylko modyfikatory. Możesz oczywiście przewidzieć jak zachowa się dany człowiek - ale na zasadzie obserwacji i "przyzwyczajenia" do jego decyzji.

>Czyli jest bardziej elastyczny niż algorytmy robotów, robot >który uczy się nowych algorytmów i generowania dobrych >algorytmów (przy czym musi mieć "definicję" tego, co jest dobrym algorytmem)

Ale cały czas jeden algorytm wynika bezpośrednio z drugiego i działania pod wpływem tego nowego nie wyjdą poza pewną płaszczyznę.

>Myślę, że poznanie sposobu działania ...umysłu,... to tylko kwestia czasu.

Myślę, że jest to niemożliwe z powodu redukcji do nieskończoności - nigdy nie będziesz wiedział czy zbadałeś już wszystko.

>Oczywiście, ale pytanie brzmiało : Czy istnieją (będą istniały) awarie mające skutek inny niż destruktywny.
>Odpowiedzią na nie jest : tak istnieją.

Zgadzam się, istnieją.
Ale większość z nich raczej modyfikuje parametry lub dodaje coś prostego niż dodaje nową złożoną część.

>>Mógłbym - teoretycznie - zrobić to także odnośnie człowieka.

>Jeżeli zdarzenia umysłowe są nieredukowalne do fizycznych to nie możesz wyprowadzić żadnych praw dla tych pierwszych, więc nie możesz obliczyć prawdopodobieństwa, ponieważ nie masz do tego podstawy, masz tylko modyfikatory.

A skąd założenie, że są nieredukowalne?
Zbudowani jesteśmy z atomów i rządzą nami te same prawa fizyczne co innymi materialnymi obiektami...

> Możesz oczywiście przewidzieć jak zachowa się dany człowiek - ale na zasadzie obserwacji i "przyzwyczajenia" do jego decyzji.

Obecnie tak, bo nie mamy możliwości dokładnego nieinwazyjnego badania tego jak działa człowiek (poczynając od atomów poprzez działanie komórek aż do struktur - układów neuronów).

>Ale cały czas jeden algorytm wynika bezpośrednio z drugiego i działania pod wpływem tego nowego nie wyjdą poza pewną płaszczyznę.

Pytania jakie mi się nasuwają:
1. Czy człowiek wychodzi poza tą pewną płaszczyznę?
2. Dlaczego jeśli człowiek wychodzi, to robot nie mógłby wyjść - chociażby taki zbudowany na bazie naśladowania procesów zachodzących w mózgu (tylko na innej bazie jako podstawie)?

>>Myślę, że poznanie sposobu działania ...umysłu,... to tylko kwestia czasu.

>Myślę, że jest to niemożliwe z powodu redukcji do nieskończoności - nigdy nie będziesz wiedział czy zbadałeś już wszystko.

Ja sądzę, że wystarczy zbadanie do pewnego poziomu, nie koniecznie do nieskończoności. To jak z zasadą działania komputera - w sumie nie wiemy wszystkiego o tym jak działa komputer (chodzi mi tu głównie o efekty na poziomie atomowym i subatomowym) i nigdy nie będzie wiadomo czy zbadaliśmy już wszysko. Ale jednak pewną funkcjonalność komputera można odtworzyć i to na wiele sposobów. Po prostu występuje pewna niezależność poziomów abstrakcji, pewna nieczułość ogólnego schematu na szczegóły działania jego składowych (muszą tylko z pewną dokładnością w pewien sposób się zachowywać). Myślę, że z umysłem jest podobnie - i wystarczy do jego odtworzenia odpowiednio dokładne naśladowanie tego, co dzieje się na poziomie międzykomórkowym (struktura połączeń, sygnały, ich przetwarzanie przez komórki, pewne inne czynniki jak oddziaływania chemiczne).

Sądzę, że tak jest między innymi z takiego powodu, że w mózgu pojawia się sporo zakłóceń i szumu. Szum ten nie wpływa za bardzo w normalnej sytuacji na działanie układu (działanie nie zależy w sposób krytyczny od wartości tego szumu), gdyby był inny (inne chaotyczne wartości nie rozkład) to układ też by działał (może inna decyzja by była podjęta w jakiejś sytuacji lub jakieś inne różnice by się pojawiły, ale ogólne funkcjonowanie pozostałoby to samo). A to oznacza, że elementy funkcjonalności działające z dokładnością większą niż poziom szumu nie mają także wpływu na funkcjonowanie (i mogą być ewentualnie symulowane zwykłym generatorem losowym lub w inny uproszczony sposób uwzględniane, bez dokładnego symulowania tego, co ma na nie wpływ). A więc poziom struktur mających wpływ na działanie jest ograniczony. Poza tym ograniczona jest prędkość przetwarzania, a dokładniej częstotliwość sygnałów. Powyżej pewnej częstotliwości składowe nie są przetwarzane. To sugeruje pewien poziom próbkowania sygnałów (twierdzenie Shannona) wystarczające do opisania sygnałów wędrujących po mózgu z dokładnością wystarczającą do zupełnego odtworzenia wszystkich składowych, które procesie przetwarzania biorą udział (czyli robią jakąś róznicę). Te dwie rzeczy sugerują, że procesy w mózgu są opisywalne w ramach skończonych. Trzeba tylko poznać: sposób działania komórek, sposób działania połączeń, sposób oddziaływania nieelektrycznego między komórkami, sposób działania struktur na różnych poziomach ich złożoności.
Niestety nie znamy zbyt dobrze tego co się w mózgu dzieje (ani tego jak działają komórki - bardzo złożony proces, ani tego jak działają struktury - również złożony, wiemy o tym trochę, ale nadal nie wiele) - pierwszymi próbami naśladowania były i są sztuczne sieci nauronowe, ale okazuje się, że to zbyt duże uproszczenie i mózg tak nie działa (czyli nie są odpowiednio dokładnym odwzorowaniem tego, co zachodzi w mózgu, choć pewne jego właściwości naśladują - takie jak uczenie się czy niektóre aspekty przetwarzania, w tym równoległość). Ale do rozpoznawania obrazów lub poszukiwania pewnych zależności w danych czy innych typowych zastosowań nie są potrzebne układy wiernie odwzorujące działanie mózgu, ale takie, które radzą sobie z zadaniem nie przesadzając z złożonością - w końcu zwykle symuluje się je na współczesnych komputerach. Dlatego często się je stosuje i są przydatne.

>A skąd założenie, że są nieredukowalne?

Wydaje mi się, że to zdarzenia umysłowe są źródłem naszych, decyzji, a w konsekwencji poczynań.
Jeżeli były by redukowalne to (patrząc na rozwój pozostałych gałęzi nauki) sformułowalibyśmy już jakieś proste (fizykalne) tezy na ich temat. Tak się jednak nie dzieje, pomimo, że fizyka zagościła już we wszystkich innych gałęziach nauki.

Poza tym założenie redukowalności oznaczało by, że jesteśmy całkowicie zdeterminowani (wykluczamy wolą wolę) przez impulsy elektryczne w naszych mózgach, a ta koncepcja niezbyt mi się podoba :
1) Z czysto ontologicznego powodu - uważam, że np. jeżeli zdecyduję się podnieść dłoń w górę, to decyzja powstała ta w moim umyśle, nie zaś w mózgu (mózg jest jej przekaźnikiem do innych organów - np. do wspomnianej dłoni)
2) Jeżeli nasze myśli i nasze decyzje byłyby tylko skutkiem impulsów elektrycznych w naszym mózgu, natychmiast rodzi się pytanie - czym one są spowodowane. Jeżeli stwierdzisz, że okolicznościami, to będziesz musiał odrzucić myślenie abstrakcyjne. (a przecież myślimy abstrakcyjnie)

>> Możesz oczywiście przewidzieć jak zachowa się dany człowiek - ale na zasadzie obserwacji i "przyzwyczajenia" do jego decyzji.
>
>Obecnie tak, bo nie mamy możliwości dokładnego nieinwazyjnego badania tego jak działa człowiek (poczynając od atomów poprzez >działanie komórek aż do struktur - układów neuronów).

I wydaje mi się, że nigdy nie będziemy mogli opisać tego jakimś prawem. Przy założeniu, że umysł jest nieredukowalny do praw fizyki, żeby "zobaczyć" co się dzieje w umyśle innego człowieka, trzeba by było "wejść w jego umysł", my zaś będziemy mogli badać metodami naukowymi tylko obiekt fizyczny - czyli mózg. Załóżmy, że będzie możliwe dokładne (na poziomie atomowym) zbadanie mózgu (nie ma powodów, żeby sądzić, że będzie inaczej), to nawet to nie uwolni nas od paradoksu "czy kolor czerwony który obserwuje, ktoś inny bedzie widział tak samo ?" Język jest po prostu zbyt mało dokładnym narzędziem do opisania naszych stanów umysłowych (a to nim interpretujemy jęzuki doskonalsze - czyli np. dane matematycze z doświadczeń)

Ale wydaję mi sie, że odchodzimy od głównego tematu - to ciekawy pomysł na dyskusję, ale w innym wątku.

>Wydaje mi się, że to zdarzenia umysłowe są źródłem naszych, decyzji, a w konsekwencji poczynań.

Zgadzam się.

>Jeżeli były by redukowalne to (patrząc na rozwój pozostałych gałęzi nauki) sformułowalibyśmy już jakieś proste (fizykalne) tezy na ich temat. Tak się jednak nie dzieje, pomimo, że fizyka zagościła już we wszystkich innych gałęziach nauki.

Pewne tezy są na gruncie kognitywistyki i psychologii poznawczej. Ale daleko im do poziomu wyprowadzenia z zasad fizyki. Mózg to strasznie złożony układ. Pojedyńcza komórka nerwowa to już jest złożony układ. A co dopiero połączenie ich miliardów.

Zgodzisz się pewnie że tornada są redukowalne do pewnej fizyki cząstek?
Są o wiele prostsze od mózgu lub nawet pojedyńczej komórki nerwowej (pytanie tylko które aspekty komórki nerwowej są istotne a które nie jak chodzi o działanie umysłu - tego też jeszcze nie wiemy wystarczająco dobrze).
I również dopiero od niedawna są jakieś fizykalne tezy na temat ich zachowania (zachowania tornad - czyli jak się poruszają, od czego to zależy etc.).

>Poza tym założenie redukowalności oznaczało by, że jesteśmy całkowicie zdeterminowani (wykluczamy wolą wolę) przez impulsy elektryczne w naszych mózgach, a ta koncepcja niezbyt mi się podoba :

Nie zgadzam się z poglądem który stawia znak równoważności między wolną wolą a niedeterminizmem/nieredukowalnością.

>1) Z czysto ontologicznego powodu - uważam, że np. jeżeli zdecyduję się podnieść dłoń w górę, to decyzja powstała ta w moim umyśle, nie zaś w mózgu (mózg jest jej przekaźnikiem do innych organów - np. do wspomnianej dłoni)

Ja też tak uważam (że decyzja powstaje w umyśle).
A to, że umysł za podstawę "implementacji" ma mózg jest mało tutaj ważne.
Zauważ, że zakładając nieredukowalność do pewnych zasad działania jedyne co otrzymujesz, to to, że działasz bez zasad.
Czyli działanie pochodzące od wolnej woli staje się według Ciebie działaniem losowym, a działanie nie losowe (kierujące się jakimiś zasadami czy przemyślane) nie jest wolne.
Moim zdaniem utożsamianie wolności woli z wolnością od posiadania jakiejkolwiek struktury i kierowania się jakimikolwiek zasadami jest "wylewaniem dziecka z kąpielą". Bo jedyne co zostaje to indeterministyczna losowość.
Zauważ, że jeśli nie występuje indeterministyczna losowość, to występują zasady, a skoro tak, to nie zależnie od źródła (czy to materia czy to dusza) można te zasady poznać i opisać, czyli zredukować. Psychologia zresztą zajmuje się poznawaniem niektórych tych zasad poprzez efekty ich działania.
Oczywiście można się z tym spierać dodając jeszcze jedną możliwość - nieskończoność... Ale ludzki umysł jest jednak skończony, więc do niego się to nie stosuje. Potrafimy przecież w danej chwili pamiętać skończoną ilość rzeczy i myśleć skończoną ilość myśli w skończonym czasie.

>2) Jeżeli nasze myśli i nasze decyzje byłyby tylko skutkiem impulsów elektrycznych w naszym mózgu, natychmiast rodzi się pytanie - czym one są spowodowane. Jeżeli stwierdzisz, że okolicznościami, to będziesz musiał odrzucić myślenie abstrakcyjne. (a przecież myślimy abstrakcyjnie)

Ale każdy abstrakt może mieć odwzorowanie w impulsach.

Rozpoznawanie wzorców, kompresja, znajdowanie pewnych przybliżeń...

Impulsy są spowodowane: strukturą, fizycznymi właściwościami, pewnymi stanami chemicznymi i elektrycznymi, innymi impulsami... I na pewno występują sprzężenia zwrotne. Wpływ mają nie tylko aktualne okolczności, ale i struktura wewnętrzna oraz przeszłość, a w dodatku każde od każdego w pewnej mierze zależy (postrzeganie okoliczności zależy od pamięci i struktury, struktura zmiania się w wyniku okoliczności i procesów związanych z pamiętaniem, na pamięć i przypominanie mają wpływ okoliczności i struktura). A myślenie abstrakcyjne opiera się w dużej mierze na pamięciach (jest kilka rodzajów odmiennie funkcjonujących), a w mniejszej na okolicznościach.

>Załóżmy, że będzie możliwe dokładne (na poziomie atomowym) zbadanie mózgu (nie ma powodów, żeby sądzić, że będzie inaczej), to nawet to nie uwolni nas od paradoksu "czy kolor czerwony który obserwuje, ktoś inny bedzie widział tak samo ?"
> Język jest po prostu zbyt mało dokładnym narzędziem do opisania naszych stanów umysłowych (a to nim interpretujemy jęzuki doskonalsze - czyli np. dane matematycze z doświadczeń)

Myślę, że co do quale to problem leży gdzie indziej.
Każda nasza złożona definicja opiera się albo na innej naszej złożonej definicji albo na quale. Ciąg prowadzący do quale jest zwykle krótki.
Dlatego też ciężko będzie rozwiązać problem quale - gdy wszystkie nasze definicje i słowa są oparte na doświadczaniu świata (kolory, kształty, sposoby poruszania), a przynajmniej każdy ciąg definicji zawsze kończy się na nich (także matematyczne abstrakcje biorą się z quale - przestrzeń, linia, punkt, odcinek, koło, liczba - choć te bardziej skomplikowane jak "przestrzenie nieprzemienne" czy "liczby zespolone" są złożoną ich kombinacją i rozwinięciem, można jednak pokazać jak powstały z prostszych elementów i właściwości, takich które mają swoje przybliżone odwzorowania w świecie).

To może się okazać nierozwiązywalnym problemem. Ale nie jest to pewne.

Zauważmy, że z faktu, że możemy się porozumiewać wynika, że nasze quale muszą być symetryczne (nieodróżnialne) w systarczający sposób. Czyli jakkolwiek druga osoba postrzega kolor czerwony, to jednak to samo jest dla niej tym kolorem czerwonym i znaczy on dla niej to samo (choć możliwe, że różnica jest na poziomie subiektywnym, chociażby z faktu, że struktura neuronalna może się w pewnym zakresie różnić).
Oczywiście to, co ja widzę jako czerwony, ktoś inny subiektywnie przekładając dosłownie moje postrzeganie na jego widzieć jako niebieski. Jednak już nie fioletowy ani nie w postaci smaku. Symetria w budowie systemu rozpoznawania barw dopuszcza 3 główne "czyste barwy" (czerwony, zielony, niebieski) a jego budowa pewien sposób ogólny ich łączenia i postrzegania (tzw. wrzeciono barw, ang. color spindle).

>Wydaje mi się, że to zdarzenia umysłowe są źródłem naszych, decyzji, a w konsekwencji poczynań.
>Jeżeli były by redukowalne to (patrząc na rozwój pozostałych gałęzi nauki) sformułowalibyśmy już jakieś proste (fizykalne) tezy na ich temat. Tak się jednak nie dzieje, pomimo, że fizyka zagościła już we wszystkich innych gałęziach nauki.

Pewne prawo, wyrażone stosunkowo prostym wzorem - teorię względności - opracowano zaledwie 100 lat temu. Równie 'proste' prawo, pozwalające scalić wszystkie podstawowe oddziaływania w jedną, ogólną teorię jeszcze nie powstało. Nie wpadliśmy na to. Czy na tej podstawie można sądzić, ze jednolita teoria unifikująca wszystkie podstawowe oddziaływania - nie istnieje? Wszak, gdyby istniało takie prawo - już sformuowalibyśmy je. Możnaby tak jeszcze dalej...

> Poza tym założenie redukowalności oznaczało by, że jesteśmy całkowicie zdeterminowani [...], a ta koncepcja niezbyt mi się podoba

Koncepcja, że Ziemia nie jest płaska również się nie podobała i nie podoba. Towarzystwo Płaskiej Ziemi istnieje do dziś

Założenie redukowalności nie oznacza, że jesteśmy całkowicie zdeterminowani. Istnieje takie pojęcie jak chaos deterministyczny...

> jeżeli zdecyduję się podnieść dłoń w górę, to decyzja powstała ta w moim umyśle, nie zaś w mózgu (mózg jest jej przekaźnikiem do innych organów - np. do wspomnianej dłoni)

Przekaźnikiem od czego? Czym jest umysł, i z czego jest zbudowany, skoro mózg robi tylko coś obok? Czy można zatem odciąć mózg od umysłu? Jeżeli jest tylko przekaźnikiem, to czemu nie...

Przeprowadzono kilka doświadczeń, z których niezbicie wynika, że mózg 'wie', co badany umysł będzie chciał zrobić zanim ten będzie to wiedział. Ergo, to mózg stoi za tym, co umysł robi. A umysł jest ogłupiany, że przecie sam tego chciał..

> Jeżeli nasze myśli i nasze decyzje byłyby tylko skutkiem impulsów elektrycznych w naszym mózgu, natychmiast rodzi się pytanie - czym one są spowodowane. Jeżeli stwierdzisz, że okolicznościami, to będziesz musiał odrzucić myślenie abstrakcyjne. (a przecież myślimy abstrakcyjnie)

Nasze myśli i decyzje spowodowane sa wewnętrzną dynamiką pracującego mózgu. Na tę dynamikę mają wpływ budowa mózgu, nabyte doświadczenia i bieżące okoliczności.

Myślenie abstrakcyjne sprowadza się do wykonania iluśtam operacji na obiektach i ich generalizacjach, a więc umiejętności wyprowadzenia w procesie uczenia się z wejściowych danych coraz mniej szczegółowych opisów obiektów (coraz dokładniejszej kategoryzacji), a następnie wykorzystania tych szczegółowych kategorii (i relacji pomiędzy nimi) do wyprowadzania wniosków. Wnioskowanie przydaje się do wyprowadzania decyzji, i może, ale nie musi korzystać ze zgromadzonej i wypracowanej wiedzy. Nie widzę związku pomiędzy sposobem generowania pobudzeń i obsługi aktywności (czyli wyprowadzania decyzji z okoliczności i wiedzy, również tej 'abstrakcyjnej'), a mechanizmami akumulacji i wyprowadzania wiedzy (czyli abstrakcyjnego myślenia). Mógłbyś wyjaśnić, dlaczego myślenie i decydowanie spowodowane okolicznościami miałyby negować możliwość myślenia abstrakcyjnego?

> Załóżmy, że będzie możliwe dokładne (na poziomie atomowym) zbadanie mózgu (nie ma powodów, żeby sądzić, że będzie inaczej), to nawet to nie uwolni nas od paradoksu "czy kolor czerwony który obserwuje, ktoś inny bedzie widział tak samo ?" Język jest po prostu zbyt mało dokładnym narzędziem do opisania naszych stanów umysłowych (a to nim interpretujemy jęzuki doskonalsze - czyli np. dane matematycze z doświadczeń)

Może problem qualiów to w ogóle nie jest problem? Dlaczego język jest zbyt ubogi? Jeżeli powiem, że widzę kolor czerwony - to czego tu nie rozumieć? Odczuć? Mam wrażenie że niezupełnie rozumiem gdzie leży problem - jeżeli odczucia są z definicji kwestią subiektywną, więc odczuwanie cudzego jest z definicji niemożliwe, podobnie jak niejako z definicji niemożliwe jest osiągnięcie 'c' przez obiekt posiadający masę. Można oczywiście to roztrząsać - podobnie jak można roztrząsać czy ktoś skopiowany atom po atomie to dokładnie tenże ktoś, chyba tenże ktoś, prawie tenże ktoś czy ktoś zupełnie inny - tylko po co?

A czy jednak można? No, teoretycznie to proste. Postrzeganie czerwieni to kwestia odpowiedniego przetwarzania, więc wystarczyłoby okreslić gdzie leży podział pomiędzy 'świadomym JA', a 'więdzą zgromadzoną przeze mnie', znaleźć taki sam podział u Kowalskiego, oddać sprawę chirurgom żeby tu wycieli tu przyszyli - i voila. 'Świadome JA' widzi czerwony tak, jak Kowalski. A że może być problem ze znalezieniem miejsca gdzie przeciąc, a gdzie przyszyć? Przecie nie nikt nie twierdzi że to jest proste również praktycznie, ba - czy nie ma jakichś fundamentalnych przeszkód w realizacji tegoż, podobnie jak istnieje pewna fundamentalna przeszkoda przy kopiowaniu wspomnianego ktosia....

>A czy jednak można? No, teoretycznie to proste. Postrzeganie czerwieni to kwestia odpowiedniego przetwarzania, więc wystarczyłoby okreslić gdzie leży podział pomiędzy 'świadomym JA', a 'więdzą zgromadzoną przeze mnie', znaleźć taki sam podział u Kowalskiego, oddać sprawę chirurgom żeby tu wycieli tu przyszyli - i voila. 'Świadome JA' widzi czerwony tak, jak Kowalski. A że może być problem ze znalezieniem miejsca gdzie przeciąc, a gdzie przyszyć? Przecie nie nikt nie twierdzi że to jest proste również praktycznie, ba - czy nie ma jakichś fundamentalnych przeszkód w realizacji tegoż, podobnie jak istnieje pewna fundamentalna przeszkoda przy kopiowaniu wspomnianego ktosia....

Studia nad pewnymi schorzeniami - depersonifikacją i derealizacją, które dają podobny efekt, wydały pewne środki chemiczne pomagające osobom obarczonym tym schorzeniem.
Czyli wiemy już, że czynnik fizyczny gra rolę w postrzeganiu ja.

---

Przeszedłem sam siebie i stanąłem obok.
No i co z tego?

>I wydaje mi się, że mógłbyś przewidzieć wyszystkie możliwości wykonania przez niego ruchów i określić prawdopodobieństwo wykonania takiego czy innego ruchu? (oczywiście musiałbyś uwzględnić mnóstwo dodatkowych danych które mają wpływ na "decyzje" robota. I oczywiście to "tylko" prawdopodobieństwo które nie ma dokładnego przełożenia na rzeczywistość)

Mógłbym - teoretycznie - zrobić to także odnośnie człowieka. Tylko że to byłoby o wiele wiele trudniejsze i wymagałoby wcześniejszego poznania tego jak działa (jakie ma cele, chęci, potrzeby, jak reaguje na pewne rzeczy itp. itd.).

>Przecież awarie już teraz wywołują inne skutki niż zniszczenie. I oczywiście można sobie wyobrazić, że ktoś napisał wirusa komuterowego który spowoduje, że np. komputer sterujący ogrzewaniem w jakimś pomieszczeniu usmaży znajdujących się tam ludzi, ale nadal będzie to zależało od człowieka (pośrednio) - nie będzie to świadoma decyzja maszyny.

Zgadzam się.

Ale potrafię sobie wyobrazić, że robot sam sobie generuje w pewnym zakresie cele (np. tak jak ludzie - na podstawie uczenia się, obserwacji, przyjamności i nieprzyjemności etc.). Czyli jest bardziej elastyczny niż algorytmy robotów, robot który uczy się nowych algorytmów i generowania dobrych algorytmów (przy czym musi mieć "definicję" tego, co jest dobrym algorytmem). Zresztą już teraz są takie rozwiązania, które się uczą sposobów zachowania, tyle że bardzo bardzo proste względem tego, co występuje w naturze. W szachy grać się nie nauczą, ale np. odbijać krążek w grze na płaskiej planszy (przy braku zmian oświetlenia i warunków) już tak.

A więc na dobrą sprawę tylko siłą przypadku doszłoby do uzyskania przez maszynę świadomości i raczej nie miałoby to dużego zasięgu - ograniczałoby się do jednego egzemlarza [taki moment wesołego absurdu]. Niewielkie istnieje też ryzyko, że maszyny któregoś dnia zbuntują się przeciw człowiekowi, swemu twórcy - kiedy ludzkość będzie zaawansowana wystarczająco by zbudować "myślące" maszyny, będzie też zapewne bez problemu potrafiła odpowiednio zabezpieczyć się przed ewentualnymi "awariami".
Czy maszyny mogłyby [stworzone na wzór i podobieństwo człowieka] stać się doskonalsze od niego? W kontekście moralnym na przykład - z zaprogramowanymi normami etycznymi, być może maszyny sprawdzałyby się lepiej od ludzi w roli polityków , ponieważ miałyby niezbywalną uczciwość, dążyłyby naprawdę do dobra ogólnego, a nie własnego? Czy oddanie władzy w ręce sztucznej inteligencji mogłoby mieć pozytywne dla ludzkości skutki? jeżeli oczywiście zakładamy, że twórcy nie pozwolili sobie na żadne manipulacje i wszyscy zaprogramowali swoim maszynom "dobre charaktery"
pozdrawiam

>Czy oddanie władzy w ręce sztucznej inteligencji mogłoby mieć pozytywne dla ludzkości skutki? jeżeli oczywiście zakładamy, że twórcy nie >pozwolili sobie na żadne manipulacje i wszyscy zaprogramowali swoim maszynom "dobre charaktery"
>pozdrawiam

Takie rozwiązanie nic by nie zmieniło. Pewnie by nawet do niego nie doszło (zakładając, że były by techniczne możliwości). Pierwszy problem jaki musielibyśmy pokonać to kto miałby zaprogramować taką maszynę (określić jej "dobry charakter") :
Demokratyczna większość ? Ja się na to nie piszę
Naukowcy ? Na jakiej podstawie naukowcy mają wiedzieć co jest dobre a co złe lepiej niż inni ludzie ? Zresztą sami naukowcy stanowią też grupę o sprzecznych poglądach.
Autorytety moralne ? Czyli zapewne przywódcy religijni - bez żartów.
Załóżmy jednak, że udało by się pokonać ten problem - pojawiają się kolejne :
Co będzie gdy ktoś (lub jakaś grupa, lub większość, lub wszyscy ludzie) uzna, że maszyna działa na szkodę ludzkości ?
takie problemy można mnożyć...

>Pewne tezy są na gruncie ... psychologii poznawczej.

"Tezy" psychologiczne mają ten problem, że za dużo przypadków trzeba rozpatrywać indywidualnie. Nie wiem czy można je wogóle nazywać tezami. Zauważ, że wszystkie prawa naukowe są oparte na na bazie kwadratu logicznego (z ewentualnymi określonymi wyjątkami)

>Zgodzisz się pewnie że tornada są redukowalne do pewnej fizyki cząstek?

Tak, ale istniały wcześniej prawa dotyczące zjawisk i procesów atmosferycznych. Odkrycie praw rządzących tornadami jest kolejnym krokiem na tej drodze. Natomiast na drodze praw rządzących zdarzeniami umysłowymi nie postawiliśmy jeszcze, żadnego kroku.

>Nie zgadzam się z poglądem który stawia znak równoważności między wolną wolą a niedeterminizmem/nieredukowalnością.

Tutaj raczej nie zbudujemy wspólnego twierdznia, gdzyż wychodzimy z sprzecznych poglądów bazowych. Zarówno jedno i drugie rozwiązanie ma plusy i minusy, ale kwestia jest sporna i trzeba przyjąć któreś założenie.

>Ale każdy abstrakt może mieć odwzorowanie w impulsach.

Ja się z tym nie sprzeczam. Zadaję tylko pytanie czym jest powodowane pojawienie się abstraktu.

quale - nie wiedziałem, że jest na to takie określenie - skąd się wzieło ?

>kto miałby zaprogramować taką maszynę (określić jej "dobry charakter") :
>Demokratyczna większość ? Ja się na to nie piszę
>Naukowcy ? Na jakiej podstawie naukowcy mają wiedzieć co jest dobre a co złe lepiej niż inni ludzie ? Zresztą sami naukowcy stanowią też grupę o sprzecznych poglądach.
>Autorytety moralne ? Czyli zapewne przywódcy religijni - bez żartów.

a może racjonaliści...

>Załóżmy jednak, że udało by się pokonać ten problem - pojawiają się kolejne :
>Co będzie gdy ktoś (lub jakaś grupa, lub większość, lub wszyscy ludzie) uzna, że maszyna działa na szkodę ludzkości ?

gdyby już ludzie zgodzili się na to, by reprezentowały ich maszyny, a działania przez nie podejmowane miałyby określone wspólne dobro na celu, to przypuszczam, że grupa ludzi w opozycji nie sprawiałaby znaczniejszych problemów [to jak teraz]; poza tym opozycja powinna współpracować z grupą trzymającą władzę, a nie rywalizować.
przyznaję, że moje pytanie raczej podpada pod science-fiction... ponadto nie sprecyzowałam go; wychodzę z założenia, że ludzie nie umieją się rządzić sami i przydałyby się egzemplarze wolne od obciążeń ludzkiej natury. utopia?

Ja też wątpię w takie rozwiązanie.
Sztuczna inteligencja raczej nie zostanie dopuszczona do władzy, jeśli już to będzie stanowiła ciało doradcze. Głównie dlatego, że wątpliwe byłoby całkowicie pełne zaufanie (tak do twórców systemu jak i samego systemu) i pominięcie decydentów.

Tak jak współczesne systemy wspomagania decyzji - nie zastępują decydentów, ale ich wspomagają.

>Ja też wątpię w takie rozwiązanie.
>Sztuczna inteligencja raczej nie zostanie dopuszczona do władzy, jeśli już to będzie stanowiła ciało doradcze. Głównie dlatego, że wątpliwe byłoby całkowicie pełne zaufanie (tak do twórców systemu jak i samego systemu) i pominięcie decydentów.

Prawdziwej inteligencji też nie można ufać.
Najlepsze dlatego są rozwiązania demokratyczne, gdyż minimalizują możliwość wyboru błędnych odpowiedzi, tak samo jak algorytm genetyczny.

>A więc na dobrą sprawę tylko siłą przypadku doszłoby do uzyskania przez maszynę świadomości i raczej nie miałoby to dużego zasięgu - ograniczałoby się do jednego egzemlarza [taki moment wesołego absurdu].

Wątpię by "tak przypadkiem" mogło się to stać.
Już raczej zostanie to przez kogoś (człowieka) stworzone, zaimplementowane.

Ewolucja potrzebowała miliardów lat "eksperymentów" na to, by dojść do świadomości.

> Niewielkie istnieje też ryzyko, że maszyny któregoś dnia zbuntują się przeciw człowiekowi, swemu twórcy - kiedy ludzkość będzie zaawansowana wystarczająco by zbudować "myślące" maszyny, będzie też zapewne bez problemu potrafiła odpowiednio zabezpieczyć się przed ewentualnymi "awariami".

Tak sądzę - gdy będziemy potrafili budować świadome (samoświadome, ale także lub przede wszystkim z świadomością odczuwającą) roboty, to także będziemy potrafili tak formować ich strukturę by wprowadzić odpowiednie zabezpieczenia.

Taki robot po prostu sam z siebie będzie na przykład krzywdzenie człowieka odbierał jako złe, sprzeczne z jego naturą, nieprzyjemne i bolesne. O ile dostanie te zabezpieczenia (w co nie wątpię bo nie dołączenie ich było by strasznie głupie).

>Czy maszyny mogłyby ...

Wtedy problemów etycznych będzie bardzo dużo.

Poza tym wydaje mi się, że ludzie w dążeniu do przedłużania swojego życia i poprawiania swojej egzystencji będą dokonywać pewnych modyfikacji samych siebie. Ciekawe czy nie przejdziemy sami z formy biologicznej na jakąś inną "elektroniczną"... Ale to raczej odległa przyszłość.

Usłyszałam dziś o połączeniu materiału syntetycznego [stop metalu?] z żywą komórką, jako bardziej efektywnego sposobu przetwarzania danych. Miałoby to być wykorzystywane w informatyce w celu zwiększenia pojemności pamięci i szybkości komputerów. Nie miałam niestety możliwości sprawdzenia tego, jakoże informator nie mógł bliżej sprecyzować ani nazwy technicznej owego połączenia ani źródła swoich informacji. Czy coś takiego istnieje? I czy wobec tego wzrastają możliwości na zyskanie samoświadomości i samodzielności przez maszyny?
Pozdrawiam

Ja jestem sceptyczny co do takiej metody zwiększania szybkości czy ilości pamięci.

Przewaga jaką mają biologiczne sieci neuronowe nad komputerami to nie szybkość "taktowania" (bo ta jest bardzo niska - mózg nie zauważa zmian szybszych niż parę milisekund, a więc częstotliwość "pracy komórek" raczej nie jest większa od 1 KHz, a pewnie i mniejsza) ani pamięć (choć bardzo duża w mózgu, to jednak wolniejsza, mniej dokładna, podatna na zaburzenia i trudniej dostępna) lecz sposób przetwarzania - łączący w sobie równoległość z sekwencyjnością.

>Ja jestem sceptyczny co do takiej metody zwiększania szybkości czy ilości pamięci.
>Przewaga jaką mają biologiczne sieci neuronowe nad komputerami to nie szybkość "taktowania" (bo ta jest bardzo niska - mózg nie zauważa zmian szybszych niż parę milisekund, a więc częstotliwość "pracy komórek" raczej nie jest większa od 1 KHz, a pewnie i mniejsza) ani pamięć (choć bardzo duża w mózgu, to jednak wolniejsza, mniej dokładna, podatna na zaburzenia i trudniej dostępna) lecz sposób przetwarzania - łączący w sobie równoległość z sekwencyjnością.

To łączenie to dowcip. Mózg w rzeczywistości pracuje równolegle z synchronizacją między elementami. Co nadal jest równoległe, sekwencyjne tylko lokalnie.

Dobry model to n wątków bez globalnej blokady, które się między sobą synchronizują.
Wątki n z n-1 mogą być wzajemnie zsynchronizowane, n-2 z n-3 też, lecz zespoły n, n-1 i n-2, n-3 pracują niezależnie.

Nie wiadomo też, czy istnieje pamięć wspólna, a jeśli tak, to w jakim zakresie jest wykorzystywana...

---

Przeszedłem sam siebie i stanąłem obok.
No i co z tego?

>To łączenie to dowcip. Mózg w rzeczywistości pracuje równolegle z synchronizacją między elementami. Co nadal jest równoległe, sekwencyjne tylko lokalnie.

Pewna synchronizacja globalna występuje, świadczyć może o tym chociażby występowanie "globalnych" (nie wiem jaki mają zasięg, ale większy niż lokalne) impulsów synchronizujących o czasie około 30 ms czy też możliwość odróżnienia kolejności bodźców niezależnie od źródła (rodzaju bodźca - wzrokowe, dotyk, słuchowe) przy odległości od siebie co najmniej 30 ms, a także przetwarzanie muzyki aktywujące impulsy o częstotliwości około 33 Hz (to sugeruje, występowanie w przetwarzaniu globalnie pewnych "kroków", pewnej kwantyzacji na poziomie 30 ms).

Chociaż może się mylę - specem nie jestem.

>Dobry model to n wątków bez globalnej blokady, które się między sobą synchronizują.

Tak, to dobry model.