Nie rozumiem co ma wspólnego inteligencja z malejącymi rozmiarami podzespołów elektronicznych czy z zastępowaniem materiałów przez inne? Jak się ma rosnąca wydajność obliczeniowa do inteligencji? Większość ludzi liczy o wiele wolniej niż kalkulator w komórce, a nikt nie powie, że takie kalkulatory są bardziej inteligentne od ludzi.
Nie mamy za dużego pojęcia jak działa ludzki mózg, w jaki sposób mielibyśmy zbudować inteligentną maszynę? Nawet nie potrafimy podać jednej definicji inteligencji.
Z drugiej strony od dawna potrafimy konstruować przeróżne "inteligentne" urządzenia, więc może nie ma co wyczekiwać na pojawienie się inteligencji maszynowej, bo ona już istnieje?

---

Uwielbiam ludzi. Ich wygląd, ich sposoby myślenia, ich poglądy. Dlaczego? Bo uwielbiam się śmiać.

>Nie rozumiem co ma wspólnego inteligencja z malejącymi rozmiarami podzespołów elektronicznych czy z zastępowaniem materiałów przez inne?

Obecnie procesory są za duże, żeby można było zbudowac komputer o tej samej lub większej mocy obliczeniowej, co ludzki mózg.

> Jak się ma rosnąca wydajność obliczeniowa do inteligencji? Większość ludzi liczy o wiele wolniej niż kalkulator w komórce, a nikt nie powie, że takie kalkulatory są bardziej inteligentne od ludzi.

Posiadając komputer o zdolności obliczeniowej przewyższającej mózg możemy na początek uruchomić w nim symulację pracy ludzkiego mózgu. W kolejnych etapach uruchomić symulację pracy wszystkich mózgów całej ludzkości. A potem... to może nas już nie być.

>Nie mamy za dużego pojęcia jak działa ludzki mózg, w jaki sposób mielibyśmy zbudować inteligentną maszynę?

Dlatego nakładem miliardów euro powstaje ośrodek, który zbada mózg.

> Nawet nie potrafimy podać jednej definicji inteligencji.

Np. jest to parametr mierzony testami inteligencji.

>Z drugiej strony od dawna potrafimy konstruować przeróżne "inteligentne" urządzenia, więc może nie ma co wyczekiwać na pojawienie się inteligencji maszynowej, bo ona już istnieje?

Te urzadzenia nie posiadają takiej cechy jak inteligencja. To tylko marketing.

>> Nawet nie potrafimy podać jednej definicji inteligencji.

>Np. jest to parametr mierzony testami inteligencji.

Racja. A temperatura jest to parametr mierzony termometrem. A przyspieszenie jest to parametr mierzony akcelerometrem. Itp

---

www.tokfm.(*)grodzka/2012/02/premier_klamie

> Nie mamy za dużego pojęcia jak działa ludzki mózg

Bzdura. Mamy całkiem dobre wyobrażenie na ten temat. Wiemy doskonale jak działają pojedyncze neurony w mózgu i na studiach IT programuje się sieci takich modelowych neuronów do rozwiązywania niektórych problemów.

Problemem jest raczej konkretna struktura sieci jaką tworzą neurony w ludzkim mózgu, ale trwa co najmniej jeden projekt stworzenia jej mapy. Możliwe, że okaże się to zbędne i informatyka opracuje doskonalsze modele sieci neuronowych pod konkretne zadania, choć obecnie tak jak napisał ktoś wcześniej obecnie ograniczeniem są rozmiary tranzystorów i to że wciąż tworzymy głównie płaskie układy scalone.

>> Nie mamy za dużego pojęcia jak działa ludzki mózg
>Bzdura. Mamy całkiem dobre wyobrażenie na ten temat.
No właśnie, wyobrażenia. Niby wiemy coraz więcej, a co pewien czas okazuje się, że któreś z dotychczasowych wyobrażeń było albo zbyt uproszczone, albo błędne. Niewiele się różnimy od astronautów badających planetę w powieści Lema "Niezwyciężony" czy "Solaris".
Nasza wiedza na temat mózgu powiada, że ktoś taki nie powinien być zdolny do życia, a co dopiero do normalnego życia. Z kolei osoby o normalnej budowie mózgu mogą być ciężko upośledzone umysłowo.
Stworzenie sztucznego mózgu, to nie to samo, co stworzenie sztucznej ręki.

---

Uwielbiam ludzi. Ich wygląd, ich sposoby myślenia, ich poglądy. Dlaczego? Bo uwielbiam się śmiać.

Myślę, że ten link może być pomocny w waszej dyskusji. www.uci.agh.edu.pl/uczelnia/tad/sztuczny_mozg/
Pozdrawiam

>Nasza wiedza na temat mózgu powiada, że ktoś taki nie powinien być zdolny do życia, a co dopiero do normalnego życia. Z kolei osoby o normalnej budowie mózgu mogą być ciężko upośledzone umysłowo.

Słuszna uwaga, choć niekoniecznie sugeruje prawidłowe wnioski.

Powiedzmy, że programista stworzył program wykorzystujący sieci neuronowe do rozpoznawania symboli na zdjęciach. Następnie uruchomia swój program ustawiając liczbę neuronów na cztery. Cztery to mała liczba, więc gdy będzie ciekaw, będzie mógł zajrzeć w pamięć komputera i przeanalizować działanie zbudowanej przez siebie sieci całkowicie rozumiejąc procesy, które tam zachodzą, ale cztery to za mało. Gdy zwiększy liczbę neuronów do załóżmy 100 tys. (ludzki mózg ma ich milion razy więcej) komputer poradzi sobie z tym świetnie, ale on, mimo że jest twórcą tej sieci, nie będzie miał zielonego pojęcia co wewnątrz niej się dzieje. Gdy powstanie jakiś problem, nie będzie mieć pojęcia co konkretnie powoduje błąd, bo analiza czterech, czy dwudziestu neuronów nie powie mu niczego o tak dużej sieci.

To samo tyczy się mózgu - nigdy nie pojmiemy całokształtu jego działania, bo jest zbyt duży, co nie znaczy, że nie możemy tworzyć mniej lub bardziej udanych imitacji, których też nie będziemy rozumieć

>To samo tyczy się mózgu - nigdy nie pojmiemy całokształtu jego działania, bo jest zbyt duży, co nie znaczy, że nie możemy tworzyć mniej lub bardziej udanych imitacji, których też nie będziemy rozumieć
Z tekstu podlinkowanego przez "satanisza" wynika, że stworzenie imitacji mózgu trwałoby niewiarygodnie długo, wymagało ogromnej ilości elementów składowych, że o pieniądzach nie wspomnę. No ale załóżmy, że w sztucznym mózgu funkcje neuronów pełnić będą atomy albo mniej złożone "cegiełki" np. któreś z cząstek elementarnych. Nadal nie będziemy dysponować odpowiednim oprogramowaniem, czyli modelem, zgodnie z którym taki "mózg" miałby działać, bo po prostu nie wiemy jak działa mózg. Zatem załóżmy, że nie mając takiego oprogramowania wykorzystujemy sieci neuronowe, o czym piszesz. Coś i jakoś będzie się działo, ale nie będziemy mieli o tym wielkiego pojęcia, o czym też piszesz. Zatem nie będziemy mogli stwierdzić na czym polega "inteligencja", której nie tylko że nie stworzyliśmy (sama się tworzyła), ale której na dodatek nie rozumiemy. Warto też chyba pamiętać o "efekcie motyla" - nawet bardzo podobne dane wejściowe mogą w długim czasie dawać bardzo rozbieżne wyniki, a co dopiero bardzo różne dane wejściowe. Być może któryś zestaw danych wywoła powstanie inteligencji, z którą będziemy w stanie się porozumieć, ale tego nie da się zaplanować, nie da się przewidzieć takiego zestawu danych wejściowych i początkowego algorytmu, a tym samym "wyprodukowanie" takiej inteligencji może być tylko wynikiem przypadku.

---

Uwielbiam ludzi. Ich wygląd, ich sposoby myślenia, ich poglądy. Dlaczego? Bo uwielbiam się śmiać.

> tekstu podlinkowanego przez "satanisza" wynika, że stworzenie imitacji mózgu trwałoby niewiarygodnie długo, wymagało ogromnej ilości elementów składowych, że o pieniądzach nie wspomnę.

To bardzo dobry artykuł, choć całkowicie pomija fakt, że technologia się rozwija (i to w tempie wykładniczym). Ostatnio zmieniłem komputer i rendering komputerowy, który wcześniej kalkulował się przez 10 minut teraz tworzy się w ok. 40 sekund (15-krotny skok wydajności) a wcześniej wcale nie miałem niezwykle starej maszyny. Tempo produkcji układów scalonych zapewne pozostaje na zbliżonym poziomie a z pewnością nie jest liniowo zależne od prędkości obliczeniowej. To prowadzi do wniosku, że o ile technologia nie przestanie się rozwijać, w końcu osiągnie etap, na którym możliwe będzie produkowanie układów obliczeniowych o dostatecznej mocy.

> Nadal nie będziemy dysponować odpowiednim oprogramowaniem, czyli modelem, zgodnie z którym taki "mózg" miałby działać, bo po prostu nie wiemy jak działa mózg. Zatem załóżmy, że nie mając takiego oprogramowania wykorzystujemy sieci neuronowe, o czym piszesz.

Komputerowe sieci neuronowe to jest właśnie to odpowiednie oprogramowanie. Istnieją już od kilkudziesięciu lat całkiem precyzyjne modele matematyczne występujących w ludzkim mózgu neuronów i jesteśmy w stanie tworzyć bardzo wierne odpowiedniki w pamięci komputerów. Stosuje się jednak uproszczone modele, bo są bardziej wydajne na obecnych procesorach i bardziej zrozumiałe.

Neuron to jedyna jednostka funkcjonalna w ludzkim mózgu, więc kwestia samego oprogramowania jest raczej załatwiona. Problem leży w odtworzeniu mapy połączeń wraz z odpowiednim wagowaniem (niektóre połączenia są bardziej aktywne, inne mniej) a to być może uda się nam zgłębić w dostatecznym stopniu, by tworzyć mniej lub bardziej wierne imitacje ludzkiego mózgu.

W podlinkowanym artykule autor, moim zdaniem, błędnie zakłada (choć mogę się mylić), że by tworzyć pewne komputerowe odpowiedniki ludzkiego mózgu, musielibyśmy poznać strukturę ludzkiego mózgu bardzo dogłębnie, zdecydowanie ponad techniczne możliwości w tym stuleciu. Wiele jednak zdaje się wskazywać na to, że wystarczy pobieżna mapa, by uzyskać podobny efekt. Efekt motyla w tym przypadku do mnie nie przemawia, bo ludzkie mózgi różnią się od siebie diametralnie (jak w linku na newscientist, który wrzuciłeś) a mimo tego działają dosyć podobnie (poprawnie) - komunikujemy się nawzajem, jesteśmy w stanie zrozumieć te same rzeczy, lubimy tę samą muzykę a narkotyki powodują zbliżone doznania.

No to zostajemy każdy przy swoim zdaniu. A sztucznej inteligencji czy sztucznego mózgu jak nie było, tak nie ma.

---

Uwielbiam ludzi. Ich wygląd, ich sposoby myślenia, ich poglądy. Dlaczego? Bo uwielbiam się śmiać.

Jedyne co na pewno można powiedzieć o wyobrażaniu sobie przyszłości, to że będzie inaczej niż sobie wyobrażamy.
Obawiam się, że jeśli ta "superinteligencja" nie wyzwoli się spod kontroli człowieka, to będzie nadal służyła układaniu horoskopów, propagowaniu idei Radia Maryja czy innych irracjonalizmów, dla których np. wynalezienie Internetu stało się wręcz początkiem "nowej ery".

>Rozwój komputerów przebiega zgodnie z prawem Moore'a i wkrótce osiągnie kres.
A maszyny cięższe od powietrza nie mogą latać. To tyle, jeśli chodzi o wróżenie. Prawo Moore'a jest obserwacją ekonomiczną, w ograniczonym przedziale czasu, nie prawem fizycznym. Dlaczego miałby nastąpić kres i jak to wynika z prawa Moore'a?
>Powstanie superinteligencja, czyli sztuczna inteligencja o możliwościach przewyższających umysł człowieka podobnie jak ten przewyższa umysł zwierząt. Niewykluczone, że będzie miała też samoświadomość.
I ta superinteligencja powstanie akurat, kiedy komputery przestaną być rozwijane? Mój kalkulator już mnie przewyższa - w obliczeniach. Moja komórka - w zapamiętywaniu obrazów. Google - w znajomości języków, ilości znanych faktów. "Przyszłość jest teraz" .
>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w Matrixie?
Już jesteśmy zdominowani przez maszyny. Lodówka trzyma moje jedzenie (i może je zepsuć), serwer bankowy trzyma moją kasę, Gmail zna wszystkie moje sekrety. Nie wspominam o niewolniczym tankowaniu samochodu czy ładowaniu komórki.

>A maszyny cięższe od powietrza nie mogą latać. To tyle, jeśli chodzi o wróżenie. Prawo Moore'a jest obserwacją ekonomiczną, w ograniczonym przedziale czasu, nie prawem fizycznym. Dlaczego miałby nastąpić kres i jak to wynika z prawa Moore'a?

Nastąpi kilka "końców" i jeden koniec.
Koniec technologii binarnej z tego powodu, że obecnie opracowanych tranzystorów o rozmiarze atomu nie można pomniejszyć, ale można tworzyć większe powierzchnie procesorów, a potem równoległe.

Komputery kwantowe pomogą tylko w niektórych problemach, a inne co najwyżej przyspieszą. Np podzielą siłę klucza DES lub 3DES na dwa. Potem zapewne powstaną hybrydy komputerów kwantowych i tradycyjnych.
Tutaj kres prawa Moore'a będzie się przesuwał dalej w czasie, jak to się dzieje od lat.
Zatem tutaj się zgadzamy, że jeszcze długa droga przed nami.

Prawdziwym końcem, do którego się odnoszę będzie opracowanie komputera, którego możliwości obliczeniowe (procesor i zaimplementowane oprogramowanie samouczące, samokorygujące, samorozwijające się) będą potężniejsze, niż wszystkie mózgi wszystkich ludzi razem wzięte. Z prawa Moore'a wynika że taki "koniec" nastąpi. Nie będzie to oczywiście koniec rozwoju technologii, tylko moment od którego uczeń przerośnie mistrza i być może stanie się zbędny. Z tym że dalszy rozwój możliwości obliczeniowych komputerów będzie miał inną rolę niż teraz, bo to nie człowiek będzie je ulepszał, ale one same.

>I ta superinteligencja powstanie akurat, kiedy komputery przestaną być rozwijane? Mój kalkulator już mnie przewyższa - w obliczeniach. Moja komórka - w zapamiętywaniu obrazów. Google - w znajomości języków, ilości znanych faktów. "Przyszłość jest teraz" .

Nie. Powstanie z powodu nieustannego rozwoju. Kalkulator nie ma zdolności przetwarzania informacji większych od mózgu. Potrafi robić lepiej tylko mikroskopijną część tego, co mózg.

>>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w Matrixie?
>Już jesteśmy zdominowani przez maszyny. Lodówka trzyma moje jedzenie (i może je zepsuć), serwer bankowy trzyma moją kasę, Gmail zna wszystkie moje sekrety. Nie wspominam o niewolniczym tankowaniu samochodu czy ładowaniu komórki.

Teraz maszyny nas "potrzebują" do istnienia. W przyszłości niekoniecznie. Linie produkcyjne są często samodzielne i podpięte do internetu. Są roboty wykonujące pewne prace samodzielnie.
Może być tak, że kiedyś one się ze sobą dogadają i dojdą do wniosku, że człowiek jest zbędny. Wystarczy je zaprogramować na samowystarczalność i dopisać do programu np zniszczenie ludzkości.

>Teraz maszyny nas "potrzebują" do istnienia. W przyszłości niekoniecznie. Linie produkcyjne są często samodzielne i podpięte do internetu. Są roboty wykonujące pewne prace samodzielnie.
>Może być tak, że kiedyś one się ze sobą dogadają i dojdą do wniosku, że człowiek jest zbędny. Wystarczy je zaprogramować na samowystarczalność i dopisać do programu np zniszczenie ludzkości.

Maszyny nie mają emocji, nie czują sensu ani pragnień, robią to co im każemy i szczerze wątpię żeby kiedykolwiek to się zmieniło. Oczywiście możemy zaprogramować je tak żeby niszczyły i zabijały, ale to wciąż będzie ludzka wola i ludzkie działanie.

Jest jednak inna ciekawa kwestia- internet. On swoim działaniem w pewnym sensie przypomina ludzki mózg, ale czy internet można w ogóle nazwać maszyną? Czy jest możliwe żeby kiedyś uzyskał coś jak nasza świadomość? Gdyby tak się stało to byłby to chyba realny Skynet i prawdziwa apokalipsa, bo wiedziałby o nas wszystko, a nawet więcej... Nawet jak nie chciałby nas zabić, to pewnie nie pozwoliłby już z siebie korzystać

>Jak będzie wyglądało życie ludzi po tej dacie?

O ile już nie jest po niej. Tak czy owak nikt niczego nie zauważy.

>Czy w świecie superinteligentnych komputerów nastąpi ewolucja i negatywna selekcja
>podobnie jak w świecie żywym? Czy maszyny zdolne do samodzielnego pozyskiwania surowców,
>samodzielnego naprawiania, samouczenia i wymyślania nowych maszyn będą się rozwijac tak samo jak
>życie biologiczne?
>
Dlaczego miałyby ewoluować? Ewolucja to mało inteligentne rozwiazanie.

Może "Teoria wszystkiego" nie czeka już na swojego Einsteina XXI wieku ,tylko na bardzo odległego pociotka Atari 65XE.. Dobrze by było gdybyśmy przynajmniej byli w stanie pojąć ową teorie jeśli już nam ją wyłuszczy .

"Ostateczne Pytanie dotyczące Życia, Wszechświata i Całej Reszty) zostało zadane przez wybitnie inteligentne istoty z innego wymiaru (znane ludziom jako Myszy) wysoce wyrafinowanemu komputerowi, skonstruowanemu wyłącznie na tę okazję: Deep Thought (Głęboka Myśl). Po siedmiu i pół milionach lat skomplikowanych obliczeń Deep Thought udzielił odpowiedzi, dotyczącej Życia, Wszechświata i Całej Reszty.

Brzmiała ona 42."

Czy maszyny zdolne do samodzielnego pozyskiwania surowców,
>samodzielnego naprawiania, samouczenia i wymyślania nowych maszyn będą się rozwijac tak samo jak
>życie biologiczne?

Tak samo tzn. w tym samym kierunku czy na tych samych zasadach?
Masz na myśli ewolucję maszyn na skutek przypadkowych mutacji i doboru naturalnego?

---

"Religion is the opiate of the masses -
- and we all know you should never give drugs to kids"

>Tak samo tzn. w tym samym kierunku czy na tych samych zasadach?

Chodzi chyba o kierunek , po co zdawać się na "losowe mutacje" skoro znamy mniej więcej cel i względem niego możemy plastycznie dopasowywać hardware i software ?

>Chodzi chyba o kierunek , po co zdawać się na "losowe mutacje" skoro znamy mniej więcej cel i względem niego możemy plastycznie dopasowywać hardware i software ?

Celem może być to, co programista napisze. Np programiści islamscy wpiszą krzewienie Islamu, a amerykańscy wprowadzanie demokracji. Komputery inteligentniejsze od ludzkości będą dalsza wojnę prowadziły same. Będziemy jej widzami i ofiarami.

>Komputery inteligentniejsze od ludzkości będą dalsza wojnę prowadziły same

Naprawde inteligentniejsze ,będą raczej robiły to ,na co mają ochotę .

>Chodzi chyba o kierunek , po co zdawać się na "losowe mutacje" skoro znamy mniej więcej cel i względem niego możemy plastycznie dopasowywać hardware i software ?

Jak człowiek ma narzucić jakiś cel samomodyfikującej się, inteligentniejszej od całej ludzkości maszynie?

Myślę, że implikuje to powstanie ewolucji podobnej do biologicznej. Jeżeli w pokojowym świecie komputerów służących człowiekowi, chociaż jeden z superkomputerów wpadnie na pomysł zrobienia nowego, lepszego superkomputera, a on ten "gen" czy "mem" poprzez powielenie pomysłu, przekaże dalej, to mamy w tym momencie początek komputerowej ewolucji.

Można też pierwsze superinteligencje zaprogramować tak, aby były nakierunkowane na mechanizmy ewolucyjne. W ten sposób będą same dążyć do produkowania doskonalszych pokoleń komputerów i konkurować z innymi komputerami oraz ludźmi o te same zasoby.

Inny programista może oczywiście zaprogramować swoje komputery na tworzenie pięknej muzyki, ale w sytuacji konkurowania o zasoby jego komputery będą rozebrane na części przeznaczone do maszyn tworzących nowe komputery lub pracujących pod ich kontrolą dronów bojowych.

>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny,

Osobiście uważam, że nie mamy ciągle pomysłu na stworzenie superinteligencji od zera. Szybciej prawdopodobnie uda się zbudować emulatory mózgu (lub nawet poszczególnych struktur mózgu), zatem rewolucja int-elektroniczna nie będzie raczej epoką maszyn jako takich co trans-ludzi i post-ludzi, a zatem bytów powiązanych z nami, czy wręcz będących naszym rozwinięciem (naszym nie w znaczeniu ludzkości, ale konkretnie mnie czy ciebie).

Co do tranzystorów jednoatomowych jako kresu miniaturyzacji mam zastrzeżenie: że nie mamy obecnie pomysłu na zbudowanie jednostek logicznym mniejszych niż atom, nie znaczy, że takich jednostek zrobić się nie da.

---

www.tokfm.(*)grodzka/2012/02/premier_klamie

>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w Matrixie?

Jeśli superinteligentne maszyny będą na prawdę superinteligentne to podporządkują nas sobie tak jak my podporządkowaliśmy sobie psy, koty i konie. Nie pamiętam żeby ludzie musieli walczyć o dominację z końmi. Psy są z takiej dominacji nawet zadowolone. My też będziemy.

>Jeśli superinteligentne maszyny będą na prawdę superinteligentne to podporządkują nas sobie tak jak my podporządkowaliśmy sobie psy, koty i konie. Nie pamiętam żeby ludzie musieli walczyć o dominację z końmi. Psy są z takiej dominacji nawet zadowolone. My też będziemy.

Konie i psy były nam do czegoś potrzebne.
Maszyny mogą nas potraktować tak jak my traktujemy np. szczury.
Edit: Albo jak stonkę, bo szczury też się czasem przydają.

Sama sztuczna inteligencja nie powinna być groźna.
Problem pojawiłby się, gdyby maszyny miały ludzkie instynkty i emocje.
Takie instynkty mogą pojawić się w wyniku wirusa komputerowego.
Trudno nawet przewidzieć, jaką przybiorą formę.

Wczesniejsze przewidywania dotyczace powstania AI (sztucznej inteligencji) nie sprawdziły się. Potrafimy jak narazie symulowac jedynie pewne elementy inteligencji (dialogujące lub dokonujace ekspertyzy maszyny) ale co innego symulacja a co innego prawdziwa inteligencja. Miniaturyzacja to tylko jeden z parametrów problemu, tak jak zdolnośc budowania układów scalonych 3D. Ponadto inteligencja potrzebuje umiejetności pozyskiwania, selekcjonowania, oraz interpretowania informacji. A czy wogóle dokładnie wiemy na czym polega tzw. inteligencja ? Szczególnie ta zbiorowa, wyłaniajaca sie w procesie samoorganizacji ? Osobiście powątpiewam czy pesymistyczne ( lub optymistyczne, zależy od punktu widzenia) przewidywania rewolucji sztucznej inteligencji za te 20-30 lat się sprawdzą.

Ja, jako informatyk, myślę, że wątpię

Po pierwsze, komputery tradycyjne, komputery kwantowe i ludzie, cechują się różnymi zdolnościami. I błędem jest przenoszenie wyobrażeń o tym, jak funkcjonuje jedno, na drugie.

Ludzie są świetni w tym, do czego wyposażyła ich ewolucja. Na przykład w postrzeganiu, rozumieniu, społecznej interakcji. Ale z precyzją u ludzi jest różnie, a przynajmniej z jej wyrażaniem. Zresztą, proste zadanie -- wyraź w centymetrach odległość postrzeganą 'na oko' -- jaki będzie procent błędu?

Komputery (tradycyjne) są świetne w obliczeniach, idealne tam, gdzie wymaga się dokładności. Ale już z rozumieniem 'języka naturalnego', kreatywnym myśleniem, widzeniem przestrzennym jest gorzej, nawet jeśli we wszystkich tych dziedzinach powstawały algorytmy. Często jednak te algorytmy coś 'sztukują' -- np. taki kinect musi sobie podświetlać obserwowaną przestrzeń, by wyliczyć odległość.

Komputery (kwantowe) są świetne w realizowaniu kilku algorytmów, mających specyficzne zastosowanie. Już więc rewolucjonizują kryptografię. Ale tradycyjne algorytmy? Niby się da (można zbudować najmniejsze bramki logiczne, wystarczające do budowy całej informatyki), ale obecne metody sterowania sprawiłyby, że ZX Spectrum wypadło by przy nich jak superkomputer.

Dla każdego z listy: człowieka, komputera (tradycyjnego) i komputera (kwantowego) istnieją zadania, które teraz wykonuje lepiej niż cokolwiek innego. Jak i takie, na których się "wykłada". Za 10-20 lat niewiele się w tym akurat zmieni. "Niewiele" może oznaczać, że parę zawodów odejdzie do lamusa, a parę miejsc pracy (związanych z nowymi zastosowaniami komputerów) powstanie; ale "niewiele" jednocześnie oznacza, że nie wywoła to problemów natury egzystencjalnej.

>problemy możliwe do rozwiązania przez komputer będą rozwiązywane natychmiast.

Problem umysłu to nie jest problem czasu i ilości wykonywania operacji. Już teraz kalkulator obliczy szybciej to i owo, ale z umysłem człowieka nie ma to nic wspólnego poza tym, że jest produktem człowieka.

>Czy grozi nam zdominowanie przez maszyny, jak w Matrixie?

Maszyny inteligentne to nie tylko problem ich inteligencji. Ich produkcja nie zaspokaja tylko naukowo-technicznej wyobraźni. Stoja za nimi pieniądze, firmy, słowem - interesy. Obawiam się bardziej dominacji ludzi, którzy stoją za maszynami, niż samych maszyn.

>Czy maszyny zdolne do samodzielnego pozyskiwania surowców, samodzielnego naprawiania, samouczenia i wymyślania nowych maszyn będą się rozwijac tak samo jak życie biologiczne?

Rzymianie określali niewolników jako mówiące narzędzia(Warron, instrumenti genus vocale). Czyżbyśmy zafundowali sobie kolejną formę niewolnictwa? Czy marzenie o tego rodzaju urządzeniach nie jest przypadkiem wyrazem woli panowania, kontroli, mentalnym powrotem w przeszłość? Czy czeka nas powstanie Cyberspartakusa?

---

Okres ważności moich postów kończy się z chwilą ich opublikowania.

>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w Matrixie?

Chociaż jeden Kaczyński będzie mógł powiedzieć, że mu się Wizje sprawdziły .

---

Kiedy się uśmiecham, boli mnie twarz. (dr Frank-N-Furter)

>Rozwój komputerów przebiega zgodnie z prawem Moore'a i wkrótce osiągnie kres.
Nie, to prawo Moore'a "przebiega" zgodnie z rozwojem komputerów, a dokładniej wzrostu mocy obliczeniowej dostępnej za określoną sumę pieniędzy (zwykle $1000). Czyli nie jest to żadne prawo w znaczeniu fizycznym, a jedynie uogólnienie przeszłych obserwacji i ewentualnie narzędzie do predykcji przyszłych.

> Powstanie superinteligencja, czyli sztuczna inteligencja o możliwościach przewyższających umysł człowieka
>podobnie jak ten przewyższa umysł zwierząt. Niewykluczone, że będzie miała też samoświadomość.
>Moment, w którym to nastąpi nazywa się "techniczną osobliwością".
To tylko jedna z definicji osobliwości, w użyciu są zazwyczaj trzy.

Ogólnie polecam przeczytanie całej tej strony, bo zasadniczo pleciecie głupotki. Zabawne jest zwłaszcza to porównanie do psów czy koni udomowionych przez człowieka, podczas gdy bardziej właściwą perspektywą byłaby raczej ta mrówki lub bakterii.

>Nie, to prawo Moore'a "przebiega" zgodnie z rozwojem komputerów, a dokładniej wzrostu mocy obliczeniowej dostępnej za określoną sumę pieniędzy (zwykle $1000). Czyli nie jest to żadne prawo w znaczeniu fizycznym, a jedynie uogólnienie przeszłych obserwacji i ewentualnie narzędzie do predykcji przyszłych.

To oczywiste. Z tym że pozwala nam to przyjmować, że przez jakiś czas ten trend się utrzyma i na tej podstawie szacować prawdopodobieństwo wystąpienia kolejnych etapów rozwoju w danym czasie.

>To tylko jedna z definicji osobliwości, w użyciu są zazwyczaj trzy.

Rewelacyjna stronka. Dzięki!

>Jak będzie wyglądało życie ludzi po tej dacie?
Jak w "Legendach Diuny"...
Naprawdę sądzisz, że nastąpi taka apokalipsa? Nie wydaje mi się. Za 50 lat będzie tak samo, jak teraz, tylko smartfony zostaną wyposażone w funkcję podawania kawy. To taki skrót myślowy - samoświadoma sztuczna inteligencja, zdolna przejąć od człowieka rządy nad światem, to sf; sądzę, że skończy się na coraz to nowych ulepszeniach i komplikacjach istniejących urządzeń i wymyślaniu nowych. Ja bym na przykład nie miała nic przeciwko urządzeniu, które pozdejmuje z półki wszystkie ceramiczne koty, odkurzy je, a następnie ustawi z powrotem. Na razie muszę to robić sama i żadna inteligencja mi w tym nie pomoże. Jedyne, czego się obawiam to to, że przestaną istnieć zwyczajne sklepy, księgarnie i banki, bo wszystko pójdzie w internet. Ale póki co nawet to nie grozi.

>Jak będzie wyglądało życie ludzi po tej dacie?
Hmmmm...

---

Każdy ma prawo do własnego zdania, ale nie do własnych faktów.

>Rozwój komputerów przebiega zgodnie z prawem Moore'a i wkrótce osiągnie kres. Powstanie superinteligencja, czyli sztuczna inteligencja o możliwościach przewyższających umysł człowieka podobnie jak ten przewyższa umysł zwierząt. Niewykluczone, że będzie miała też samoświadomość.

Prawo Moore'a nic nie mówi o inteligencji komputerów, a jedynie o wzroście liczby układów scalonych w mikroprocesorach i okresie w jakim ta liczba się podwaja.

>Moment, w którym to nastąpi nazywa się "techniczną osobliwością". Wiele wskazuje na to, że może to
>nastąpić w okresie 2030-2050. Będzie to sytuacja, kiedy żaden człowiek nie dorówna sztucznej inteligencji, a problemy możliwe do rozwiązania przez komputer będą rozwiązywane natychmiast.

Bardzo wątpliwe. Obecnie tzw. sztuczna inteligencja dopiero zaczyna raczkować, a nasz mózg to niezwykle potężne narzędzie, które ewoluowało miliony lat i ma prawie nieskończone możliwości. To, że komputery będą mogły prawie natychmiast obliczać za pomocą jakiś programów czy algorytmów dowolne działania to jeszcze nie znaczy o nadludzkiej inteligencji.

>Być może od tej daty będziemy liczyć lata nowej ery, w której człowiek przestał być najbardziej inteligentnym stworzeniem na Ziemi?

Wątpię.

>Przesłanki: istnieją już tranzystory jednoatomowe (mniejszych nie będzie), zdolne do wykonywania algorytmów kwantowych komputery kwantowe oraz dosłownie od kilku miesięcy prototyp pamięci kwantowej, powstaje ośrodek badawczy gdzie budowany jest symulator mózgu.

Nawet nie wiemy do końca jak mózg funkcjonuje, a co dopiero byśmy mieli budować jakiś sztuczny odpowiednik!

>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w Matrixie? Czy w świecie superinteligentnych komputerów nastąpi ewolucja i negatywna selekcja podobnie jak w świecie żywym? Czy maszyny zdolne do samodzielnego pozyskiwania surowców, samodzielnego naprawiania, samouczenia i wymyślania nowych maszyn będą się rozwijać tak samo jak życie biologiczne?

Nie, dominacja maszyn to tylko fantazje reżyserów filmowych. Maszyny, mimo dużej inteligencji będą tak jak współcześnie zaprojektowane do określonych funkcji, które będą wykonywać. Nie będą tak uniwersalne jak człowiek. Do ewolucji potrzebna jest ogromna zmienność właściwa jedynie organizmom żywym i możliwa do osiągnięcia jedynie dzięki DNA i procesom mutacji. Maszyny mogą, a raczej być może będą produkować co najwyżej wierne kopie samych siebie. Rozwój naśladujący życie z jego wszystkimi cechami i zadziwiającą zmiennością i różnorodnością jest niemożliwy. Poza tym człowiek produkuje maszyny w ściśle określonym celu, zaprojektowane do pewnych zadań, na pewno nie do tego, żeby zawładnęły światem.

A tak,tak -"Bo nie ma postępów w historii wiedzy.Jest jedynie ciągła i wzniosła rekapitulacja..."

Czyli nie 0 -1 operacje, lecz wykonywanie ich wiele jednocześnie, co pozwala na zwiększenie dokonywania prób i błędów.

Komputer kwantowy - może wykorzystywać wszystko, co zachowuje się w sposób kwantowy, czyli elektrony lub atomy.

>Być może od tej daty będziemy liczyć lata nowej ery, w której człowiek przestał być najbardziej
>inteligentnym stworzeniem na Ziemi?

Zakładasz rozdzielność człowieka i komputera, a w praktyce to te komputery coraz bardziej się do ludzi przybliżają, ostatnio z biurek wskoczyły do kieszeni i towarzyszą nam 24/7.

W przyszłości granice między ludźmi a maszynami zaczną się rozmywać i pytanie nie będzie o to kto jest najinteligentniejszy, ale o to kim jest najbardziej inteligentne stworzenie.

>Jak będzie wyglądało życie ludzi po tej dacie? Czy grozi nam zdominowanie przez maszyny, jak w
>Matrixie? Czy w świecie superinteligentnych komputerów nastąpi ewolucja i negatywna selekcja
>podobnie jak w świecie żywym? Czy maszyny zdolne do samodzielnego pozyskiwania surowców,
>samodzielnego naprawiania, samouczenia i wymyślania nowych maszyn będą się rozwijac tak samo jak
>życie biologiczne?
>
Nie będziemy więc naczelnymi, a najśmieszniejsze jest w tym wszystkim to, że jeśli geneza powstania człowieka jest do tego analogiczna to bóg, czy inne stwory, który nas stworzyły miały niższy iloraz. Pewnie zostaliśmy ulepieni z gliny-na tyle rozumu miał nasz stwórca.

Szanowni Państwo. Jestem tu nowy, więc pozwolę się przedstawić jako entuzjastę tematyki badań nad zjawiskiem umysłu, świadomości, a także Sztucznej Inteligencji (SI). Lata mijają, a wśród wielu teoretyków SI zarówno z dyplomem, jak i bez ciągle dominuje pogląd, że ludzki umysł jest pewnego rodzaju skomplikowanym programem wykonywanym przez naszą jednostkę obliczeniową, czyli mózg. Teoria ta zwana jest obliczeniową teorią umysłu (z ang. Computationalism). Zakłada ona (w skrócie):
1. Umysł jest wynikiem przetwarzania informacji przez mózg.
2. Informacja funkcjonuje niezależnie od narzędzia obliczeniowego.
3. Każdy system potrafiący przetwarzać informacje przy odpowiednim skomplikowaniu jest zdolny do wytworzenia umysłu.
Ta teoria razem z teorią funkcjonalizmu (stany umysłowe jak pragnienia, przekonania są wynikiem zdarzeń fizycznych w mózgu) doprowadziła rozważania o SI do wniosku, że skoro umysł funkcjonuje wyłącznie jako zewnętrzna manifestacja wewnętrznych procesów mózgowych (będących w zasadzie operacjami logicznymi) jest jedynie kwestią czasu kiedy powstanie wystarczająco wydajny układ logiczny będący w stanie emulować ludzkie stany umysłowe. Stąd powstał Test Turinga mający określić czy dana maszyna aspirująca do miana SI spełnia wymóg dostatecznej emulacji umysłu na tyle, żeby postronny obserwator nie był w stanie odróżnić jej od człowieka.
W tym miejscu pojawia się John R Searle i jego koncepcja "Chińskiego Pokoju". Z uwagi na ograniczone miejsce wstawiam link do wikipedii zawierający obszerną bibliografię (część wydana została po polsku) oraz krótkie omówienie eksperymentu Searle'a wraz z krytyką.
en.wikipedia.org/wiki/Chinese_room
Na potrzeby tej dyskusji powiem tylko, że eksperyment logiczny Searle'a dowodzi, że:
1. Umysł nie może istnieć bez świadomości.
2. Świadomość nie może istnieć bez pojęcia znaczenia.
3. Nie istnieje system logiczny będący w stanie za pomocą operacji syntaktycznych wykształcić semantykę (znaczenie przetwarzanych symboli logicznych).
4. Nigdy nie powstanie SI, które przejdzie Test Turinga.
Naturalnie powstało wiele głosów krytycznych od czasu ogłoszenia "Chińskiego Pokoju" w 1980 roku, ale jak do tej pory nikomu nie udało się obalić jego dowodu.

> ... krótkie omówienie eksperymentu Searle'a wraz z krytyką. en.wikipedia.org/wiki/Chinese_room
> ... jak do tej pory nikomu nie udało się obalić jego dowodu.

Dziwne, że tak sądzisz, bo po przeczytaniu pracy Searle'a od razu dla mnie było oczywiste, gdzie zrobił błąd: w pewnym sensie Chiński Pokój będzie miał świadomość (choć niezmiernie powolną) oraz zrozumienie języka chińskiego, a że sam Searl nie będzie świadom tego czego cały Chiński Pokój jest świadom, to nic dziwnego, bo podobnie pojedynczy neuron nie ma świadomości a cały mózg ma.

>> ... krótkie omówienie eksperymentu Searle'a wraz z krytyką. en.wikipedia.org/wiki/Chinese_room
>> ... jak do tej pory nikomu nie udało się obalić jego dowodu.
>Dziwne, że tak sądzisz, bo po przeczytaniu pracy Searle'a od razu dla mnie było oczywiste, gdzie zrobił błąd: w pewnym sensie Chiński Pokój będzie miał świadomość (choć niezmiernie powolną) oraz zrozumienie języka chińskiego, a że sam Searl nie będzie świadom tego czego cały Chiński Pokój jest świadom, to nic dziwnego, bo podobnie pojedynczy neuron nie ma świadomości a cały mózg ma.

Witam. Słuszna uwaga. Jeśli dobrze Cię rozumiem twój argument jest następujący: Searle jako "wykonawca" instrukcji jest tylko elementem całego systemu, który jako całość, nie tylko zna język chiński ale także posiada świadomość umożliwiającą zaprojektowanie instrukcji "prowadzenia sensownej rozmowy". Searle służy jako "manifestacja" świadomości w kontakcie na zewnątrz i on sam mimo, że nie rozumie czynności, którą wykonuje, jest "przekaźnikiem" świadomości całego systemu (w tym przypadku Chińskiego Pokoju).
Ten argument jest znany pod nazwą "argument systemowy". Searle tak na niego odpowiada:
Wyobraźmy sobie, że Searle nauczył się całej instrukcji na pamięć. Wszystkie zasady jak łączyć symbole znajdują się teraz w jego głowie. Nie potrzebuje także już kartki, ołówka i innych rzeczy. Cały Chiński Pokój "składa" się wyłącznie z jednego elementu - Searle'a. Searle nadal nie zna chińskiego i nie rozumie czynności, które wykonuje. Jeśli Searle nie rozumie chińskiego, zatem system nie rozumie chińskiego, nawet jeśli "na zewnątrz" Searle prowadzi sensowną konwersacje. W odpowiedzi krytycy argumentują, że Searle "ucząc" się instrukcji na pamięć posiada teraz niejako dwa umysły, z czego ten drugi "wirtualnie" rozumie język chiński. Searle odpowiada, że taka "wirtualizacja" jest w najlepszym razie jedynie symulacją umysłu i jako taka nie może być traktowana jako "prawdziwy" umysł. Nikt nie spodziewa się zmoknąć od wirtualnej symulacji burzy (Searle, John (1980), "Minds, Brains and Programs", Behavioral and Brain Sciences 3 (3): 417-457, doi:10.1017/S0140525X00005756).

> Ten argument jest znany pod nazwą "argument systemowy".

Tak, o to mi chodzi. Znając metodologię AI, jest to argument oczywisty.

> Searle tak na niego odpowiada: Wyobraźmy sobie, że Searle nauczył się całej instrukcji na pamięć. Wszystkie zasady jak łączyć symbole znajdują się teraz w jego głowie. Nie potrzebuje także już kartki, ołówka i innych rzeczy.

To jest raczej niemożliwe. Mówimy tu o maszynie Turinga, która dysponuje dowolnie długim programem. Aby program ten mógł symulować choćby prymitywną świadomość (nawet akceptując jej skrajną powolność), ilość instrukcji jakie Searle musiałby spamiętać znacznie przekroczyłaby zdolności mnemotechniczne jego mózgu.

> Cały Chiński Pokój "składa" się wyłącznie z jednego elementu - Searle'a. Searle nadal nie zna chińskiego i nie rozumie czynności, które wykonuje. Jeśli Searle nie rozumie chińskiego, zatem system nie rozumie chińskiego, nawet jeśli "na zewnątrz" Searle prowadzi sensowną konwersacje. W odpowiedzi krytycy argumentują, że Searle "ucząc" się instrukcji na pamięć posiada teraz niejako dwa umysły, z czego ten drugi "wirtualnie" rozumie język chiński.

No tak by było, gdyby Searle miał mózg - tak na oko - rozmiarów naszej planety.

> Searle odpowiada, że taka "wirtualizacja" jest w najlepszym razie jedynie symulacją umysłu i jako taka nie może być traktowana jako "prawdziwy" umysł.

A czemu nie? Jak można wykluczyć, że w takim supermózgu Searle'a nie byłyby dwie świadomości: jedna normalna ale nierozumiejąca chińskiego, a druga niezwykle ociężała ale rozumiejąca ten język?

> Nikt nie spodziewa się zmoknąć od wirtualnej symulacji burzy (Searle)

Z braku argumentów Searle zrobił unik w nieadekwatną analogię. No bo czym miałby być analog zmoknięcia w przypadku świadomości? Jaka istotna cecha świadomości jest niemożliwa do zaprogramowania? A jeżeli nie ma takiej, to dlaczego symulowana świadomość miałaby być nieświadoma? Tylko dlatego, że Searle tak chce? O ile mi wiadomo, nigdy nie podał lepszego argumentu.

>To jest raczej niemożliwe. Mówimy tu o maszynie Turinga, która dysponuje dowolnie długim programem. Aby program ten mógł symulować choćby prymitywną świadomość (nawet akceptując jej skrajną powolność), ilość instrukcji jakie Searle musiałby spamiętać znacznie przekroczyłaby zdolności mnemotechniczne jego mózgu.
Proszę pamiętać, że rozmawiamy o pewnym modelu teoretycznym. Skomplikowanie czy długość instrukcji jest bez znaczenia dla istoty eksperymentu.
>> Searle odpowiada, że taka "wirtualizacja" jest w najlepszym razie jedynie symulacją umysłu i jako taka nie może być traktowana jako "prawdziwy" umysł.
>A czemu nie? Jak można wykluczyć, że w takim supermózgu Searle'a nie byłyby dwie świadomości: jedna normalna ale nierozumiejąca chińskiego, a druga niezwykle ociężała ale rozumiejąca ten język?
Proszę zauważyć, że w jednym i w drugim przypadku nie zachodzi rozumienie chińskiego, ani treści rozmowy. Instrukcja w głowie Searle'a nie staje się świadoma dlatego, że zakładamy iż jej twórca "musiał" być świadomy i znać język chiński. "Wirtualizacja" zdaje się jednak sugerować, że system "rozciąga" się również na twórcę instrukcji, stąd "drugi umysł" Searle'a jest świadomy. Ale przecież świadomość "twórcy" nie przenosi się na Searle'a i nie powoduje u niego nagłego zrozumienia. Zwolennicy "wirtualnego systemu" forsują pogląd, że dzięki "wirtualności" poszczególnych elementów można dowolnie rozszeżać zakres pojęciowy systemu, aż do momentu w którym znajdziemy element, który jest świadomy. W ten sposób uzyskujemy "świadomość" całego systemu. Argument ten zawiera w sobie błąd przesunięcia ontologicznego, który utożsamia cechy A z B wyłącznie na podstawie ich relacji przyczynowo-skutkowej lub innej. To jak powiedzieć: Ja stworzyłem ten toster. Ja jestem świadomy. Toster jest świadomy.
>> Nikt nie spodziewa się zmoknąć od wirtualnej symulacji burzy (Searle)
>Z braku argumentów Searle zrobił unik w nieadekwatną analogię. No bo czym miałby być analog zmoknięcia w przypadku świadomości? Jaka istotna cecha świadomości jest niemożliwa do zaprogramowania? A jeżeli nie ma takiej, to dlaczego symulowana świadomość miałaby być nieświadoma? Tylko dlatego, że Searle tak chce? O ile mi wiadomo, nigdy nie podał lepszego argumentu.
Wydaje mi się, że Searle próbuje wykazać, że model zjawiska nie jest tożsamy z samym zjawiskiem czyli np. wizualizacja fal mózgowych na EEG nie powoduje umysłu.
Na koniec wspomnę o nieco innym podejściu do tematu SI, mianowicie pogląd twierdzący, że świadomość poszczególnego systemu, ani "rozumienie" pojęć nie jest niezbędne do funkcjonowania SI w jakimś zawężonym zakresie. Część naukowców twierdzi, że w "praktycznym" zastosowaniu algorytmów SI można się obejść bez komplikacji całego systemu niepotrzebną świadomością. Pogląd ten widoczny jest w zastosowaniu np. mechanizów wyszukiwarki Google, asystenta Siri lub różnego sortu progamów tłumaczących języki. W epoce "big data" jak zaczęto nazywać nasze czasy, rozumienie pojęcia zastępuje się statystyczną "trafnością" jego wyszukania na liście wyników. Gdy dostęp do niewyobrażalnej ilości danych "learningowych" jest tak prosty i łatwy dla odpowiedniego systemu, przestaje być istotne czy system "rozumie" o co go pytamy dla "adekwatności" jego odpowiedzi. Pozdrawiam.

> Proszę pamiętać, że rozmawiamy o pewnym modelu teoretycznym. Skomplikowanie czy długość instrukcji jest bez znaczenia dla istoty eksperymentu.

Ma znaczenie, bo na końcu swojego wywodu Searle odwołuje się do intuicji i do "oczywistości". Oczywiście, jak wybrał przykład praktycznie nierealizowalny, to praktycznie można powiedzieć, że inteligencja Chińskiego Pokoju jest zbyt powolna aby można ją inteligencją nazwać. Searle wcale nie wykazał, że teoretycznie ten pokój nie może być inteligentny - jedynie, że inteligencja ta byłaby odległa od nam znanej.

> Proszę zauważyć, że w jednym i w drugim przypadku nie zachodzi rozumienie chińskiego, ani treści rozmowy.

Nieprawda. Choć w pierwszym przypadku Searle rzeczywiście nie rozumie chińskiego, to w drugim przypadku Searle wcale nie wykazał, że system go nie rozumie. Wręcz na odwrót - Chiński Pokój bezbłędnie tłumaczy z chińskiego na angielski i na odwrót, więc nie widzę powodów aby nie uznać, że istnieje w nim zrozumienie obu tych języków.

> Instrukcja w głowie Searle'a nie staje się świadoma dlatego, że zakładamy iż jej twórca "musiał" być świadomy i znać język chiński.

Chyba nikt z pionierów SI nie twierdzi, że świadomość programisty jest tu do czegoś potrzebna. Bo na przykład, nieświadoma ewolucja naturalna "zaprogramowała" naszą świadomość.

> Zwolennicy "wirtualnego systemu" forsują pogląd, że dzięki "wirtualności" poszczególnych elementów można dowolnie rozszeżać zakres pojęciowy systemu, aż do momentu w którym znajdziemy element, który jest świadomy.

To jest hipoteza robocza programu SI. Searle chciał ją obalić, ale zrobił głupią pomyłkę w swoim dowodzie: wydawało mu się, że to on ma rozumieć chiński a nie cały Pokój. Po wytknięciu tej pomyłki nie chciał przyznać się do błędu tylko zarzucał SI zaledwie symulowanie inteligencji a nie jej konstruowanie. Choć nie chciał się do tego przyznać, Searle przyjął stanowisko dualisty, który uważa, że istnieje jakaś pozamaterialna, duchowa egzystencja świadomości, a więc nawet najlepszy program komputerowy nie jest w stanie jej odtworzyć. A nie chciał się przyznać, bo dobrze wiedział, że takie stanowisko usuwa brzytwa Ockhama.

> Wydaje mi się, że Searle próbuje wykazać, że model zjawiska nie jest tożsamy z samym zjawiskiem czyli np. wizualizacja fal mózgowych na EEG nie powoduje umysłu.

Potrzeba odróżniania modelu od systemu modelowanego jest oczywista. Ale chodzi właśnie o to, że hipotezą SI jest możliwość takiego zaprogramowania inteligencji, że będzie ona nieodróżnialna od "prawdziwej" inteligencji. W tym wypadku konstruowany jest sam system a nie tylko jego model.

> Na koniec wspomnę o nieco innym podejściu do tematu SI, mianowicie pogląd twierdzący, że świadomość poszczególnego systemu, ani "rozumienie" pojęć nie jest niezbędne do funkcjonowania SI w jakimś zawężonym zakresie. Część naukowców twierdzi, że w "praktycznym" zastosowaniu algorytmów SI można się obejść bez komplikacji całego systemu niepotrzebną świadomością.

Tak, oczywiście, inteligentne systemy do wąskich zakresów zastosowań mogą śmiało się obyć bez świadomomości. Zresztą istotą świadomości zdaje się być modelowanie całego otoczenia, w którym świadomy system się znajduje. Komputerowi tłumaczącemu z jednego języka na drugi, raczej jest zbędne modelowanie krzesła, które znajduje się akurat w tym samym pokoju co ten komputer. Choć znajomość do czego krzesło służy może być bardzo przydatna w tłumaczeniu języków.

>Searle wcale nie wykazał, że teoretycznie ten pokój nie może być inteligentny - jedynie, że inteligencja ta byłaby odległa od nam znanej.
To bardzo ciekawa interpretacja. Może powstanie o tym film kiedyś?
>> Proszę zauważyć, że w jednym i w drugim przypadku nie zachodzi rozumienie chińskiego, ani treści rozmowy.
>Nieprawda. Choć w pierwszym przypadku Searle rzeczywiście nie rozumie chińskiego, to w drugim przypadku Searle wcale nie wykazał, że system go nie rozumie. Wręcz na odwrót - Chiński Pokój bezbłędnie tłumaczy z chińskiego na angielski i na odwrót, więc nie widzę powodów aby nie uznać, że istnieje w nim zrozumienie obu tych języków.
Myślę, że dalsze spieranie się nad tym konkretnym argumentem nie ma sensu. Pan twierdzi, że obala on argument Chińskiego Pokoju, ja niekoniecznie.
>> Zwolennicy "wirtualnego systemu" forsują pogląd, że dzięki "wirtualności" poszczególnych elementów można dowolnie rozszerzać zakres pojęciowy systemu, aż do momentu w którym znajdziemy element, który jest świadomy.
>To jest hipoteza robocza programu SI. Searle chciał ją obalić, ale zrobił głupią pomyłkę w swoim dowodzie: wydawało mu się, że to on ma rozumieć chiński a nie cały Pokój. Po wytknięciu tej pomyłki nie chciał przyznać się do błędu tylko zarzucał SI zaledwie symulowanie inteligencji a nie jej konstruowanie. Choć nie chciał się do tego przyznać, Searle przyjął stanowisko dualisty, który uważa, że istnieje jakaś pozamaterialna, duchowa egzystencja świadomości, a więc nawet najlepszy program komputerowy nie jest w stanie jej odtworzyć. A nie chciał się przyznać, bo dobrze wiedział, że takie stanowisko usuwa brzytwa Ockhama.
Znowu mam wrażenie, że rozmawiamy o dwóch różnych Searle'ach.. Stanowisko Searle'a, (które ja czytałem) sprowadza się do poglądu biegunowo odmiennego od wszelkiego dualizmu psycho-fizycznego. Zarzuca on wręcz zwolennikom "silnej SI" opieranie całej dyskusji o inteligencji, świadomości itd na stanowisku dualistów - umysł jest niezależny od ciała, a skoro tak, można go "wytworzyć" na dowolnym medium [ J. Searle,Umysł na nowo odkryty, tłum. T. Baszniak, Warszawa 1999 s. 83] Searle natomiast (jak sam się zresztą nazywa) jest wyznawcą poglądu "naturalizmu biologicznego". Pogląd ten (w obrębie badań nad umysłem) w zasadzie sprowadza się do twierdzenia, że umysł jest własnością biologiczną mózgu i nie może być przedmiotem odrębnej analizy, modelu czy innego rozważania jako osobna substancja ontologiczna funkcjonująca niezależnie od materii, która ją powoduje [J. Searle,Umysł na nowo odkryty, tłum. T. Baszniak, Warszawa 1999 s.129]. Tak jak trawienie lub fotosynteza, a jednak nie zastanawiamy się czy trawienie może zachodzić niezależnie od żołądka, ponieważ jest "programem" przez żołądek "wykonywanym", więc dowolny system wykonujący "program trawienia" będzie trawił. Jesteśmy w stanie stworzyć model trawienia zbudowany np. rurek, pojemników na ciecz i waty, ale nie będzie to "właściwe" trawienie, prawda? I nie wynika ono z odpowiedniego skomplikowania programu trawienia czy stopnia skomplikowania systemu rurek, pojemników itp. Pozdrawiam

> Stanowisko Searle'a, (które ja czytałem) sprowadza się do poglądu biegunowo odmiennego od wszelkiego dualizmu psycho-fizycznego. Zarzuca on wręcz zwolennikom "silnej SI" opieranie całej dyskusji o inteligencji, świadomości itd na stanowisku dualistów - umysł jest niezależny od ciała, a skoro tak, można go "wytworzyć" na dowolnym medium.

W tej dyskusji obie strony zarzucają sobie nawzajem dualizm, co wśród filozofów jest łagodną formą obelgi.

> Searle natomiast (jak sam się zresztą nazywa) jest wyznawcą poglądu "naturalizmu biologicznego". Pogląd ten (w obrębie badań nad umysłem) w zasadzie sprowadza się do twierdzenia, że umysł jest własnością biologiczną mózgu i nie może być przedmiotem odrębnej analizy, modelu czy innego rozważania jako osobna substancja ontologiczna funkcjonująca niezależnie od materii, która ją powoduje.

Program badań SI stawia hipotezę o braku takiej "osobnej substancji ontologicznej" i chce sprawdzić w praktyce jak daleko może się posunąć w oparciu o tę hipotezę. A posunął się już dość daleko: programy komputerowe od kilku lat rutynowo wygrywają z mistrzami szachowymi, a dwa lata temu komputer wygrał teleturniej wymagający zrozumienia języka naturalnego. pl.wikipedia.org/wiki/Watson_(superkomputer)

Ponadto "osobna substancja ontologiczna" brzmi podejrzanie jak "dusza". Pomimo setek lat usilnych poszukiwań nie tylko duszy w człowieku nie znaleziono, ale nawet nie udało się sformułować rozsądnej koncepcji jak ewentualna dusza mogłaby oddziaływać z układem nerwowym i co takie oddziaływanie mogłoby dać ponad to, co układ nerwowy i tak już robi. Jeżeli więc Searle widzi w mózgu "osobną substancję ontologiczną", to powienien podać konkretne fakty świadczące o jej istnieniu. Niestety, tego nie robi.

> Tak jak trawienie lub fotosynteza, a jednak nie zastanawiamy się czy trawienie może zachodzić niezależnie od żołądka, ponieważ jest "programem" przez żołądek "wykonywanym", więc dowolny system wykonujący "program trawienia" będzie trawił.

Trawienie nie jest dobrą analogią, bo trawienie jest procesem przetwarzania konkretnych związków chemicznych. A co przetwarza myślenie? Wyłącznie obiekty informatyczne. A te obiekty mogą być realizowane na różne sposoby. Lepszą analogią byłoby np. znalezienie odpowiedzi na pytanie "która jest teraz godzina?" Może to wskazać zegarek, można zmierzyć wysokość słońca nad horyzontem, można to zrobić "na wyczucie", itd. Czas, będący obiektem informatycznym, może być reprezentowany na wiele sposobów.

>en.wikipedia.org/wiki/Chinese_room
>Na potrzeby tej dyskusji powiem tylko, że eksperyment logiczny Searle'a dowodzi, że:
>1. Umysł nie może istnieć bez świadomości.
>2. Świadomość nie może istnieć bez pojęcia znaczenia.
>3. Nie istnieje system logiczny będący w stanie za pomocą operacji syntaktycznych wykształcić semantykę (znaczenie przetwarzanych symboli logicznych).
>4. Nigdy nie powstanie SI, które przejdzie Test Turinga.
>Naturalnie powstało wiele głosów krytycznych od czasu ogłoszenia "Chińskiego Pokoju" w 1980 roku, ale jak do tej pory nikomu nie udało się obalić jego dowodu.

Kiedyś to czytałem (dość dawno, więc pewnie w innej wersji) i zupełnie odwrotnie to zrozumiałem.

Mianowicie tak, że ta nasza inteligencja, niby wyższa, tj. najwyższa z domniemania, nie ma faktycznie nic poza właśnie tym maszynowym przetwarzaniem symboli - bodźców.

Mówisz że my rozumiemy swój język - a niby na czym miałoby to polegać?

Może na poprawnym rozpoznawaniu, identyfikacji symboli, reprezentowanych jakoś tam fizycznie - dźwięk, obraz, a niekiedy i ruch (gesty)?

A to poprawne rozpoznanie oznacza, że reagujemy wg uzgodnionego schematu - nasza reakcja jest tu przewidywalna.

Dokładnie to samo zrobi dowolny automat: receptory -> przetwarzanie -> efektory.

>Kiedyś to czytałem (dość dawno, więc pewnie w innej wersji) i zupełnie odwrotnie to zrozumiałem.
>Mianowicie tak, że ta nasza inteligencja, niby wyższa, tj. najwyższa z domniemania, nie ma faktycznie nic poza właśnie tym maszynowym przetwarzaniem symboli - bodźców.
Prawdopodobnie chodzi Panu o inteligencję w rozumieniu angielskim, czyli o świadomość-umysł, a nie w zakresie psychologicznym - zdolności uczenia się, rozpoznawania kojarzenia. Przynajmniej w takim rozumieniu Searle przedstawia swój eksperyment. Searle dowodzi, że ludzki umysł nie jest "najwyższy z domniemania" lecz to, że nie jest wynikiem programu, który z kolei jest wykonywany przez mózg, a przez to nie można go powielać na dowolnym systemie przetważającym symbole logiczne. Kluczem eksperymentu jest "znaczenie". W jaki sposób system, jakim rzekomo jest mózg, operujący wyłącznie symbolami syntaktycznymi wytwarza pojęcie znaczenia, czyli semantykę? Zwolennicy, teorii obliczeniowej mózgu, wychodzą z założenia, że wystarczy zwiększyć wydajność obliczeniową danego systemu obliczeniowego do momentu w którym "magicznie", jakby z kapelusza wyskoczy świadomość, umysł, oraz intencjonalność. Skoro mózg jest komputerem i jest świadomy, oznacza to, że dzisiejsze komputery są za mało wydajne. Searle pokazuje, że myślenie o mógu wykonującym jakiś programu umysłu jest fałszywe. W podobnym tonie wypowiada się Roger Penrose w jego książce Nowy umysł cesarza: o komputerach, umyśle i prawach fizyki, PWN 1995. Opierając się na twierdzeniach niezupełności i niesprzeczności Kurta Gödel'a, Penrose wywodzi, że nie da się w ramach systemu logicznego opartego na matematycznym przetwarzaniu symboli, wykreować takiego systemu by ten "rozumiał" matematykę, czyli czegoś więcej niż wykonywania operacji matematycznych.
>Mówisz że my rozumiemy swój język - a niby na czym miałoby to polegać?
>Może na poprawnym rozpoznawaniu, identyfikacji symboli, reprezentowanych jakoś tam fizycznie - dźwięk, obraz, a niekiedy i ruch (gesty)?
>A to poprawne rozpoznanie oznacza, że reagujemy wg uzgodnionego schematu - nasza reakcja jest tu przewidywalna.
>Dokładnie to samo zrobi dowolny automat: receptory -> przetwarzanie -> efektory.
Tu muszę, z żalem się z Panem zgodzić. Sam działam wg takiego schematu. Jak tylko gdzieś zobaczę zimne piwo → muszę je wypić. Pozdrawiam

>>Kiedyś to czytałem (dość dawno, więc pewnie w innej wersji) i zupełnie odwrotnie to zrozumiałem.
>>Mianowicie tak, że ta nasza inteligencja, niby wyższa, tj. najwyższa z domniemania, nie ma faktycznie nic poza właśnie tym maszynowym przetwarzaniem symboli - bodźców.
>Prawdopodobnie chodzi Panu o inteligencję w rozumieniu angielskim, czyli o świadomość-umysł, a nie w zakresie psychologicznym - zdolności uczenia się, rozpoznawania kojarzenia. Przynajmniej w takim rozumieniu Searle przedstawia swój eksperyment. Searle dowodzi, że ludzki umysł nie jest "najwyższy z domniemania" lecz to, że nie jest wynikiem programu, który z kolei jest wykonywany przez mózg, a przez to nie można go powielać na dowolnym systemie przetważającym symbole logiczne. Kluczem eksperymentu jest "znaczenie". W jaki sposób system, jakim rzekomo jest mózg, operujący wyłącznie symbolami syntaktycznymi wytwarza pojęcie znaczenia, czyli semantykę? Zwolennicy, teorii obliczeniowej mózgu, wychodzą z założenia, że wystarczy zwiększyć wydajność obliczeniową danego systemu obliczeniowego do momentu w którym "magicznie", jakby z kapelusza wyskoczy świadomość, umysł, oraz intencjonalność. Skoro mózg jest komputerem i jest świadomy, oznacza to, że dzisiejsze komputery są za mało wydajne. Searle pokazuje, że myślenie o mógu wykonującym jakiś programu umysłu jest fałszywe. W podobnym tonie wypowiada się Roger Penrose w jego książce Nowy umysł cesarza: o komputerach, umyśle i prawach fizyki, PWN 1995. Opierając się na twierdzeniach niezupełności i niesprzeczności Kurta Gödel'a, Penrose wywodzi, że nie da się w ramach systemu logicznego opartego na matematycznym przetwarzaniu symboli, wykreować takiego systemu by ten "rozumiał" matematykę, czyli czegoś więcej niż wykonywania operacji matematycznych.

Nie wiem co ten Searle sobie wymyślił.
Pewnie powiela stare poglądy ze średniowiecza: te o wyższości ducha nad materią.

Twierdzenia Godla miałby praktycznie znaczenie dla bardzo prymitywnych systemów, czyli o małej liczbie symboli, czy raczej generowanych zdań, które można sobie przenumerować w sensownym czasie.

No, a znaczenie symbolu nie ma w tej sprawie znaczenia... zresztą takie coś chyba w ogóle nie istnieje.

Rozumienie symboli to jakaś kolejna iluzja.
My po prostu widzimy dany symbol jakby w sieci - wiele relacji z innymi symbolami i to wszystko.

> Zwolennicy, teorii obliczeniowej mózgu, wychodzą z założenia, że wystarczy zwiększyć wydajność obliczeniową danego systemu obliczeniowego do momentu w którym "magicznie", jakby z kapelusza wyskoczy świadomość, umysł, oraz intencjonalność.

Nie, sama wydajność obliczeniowa nie wystarczy. Wszystkie cechy sztucznego umysłu trzeba zaprogramować, włącznie z intencjonalnością, świadomością i uczuciami. Tudzież chrapkę na zimne piwo.