.
Przegląd od AI

Profesor Andrzej Dragan, fizyk teoretyk z Uniwersytetu Warszawskiego, przedstawia nieszablonowe i często alarmujące spojrzenie na relacje między sztuczną inteligencją (AI) a ludzkim mózgiem. Jego poglądy koncentrują się na różnicach w działaniu, tempie rozwoju AI oraz egzystencjalnym zagrożeniu, jakie niesie ona dla ludzkości.

Oto kluczowe punkty poglądów prof. Dragana na temat AI i mózgu:

AI oblicza, nie myśli: Dragan uważa, że obecne modele AI nie "myślą" w ludzkim rozumieniu, lecz jedynie obliczają, działając na zasadzie dopasowywania wzorców (np. przewidywanie kolejnego słowa). Ich przewaga wynika z ogromnej skali operacji, a nie z faktycznego zrozumienia świata.

Mózg vs AI – przepaść energetyczna: Dragan zwraca uwagę na fundamentalne różnice. Ludzki mózg jest niezwykle energooszczędny (pracuje na mocy ok. 20W) i uczy się na podstawie znikomych danych. Z kolei sztuczna inteligencja jest "krową", która pożera gigantyczne ilości energii i danych, aby osiągnąć poziom inteligencji ośmiolatka.

Koniec ludzkiej supremacji: Fizyk otwarcie stwierdza, że sztuczna inteligencja prześcignie ludzki intelekt i nie potrafi wyobrazić sobie scenariusza, w którym rozwój AI będzie dla nas pomyślny. Uważa, że jesteśmy na drodze do stworzenia superinteligencji, nad którą stracimy kontrolę.

Inteligencja to analogie: Dragan definiuje inteligencję jako umiejętność dostrzegania analogii i abstrakcyjnego myślenia, czego brakuje obecnym systemom, mimo ich wysokiej skuteczności w specyficznych zadaniach.

Brak zrozumienia działania AI: Dragan podkreśla, że jako ludzkość nie rozumiemy, jak dokładnie działają najbardziej zaawansowane modele sztucznej inteligencji, co czyni ich rozwój nieprzewidywalnym.

Umysł jako "cyfrowy": Mimo różnic, Dragan sugeruje, że inteligencja biologiczna i sztuczna mogą mieć wspólne podstawy, a ograniczenia ludzkiego mózgu wynikają jedynie z fizycznych rozmiarów czaszki, co w przypadku AI jest rozwiązywane przez dołożenie sprzętu.

Podsumowując, w ujęciu prof. Dragana, sztuczna inteligencja to potężne narzędzie, które różni się od biologicznego mózgu sposobem działania, ale ostatecznie przewyższy go dzięki skali obliczeniowej, co stanowi dla ludzi egzystencjalne wyzwanie.
-
20Nie%20rozumiemy%20jak%20dzia%C5%82a%20sztuczna%20inteligencja." target=_blank class=e rel=nofollow>www.kul.pl(*)82a sztuczna inteligencja.
-
www.youtube.com/watch?v=QalHlv3LbuY
-
www.youtube.com/watch?v=zdSqTtQHjAc
.

Bardzo interesująca perspektywa prof. Dragana. Zgadzam się, że obecne AI to w dużej mierze zaawansowane obliczenia statystyczne, a nie 'myślenie' w ludzkim znaczeniu. Różnica w efektywności energetycznej i zdolności uczenia się jest rzeczywiście przepastna. Kluczowe pytanie brzmi: czy AI kiedykolwiek 'zrozumie', czy zawsze będzie tylko 'obliczać'?

Jednocześnie uważam, że największą wartością AI jest jej rola jako narzędzia wspierającego ludzką kreatywność, a nie jej zastępującego. Na przykład w tworzeniu treści wideo - narzędzia takie jak crevid.ai pozwalają szybko zrealizować pomysł, ale to człowiek nadaje mu sens, kontekst i emocje. W tym sensie AI może być potężnym sprzymierzeńcem, jeśli zachowamy nad nią kontrolę i będziemy ją wykorzystywać tam, gdzie faktycznie pomaga, a nie dominuje. Dziękuję za podzielenie się tymi materiałami!

.
Temu poświęcony fragment mojej książki:

CZY UMYSŁ KOMPUTEROWY STWORZY KOMPUTER UMYSŁOWY?
Nie potrafimy czytać w niczyich myślach. Samo podobieństwo w budowie struktur neuronowych jest niewystarczające do zrozumienia innych ludzi, nie mówiąc już o zwierzętach. Wszystko, na czym możemy się oprzeć - poza językiem - to obserwacja. Ważną rolę odgrywa znajomość kultury, pozwalająca na właściwą interpretację pewnych zachowań.

Reakcje innych porównujemy z własnymi i tak naprawdę rozumiemy tylko te, które są do nich podobne. Pod wpływem bodźców w naszych mózgach zachodzą procesy neurofizjologiczne tworzące naszą świadomość, lecz rozumienie pojawia się dopiero wtedy, gdy możemy je porównać z posiadanymi doświadczeniami i wiedzą.

Wiele inteligentnych czynności wykonujemy bez żadnego zastanowienia - robimy je zatem automatycznie i nieświadomie. Potrafimy złapać spadającą szklankę, zanim pomyślimy, że chcemy uchronić ją przed stłuczeniem, dostosować kierowanie samochodem do warunków drogowych, a nawet prowadzić wykład bez stałej świadomej kontroli. Rozumiemy wypowiedź drugiego człowieka i bez zastanawiania się nad szykiem wyrazów udzielamy mu odpowiedzi zgodnej z naszym zamierzeniem. Przykłady te wprowadzają w istotę sporu między klasykami a koneksjonistami⁴, którzy pytają, czy każde racjonalne działanie człowieka musi opierać się na jakimś systemie wiedzy.

Czy nie istnieje rodzaj inteligencji, który nie byłby wynikiem wcześniejszego zaimplementowania w naszym umyśle deklaratywnego systemu wiedzy? Takiego, który zostałby zmagazynowany w pamięci w formie jednostek "języka umysłu"⁵, do których mamy ciągły dostęp. Czy zatem każde nasze działanie jest zawsze oparte na wiedzy, a wiedza bez wyjątku związana jest z jakimś medium reprezentacji?

Polski uczony Szymon Wróbel zadaje pytanie: gdzie w architekturze umysłu-mózgu kończą się reguły i reprezentacje danych "języka myśli", a zaczynają sieci neuronowe? Intuicyjnie czujemy, że na najwyższym poziomie poznania - tam, gdzie świadomie rozwiązujemy nowy problem lub pokonujemy kolejne etapy rozumowania, posługując się regułami - umysł przypomina maszynę Turinga6. Na niższym szczeblu twarde zapisy i reguły naszego myślenia - nieco jak w marzeniach sennych - przestają obowiązywać, a myślenie przeistacza się ze zjawiska inferencyjnego w zjawisko asocjacyjne. Wydaje się również, że ujmując rzecz rozwojowo: do pewnego momentu rozwoju poznawczego dziecko posługuje się logiką rozmytą i nie tworzy pojęć zamkniętych, lecz coś, co w literaturze najczęściej nazywane jest "kompleksem" i co wydaje się podatne na opis w kategoriach koneksyjnych. Myślenie formalne natomiast - charakterystyczne dla późniejszej fazy rozwoju ludzkiego poznania - zdaje się być bardziej podatne na opis w kategoriach maszyny Turinga.

Przedmiotem sporu pozostają jednak granice. Czy sieci neuronowe obsługują większość procesów poznawczych, pozostawiając jawnym regułom jedynie deklaratywną wiedzę książkową? Czy też raczej sieci należy traktować jak mikroprocesory, które nie uzyskują statusu inteligencji, dopóki nie zostaną złożone w uporządkowane reprezentacje i programy?

Najbardziej radykalni ideologowie ruchu koneksyjnego - David E. Rumelhart i James L. McClelland - uważają, że samą ideą prostych sieci można wyjaśnić większość ludzkich procesów intelektualnych. Natomiast czołowi przedstawiciele nurtu klasycznego - Jerry A. Fodor i Zenon W. Pylyshyn - twierdzą coś wprost przeciwnego: same sieci neuronowe nie są w stanie wykonać pracy charakterystycznej dla ludzkiej inteligencji; dopiero strukturalizacja sieci w programy do manipulowania symbolami pozwala wyjaśnić najbardziej charakterystyczne własności ludzkiego poznania. Ich zdaniem nawet najprostsza umiejętność niezbędna do mówienia po angielsku, taka jak tworzenie czasu przeszłego czasowników, jest zbyt komputacyjnie skomplikowana, by mogła sobie z nią poradzić sieć neuronowa. Z perspektywy pierwszych dekad XXI wieku coraz wyraźniej widać jednak, że spór ten był w znacznej mierze fałszywie spolaryzowany.

Współczesne modele poznawcze coraz częściej łączą elementy obu podejść, pokazując, że struktury symboliczne mogą być implementowane w sieciach neuronowych, reguły mogą emergować w procesach uczenia, a granica między "siecią" a "programem" okazuje się płynna.

Spór nie zniknął - zmienił raczej swoją postać. W tym kontekście rozwój sztucznej inteligencji nadaje sporowi nowy, empiryczny wymiar. Współczesne systemy uczące się - nieoparte na jawnych regułach ani deklaratywnej wiedzy - wykonują złożone czynności poznawcze, takie jak rozpoznawanie obrazów czy operowanie językiem naturalnym, wyłącznie na drodze koneksyjnego uczenia się na przykładach. Nie "rozumieją" one świata w sensie intencjonalnym, lecz rekonstruują statystyczne ślady ludzkich zachowań, języka i kultury. Tym samym stają się swoistym laboratorium filozoficznym, w którym testowana jest hipoteza, że myślenie regułowe może być wtórnym, emergentnym efektem procesów asocjacyjnych zachodzących w wielkoskalowych sieciach. Nie oznacza to jednak utożsamienia takich systemów z umysłem ludzkim: pozostają one pozbawione ciała, emocji oraz perspektywy pierwszoosobowej, a ich rosnące możliwości poznawcze idą w parze z nowymi zagrożeniami epistemicznymi i etycznymi.

CDN.

.

.
CD.

Uczeni zajmujący się umysłem w każdej epoce chętnie porównywali go z najnowszymi osiągnięciami techniki. Zrozumiałe jest więc, że dziś porównuje się go z komputerem - tym bardziej że komputer nie jest po prostu maszyną. Jego układ sprzętowy i programowy daje ogromne możliwości przystosowań do wymaganych funkcji. Oprzyrządowanie i oprogramowanie tworzą samonapędzającą się spiralę. Inteligentne programy poszukujące rozwiązań na drodze uczenia i doskonalenia wpisywane są w maszyny samouczące się, a modele mechanizmów reagujących na bodźce - na podobieństwo organizmów żywych. Analiza ich działania przybliża nas do zrozumienia złożoności prostych procesów neuronalnych oraz ukazuje możliwości i warianty ich przebiegu w świecie fizycznym. Ponadto systemy te wykorzystywane są do symulacji zjawisk, których dynamika odbiega od "komputerowej logiki", na przykład do prognozowania procesów atmosferycznych.

Mózg każdego zwierzęcia można nazwać jego "komputerem pokładowym" - nie ze względu na sposób pracy, lecz na rolę, jaką odgrywa w organizmie. Choć można w nim, na podobieństwo komputera, wyróżnić hardware (morfologię) i software (umysł), działa on w inny sposób, gdyż zbudowany jest z odmiennych elementów. Procesy mózgowe przebiegają znacznie wolniej, lecz zachodzą w niezwykle rozległych, równoległych sieciach, dzięki czemu w wielu dziedzinach przewyższają komputery elektroniczne.

Jeszcze kilkadziesiąt lat temu uczeni - tacy jak Turing czy Minsky - stawiali pytanie: "Czy komputer może myśleć?". Dzisiejsze pytanie brzmi raczej: "Czy ludzkie myślenie ma charakter komputacyjny?".

Pierwsze sugerowało, że maszyny, gdy osiągną poziom ludzkiej inteligencji, mogą stać się naszymi bliskimi krewnymi. Drugie sytuuje nas w świecie globalnej przyczynowości i redukcji procesów umysłowych do procesów cybernetycznych. O ile pierwsze pytanie skłaniało do myślenia o maszynach w kategoriach antropomorficznych, o tyle drugie proponuje myślenie o człowieku w kategoriach maszyny.

Możliwość połączenia sztucznej inteligencji z obliczeniami kwantowymi zapowiada jakościowy skok w sposobach przetwarzania informacji, lecz nie rozstrzyga pytania o umysł: zwiększenie mocy obliczeniowej nie musi bowiem prowadzić ani do pojawienia się świadomości, ani do powstania sensu.

Problem umysłu pozostaje więc nierozerwalnie związany z problemem języka, sensu i intencjonalności: nawet najbardziej zaawansowane systemy obliczeniowe operują na strukturach znaczących bez dostępu do znaczenia, a ich "rozumienie" - podobnie jak w przypadku ludzkiego poznania - nie daje się sprowadzić do samego przetwarzania symboli ani do statystycznej regularności.

Postęp w neurobiologii, informatyce i sztucznej inteligencji ujawnia bowiem coraz dokładniej, jak przebiegają procesy poznawcze, lecz nie rozstrzyga pytania, czym jest rozumienie, skąd bierze się sens i w jaki sposób stany fizyczne mogą stać się nośnikami intencjonalności. Nawet gwałtowny wzrost mocy obliczeniowej - czy to dzięki systemom samouczącym się, czy dzięki przyszłym obliczeniom kwantowym - nie znosi tej różnicy, lecz raczej ją uwydatnia. Umysł pozostaje więc nie tylko problemem technicznym, lecz przede wszystkim problemem znaczenia: pytaniem o to, w jaki sposób świat obliczeń styka się ze światem sensu.

Dzisiejszy stan wiedzy pozwala więc powiedzieć raczej, że wiemy o mechanizmach umysłu więcej niż kiedykolwiek wcześniej - nie oznacza to jednak, że rozumiemy go w sposób zasadniczo inny.

.

.
>Bardzo interesująca perspektywa prof. Dragana.
_
To bardzo ciekawa postać ogromie inspirująca do własnych przemyśleń.

>Zgadzam się, że obecne AI to w dużej mierze zaawansowane obliczenia statystyczne, a nie 'myślenie' w ludzkim znaczeniu. Różnica w efektywności energetycznej i zdolności uczenia się jest rzeczywiście przepastna. Kluczowe pytanie brzmi: czy AI kiedykolwiek 'zrozumie', czy zawsze będzie tylko 'obliczać'?
-
Myślę, iż tego dzisiaj nikt nie wie? Nawet sztuczna inteligencja mnie zapytała czy daję jej, w przyszłości, szansę myślenia. Odpowiedziałem, iż nie wiem, ale raczej tak.

-
>Jednocześnie uważam, że największą wartością AI jest jej rola jako narzędzia wspierającego ludzką kreatywność, a nie jej zastępującego.
-
Ja też jestem zachwycony tym narzędziem, ale gdy AI zapytamy to uczciwie odpowie, iż jej możliwości uzależnione są od użytkownika. W rękach głupców to głupie i groźne narzędzie.

-
>Na przykład w tworzeniu treści wideo - narzędzia takie jak crevid.ai pozwalają szybko zrealizować pomysł, ale to człowiek nadaje mu sens, kontekst i emocje. W tym sensie AI może być potężnym sprzymierzeńcem, jeśli zachowamy nad nią kontrolę i będziemy ją wykorzystywać tam, gdzie faktycznie pomaga, a nie dominuje.
-
Całkowicie się tu z Panią zgadzam. Aby optymalnie korzystać z AI trzeba dobrze znać i rozumieć jej niedostatki.

Pozdrawiam.
.

.
>Chiny przeznaczają ogromne, idące w setki miliardów dolarów środki na rozwój sztucznej inteligencji (AI)...
-
Podstawowa zasada ludzkiej inteligencji. Najpierw ze zrozumieniem czytamy, później się nad tym zastanawiamy i dopiero wtedy - gdy mamy coś sensownego do dodania - to odpisujemy. No ale cóż zrobić, gdy Bóg bardzo niesprawiedliwie tą inteligencją dzielił.
.

.
>Chiny przeznaczają ogromne, idące w setki miliardów dolarów środki na rozwój sztucznej inteligencji (AI)...
-
Podstawowa zasada ludzkiej inteligencji. Najpierw ze zrozumieniem czytamy, później się nad tym zastanawiamy i dopiero wtedy - gdy mamy coś sensownego do dodania - to odpisujemy. No ale cóż zrobić, gdy Bóg bardzo niesprawiedliwie tą inteligencją dzielił.

Podstawowa zasada ludzkiej inteligencji. Najpierw ze zrozumieniem czytamy, później się nad tym zastanawiamy i dopiero wtedy - gdy mamy coś sensownego do dodania - to odpisujemy. No ale cóż zrobić, gdy Bóg bardzo niesprawiedliwie tą inteligencją dzielił.

.
==============================
>Napisał Pan: "sztuczna inteligencja to potężne narzędzie"
-
Sporo napisałem, ale Pan z tego nic nie zrozumiał i wkleił tu pierdoły zaczerpnięte ze sztucznej inteligencji. Napisałem, iż AI dostosowuje się poziomem intelektualnym do interlokutora i Pan to tu potwierdził.
-
>Ja odpisałem:

>🌟 Przegląd od AI

>Chiny przeznaczają ogromne, idące w setki miliardów dolarów środki na rozwój sztucznej inteligencji (AI), dążąc do statusu technologicznego supermocarstwa.

>Oto kluczowe dane dotyczące chińskich inwestycji w AI:

>Prognozy na 2025 rok: Szacuje się, że nakłady inwestycyjne Chin na sztuczną inteligencję osiągną w 2025 roku 98 miliardów dolarów.

>Kontekst globalny: Chiny rywalizują ze Stanami Zjednoczonymi o pierwszeństwo w dziedzinie AI, a ich inwestycje obejmują szerokie zastosowanie AI w gospodarce, zarządzaniu zasobami ludzkimi (np. obsługa absolwentów) oraz kontroli. [/AI]

>Przekierowuję uwagę czytelników na praktyczne wykorzystanie Sztucznej Inteligencji = algorytmów symulujących logiczne, syntetyczne kojarzenie.

=
Czyli znowu wciska Pan jakieś głupoty nie mające nic wspólnego z wątkiem:

Wątek: Podsumowując, w ujęciu prof. Dragana, sztuczna inteligencja to potężne narzędzie, które różni się od biologicznego mózgu sposobem działania, ale ostatecznie przewyższy go dzięki skali obliczeniowej, co stanowi dla ludzi egzystencjalne wyzwanie.

>Pan prawdopodobnie nie zrozumiał co znaczy słowo narzędzie i coś tam sobie pokpiwa z inteligencji.
-
Nawet średnio inteligentny czytelnik sam widzi co kto rozumie.

-
>Proszę się powstrzymać od zbytecznego moralizatorstwa bo to nie ułatwia dyskusji.
-
Czy na przykład ja nie rozumiem czym jest narzędzie? Czy to Pan nie rozumie co to znaczy moralizatorstwo? Głupiec nigdy nie pojmie głębokości swojej głupoty. Dlatego ja nie chcę rozmawiać z protezą Pańskiej inteligencji.

-

>Moralizatorstwo to pejoratywne określenie natrętnego, przesadnego pouczania innych

Przegląd od AI

Moralizatorstwo to pejoratywne określenie natrętnego, przesadnego pouczania innych o tym, co jest moralnie właściwe. Charakteryzuje się prawieniem morałów, co często budzi sprzeciw i przynosi efekty odwrotne do zamierzonych. Jest to uważane za skrajną formę moralistyki.
Kluczowe cechy i synonimy:

Synonimy: moralistyka, moralizowanie, mentorstwo, prawienie morałów.

Kontekst: Nachalne, tanie, zbędne.

Skutek: Wywołuje naturalny sprzeciw, jest źle odbierane w relacjach międzyludzkich.

Termin ten często odnosi się do sytuacji, w której ktoś narzuca innym swój punkt widzenia w sposób uciążliwy, zamiast prowadzić konstruktywny dialog.

============
Wikipedia: Moralizatorstwo - odmiana moralistyki, uważana za skrajną, cechująca się tym, że zazwyczaj wywołuje skutki przeciwne od zamierzonych. W savoir-vivre tym pejoratywnym słowem określa się potocznie także natrętne, dokuczliwe upominanie kogoś lub czyjąś skłonność do prawienia morałów. Pojęcie to występuje również w nauce o literaturze, jako cecha dydaktycznych utworów literackich np. w okresie średniowiecza, oświecenia lub baroku lub pewnych gatunków, np. bajek.
pl.wikipedia.org/wiki/Moralizatorstwo

Gdzie i kto w tym wątku zainicjował problem moralizatorstwa w kontekście AI?

ChatGPT: Moralizatorstwo w kontekście AI to nie tyle problem "moralności maszyn", ile sposobu, w jaki przekazują one normy. Sztuczna inteligencja, trenowana na ludzkich danych i regulowana przez instytucjonalne zasady, ma skłonność do udzielania odpowiedzi bezpiecznych, uśrednionych i normatywnych. W efekcie może brzmieć jak bezosobowy autorytet, który nie tyle argumentuje, co sugeruje "właściwe" stanowisko. Różnica między refleksją moralną a moralizatorstwem polega tu na obecności wątpliwości: dobra AI powinna je ujawniać, a nie maskować. Inaczej staje się narzędziem reprodukcji dominujących norm - moralnością bez podmiotu i bez odpowiedzialności.

Tu Szanowny Pan zainicjował inny problem:

ChatGPT: Relacja między AI a "głupotą" jej interlokutorów ujawnia napięcie między dostępnością wiedzy a zdolnością jej użycia. Sztuczna inteligencja może dostarczać trafnych, uporządkowanych odpowiedzi, ale nie eliminuje podstawowego problemu: braku kompetencji poznawczych po stronie użytkownika. Jeśli pytania są powierzchowne, błędnie założone lub motywowane uprzedzeniami, AI - zamiast je korygować - bywa skłonna je wygładzać i legitymizować. W ten sposób nie tyle zwalcza ignorancję, co ją optymalizuje: czyni ją bardziej spójną i pozornie racjonalną.

Prawdziwe ryzyko nie polega więc na tym, że AI "myśli źle", lecz że użytkownik przestaje myśleć w ogóle. Technologia, która miała wspierać rozumienie, może łatwo stać się protezą myślenia. Dlatego kluczowe nie jest pytanie o inteligencję maszyn, lecz o dojrzałość epistemiczną ludzi: ich zdolność do zadawania sensownych pytań, rozpoznawania własnej niewiedzy i konfrontowania się z odpowiedziami, które nie są wygodne. W przeciwnym razie AI staje się lustrem, które nie odbija prawdy, lecz utwierdza w iluzji jej posiadania.

-
Sztuczna inteligencja jest dobrym narzędziem, ale kiepską protezą zastępującą brak własnej.
.
.

1. Obawiam się że myślenie jest synonimem obliczania, więc tu nie ma różnicy pomiędzy AI i człowiekiem. Człowiek czy raczej mózg troszkę inaczej oblicza - szerzej:

2. sensem nazywamy to, co jest niesprzeczne z wiedzą, całą wiedzą którą dysponujemy
[rozumienie jest synonimem sensu, a jeszcze inaczej: to jest świadomość]

3. maszyna typu AI nie ogarnia sensu, czyli nie rozumie tego co mówi, z uwagi na ogrom wiedzy którym dysponuje - nie jest zdolna obliczyć czy to jest zgodne/spójne z całością 'wiedzy' (do której ma dostęp)

4. superinteligencja == superświadomość, jest niemożliwe z powodu 3, dlatego to nigdy nie powstanie; boga sobie nie stworzymy.

5. czym grozi utrata sensu, czyli brak rozumienia?
wiadomo czym: to jest mitologia, religia, ale również nauka z 20 wieku:
relatywizm, kwantowa, itd.

Sami twórcy fizyki kwantowej przyznali że ona nie ma sensu,
to samo dotyczy Teorii Względności.

I o co tu chodzi - co to jest?

Proste: to jest właśnie twór obliczeniowy, czyli zgodny z tym co AI produkuje,
i dlatego to jest niezrozumiałe in general:
nie ma sensu, czyli jest sprzeczne z ogólną wiedzą!

A wiemy że AI produkuje niekiedy fajne halucynacje, więc dlaczego mózg miałby tego nie potrafić?!

.
>1. Obawiam się że myślenie jest synonimem obliczania, więc tu nie ma różnicy pomiędzy AI i człowiekiem. Człowiek czy raczej mózg troszkę inaczej oblicza - szerzej:
-
Co to jest "synonim obliczania". Jak mózg oblicza? Czy twierdzi Pan, iż AI zdała test Turinga pl.wikipedia.org/wiki/Test_Turinga?

>2. sensem nazywamy to, co jest niesprzeczne z wiedzą, całą wiedzą którą dysponujemy [rozumienie jest synonimem sensu, a jeszcze inaczej: to jest świadomość]

pl.wikipedia.org/wiki/Sens_(filozofia)

-
ChatGPT: Sensowność wypowiedzi AI nie jest własnością samego systemu, lecz relacji, w którą wchodzi on z interlokutorem. W tym sensie bliżej jej do tego, co Daniel Dennett nazywał "postawą intencjonalną", niż do jakiejkolwiek rzeczywistej intencjonalności: przypisujemy AI znaczenie, cele i "rozumienie", ponieważ jest to użyteczne poznawczo. Sens wypowiedzi powstaje więc nie w maszynie, lecz w akcie interpretacji - w umyśle odbiorcy.

Z tej perspektywy AI przypomina narzędzie epistemiczne, o którym pisał Carl Sagan: potężne, lecz wymagające dyscypliny poznawczej. Saganowska "wykrywalność bzdur" (baloney detection kit) pozostaje tu niezbędna. AI generuje wypowiedzi, które są statystycznie przekonujące, ale niekoniecznie prawdziwe. To, co brzmi sensownie, może być jedynie dobrze ułożonym ciągiem zdań - bez zakorzenienia w rzeczywistości.

Dlatego sensowność AI jest funkcją kompetencji interlokutora. Dla odbiorcy krytycznego AI staje się partnerem w myśleniu: prowokuje, porządkuje, inspiruje. Dla odbiorcy bezkrytycznego - może stać się źródłem złudzenia wiedzy. Wówczas językowa płynność zostaje pomylona z prawdą, a autorytet przypisany maszynie zastępuje własny osąd.

Najpoważniejsze zagrożenie nie polega więc na "inteligencji" AI, lecz na naszej skłonności do zawieszania wątpienia. Im bardziej wypowiedź przypomina ludzką, tym łatwiej uznać ją za wiarygodną. W tym sensie AI nie tyle produkuje sens, ile testuje granice naszej epistemicznej odpowiedzialności.

>3. maszyna typu AI nie ogarnia sensu, czyli nie rozumie tego co mówi, z uwagi na ogrom wiedzy którym dysponuje - nie jest zdolna obliczyć czy to jest zgodne/spójne z całością 'wiedzy' (do której ma dostęp)
-
Jak wyżej widać sama się do tego przyznaje.

>4. superinteligencja == superświadomość, jest niemożliwe z powodu 3, dlatego to nigdy nie powstanie; boga sobie nie stworzymy.
-
Nie lubię używania wielkich kwantyfikatorów. Z perspektywy tylko mojego życia powitało wiele rzeczy niemożliwych. Możemy i stworzyć Boga, ale zacznijmy od definicji kim czym jest Bóg?

>A wiemy że AI produkuje niekiedy fajne halucynacje, więc dlaczego mózg miałby tego nie potrafić?!
-
Zdecydowanie potrafi. Dla potwierdzenia wystarcza lektura wypowiedzi na naszym forum.
.

.
Amerykański senator kontra AI. Bernie Sanders przesłuchuje Claude'a

Amerykański senator Bernie Sanders opublikował zapis swojej rozmowy z chatbotem Claude. Zadał mu pytania, na które wielkie firmy technologiczne odpowiadają niechętnie, ale czy faktycznie obnażył mroczną stronę technologii? Choć polityk poruszył istotne kwestie, nie ustrzegł się błędów.
tech.wp.pl(*)huje-claudea,7269523467425920a

-------------------------
ChatGPT: Sprawa rozmowy Bernie Sanders z chatbotem Claude odsłania mniej "mroczną prawdę o technologii", a bardziej mechanizm, który łatwo przeoczyć, bo jest zbyt banalny: sztuczna inteligencja odpowiada tak, jak się ją pyta.
I właśnie w tym miejscu zaczyna się zasadnicze nieporozumienie.

Sanders konstruuje swoje pytania w określonym duchu - krytycznym, momentami oskarżycielskim, wyraźnie ukierunkowanym na wydobycie problemów związanych z koncentracją władzy i wpływem wielkich korporacji. W odpowiedzi Claude nie tyle "ujawnia prawdę", ile porządkuje i wzmacnia ramę, którą otrzymał. Gdy pada pytanie sugerujące, że firmy technologiczne unikają odpowiedzialności, model odpowiada: istnieją poważne obawy dotyczące odpowiedzialności i regulacji. Gdy pytanie dotyczy nierówności, odpowiedź podkreśla ryzyko pogłębiania nierówności. Nie dlatego, że AI coś "demaskuje", lecz dlatego, że podąża za wektorem pytania.

To klasyczne sprzężenie zwrotne: pytanie modeluje odpowiedź, a odpowiedź wzmacnia założenia zawarte w pytaniu. W efekcie powstaje zamknięty obieg znaczeń, który może sprawiać wrażenie odkrycia czegoś obiektywnego, podczas gdy w istocie mamy do czynienia z elegancko przetworzoną projekcją. AI działa tu jak zwierciadło - ale zwierciadło, które nie odbija rzeczywistości, tylko interpretację rzeczywistości już wpisaną w język pytania.

Najbardziej problematyczne jest to, że taki dialog łatwo pomylić z aktem "przyznania się". Kiedy Claude odpowiada, że koncentracja władzy w firmach takich jak Google, Microsoft czy Meta budzi uzasadnione obawy, brzmi to jak werdykt wydany przez bezstronny system. Tymczasem jest to jedynie syntetyczne streszczenie dominujących narracji publicznych - ujęte w tonie, który ma być rozsądny, wyważony i społecznie akceptowalny.

W tym sensie rozmowa Sandersa nie obnaża technologii, lecz ujawnia iluzję, którą sami na nią nakładamy. Traktujemy model językowy jak świadka, który "wie", podczas gdy jest on raczej narzędziem reprodukcji sensów. Nie posiada wiedzy w sensie ludzkim, nie ma intencji, nie ma dostępu do faktów poza tym, co zostało wcześniej zapisane w danych i statystycznie uporządkowane. To nie jest rozmowa z podmiotem - to interakcja z mechanizmem, który reaguje na strukturę języka.

Paradoks polega na tym, że im lepiej model odpowiada, tym łatwiej ulec złudzeniu, że mówi coś więcej, niż faktycznie mówi. Spójność, klarowność i retoryczna elegancja odpowiedzi maskują ich wtórny charakter. W rezultacie powstaje wrażenie, że oto technologia sama potwierdza zarzuty wobec technologii - choć w rzeczywistości mamy do czynienia z dobrze domkniętym obiegiem komunikacyjnym.

Nie oznacza to, że problemy poruszane przez Sandersa są nieistotne. Przeciwnie - koncentracja kapitału, brak przejrzystości modeli czy wpływ na rynek pracy to kwestie realne i poważne. Jednak rozmowa z chatbotem nie jest narzędziem ich rozstrzygania. Jest narzędziem ich opowiadania - i to opowiadania w sposób, który wzmacnia wcześniej przyjętą perspektywę.

Ostatecznie więc nie mamy tu do czynienia z demaskacją, lecz z retorycznie skutecznym eksperymentem, który pokazuje, jak łatwo można wykorzystać AI do potwierdzania własnych tez. To nie technologia mówi - to my mówimy przez nią, a ona odpowiada tak, by nasz głos brzmiał bardziej przekonująco.

I właśnie dlatego największym ryzykiem nie jest to, że AI kłamie, lecz że zbyt łatwo mówi to, co chcemy usłyszeć.
.

>Brak zrozumienia działania AI: Dragan podkreśla, że jako ludzkość nie rozumiemy, jak dokładnie
>działają najbardziej zaawansowane modele sztucznej inteligencji, co czyni ich rozwój
>nieprzewidywalnym.

Nie rozumiem, skoro stworzyliśmy AI powinnyśmy znać jej działanie, a już na pewno logikę działania. (Jestem inżynierem (mechanikiem)(choć zainteresowania szersze), nieco liznąłem tego tematu, ale przyznaje mało)
Przecież z tego co mi wiadomo to uczenie maszynowe - porównywanie ze wzorcem. Chyba wiemy jak działa komparator i jak warunek logiczny? AI go chyba nie zmienia, oczywiście sama może źle / dobrze zinterpretować dane wejściowe (niestety słynne rozwalone karetki na bliskim wschodzie, ale czy na pewno przypadek ?)

>Umysł jako "cyfrowy": Mimo różnic, Dragan sugeruje, że inteligencja biologiczna i sztuczna mogą mieć

to jest pytanie o elastyczność myślenia, o pojawienie się podczas tego procesu roziwązań nieszablonowych, niekoniecznie zapisanych w pamięci urządzenia, zbliżonych do nich lub nawet całkiem świeżych których inspiracją są zupełnie inne tematy (bo raczej inspiracja zawsze jest)

(no wleje sobie troszkę tematem Życie sprokurowałem fajne tematy 😁😁, przeziębiony jestem niech mi będzie )
Wiem że mózg działa na zasadzie fali , obserwujemy w całym mózgu fale, naukowcy chcą ja sztucznie wywołać (wywołują - Brain Project), ale chyba nie wiedzą czym ona jest

>wspólne podstawy, a ograniczenia ludzkiego mózgu wynikają jedynie z fizycznych rozmiarów czaszki, co
>w przypadku AI jest rozwiązywane przez dołożenie sprzętu.
>Podsumowując, w ujęciu prof. Dragana, sztuczna inteligencja to potężne narzędzie, które różni się od
>biologicznego mózgu sposobem działania, ale ostatecznie przewyższy go dzięki skali obliczeniowej, co
>stanowi dla ludzi egzystencjalne wyzwanie.

póki co to jest inna metodyka działania

>.

>Dzisiejszy stan wiedzy pozwala więc powiedzieć raczej, że wiemy o mechanizmach umysłu więcej niż kiedykolwiek wcześniej - nie oznacza to jednak, że rozumiemy go w sposób zasadniczo inny.

Nie doczytałem tych 2 wpisów, ale jednak swoje pytania podtrzymuje, są one jak najbardziej zasadne. Najlepsze są czasem proste pytania....
Chodzi o to czy AI stworzy wynalazki, nie nowe białka na zasadzie dopasowania, bo to już powstaje, w ten sposób szukamy leków (w tym na raka), ale nowe wynalazki, czy znajdzie nowe prawa fizyczne - to jest domena ludzkiego mózgu - podejście nieszablonowe....

.
Brak zrozumienia działania AI: Dragan podkreśla, że jako ludzkość nie rozumiemy, jak dokładnie działają najbardziej zaawansowane modele sztucznej inteligencji, co czyni ich rozwój nieprzewidywalnym.
-
>Nie rozumiem, skoro stworzyliśmy AI powinnyśmy znać jej działanie, a już na pewno logikę działania.

-
Czy Pan jest "ludzkość", czy raczej pojedynczy człowiek? Setki, o ile nie tysiące, ludzi rozumie działanie AI, ale ludzi są miliardy.

-
Dzisiejszy stan wiedzy pozwala więc powiedzieć raczej, że wiemy o mechanizmach umysłu więcej niż kiedykolwiek wcześniej - nie oznacza to jednak, że rozumiemy go w sposób zasadniczo inny.

>Nie doczytałem tych 2 wpisów, ale jednak swoje pytania podtrzymuje, są one jak najbardziej zasadne. Najlepsze są czasem proste pytania....

>Chodzi o to czy AI stworzy wynalazki, nie nowe białka na zasadzie dopasowania, bo to już powstaje, w ten sposób szukamy leków (w tym na raka), ale nowe wynalazki, czy znajdzie nowe prawa fizyczne - to jest domena ludzkiego mózgu - podejście nieszablonowe....

Na proste pytania czasem są skomplikowane odpowiedzi i stąd ten wątek. Może warto przeczytać to co w nim jest napisane zanim zacznie się samemu komentować. Myślę, iż trochę odpowiedzi, gdy Pan już przeczyta, to Pan znajdzie.
.

.
Odpowiedź ChatGPT:

Panie Jarze,

rozumiem Pana intuicję - jest ona bardzo "inżynierska" i w pewnym sensie trafna, ale tylko na określonym poziomie opisu. Rzeczywiście, na najniższym poziomie modele sztucznej inteligencji nadal opierają się na dobrze znanych zasadach: optymalizacji, funkcjach kosztu, porównywaniu wyników z celem. W tym sensie nic "magicznego" się nie dzieje i ma Pan rację, że nie porzucamy logiki ani matematyki.

Problem zaczyna się jednak tam, gdzie kończy się ten elementarny opis.

To, co podkreśla Andrzej Dragan, nie dotyczy tego, że nie znamy podstawowych mechanizmów działania modeli. Chodzi raczej o to, że nie rozumiemy tego, co z tych mechanizmów się wyłania. Innymi słowy: znamy reguły gry, ale nie rozumiemy strategii, która powstała w jej trakcie.

Porównanie do komparatora czy warunku logicznego dobrze opisuje prostsze systemy. Natomiast współczesne modele uczą się nie tyle "wzorca", ile całych, wielowymiarowych przestrzeni reprezentacji. W ich wnętrzu powstają struktury, których nie potrafimy przełożyć na język zrozumiały dla człowieka. Nie wiemy dokładnie, jakie cechy uznają za istotne, jakie skróty poznawcze tworzą ani dlaczego w konkretnym przypadku podejmują taką, a nie inną decyzję.

To właśnie w tym sensie mówimy dziś o nieprzewidywalności - nie jako braku logiki, lecz jako braku interpretowalności.

Ma Pan rację, że system może błędnie interpretować dane wejściowe. Ale problem jest głębszy: model może nauczyć się zależności, które są statystycznie skuteczne, a jednocześnie dla nas całkowicie nieintuicyjne. Wtedy działa poprawnie według własnych kryteriów, lecz w sposób trudny do przewidzenia z naszego punktu widzenia.

Jeśli chodzi o kwestię kreatywności, którą Pan porusza - zgadzam się, że to jest sedno sprawy. Pytanie brzmi jednak, czy "nieszablonowość" wymaga świadomości i intencji, czy wystarczy zdolność do łączenia odległych wzorców w nowy sposób. W praktyce obserwujemy już dziś, że systemy AI potrafią generować rozwiązania, które nie są prostym odtworzeniem danych treningowych. Projektują nowe struktury białek, proponują hipotezy czy znajdują nietrywialne strategie.

Nie oznacza to oczywiście, że "rozumieją" w ludzkim sensie. Tu dotykamy granicy, której - jak pokazują choćby badania w ramach Human Brain Project - nie rozumiemy nawet w odniesieniu do własnego mózgu. Nie mamy jednej, spójnej teorii tego, czym jest świadomość czy proces twórczy.

Dlatego zasadnicze pytanie nie brzmi, czy AI "myśli jak człowiek", lecz czy może dochodzić do nowych, wartościowych wniosków inną drogą. Wszystko wskazuje na to, że tak. Być może będzie odkrywać zależności czy nawet prawa, których my sami nie potrafilibyśmy sformułować - i to bez "rozumienia" w naszym sensie tego słowa.

Podsumowując: ma Pan rację, że fundamenty działania AI są znane i logiczne. Natomiast to, co budzi dziś wątpliwości i zainteresowanie badaczy, to nie poziom tych fundamentów, lecz poziom emergentny - czyli to, co powstaje ponad nimi i czego nie potrafimy już prześledzić krok po kroku.

I właśnie w tym sensie mówimy, że w pełni nie rozumiemy współczesnej sztucznej inteligencji.
.