>Pomyślałem zaproponować dyskusję o niskopoziomowych różnicach między BNNs i obecnymi ANNs.
>Np. biologiczne mogą propagować w różnych kierunkach, też pracować z rozkładami prawdopodobieństwa,
>uczą się czymś innymi niż backpropagation (czym konkretnie?) ... czy da się/warto to odtwarzać w
>sztucznych (np. arxiv.org/pdf/2405.05097 )?
>Dalej np. czy efekty kwantowe są kluczowe dla biologicznych? (uważam że nie, ale np. gadam właśnie z
>Paulem Werbosem i twierdzi że tak?)
>

Taka uwaga na temat różnicy między ludzką a sztuczną siecią neuronową

- ludzka sieć jest wynikiem edukacji bardzo szeroko pojmowanej
- sztuczna sieć jest wynikiem edukacji selektywnej ( w porównaniu do ludzkiej jest bardzo uboga w
czynniki, zależności oraz brak autoweryfikacji informacji od dezinformacji).

Korzystając z usług AI mamy do czynienia z informowaniem niejako na zasadach podobnych do dogmatów nieomylności w wierze katolickiej w sytuacjach gdy brak argumentów dla wymysłów religijnych. Wielu o umaszynowionym myśleniu ludzi zadowoli to co zaproponuje im AI, ale wykształcony i myślący człowiek bez problemu obejdzie się bez AI.

Oczywiście jest różnica w uczeniu, w tabelce powyżej są zebrane też inne - biologiczne są bardziej elastyczne, robust, lepsze np. w "one-shot learninig" ... używamy coraz większej ilości sztucznych neuronów, ale samo to chyba nie wystarczy żeby dogonić biologiczne (?)

Są istotne wysokopoziomowe różnice jakościowe, które biorą się z różnic niskopoziomowych - pytanie jakich?
Czy można wyekstrahować kluczową matematykę żeby użyć w sztucznych?

Podkreśliłem w diagramie 3 niskopoziomowe różnice: wielokierunkowa propagacja, też rozkładów prawdopodobieństwa, inne trenowanie niż backpropagation ... czy coś więcej warto dodać?

Te 3 różnice można uwzględnić np. w neuronach modelujących rozkład łączny połączeń, prowadząc do względnie prostej matematyki: sumowanie i 1-parametryczne trenowane nieliniowości jak KAN (biological plausability).
Czy to brzmi sensownie? Jakieś inne pomysły żeby nadgonić przynajmniej te 3 różnice?

Nie znam żadnych kwantowanych efektów, więc nie powiem,
co przewiduje... Haisenberg?, jak i każdy inny pajac.

Podejrzewam że te sztuczne sieci są chyba sztywne,
a naturalne niekoniecznie, znaczy taka sieć może się zmieniać.

Kwantowe proponował Penrose, teraz np. gadam z Paulem Werbosem ... ale osobiście też jestem sceptyczny: za gorąco, zbyt daleko na splątanie np. action potetnials.

Natomiast z dynamiką dla ANNs ogólnie nie ma problemu, np. LSTM, continual learning, prunning/sparsification, etc. ... ale BNNs raczej na pewno robią to inaczej, np. ponoć nie mogą robić backpropagation (cytują www.nature.com/articles/s41593-019-0520-2 ), ale szczegóły na ten moment raczej zgadujemy.

>Kwantowe proponował Penrose, teraz np. gadam z Paulem Werbosem ... ale osobiście też jestem sceptyczny: za gorąco, zbyt daleko na splątanie np. action potetnials.

jakie splątania znowu?
Takie coś w ogóle nie istnieje;
jest opisywane w podręcznikach, czym się Penrose podnieca i wielu innych,
no ale to jest jakaś tam... reklamy chyba, a nie żadna teoria - nie?

Sam symulowałem kilka lat temu i na prostym pc te korelacje kwantowe - to jest banał w zasadzie!

Po pierwsze i ostatecznie: sam Bell udowodnił formalnie, że te 'kwantowe' korelacje są niemożliwe,
więc ja nie wiem nawet o czym tu można w ogóle dyskutować.

to już historia:
groups.goo(*)a/c/21M688s5q00/m/o4KLzyStBAAJ
groups.goo(*)a/c/Yxin15h0iVs/m/UckG-KgwAwAJ

>Natomiast z dynamiką dla ANNs ogólnie nie ma problemu, np. LSTM, continual learning, prunning/sparsification, etc. ... ale BNNs raczej na pewno robią to inaczej, np. ponoć nie mogą robić backpropagation (cytują www.nature.com/articles/s41593-019-0520-2 ), ale szczegóły na ten moment raczej zgadujemy.

nie znam tych TLS-ów... może potem przejrzę.

Pamiętam że sieć neuronowa jest dość twarda - bardzo odporna na wiedzę,
co zresztą bardzo ładnie widać po ludziach - raz zakodowane przekonania-poglądy pozostają tam do końca.

Aby kogoś 'wytrenowanego' przekonać do nowej doktryny trzeba go.. zabić.