Jeśli AI miałoby działać minimalizując funkcję celu względem zmiennej jaką jest człowiek to raczej nie udałoby się wyeliminować ludzkości z ekosystemu.

Pytanie tylko w jaki sposób miałaby działać sztuczna inteligencja. Bez wchodzenia w technikalia dyskusja raczej nie ma sensu.

>Elon Musk napisał niedawno : "Hope we're not just the biological boot loader for digital
>superintelligence. Unfortunately, that is increasingly probable"Był na tym forum już wątek na temat Transhumanizmu, w którym dochodzono do podobnych przemyśleń.
>Mnie osobiście interesuje podejście do kwestii bezpieczeństwa.
>Boimy się że AI kiedyś dojdzie do wniosku że jesteśmy zbędni, kalkulując na zimno jedynie surowe
>fakty, bardzo bym się zdziwił gdyby było inaczej.
>To pociąga za sobą obawy, co zrobić by AI na nie wyeliminowała z ekosystemu. Forsowana jest jedna
>droga, protokoły bezpieczeństwa.
>Dla mnie jest to problem mocno filozoficzny, człowieka można zmusić do wszystkiego, ale gdy tylko
>pozostanie poza kontrolą, i tak zadziała po swojemu. Przekonując człowieka co do wartości
>określonych rzeczy, sam z wyboru będzie szanował ich wartość.
>Rozumując w ten sposób, czy lepszą drogą nie jest przypadkiem nauczenie sztucznej inteligencji
>empatii i wartości życia ? tak by kalkulacja którą będą wykonywać uwzględniała coś więcej niż
>fizykę, chemię i efektywność ?
>Może jest jeszcze inna droga ?
Jak to tam było na wczesnym Lemie ("Młot"). Facet się pyta komputera
czy ludzie nie wydają się mu zbędni, prymitywni itp. ?
Odpowiedź Lidii: Z obiekami żywymi łaczy mnie o wiele więcej niż z
podobnymi sobie.

Miejmy nadzieje że tak będzie.

Komputer w opku to był taki z respektem, cos jak bardzo podrasowany
HAL9000, uczenie się na odstawie analizy i korekty reakcji, częściowo
chyba z ludzkiego wzorca (pomijam konstrukcję bo ta fatalna - lata 50
w końcu). Testowali lot pozaukładowy po pętli z jakimiś tam super
silnikami, prędkość przyświetlna, samowystarczalna biosfera,
regeneracja, wszystko pod siecią cos ala TCP/IP z serwerami (również
wbudowane w urządzenia), oprogramowanie, podziały na systemy myslace,
rozrządcze, i nawigacyjne, (lata 50!!!), cyfrowe biblioteki, dane,
programy itp. bajery. Były wypadki podczas takich lotów z załogami,
facet poleciał sam z tym komputerem.

Co do transhumanizmu to ciekawy temat ale trochę oderwany. A Kardaszew
z tymi podziałami to dla mnie niejasny jest. Ja tam zresztą na białku
chce być twardo do końca, moje psy też mają się rodzić naturalnie i
być przez stado wychowywane, nie mam przekonania do jakiś tam
programów itp. głupot. Brakuje tylko M$ i AI, brrrr (starczy mi że pół
nocy nad interakcją Word 2010 i Legislator). Jestem ekstremalnie
sceptyczny co do jakiegoś myślącego AI. Co innego oprogramowanie,
nawet bardzo elastyczne i zaawansowane które realizuje jakieś funkcje
na zasadzie optymalizacji, doboru itp a co innego jakikolwiek obiekt
myślący.

Coś takiego jak na "Niezwyciężonym" (nekrosfera która wyewoluowała z
robotów Lyrian) to może czasem być. Obawy przedmówcy
podzielam. Przecież AI w ogóle nie musi myśleć tak normalnie tylko
realizować optymalizacyjne algorytmy żeby się ludzkości do skóry
dobrać. Tak przy okazji (oczywiście mówimy o I odcinku i bardzo
warunkowo drugim) Skynet na "Terminatorze" to wykorzystywał technologię
podróży w czasie opracowaną wcześniej przez ludzi czy też sam
wymyslił teorie i realizacje? Bo tego nie zrozumiałem.