Re: {"Co myślisz o maszynach które myślą"}

> Jeśli chcesz zwalczać w przestrzeni publicznej wpływ wymyślonych przez twórców

> SF innych światów/hipotez/idei – to trzeba by nakręcić film/serial nie skrzywiony w stronę

> „na końcu się uda” (chociaż trudno oszacować skutki takiej kampanii)

Nie byłby to precedens. Odnośnie wojny jądrowej powstawały powieści i filmy pokazujące sytuację gdy wojna doprowadza do śmierci wszystkich ludzi.

pl.wikipedia.org/wiki/Ostatni_brzeg_(powie%C5%9B%C4%87)

Sądzę że przyczyniły się do społecznego odbioru broni jądrowej. Ale sądzę też, że gdyby powstały zanim ludzie zobaczyli broń jądrową w działaniu, nie byłyby traktowane poważnie.

> Ps. Nawiązując do dyskusji o algorytmie.

> Jeśli to algorytm jest przyczyną i czymś na kształt ogólnego pojęcia procesu

> (teleologicznego) – to czym się tu przejmować? – wystarczy napisać do

> bry algorytm i wszelka AI rozwijana na jego podstawie niczym nam nie zagrozi bo

> wszelkie zagrożenia będą przewidziane w tym algorytmie i wyeliminowane.

Ja nie rozumiem skąd tu się bierze konfuzja. Algorytm nie jest „czymś na kształt ogólnego pojęcia”. Algorytm to po prostu przepis jak coś robić. Definiuje jednoznacznie kroki jakie należy zrobić. Nie definiuje jednoznacznie jaki będzie ich skutek. Jeśli algorytm mówi „piecz ciasto 60 minut w 150 stopniach” to ostateczny efekt będzie zależał od tego z jakiej mąki było ciasto, czy było dobrze rozrobione, czy piekarnik był nagrzany itp itd”.

Jeśli algorytm mówi „znajdź korelację między spadkami na giełdzie i tytułami gazet”, to możliwe że znajdzie korelację między spadkami a nazwiskiem jakiejś celebrytki, bo akurat to przypadkiem powtórzyło się w gazetach w tym samym czasie. Napisanie algorytmu nie gwarantuje, że wynik będzie taki jaki chcesz.

Jeśli stworzysz superinteligentną AI której dasz zadanie „znajdź sposób na maksymalizację szczęścia na świecie”, to AI może uznać że rozwiązaniem jest wszczepienie wszystkim ludziom elektrod, które będą cały czas pobudzały ich ośrodki przyjemności. I co wtedy? Problem w tym, że AI spełniła nasze życzenie. Tyle że my możemy za późno zorientować się, że wcale nie o to nam chodziło.