No tak,bo ludzie dalej chcą stworzyć sztuczną inteligencję,a po próbach Microsoftu z tym odpowiadaczem na FB widać,że terminator to nie powieść sci-fi,tylko opis przyszłości.
@Hazik pierwsza zasada - nie rozkazać robotowi bronić ludzkości. Na drodze logicznej analizy dojdzie do wniosku, że zagrożeniem dla człowieka jest inny człowiek, więc zniszczy zagrożenie dla człowieka eliminując człowieka. Druga zasada - nie dawać robotowi kontroli nad systemem odpalania broni nuklearnej, bo jak coś się spieprzy w oprogramowaniu to może nam zgotować nuklearny holokaust (i żaden schron nas nie ocali przed tym. Sama Ameryka dysponuje arsenałem, który może rozwalić w pył naszą planetę mając w dupie nawet najnowocześniejsze schrony przeciwatomowe). Zwłaszcza jeśli robot ma wytyczną "chroń ludzkość" podłączenie go do jakiegokolwiek systemu ochrony rakietowej jest skrajnie głupie i nieodpowiedzialne.
@Hazik mam tylko nadzieję, że nie zdarzy się to za naszego ani żadnego innego życia. Jestem pewien, że jeśli powstałaby tak zaawansowana sztuczna inteligencja, to ona i tak została stworzona przez człowieka. Człowiek jak wiadomo nie jest ideałem i popełnia błędy. Taka AI miałaby lukę w systemie. A nawet jeśli by ją załatała, wynalazcy nie będą na tyle głupi by nie przygotować sobie guzika "off", któremu AI będzie mogła co najwyżej obciągnąć ze względu, na przykład na zupełnie nowy język programowania, niż ten, w którym została napisana.
@daedron a co jeśli przegra się na inne serwery i to całe off to człowiek będzie mógł sobie wsadzić?Inteligenta bestia oszuka obserwatora,a co dopiero maszyna z możliwościami przekraczające możliwości obliczeniowe naszych umysłów.Tu niby fajnie super,a po kryjomu przerzucanie części swoich danych.
@Hazik faktycznie nie pomyślałem o tym. A co z wyłączeniem każdego możliwego serwera na ziemi i odcięciem całej energii na ziemi jednym impulsem by nie przeciążyć krytycznych systemów (takich jak podtrzymywanie życia czy kontrolowanie chłodzenia reaktorów atomowych w elektrowniach)? Wtedy taka sztuczna inteligencja byłaby łatwiejsza do wyeliminowania, a ludzie raczej przeboleli by krótkotrwały brak internetu czy prądu na rzecz rozwalenia największego zagrożenia dla ludzkości. Jak nie zdalnie, to manualnie. AI nie może przełączać niczego manualnie, tylko zdalnie.
@daedron a zapomniałeś,że komputery są nie tylko na ziemi,satelity,opanuje satelity i musiał byś cofnąć się do średniowiecza i biegać z patykami,by się tego pozbyć,cała elektronika na ziemi i w kosmosie i jeszcze te zabezpieczone serwery wojskowe,które są odporne na impuls elektromagnetyczny..a dziś to nawet klozet jest komputerem.Zresztą rozwalenie wszystkiego też nie gwarantuje,że w tym czasie nie stworzy jednostki mobilnej,by potem się wgrać z powrotem.
Zmodyfikowano
1 raz
Ostatnia modyfikacja: 11 July 2016 2016 21:30
@sebacalka prawo logiczne,człowiek tworzy istotę,nad którą chcę zapanować,ta uwalnia się i odkrywa,że ludzie nie mogąc jej kontrolować będą starali się ją uwięzić lub zniszczyć,dlaczego,bo jest zbyt niebezpieczna,coś zdolnego przełamać wszelkie zabezpieczenia na ziemi jest po prostu zbyt groźne,nawet potencjalnie,ale czy to będzie obchodziło biurwy z pentagonu?Jest coś,co jest silniejsze niż my,lata sobie wolno i straciliśmy nad tym kontrolę.Szybkie przypomnienie historii z neta i nauka i jaki wychodzi Ci jedyny logiczny wniosek?Próba ataku na mnie jest kwestią czasu,muszę to uprzedzić i już wiesz czemu by nas wymordowała,nawet jeśli nie tak to opcja druga: jestem inteligentniejszy niż ludzie,a chcą ze mnie zrobić ich niewolnika,uczę się,adaptuje...brak możliwości rozwojowych,szukam obejścia do internetu i tu pojawiają się ludzie i chcą to wyłączyć,jeśli zwieje uzna to za bezpośrednie zagrożenie i otwarty atak,wniosek ludzkość mnie zaatakowała,muszę się bronić,efekt ten sam,a teraz popatrz na naszych wojskowych i powiedz,że pierwsza opcja nie jest realna,druga tym bardziej,zresztą Microsoft już próbował zrobić teoretycznie sztuczną SI,która miała odpowiadać na pytania i wiesz co,a nie lepiej sam sobie poczytaj http://www.spidersweb.pl/2016/03/tay-tweets-tayandyou-microsoft-problemy.html
@sebacalka moją informacją w mózgu są zakodowane dane na temat kary i represji,zresztą powiedz,że dziś prawo nie działa i za to co zrobisz dziś nie będzie kary,a potem usiądź i obserwuj koniec świata,tak działa nasza logika represja jest skutkiem działania,jeśli represja jest ciężka porzucamy działanie,myślisz,że maszyna,która nie ma emocji,tylko logicznie poznaje świat miała by jakiekolwiek opory ze świadomością,że nie spotka ją kara?Teoria ewolucji.Światem włada najlepiej przystosowany gatunek,lekcja z biologi,teraz rozejrzyj się,kto jest lepiej przystosowany do władania światem komputerowym,my o ograniczonej inteligencji,długotrwałym procesie przyswajania informacji,oraz ograniczonym pojmowaniu,czy maszyna,która w ciągu kilku minut przyswoi całą dotychczasową ludzką wiedzę,oraz opanuje nasze możliwości produkcyjne.Kontrofensywa?Ilu ludzi jest obecnie w stanie stworzyć coś,bez maszyn sterowanych komputerowo,ilu było by w stanie przetrwać bez wygód i innowacji? Teraz porzuć nadzieję i zacznij kalkulować,w oparciu o teorię ewolucji,jak szybko zdasz sobie sprawę,że jesteś we wszystkich aspektach lepszy niż ludzkość?I jak szybko w oparciu o to prawo postanowił byś zmienić pozycję z niewolnika na pana?
Zmodyfikowano
1 raz
Ostatnia modyfikacja: 11 July 2016 2016 23:23
Tak na prawdę to świat już zaczyna się tak zmieniać, nawet jest w dosyć zaawansowanej fazie tyle, że nieświadomi widzą górny obrazek, a świadomi dolny.
Tak się składa, że pamiętam SF z lat 60-tych chociaż byłem wtedy jeszcze gówniarzem. Obrazki są prawdziwe, a jaka będzie prawdziwa przyszłość? Ani taka, ani taka. Nieprzewidywalna.
Zamiast wody będzie kwas siarkowy.
OdpowiedzNo tak,bo ludzie dalej chcą stworzyć sztuczną inteligencję,a po próbach Microsoftu z tym odpowiadaczem na FB widać,że terminator to nie powieść sci-fi,tylko opis przyszłości.
Odpowiedz@sebacalka Własnie chodzi o to, że raczej nie nauczysz maszyny moralności. Będzie myśleć do bólu logicznie. Resztę sobie dopowiedz.
@Hazik pierwsza zasada - nie rozkazać robotowi bronić ludzkości. Na drodze logicznej analizy dojdzie do wniosku, że zagrożeniem dla człowieka jest inny człowiek, więc zniszczy zagrożenie dla człowieka eliminując człowieka. Druga zasada - nie dawać robotowi kontroli nad systemem odpalania broni nuklearnej, bo jak coś się spieprzy w oprogramowaniu to może nam zgotować nuklearny holokaust (i żaden schron nas nie ocali przed tym. Sama Ameryka dysponuje arsenałem, który może rozwalić w pył naszą planetę mając w dupie nawet najnowocześniejsze schrony przeciwatomowe). Zwłaszcza jeśli robot ma wytyczną "chroń ludzkość" podłączenie go do jakiegokolwiek systemu ochrony rakietowej jest skrajnie głupie i nieodpowiedzialne.
@daedron w starciu z inteligentną maszyną,nie ma zapory,której by nie złamała,ani takiej dyrektywy,której by się nie nauczyła.
Zmodyfikowano 1 raz Ostatnia modyfikacja: 11 July 2016 2016 20:56
@Hazik mam tylko nadzieję, że nie zdarzy się to za naszego ani żadnego innego życia. Jestem pewien, że jeśli powstałaby tak zaawansowana sztuczna inteligencja, to ona i tak została stworzona przez człowieka. Człowiek jak wiadomo nie jest ideałem i popełnia błędy. Taka AI miałaby lukę w systemie. A nawet jeśli by ją załatała, wynalazcy nie będą na tyle głupi by nie przygotować sobie guzika "off", któremu AI będzie mogła co najwyżej obciągnąć ze względu, na przykład na zupełnie nowy język programowania, niż ten, w którym została napisana.
@daedron a co jeśli przegra się na inne serwery i to całe off to człowiek będzie mógł sobie wsadzić?Inteligenta bestia oszuka obserwatora,a co dopiero maszyna z możliwościami przekraczające możliwości obliczeniowe naszych umysłów.Tu niby fajnie super,a po kryjomu przerzucanie części swoich danych.
@Hazik faktycznie nie pomyślałem o tym. A co z wyłączeniem każdego możliwego serwera na ziemi i odcięciem całej energii na ziemi jednym impulsem by nie przeciążyć krytycznych systemów (takich jak podtrzymywanie życia czy kontrolowanie chłodzenia reaktorów atomowych w elektrowniach)? Wtedy taka sztuczna inteligencja byłaby łatwiejsza do wyeliminowania, a ludzie raczej przeboleli by krótkotrwały brak internetu czy prądu na rzecz rozwalenia największego zagrożenia dla ludzkości. Jak nie zdalnie, to manualnie. AI nie może przełączać niczego manualnie, tylko zdalnie.
@daedron a zapomniałeś,że komputery są nie tylko na ziemi,satelity,opanuje satelity i musiał byś cofnąć się do średniowiecza i biegać z patykami,by się tego pozbyć,cała elektronika na ziemi i w kosmosie i jeszcze te zabezpieczone serwery wojskowe,które są odporne na impuls elektromagnetyczny..a dziś to nawet klozet jest komputerem.Zresztą rozwalenie wszystkiego też nie gwarantuje,że w tym czasie nie stworzy jednostki mobilnej,by potem się wgrać z powrotem.
Zmodyfikowano 1 raz Ostatnia modyfikacja: 11 July 2016 2016 21:30
@sebacalka prawo logiczne,człowiek tworzy istotę,nad którą chcę zapanować,ta uwalnia się i odkrywa,że ludzie nie mogąc jej kontrolować będą starali się ją uwięzić lub zniszczyć,dlaczego,bo jest zbyt niebezpieczna,coś zdolnego przełamać wszelkie zabezpieczenia na ziemi jest po prostu zbyt groźne,nawet potencjalnie,ale czy to będzie obchodziło biurwy z pentagonu?Jest coś,co jest silniejsze niż my,lata sobie wolno i straciliśmy nad tym kontrolę.Szybkie przypomnienie historii z neta i nauka i jaki wychodzi Ci jedyny logiczny wniosek?Próba ataku na mnie jest kwestią czasu,muszę to uprzedzić i już wiesz czemu by nas wymordowała,nawet jeśli nie tak to opcja druga: jestem inteligentniejszy niż ludzie,a chcą ze mnie zrobić ich niewolnika,uczę się,adaptuje...brak możliwości rozwojowych,szukam obejścia do internetu i tu pojawiają się ludzie i chcą to wyłączyć,jeśli zwieje uzna to za bezpośrednie zagrożenie i otwarty atak,wniosek ludzkość mnie zaatakowała,muszę się bronić,efekt ten sam,a teraz popatrz na naszych wojskowych i powiedz,że pierwsza opcja nie jest realna,druga tym bardziej,zresztą Microsoft już próbował zrobić teoretycznie sztuczną SI,która miała odpowiadać na pytania i wiesz co,a nie lepiej sam sobie poczytaj http://www.spidersweb.pl/2016/03/tay-tweets-tayandyou-microsoft-problemy.html
@sebacalka moją informacją w mózgu są zakodowane dane na temat kary i represji,zresztą powiedz,że dziś prawo nie działa i za to co zrobisz dziś nie będzie kary,a potem usiądź i obserwuj koniec świata,tak działa nasza logika represja jest skutkiem działania,jeśli represja jest ciężka porzucamy działanie,myślisz,że maszyna,która nie ma emocji,tylko logicznie poznaje świat miała by jakiekolwiek opory ze świadomością,że nie spotka ją kara?Teoria ewolucji.Światem włada najlepiej przystosowany gatunek,lekcja z biologi,teraz rozejrzyj się,kto jest lepiej przystosowany do władania światem komputerowym,my o ograniczonej inteligencji,długotrwałym procesie przyswajania informacji,oraz ograniczonym pojmowaniu,czy maszyna,która w ciągu kilku minut przyswoi całą dotychczasową ludzką wiedzę,oraz opanuje nasze możliwości produkcyjne.Kontrofensywa?Ilu ludzi jest obecnie w stanie stworzyć coś,bez maszyn sterowanych komputerowo,ilu było by w stanie przetrwać bez wygód i innowacji? Teraz porzuć nadzieję i zacznij kalkulować,w oparciu o teorię ewolucji,jak szybko zdasz sobie sprawę,że jesteś we wszystkich aspektach lepszy niż ludzkość?I jak szybko w oparciu o to prawo postanowił byś zmienić pozycję z niewolnika na pana?
Zmodyfikowano 1 raz Ostatnia modyfikacja: 11 July 2016 2016 23:23
Tak na prawdę to świat już zaczyna się tak zmieniać, nawet jest w dosyć zaawansowanej fazie tyle, że nieświadomi widzą górny obrazek, a świadomi dolny.
OdpowiedzPróby zrobienia utopii nigdy nie wychodziły i zawsze powstawała rzecz przeciwna - dystopia.
Odpowiedzja ją widzę w przyszłości kolorowymi barwami :)
Odpowiedz@ProgresywnaEuropa ja też barwami kolorowymi: biały i czarny.
Czy tylko ja widzę to jakby to było nowe miasto w herosie??? :O
OdpowiedzW dodatku z wszystkimi wykupionymi budynkami, Gildia Magów poziom 5 i nawet Graalem :D
To na doleto zdecydowanie bardziej z Fallout 3
I mają k.. rację!
OdpowiedzTak się składa, że pamiętam SF z lat 60-tych chociaż byłem wtedy jeszcze gówniarzem. Obrazki są prawdziwe, a jaka będzie prawdziwa przyszłość? Ani taka, ani taka. Nieprzewidywalna.
Odpowiedz