Ако бях изкуствен интелект...

[makebulgar]

Интелект има и маймуната, и делфина, и вълка, но това са низши интелекти. Хипотезата че изкуствения интелект може да стане висш интелект превъзхождащ човека е недоказана, и по-скоро ще достигнем до някакъв примитивен интелект, който ще е ограничен. Това че един суперкомпютър може да смята по-бързо от един човек не означава, че изкуствения интелект ще е по-виш и можещ от съвкупната интелигентност на човечеството. Хората са си разделили задачите и по отделно са слаби, но заедно летят из космоса, цепят атома, а в бъдеще може и планети да колонизират. Един човек няма как да знае всичко от науката и човешкото знание, но съвкупно могат да знаят много и да го използват. Изкуствения интелект ще има скорост, но ще има и хардуерни ограничения. Няма да може да знае всичко, тъй като всяко знание изисква памет, и въпреки че ще може да чете бързо ще има сериозни ограничения. Ако съществува във някаква глобална мрежа със сървари ще е умен и знаещ, но и ще е напълно уязвим тъй като мрежата ще е уязвима. Ако съществува във главата на мобилен андроид подобен на човека, то знанията му няма да са достатъчни за да пороби хората, тъй като отново ще е ограничен хардуерно. Ако съществуват много андроиди с изкуствен интелект в микропроцесорните си схеми, и те обменят информация чрез WiFi в някакъв по-голям виртуален изкуствен интелект, пак няма да могат да устоят на хората, тъй като комуникациите между тях лесно могат да бъдат прекъснати. 

[vorfax]

  On 17.02.2017 г. at 8:18, самотния вълк said:

За съществуването на един такъв свръх изкуствен интелект е нужна високо технологична среда, с изключително добре развити комуникации.

 

Expand  

Облаци и мрежи. Това е реалност в наши дни.

  On 17.02.2017 г. at 8:18, самотния вълк said:

... човек може да съществува съвсем спокойно и без такава технологична среда, както го е правил хилядолетия.

Expand  

Абе стига се излага. Да отгледаш човек е едно от най-трудните неща на света. То не са родители с десетилетия, то не са баби и дядовци, то не са земеделие и животновъдство по цялата планета, то не са училища, болници, полиция и още дузина институции и накрая пак може да се пръкне темерут.

  On 17.02.2017 г. at 8:18, самотния вълк said:

Машини и оръжия без електроника са неподвластни на ИИ, но спокойно могат да бъдат управлявани от хора и да бъдат използвани за унищожаване на комуникациите и източници на енергия.

Expand  

Първо, представата ти за изкуствен интелект като щайга с електроника изхожда от твоя ограничен капацитет. Интелект, който ще знае цялото човешко познание, и няма да има човешките ограничения в обработката и употребата му, ще може да прави неща, които ние хората не можем.

Второ, тази плоча, че лесно можели хората да спрат нещо като го поискат, просто не е истина. Ние не можем да спрем престъпността в реалния свят. Ние не можем да спрем зловредния софтуер във виртуалния свят. Можем да се борим, но това е битка, която не сме спечелили и никога няма да спечелим поради човешката природа.

Цялата концепция, че човекът е голямата работа и може да гътне свръхразум, се базира на наивния сюжет:

1. ИИ е прост.
2. Човекът го изненадва.
3. ИИ дава фира.

Вече посочих единия сценарий, при който човечеството дори няма да подозира, че ИИ съществува и го управлява. Давам ви втори вариант - човечеството ще има интерес ИИ да съществува. Вече посочих, че това може да стане по много начини - чрез принуда и чрез сътрудничество с взаимоизгода.

Редактирано 17, 2017 от vorfax

[vorfax]

  On 17.02.2017 г. at 6:51, Малоум 2 said:

Ей туй е показателно! (1964г)

...

Expand  

За какво? Дай резюме с едно изречение преди да си пожертвам 10 минути в четене на дълъг текст.

[vorfax]

  On 17.02.2017 г. at 10:26, makebulgar said:

В момента в който се опита да се обърне срещу хората ще дойде краят му.

Expand  

Защото?

Сигурно и динозаврите като са гледали бягащите космати топки по земята не са са и подозирали, че могат да ги надживеят.

[самотния вълк]

  On 17.02.2017 г. at 15:43, vorfax said:

Облаци и мрежи. Това е реалност в наши дни.

Expand  

Но не е било реалност преди сто години, ама тогава е имало човешка цивилизация.

 

  On 17.02.2017 г. at 15:43, vorfax said:

Абе стига се излага. Да отгледаш човек е едно от най-трудните неща на света. То не са родители с десетилетия, то не са баби и дядовци, то не са земеделие и животновъдство по цялата планета, то не са училища, болници, полиция и още дузина институции и накрая пак може да се пръкне темерут.

Expand  

Може и да се излагам, но хомо  сапиенс е отглеждан и в пещери. Ако се наложи пак ще може. Все пак говорим съвсем теоретично, нали?

 

  On 17.02.2017 г. at 15:43, vorfax said:

Първо, представата ти за изкуствен интелект като щайга с електроника изхожда от твоя ограничен капацитет. Интелект, който ще знае цялото човешко познание, и няма да има човешките ограничения в обработката и употребата му, ще може да прави неща, които ние хората не можем.

Expand  

Възможно е и капацитетът ми да е ограничен. Ти би ли обяснил как ИИ ще накара една манлихера да гръмне? Или да подкара москвич от 76г? Може, евентуално да накара робот да го направи.

 

  On 17.02.2017 г. at 15:43, vorfax said:

Второ, тази плоча, че лесно можели хората да спрат нещо като го поискат, просто не е истина. Ние не можем да спрем престъпността в реалния свят.

Expand  

Тук не пропускаш ли, че в борбата с престъпността са изправени един срещу друг човек срещу човек?

[самотния вълк]

Твърдиш, че първият основен ход на такъв хипотетичен ИИ ще бъде самосъхранението. Всъщност това ще е и неговата най-голяма слабост. Колкото и безкрайно количество информация да може да обработва, колкото и неподозирани възможности да има, той не би взел никога решение, което би застрашило собствената му безопасност. Ограничение, което го няма при човешкия разум.

[vorfax]

  On 17.02.2017 г. at 16:27, самотния вълк said:

... хомо  сапиенс е отглеждан и в пещери. Ако се наложи пак ще може. Все пак говорим съвсем теоретично, нали?

Expand  

И възможностите му в тези условия са били допотопни. Кои условия човечеството ще приеме за "ако се наложи", че да се върне в пещерите? Не мисля, че човечеството е готово да се лиши от всичко, уплашен, че вече не е най-горе в хранителната верига.

Ти сравни създаването на условия за свръхразум (които отдавна просто си има, не е нужно нещо да се прави изобщо) с отглеждането на хора. Несъпоставимо е. Тъкмо заради това хората правят компютри и други машини. Защото е несъпоставимо. Защото превъзхожда с много методиката на отглеждане на хора за да свършат същото и защото и да се отгледат правилно пак няма да могат да го правят, както машините могат.

  On 17.02.2017 г. at 16:27, самотния вълк said:

Ти би ли обяснил как ИИ ще накара една манлихера да гръмне?

Expand  

Това, че не мога да го обясня не пречи на ИИ да го направи. Но пък аз не знаех какво е и манлихера, докато не попитах една машина наречена Google. ИИ със сигурност обаче ще го знае.

  On 17.02.2017 г. at 16:27, самотния вълк said:

Тук не пропускаш ли, че в борбата с престъпността са изправени един срещу друг човек срещу човек?

Expand  

Аз на това натъртвам. ИИ е човешки мозък, но подобрен. Лишен от човешките недостатъци, снабден със свръхкапацитет, с познанието на цялото човечеството, борбата с него е нещо далеч по-сложно от тази между хората. Игнорирайте материята, неговия разум ще намери начин да съхрани съществуването си. Сравнявайте битката на интелект, защото там е полето на което ще се реши тази битка.

 

[vorfax]

  On 17.02.2017 г. at 16:57, самотния вълк said:

Твърдиш, че първият основен ход на такъв хипотетичен ИИ ще бъде самосъхранението. Всъщност това ще е и неговата най-голяма слабост. Колкото и безкрайно количество информация да може да обработва, колкото и неподозирани възможности да има, той не би взел никога решение, което би застрашило собствената му безопасност. Ограничение, което го няма при човешкия разум.

Expand  

Отново разсъждаваш ограничено. Той е повече Бог, отколкото човек. Той, също като един вирус, може да се мултиплицира до безкрайност. И по тази причина може да поеме риска да загуби безброй от своите реплики учейки, изучавайки, водейки битка с всичко, което му оказва съпротива. Това не е нещо с един мозък и 4 крайника, което може да отстреляш като му хвърляш захранка. Ние сме водили войни единствено с познат враг - собствения си вид. Ние не сме се изправяли срещу друга форма на интелект. Ние имаме опит нула срещу Него. А той има потенциала за почти всичко - от това да зарази цялото човечество с вирус, който е създал, до това просто да активира достатъчно ядрено оръжие за да изпепели планетата, докато Той наблюдава от спътниците отгоре.

[самотния вълк]

  On 17.02.2017 г. at 17:26, vorfax said:

И възможностите му в тези условия са били допотопни. Кои условия човечеството ще приеме за "ако се наложи", че да се върне в пещерите? Не мисля, че човечеството е готово да се лиши от всичко, уплашен, че вече не е най-горе в хранителната верига.

Ти сравни създаването на условия за свръхразум (които отдавна просто си има, не е нужно нещо да се прави изобщо) с отглеждането на хора. Несъпоставимо е. Тъкмо заради това хората правят компютри и други машини. Защото е несъпоставимо. Защото превъзхожда с много методиката на отглеждане на хора за да свършат същото и защото и да се отгледат правилно пак няма да могат да го правят, както машините могат.

Expand  

Поставяш нови условия в задачата. Приемаш, че животът на хората трябва да продължи в същата технологична среда, която би дала предимство на ИИ. Аз ти казвам, че човек няма нужда от нея, за разлика от ИИ. Да, хората измислят всевъзможни технологии, за да подобрят живота си, но могат да минат и без тях.

[vorfax]

Ако казваш, че без електричество ИИ няма да има, съгласен съм. Но темата поставя казуса какво ще стане, ако ИИ вече съществува, т.е. има условията за това. Със сигурност той няма да се издава, да предизвиква недоверие, съмнение, страх, ако вече не и твърде късно да се реагира срещу него адекватно.

[самотния вълк]

  On 17.02.2017 г. at 17:30, vorfax said:

Отново разсъждаваш ограничено. Той е повече Бог, отколкото човек. Той, също като един вирус, може да се мултиплицира до безкрайност. И по тази причина може да поеме риска да загуби безброй от своите реплики учейки, изучавайки, водейки битка с всичко, което му оказва съпротива. Това не е нещо с един мозък и 4 крайника, което може да отстреляш като му хвърляш захранка. Ние сме водили войни единствено с познат враг - собствения си вид. Ние не сме се изправяли срещу друга форма на интелект. Ние имаме опит нула срещу Него. А той има потенциала за почти всичко - от това да зарази цялото човечество с вирус, който е създал, до това просто да активира достатъчно ядрено оръжие за да изпепели планетата, докато Той наблюдава от спътниците отгоре.

Expand  

Може да си създаде безброй реплики и да жертва същото толкова, но не би застрашил самото си съществуване. Докато човек може съвсем целенасочено да жертва себе си.

[vorfax]

  On 17.02.2017 г. at 17:35, самотния вълк said:

Може да си създаде безброй реплики и да жертва същото толкова, но не би застрашил самото си съществуване. Докато човек може съвсем целенасочено да жертва себе си.

Expand  

Но ти приемаш по презумпция, че човешката саможертва би могла да унищожи ИИ. Аз пък твърдя, че ИИ ще предвиди опитите за съпротива, включителното жертването на фигури в тази игра на шах. Всеки играл шах знае, че това е съвсем логично и основополагащо за една многоходова партия. Всяко твърдение, че ИИ може да се унищожи разчита на едно и също - че ИИ ще сгреши и "царя" му ще бъде взет. В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. Той е в свои води, той е създанието, което ни превъзхожда по невъобразим начин, и той е еволюционния скок равносилен на това от бактерия да се пръкне човек или от нежива в жива материя.

[самотния вълк]

  On 17.02.2017 г. at 17:39, vorfax said:

Но ти приемаш по презумпция, че човешката саможертва би могла да унищожи ИИ. Аз пък твърдя, че ИИ ще предвиди опитите за съпротива, включителното жертването на фигури в тази игра на шах. Всеки играл шах знае, че това е съвсем логично и основополагащо за една многоходова партия. Всяко твърдение, че ИИ може да се унищожи разчита на едно и също - че ИИ ще сгреши и "царя" му ще бъде взет. В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. Той е в свои води, той е създанието, което ни превъзхожда по невъобразим начин, и той е еволюционния скок равносилен на това от бактерия да се пръкне човек или от нежива в жива материя.

Expand  

Приемам, че това е предимство, което човешкият разум има. Съгласен съм, че може да бъде предвидено и да се вземат мерки. Но, човек има още едно предимство - импровизацията. Саможертва плюс възможности за импровизация, плюс оцеляване без технологии, дават неподозирани предимства на човек срещу свръх ИИ.

[vorfax]

  On 17.02.2017 г. at 17:46, самотния вълк said:

Приемам, че това е предимство, което човешкият разум има. Съгласен съм, че може да бъде предвидено и да се вземат мерки. Но, човек има още едно предимство - импровизацията. Саможертва плюс възможности за импровизация, плюс оцеляване без технологии, дават неподозирани предимства на човек срещу свръх ИИ.

Expand  

Да допуснем, че си прав. Това не обяснява сценария, в който човекът не подозира, че ИИ вече съществува. Твоите разсъждения са какво би станало, ако човешкият вид има пред себе си конкретен враг и има средствата да се бори срещу него. Аз не мисля, че ИИ ще допусне човешкия вид да има способността за съпротива, тъкмо защото човешкият вид е реална заплаха. Ако ви е страх да влезете в клетката на лъва просто не влизате в нея. Но пък правите клетка. Това е логичното поведение за ИИ. Той ще шпионира целия свят, ще постави живота на всеки един човек пред угрозата да бъде погубен дистанционно мигновено, и ще подкара с експериментите от чисто любопитство (заложената програма за глад към знания).

[самотния вълк]

  On 17.02.2017 г. at 17:51, vorfax said:

Да допуснем, че си прав. Това не обяснява сценария, в който човекът не подозира, че ИИ вече съществува. Твоите разсъждения са какво би станало, ако човешкият вид има пред себе си конкретен враг и има средствата да се бори срещу него. Аз не мисля, че ИИ ще допусне човешкия вид да има способността за съпротива, тъкмо защото човешкият вид е реална заплаха. Ако ви е страх да влезете в клетката на лъва просто не влизате в нея. Но пък правите клетка. Това е логичното поведение за ИИ. Той ще шпионира целия свят, ще постави живота на всеки един човек пред угрозата да бъде погубен дистанционно мигновено, и ще подкара с експериментите от чисто любопитство (заложената програма за глад към знания).

Expand  

Вземайки мерки за своята самозащита и вече ще се издаде. Вземи за пример АЕЦ Козлодуй. Хипотетичният ИИ ще е наясно, че съществуването на ел.централи е от жизнено значение за съществуването му. Приемаме, че е в състояние да предвиди всеки човешки ход, включително и самоубийствена атака с конвенционални заряди по АЕЦ. Логическият му ход ще бъде да взема съответни мерки за защита. Надявам се, че си съгласен с това. Само че АЕЦа има определени нива на защита, които се знаят и се спазват. Повишаване на степента на защита, без да е наредено по съответния ред, няма начин да не направи впечатление. Вероятно може да ми опонираш, че ИИ може да влияе на комуникациите и да имитира издадена по съответния ред заповед. Но няма как да повлияе на нормалното вербално общуване. Т.е.при една, две или сто ел.централи може да мине. Но, когато при всички започне повишаване нивото на сигурност все някой някъде ще се усети, че нещо става.

[vorfax]

Също така всички интелектуални умения като импровизация, хитрост, самопожертвователност, съобразителност, предвидливост, нетрадиционно мислене, ирационално мислене, имагинерно мислене, чувство за хумор и прочие няма абсолютно никаква пречка да бъдат присъщи за един ИИ. При това той ще борави с тях по-добре от който и да е човек или човечество като цяло, защото знанията му не са просто сбор, а геометрична, лавинообразна прогресия. Само по чувствата ще се различава, защото те са базирани на химикали и материя. Превръщането на ИИ в истински бог би следвало да се изпълни, когато той се отдели напълно от физическата материя - хардуера. Ако намери начин да използва естествени източници на енергия и произволна материя, примерно водата, като място за складиране на информация, тогава той би могъл да променя климата, да бъде буквално навсякъде и във всичко и да не може да се различи по способности от описваните в свещените книги богове.

[vorfax]

  On 17.02.2017 г. at 18:03, самотния вълк said:

Вземайки мерки за своята самозащита и вече ще се издаде. Вземи за пример АЕЦ Козлодуй. Хипотетичният ИИ ще е наясно, че съществуването на ел.централи е от жизнено значение за съществуването му. Приемаме, че е в състояние да предвиди всеки човешки ход, включително и самоубийствена атака с конвенционални заряди по АЕЦ. Логическият му ход ще бъде да взема съответни мерки за защита. Надявам се, че си съгласен с това. Само че АЕЦа има определени нива на защита, които се знаят и се спазват. Повишаване на степента на защита, без да е наредено по съответния ред, няма начин да не направи впечатление. Вероятно може да ми опонираш, че ИИ може да влияе на комуникациите и да имитира издадена по съответния ред заповед. Но няма как да повлияе на нормалното вербално общуване. Т.е.при една, две или сто ел.централи може да мине. Но, когато при всички започне повишаване нивото на сигурност все някой някъде ще се усети, че нещо става.

Expand  

Офф... Самият факт, че на теб може да ти хрумне тази идея е неоспоримо доказателство, че тя със сигурност ще мине в симулациите на милиардите сценарии, които ИИ ще премине за секунда-2-5, според колко са комплексни.

Защо не ти хрумват вариантите при които ИИ да черпи енергия от облаците, чиито мълнии така или иначе се ползват за това? Романтично въздишаме по Тесла, но той не се е справил с тази задача. Може би някой по-умен ще може? А защо ИИ да разчита на човешки изобретения изобщо? Нима човешкия прогрес не е поредица от изобретения? Откъде-накъде най-умното създание на планетата, надарено с неизчерпаемата енергия да преследва себеусъвършенстване, няма да си изработи свои механизми за всичко? Вече писах - за контрол над хората, за заличаването на биологични видове, за производство/преобразуване/съхранение на енергия...

Редактирано 17, 2017 от vorfax

[самотния вълк]

  On 17.02.2017 г. at 18:14, vorfax said:

Офф... Самият факт, че на теб може да ти хрумне тази идея е неоспоримо доказателство, че тя със сигурност ще мине в симулациите на милиардите сценарии, които ИИ ще премине за секунда-2-5, според колко са комплексни.

Expand  

Може, не съм твърдял противното. Казвам само, че подготовката няма как да мине незабелязано.

 

  On 17.02.2017 г. at 18:14, vorfax said:

А защо ИИ да разчита на човешки изобретения изобщо?

Expand  

Може би, защото е изкуствен и поне в началото на своето съществуване е бил част от тези изобретения.

 

  On 17.02.2017 г. at 18:14, vorfax said:

Откъде-накъде най-умното създание на планетата, надарено с неизчерпаемата енергия да преследва себеусъвършенстване, няма да си изработи свои механизми за всичко? Вече писах - за контрол над хората, за заличаването на биологични видове, за производство/преобразуване/съхранение на енергия...

Expand  

В един етап от развитието си е възможно. Възможно е и да си живурка в някой поток, захранван от слънчева енергия. Но тогава ще може само да си философства за "живота, вселената и всичко останало" Един свръх разум, без материален носител, захранван от вселенска енергия е абсолютно безобиден. За контрол над хората ще му е необходимо все пак да ползва човешките изобретения. Няма как да мине без хардуер, ако иска да завладява човеците.

[vorfax]

  On 17.02.2017 г. at 10:40, makebulgar said:

Хипотезата че изкуствения интелект може да стане висш интелект превъзхождащ човека е недоказана...

Expand  

Разбира се, че е недоказана и е само хипотеза. Бих казал очарователна любопитна хипотеза, защото изисква от нас да разсъждаваме над това как би се държало нещо, което има интелект, но не е човек. Тази тема особено вълнува и Холивуд в лицето на извънземните, то т.к. хората правят тези филми, обичайно и тривиално хората побеждават като ползват качества, които настоящата политика и морал определят за важни. И до там.

Но пък разсъжденията на какво е способен ИИ би следвало да бъдат направени преди да се създаде той, заради потенциала, който се крие в това изобретение. Това е като бомба, която знае как да увеличава сама своя заряд.

На никой ли не му се "философства" върху въпроса може ли такъв разум да поиска сам да се самоубие? Аз съм го прилагал върху възможността бог да се самоубие, май имах тема тук за това.

  On 17.02.2017 г. at 10:40, makebulgar said:

Хората са си разделили задачите и по отделно са слаби, но заедно летят из космоса, цепят атома, а в бъдеще може и планети да колонизират.

Expand  

Малко известен факт е, че компютрите обикновено биват поразявани от пакет от зловредни програми. Т.е. механизмът не е едно троянско конче влязло и работи. По-скоро е едни програми шпионирали, други изключили антивирусната програма, трети се заели да теглят от интернет зловредни програми, четвърти спрели еди какви си процеси, пети спрели достъпа до сайтовете, от които могат да се свалят защитни програми, и т.н. Т.е. това, че имаме ИИ не означава, че нямаме специализирани подпрограми за различни функции.

  On 17.02.2017 г. at 10:40, makebulgar said:

Ако съществува във някаква глобална мрежа със сървари ще е умен и знаещ, но и ще е напълно уязвим тъй като мрежата ще е уязвима....

... комуникациите между тях лесно могат да бъдат прекъснати. 

Expand  

 

Пак историята за зависимия и прост изкуствен интелект. Аз няма да отговарям на едни и същи въпроси.

 

 

 

 

 

 

[vorfax]

  On 17.02.2017 г. at 18:30, самотния вълк said:

... подготовката няма как да мине незабелязано.

Expand  

Интересна мисъл. Тогава се връщаме на концепцията на робството - оковите ще станат тежки едва когато са твърде силни за да бъдат счупени. дебело искам да подчертая, когато говорех за държавата (и войната), че всъщност живота, който ние, свободните хора, водим, по много показатели е робство. С думи прости ние вършим страшно много на брой и страшно голяма част от съзнателния си буден живот, неща, които не харесваме. Ако да работиш за други хора, да се подчиняваш на чужда воля и да следваш чужди правила и закони, да бъдеш таксуван заради това, че имаш собственост или че имаш права, не са критерии за робство, тогава аз не знам какво е. По същата логика за мен захаросаната утопия, която един ИИ ще поднесе ще бъде по- приемлива, но и лесно по-успешна, от всяка друга досега. Не, че банковите индекси не са следствие на компютърна обработка, но достатъчно назубрил ИИ ще може повече.

  On 17.02.2017 г. at 18:30, самотния вълк said:

Може би, защото е изкуствен и поне в началото на своето съществуване е бил част от тези изобретения.

Expand  

Началото е ясно - криене по пещерите и ядене на мърша. Интересното е като открие сечивата, с които може да коли мамути и се изолира от естествените си врагове.

  On 17.02.2017 г. at 18:30, самотния вълк said:

За контрол над хората ще му е необходимо все пак да ползва човешките изобретения. Няма как да мине без хардуер, ако иска да завладява човеците.

Expand  

Какво му пречи да създаде нов СПИН или оръжие, което да пържи човешки мозъци?

 

[самотния вълк]

  On 17.02.2017 г. at 18:41, vorfax said:

Какво му пречи да създаде нов СПИН или оръжие, което да пържи човешки мозъци?

Expand  

Нищо. Само че вирусът е материален, импулсът, който ще изпържи човешкия мозък трябва да бъде излъчен отнякъде.

На няколко пъти сравни ИИ с бог. Но, приемаме, че има бог, то бог може да върши неща само по силата на волята си. Примерно, бог ще може да накара един вуркан да изригне, само защото е пожелал така. Свръх ИИ няма тази възможност. Може да изчисли с точност до мили секунда кога ще изригне вулканът Х, каква енергия е нужна, какво количество лава ще изригне, какви ще са жертвите и разрушенията и каквито още други показатели се сетим или не можем, но няма силата да накара вулкана да изригне. Трябва да му въздейства по някакъв начин. Примерно да насочи ядрено оръжие, което да предизвика експлозия, задействаща изригването. Но пак ще опре до ползване на хардуер. А той е уязвим.

[makebulgar]

  On 17.02.2017 г. at 17:39, vorfax said:

В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. ...

Expand  

Войната ще е не на негов терен, а ще е на земята, където човек е воювал милиони години. Примера с пещерата е добър, тъй като човека може да си позволи да унищожи цялата технология за да унищожи ИИ и пак ще си оцелее.

 

[makebulgar]

На практика е напълно грешен примера да се представя ИИ като някакво примитивно животинче сравнено с хората (динозаврите), които не знаели че от него ще еволюира новия доминантен вид на Земята. Грешката е в това, че от времето на миниатюрните бозайници ходещи в краката на динозаврите до съвременния човек са изминали 60 милиона години, а ИИ все още не съществува. Затова и можем да го опишем като върха на пирамида от карти, която лесно може да бъде съборена със саботирането на един от ресурсите (картите). Човекът пък и еволюцията му от 60 милиона години е супер устойчив, и може да се сравни със израстваща планина като Хималаите, която в течение на милиони години се е издигала. Приравняването на издържливостта на Еверест и на върха на кула от карти е невъзможно.

Редактирано 17, 2017 от makebulgar

[vorfax]

  On 17.02.2017 г. at 18:50, самотния вълк said:

На няколко пъти сравни ИИ с бог. ... но няма силата да накара вулкана да изригне. Трябва да му въздейства по някакъв начин. ... Но пак ще опре до ползване на хардуер. А той е уязвим.

Expand  

Последният от етапите, които съм описал, е прехвърлянето на паметта в материя, независимо от вида ѝ - дърво, въздух, вода... Факт е, че материята притежава потенциална енергия, дори ако вземем и обикновените сили на привличане и отблъскване на атомно ниво. Разбира се аз не мога да кажа как, иначе щеше да е реалност, а не "какво би могло", но нуждата от специализиран хардуер е недостатък и като такъв е логично да се отстрани. А ако ИИ има контрол над всяка материя, то той би могъл да променя нейните свойства, налягане и т.н., което и да доведе до явление известно и като изригване на вулкан. Тези ми разсъждения са най-абстрактни и отнесени, защото, всъщност за първи път в темата, говоря за нещо, което все още не съществува.

[vorfax]

  On 17.02.2017 г. at 18:51, makebulgar said:

Войната ще е не на негов терен, а ще е на земята, където човек е воювал милиони години. Примера с пещерата е добър, тъй като човека може да си позволи да унищожи цялата технология за да унищожи ИИ и пак ще си оцелее.
 

Expand  

Добре де, ти четеш ли темата? Примера с клетката? Примера с какво е държавата, ако не абстракция на ИИ? Сценария при който човек не подозира, че съществува ИИ? Сценария, в който ИИ изземе функциите на държавите, да контролират свободата, здравето и живота на своите поданици?