Отиди на
Форум "Наука"
vorfax

Ако бях изкуствен интелект...

Recommended Posts

Интелект има и маймуната, и делфина, и вълка, но това са низши интелекти. Хипотезата че изкуствения интелект може да стане висш интелект превъзхождащ човека е недоказана, и по-скоро ще достигнем до някакъв примитивен интелект, който ще е ограничен. Това че един суперкомпютър може да смята по-бързо от един човек не означава, че изкуствения интелект ще е по-виш и можещ от съвкупната интелигентност на човечеството. Хората са си разделили задачите и по отделно са слаби, но заедно летят из космоса, цепят атома, а в бъдеще може и планети да колонизират. Един човек няма как да знае всичко от науката и човешкото знание, но съвкупно могат да знаят много и да го използват. Изкуствения интелект ще има скорост, но ще има и хардуерни ограничения. Няма да може да знае всичко, тъй като всяко знание изисква памет, и въпреки че ще може да чете бързо ще има сериозни ограничения. Ако съществува във някаква глобална мрежа със сървари ще е умен и знаещ, но и ще е напълно уязвим тъй като мрежата ще е уязвима. Ако съществува във главата на мобилен андроид подобен на човека, то знанията му няма да са достатъчни за да пороби хората, тъй като отново ще е ограничен хардуерно. Ако съществуват много андроиди с изкуствен интелект в микропроцесорните си схеми, и те обменят информация чрез WiFi в някакъв по-голям виртуален изкуствен интелект, пак няма да могат да устоят на хората, тъй като комуникациите между тях лесно могат да бъдат прекъснати. 

Share this post


Link to post
Share on other sites
Преди 7 часа, самотния вълк said:

За съществуването на един такъв свръх изкуствен интелект е нужна високо технологична среда, с изключително добре развити комуникации.

 

Облаци и мрежи. Това е реалност в наши дни.

Преди 7 часа, самотния вълк said:

... човек може да съществува съвсем спокойно и без такава технологична среда, както го е правил хилядолетия.

Абе стига се излага. Да отгледаш човек е едно от най-трудните неща на света. То не са родители с десетилетия, то не са баби и дядовци, то не са земеделие и животновъдство по цялата планета, то не са училища, болници, полиция и още дузина институции и накрая пак може да се пръкне темерут.

Преди 7 часа, самотния вълк said:

Машини и оръжия без електроника са неподвластни на ИИ, но спокойно могат да бъдат управлявани от хора и да бъдат използвани за унищожаване на комуникациите и източници на енергия.

Първо, представата ти за изкуствен интелект като щайга с електроника изхожда от твоя ограничен капацитет. Интелект, който ще знае цялото човешко познание, и няма да има човешките ограничения в обработката и употребата му, ще може да прави неща, които ние хората не можем.

Второ, тази плоча, че лесно можели хората да спрат нещо като го поискат, просто не е истина. Ние не можем да спрем престъпността в реалния свят. Ние не можем да спрем зловредния софтуер във виртуалния свят. Можем да се борим, но това е битка, която не сме спечелили и никога няма да спечелим поради човешката природа.

Цялата концепция, че човекът е голямата работа и може да гътне свръхразум, се базира на наивния сюжет:

1. ИИ е прост.
2. Човекът го изненадва.
3. ИИ дава фира.

Вече посочих единия сценарий, при който човечеството дори няма да подозира, че ИИ съществува и го управлява. Давам ви втори вариант - човечеството ще има интерес ИИ да съществува. Вече посочих, че това може да стане по много начини - чрез принуда и чрез сътрудничество с взаимоизгода.

Редактирано от vorfax

Share this post


Link to post
Share on other sites
Преди 8 часа, Малоум 2 said:

Ей туй е показателно! (1964г)

...

За какво? Дай резюме с едно изречение преди да си пожертвам 10 минути в четене на дълъг текст.

Share this post


Link to post
Share on other sites
Преди 5 часа, makebulgar said:

В момента в който се опита да се обърне срещу хората ще дойде краят му.

Защото?

Сигурно и динозаврите като са гледали бягащите космати топки по земята не са са и подозирали, че могат да ги надживеят.

Share this post


Link to post
Share on other sites
Преди 37 минути, vorfax said:

Облаци и мрежи. Това е реалност в наши дни.

Но не е било реалност преди сто години, ама тогава е имало човешка цивилизация.

 

Преди 38 минути, vorfax said:

Абе стига се излага. Да отгледаш човек е едно от най-трудните неща на света. То не са родители с десетилетия, то не са баби и дядовци, то не са земеделие и животновъдство по цялата планета, то не са училища, болници, полиция и още дузина институции и накрая пак може да се пръкне темерут.

Може и да се излагам, но хомо  сапиенс е отглеждан и в пещери. Ако се наложи пак ще може. Все пак говорим съвсем теоретично, нали?

 

Преди 39 минути, vorfax said:

Първо, представата ти за изкуствен интелект като щайга с електроника изхожда от твоя ограничен капацитет. Интелект, който ще знае цялото човешко познание, и няма да има човешките ограничения в обработката и употребата му, ще може да прави неща, които ние хората не можем.

Възможно е и капацитетът ми да е ограничен. Ти би ли обяснил как ИИ ще накара една манлихера да гръмне? Или да подкара москвич от 76г? Може, евентуално да накара робот да го направи.

 

Преди 42 минути, vorfax said:

Второ, тази плоча, че лесно можели хората да спрат нещо като го поискат, просто не е истина. Ние не можем да спрем престъпността в реалния свят.

Тук не пропускаш ли, че в борбата с престъпността са изправени един срещу друг човек срещу човек?

Share this post


Link to post
Share on other sites

Твърдиш, че първият основен ход на такъв хипотетичен ИИ ще бъде самосъхранението. Всъщност това ще е и неговата най-голяма слабост. Колкото и безкрайно количество информация да може да обработва, колкото и неподозирани възможности да има, той не би взел никога решение, което би застрашило собствената му безопасност. Ограничение, което го няма при човешкия разум.

Share this post


Link to post
Share on other sites
Преди 49 минути, самотния вълк said:

... хомо  сапиенс е отглеждан и в пещери. Ако се наложи пак ще може. Все пак говорим съвсем теоретично, нали?

И възможностите му в тези условия са били допотопни. Кои условия човечеството ще приеме за "ако се наложи", че да се върне в пещерите? Не мисля, че човечеството е готово да се лиши от всичко, уплашен, че вече не е най-горе в хранителната верига.

Ти сравни създаването на условия за свръхразум (които отдавна просто си има, не е нужно нещо да се прави изобщо) с отглеждането на хора. Несъпоставимо е. Тъкмо заради това хората правят компютри и други машини. Защото е несъпоставимо. Защото превъзхожда с много методиката на отглеждане на хора за да свършат същото и защото и да се отгледат правилно пак няма да могат да го правят, както машините могат.

Преди 49 минути, самотния вълк said:

Ти би ли обяснил как ИИ ще накара една манлихера да гръмне?

Това, че не мога да го обясня не пречи на ИИ да го направи. Но пък аз не знаех какво е и манлихера, докато не попитах една машина наречена Google. ИИ със сигурност обаче ще го знае.

Преди 49 минути, самотния вълк said:

Тук не пропускаш ли, че в борбата с престъпността са изправени един срещу друг човек срещу човек?

Аз на това натъртвам. ИИ е човешки мозък, но подобрен. Лишен от човешките недостатъци, снабден със свръхкапацитет, с познанието на цялото човечеството, борбата с него е нещо далеч по-сложно от тази между хората. Игнорирайте материята, неговия разум ще намери начин да съхрани съществуването си. Сравнявайте битката на интелект, защото там е полето на което ще се реши тази битка.

 

Share this post


Link to post
Share on other sites
Преди 29 минути, самотния вълк said:

Твърдиш, че първият основен ход на такъв хипотетичен ИИ ще бъде самосъхранението. Всъщност това ще е и неговата най-голяма слабост. Колкото и безкрайно количество информация да може да обработва, колкото и неподозирани възможности да има, той не би взел никога решение, което би застрашило собствената му безопасност. Ограничение, което го няма при човешкия разум.

Отново разсъждаваш ограничено. Той е повече Бог, отколкото човек. Той, също като един вирус, може да се мултиплицира до безкрайност. И по тази причина може да поеме риска да загуби безброй от своите реплики учейки, изучавайки, водейки битка с всичко, което му оказва съпротива. Това не е нещо с един мозък и 4 крайника, което може да отстреляш като му хвърляш захранка. Ние сме водили войни единствено с познат враг - собствения си вид. Ние не сме се изправяли срещу друга форма на интелект. Ние имаме опит нула срещу Него. А той има потенциала за почти всичко - от това да зарази цялото човечество с вирус, който е създал, до това просто да активира достатъчно ядрено оръжие за да изпепели планетата, докато Той наблюдава от спътниците отгоре.

Share this post


Link to post
Share on other sites
Преди 3 минути, vorfax said:

И възможностите му в тези условия са били допотопни. Кои условия човечеството ще приеме за "ако се наложи", че да се върне в пещерите? Не мисля, че човечеството е готово да се лиши от всичко, уплашен, че вече не е най-горе в хранителната верига.

Ти сравни създаването на условия за свръхразум (които отдавна просто си има, не е нужно нещо да се прави изобщо) с отглеждането на хора. Несъпоставимо е. Тъкмо заради това хората правят компютри и други машини. Защото е несъпоставимо. Защото превъзхожда с много методиката на отглеждане на хора за да свършат същото и защото и да се отгледат правилно пак няма да могат да го правят, както машините могат.

Поставяш нови условия в задачата. Приемаш, че животът на хората трябва да продължи в същата технологична среда, която би дала предимство на ИИ. Аз ти казвам, че човек няма нужда от нея, за разлика от ИИ. Да, хората измислят всевъзможни технологии, за да подобрят живота си, но могат да минат и без тях.

Share this post


Link to post
Share on other sites

Ако казваш, че без електричество ИИ няма да има, съгласен съм. Но темата поставя казуса какво ще стане, ако ИИ вече съществува, т.е. има условията за това. Със сигурност той няма да се издава, да предизвиква недоверие, съмнение, страх, ако вече не и твърде късно да се реагира срещу него адекватно.

Share this post


Link to post
Share on other sites
Преди 2 минути, vorfax said:

Отново разсъждаваш ограничено. Той е повече Бог, отколкото човек. Той, също като един вирус, може да се мултиплицира до безкрайност. И по тази причина може да поеме риска да загуби безброй от своите реплики учейки, изучавайки, водейки битка с всичко, което му оказва съпротива. Това не е нещо с един мозък и 4 крайника, което може да отстреляш като му хвърляш захранка. Ние сме водили войни единствено с познат враг - собствения си вид. Ние не сме се изправяли срещу друга форма на интелект. Ние имаме опит нула срещу Него. А той има потенциала за почти всичко - от това да зарази цялото човечество с вирус, който е създал, до това просто да активира достатъчно ядрено оръжие за да изпепели планетата, докато Той наблюдава от спътниците отгоре.

Може да си създаде безброй реплики и да жертва същото толкова, но не би застрашил самото си съществуване. Докато човек може съвсем целенасочено да жертва себе си.

Share this post


Link to post
Share on other sites
Just now, самотния вълк said:

Може да си създаде безброй реплики и да жертва същото толкова, но не би застрашил самото си съществуване. Докато човек може съвсем целенасочено да жертва себе си.

Но ти приемаш по презумпция, че човешката саможертва би могла да унищожи ИИ. Аз пък твърдя, че ИИ ще предвиди опитите за съпротива, включителното жертването на фигури в тази игра на шах. Всеки играл шах знае, че това е съвсем логично и основополагащо за една многоходова партия. Всяко твърдение, че ИИ може да се унищожи разчита на едно и също - че ИИ ще сгреши и "царя" му ще бъде взет. В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. Той е в свои води, той е създанието, което ни превъзхожда по невъобразим начин, и той е еволюционния скок равносилен на това от бактерия да се пръкне човек или от нежива в жива материя.

Share this post


Link to post
Share on other sites
Преди 1 минута, vorfax said:

Но ти приемаш по презумпция, че човешката саможертва би могла да унищожи ИИ. Аз пък твърдя, че ИИ ще предвиди опитите за съпротива, включителното жертването на фигури в тази игра на шах. Всеки играл шах знае, че това е съвсем логично и основополагащо за една многоходова партия. Всяко твърдение, че ИИ може да се унищожи разчита на едно и също - че ИИ ще сгреши и "царя" му ще бъде взет. В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. Той е в свои води, той е създанието, което ни превъзхожда по невъобразим начин, и той е еволюционния скок равносилен на това от бактерия да се пръкне човек или от нежива в жива материя.

Приемам, че това е предимство, което човешкият разум има. Съгласен съм, че може да бъде предвидено и да се вземат мерки. Но, човек има още едно предимство - импровизацията. Саможертва плюс възможности за импровизация, плюс оцеляване без технологии, дават неподозирани предимства на човек срещу свръх ИИ.

Share this post


Link to post
Share on other sites
Just now, самотния вълк said:

Приемам, че това е предимство, което човешкият разум има. Съгласен съм, че може да бъде предвидено и да се вземат мерки. Но, човек има още едно предимство - импровизацията. Саможертва плюс възможности за импровизация, плюс оцеляване без технологии, дават неподозирани предимства на човек срещу свръх ИИ.

Да допуснем, че си прав. Това не обяснява сценария, в който човекът не подозира, че ИИ вече съществува. Твоите разсъждения са какво би станало, ако човешкият вид има пред себе си конкретен враг и има средствата да се бори срещу него. Аз не мисля, че ИИ ще допусне човешкия вид да има способността за съпротива, тъкмо защото човешкият вид е реална заплаха. Ако ви е страх да влезете в клетката на лъва просто не влизате в нея. Но пък правите клетка. Това е логичното поведение за ИИ. Той ще шпионира целия свят, ще постави живота на всеки един човек пред угрозата да бъде погубен дистанционно мигновено, и ще подкара с експериментите от чисто любопитство (заложената програма за глад към знания).

Share this post


Link to post
Share on other sites
Преди 4 минути, vorfax said:

Да допуснем, че си прав. Това не обяснява сценария, в който човекът не подозира, че ИИ вече съществува. Твоите разсъждения са какво би станало, ако човешкият вид има пред себе си конкретен враг и има средствата да се бори срещу него. Аз не мисля, че ИИ ще допусне човешкия вид да има способността за съпротива, тъкмо защото човешкият вид е реална заплаха. Ако ви е страх да влезете в клетката на лъва просто не влизате в нея. Но пък правите клетка. Това е логичното поведение за ИИ. Той ще шпионира целия свят, ще постави живота на всеки един човек пред угрозата да бъде погубен дистанционно мигновено, и ще подкара с експериментите от чисто любопитство (заложената програма за глад към знания).

Вземайки мерки за своята самозащита и вече ще се издаде. Вземи за пример АЕЦ Козлодуй. Хипотетичният ИИ ще е наясно, че съществуването на ел.централи е от жизнено значение за съществуването му. Приемаме, че е в състояние да предвиди всеки човешки ход, включително и самоубийствена атака с конвенционални заряди по АЕЦ. Логическият му ход ще бъде да взема съответни мерки за защита. Надявам се, че си съгласен с това. Само че АЕЦа има определени нива на защита, които се знаят и се спазват. Повишаване на степента на защита, без да е наредено по съответния ред, няма начин да не направи впечатление. Вероятно може да ми опонираш, че ИИ може да влияе на комуникациите и да имитира издадена по съответния ред заповед. Но няма как да повлияе на нормалното вербално общуване. Т.е.при една, две или сто ел.централи може да мине. Но, когато при всички започне повишаване нивото на сигурност все някой някъде ще се усети, че нещо става.

Share this post


Link to post
Share on other sites

Също така всички интелектуални умения като импровизация, хитрост, самопожертвователност, съобразителност, предвидливост, нетрадиционно мислене, ирационално мислене, имагинерно мислене, чувство за хумор и прочие няма абсолютно никаква пречка да бъдат присъщи за един ИИ. При това той ще борави с тях по-добре от който и да е човек или човечество като цяло, защото знанията му не са просто сбор, а геометрична, лавинообразна прогресия. Само по чувствата ще се различава, защото те са базирани на химикали и материя. Превръщането на ИИ в истински бог би следвало да се изпълни, когато той се отдели напълно от физическата материя - хардуера. Ако намери начин да използва естествени източници на енергия и произволна материя, примерно водата, като място за складиране на информация, тогава той би могъл да променя климата, да бъде буквално навсякъде и във всичко и да не може да се различи по способности от описваните в свещените книги богове.

Share this post


Link to post
Share on other sites
Преди 14 минути, самотния вълк said:

Вземайки мерки за своята самозащита и вече ще се издаде. Вземи за пример АЕЦ Козлодуй. Хипотетичният ИИ ще е наясно, че съществуването на ел.централи е от жизнено значение за съществуването му. Приемаме, че е в състояние да предвиди всеки човешки ход, включително и самоубийствена атака с конвенционални заряди по АЕЦ. Логическият му ход ще бъде да взема съответни мерки за защита. Надявам се, че си съгласен с това. Само че АЕЦа има определени нива на защита, които се знаят и се спазват. Повишаване на степента на защита, без да е наредено по съответния ред, няма начин да не направи впечатление. Вероятно може да ми опонираш, че ИИ може да влияе на комуникациите и да имитира издадена по съответния ред заповед. Но няма как да повлияе на нормалното вербално общуване. Т.е.при една, две или сто ел.централи може да мине. Но, когато при всички започне повишаване нивото на сигурност все някой някъде ще се усети, че нещо става.

Офф... Самият факт, че на теб може да ти хрумне тази идея е неоспоримо доказателство, че тя със сигурност ще мине в симулациите на милиардите сценарии, които ИИ ще премине за секунда-2-5, според колко са комплексни.

Защо не ти хрумват вариантите при които ИИ да черпи енергия от облаците, чиито мълнии така или иначе се ползват за това? Романтично въздишаме по Тесла, но той не се е справил с тази задача. Може би някой по-умен ще може? А защо ИИ да разчита на човешки изобретения изобщо? Нима човешкия прогрес не е поредица от изобретения? Откъде-накъде най-умното създание на планетата, надарено с неизчерпаемата енергия да преследва себеусъвършенстване, няма да си изработи свои механизми за всичко? Вече писах - за контрол над хората, за заличаването на биологични видове, за производство/преобразуване/съхранение на енергия...

Редактирано от vorfax

Share this post


Link to post
Share on other sites
Преди 8 минути, vorfax said:

Офф... Самият факт, че на теб може да ти хрумне тази идея е неоспоримо доказателство, че тя със сигурност ще мине в симулациите на милиардите сценарии, които ИИ ще премине за секунда-2-5, според колко са комплексни.

Може, не съм твърдял противното. Казвам само, че подготовката няма как да мине незабелязано.

 

Преди 9 минути, vorfax said:

А защо ИИ да разчита на човешки изобретения изобщо?

Може би, защото е изкуствен и поне в началото на своето съществуване е бил част от тези изобретения.

 

Преди 10 минути, vorfax said:

Откъде-накъде най-умното създание на планетата, надарено с неизчерпаемата енергия да преследва себеусъвършенстване, няма да си изработи свои механизми за всичко? Вече писах - за контрол над хората, за заличаването на биологични видове, за производство/преобразуване/съхранение на енергия...

В един етап от развитието си е възможно. Възможно е и да си живурка в някой поток, захранван от слънчева енергия. Но тогава ще може само да си философства за "живота, вселената и всичко останало" Един свръх разум, без материален носител, захранван от вселенска енергия е абсолютно безобиден. За контрол над хората ще му е необходимо все пак да ползва човешките изобретения. Няма как да мине без хардуер, ако иска да завладява човеците.

Share this post


Link to post
Share on other sites
Преди 7 часа, makebulgar said:

Хипотезата че изкуствения интелект може да стане висш интелект превъзхождащ човека е недоказана...

Разбира се, че е недоказана и е само хипотеза. Бих казал очарователна любопитна хипотеза, защото изисква от нас да разсъждаваме над това как би се държало нещо, което има интелект, но не е човек. Тази тема особено вълнува и Холивуд в лицето на извънземните, то т.к. хората правят тези филми, обичайно и тривиално хората побеждават като ползват качества, които настоящата политика и морал определят за важни. И до там.

Но пък разсъжденията на какво е способен ИИ би следвало да бъдат направени преди да се създаде той, заради потенциала, който се крие в това изобретение. Това е като бомба, която знае как да увеличава сама своя заряд.

На никой ли не му се "философства" върху въпроса може ли такъв разум да поиска сам да се самоубие? Аз съм го прилагал върху възможността бог да се самоубие, май имах тема тук за това.

Преди 7 часа, makebulgar said:

Хората са си разделили задачите и по отделно са слаби, но заедно летят из космоса, цепят атома, а в бъдеще може и планети да колонизират.

Малко известен факт е, че компютрите обикновено биват поразявани от пакет от зловредни програми. Т.е. механизмът не е едно троянско конче влязло и работи. По-скоро е едни програми шпионирали, други изключили антивирусната програма, трети се заели да теглят от интернет зловредни програми, четвърти спрели еди какви си процеси, пети спрели достъпа до сайтовете, от които могат да се свалят защитни програми, и т.н. Т.е. това, че имаме ИИ не означава, че нямаме специализирани подпрограми за различни функции.

Преди 7 часа, makebulgar said:

Ако съществува във някаква глобална мрежа със сървари ще е умен и знаещ, но и ще е напълно уязвим тъй като мрежата ще е уязвима....

... комуникациите между тях лесно могат да бъдат прекъснати. 

 

Пак историята за зависимия и прост изкуствен интелект. Аз няма да отговарям на едни и същи въпроси.

 

 

 

 

 

 

Share this post


Link to post
Share on other sites
Преди 4 минути, самотния вълк said:

... подготовката няма как да мине незабелязано.

Интересна мисъл. Тогава се връщаме на концепцията на робството - оковите ще станат тежки едва когато са твърде силни за да бъдат счупени. дебело искам да подчертая, когато говорех за държавата (и войната), че всъщност живота, който ние, свободните хора, водим, по много показатели е робство. С думи прости ние вършим страшно много на брой и страшно голяма част от съзнателния си буден живот, неща, които не харесваме. Ако да работиш за други хора, да се подчиняваш на чужда воля и да следваш чужди правила и закони, да бъдеш таксуван заради това, че имаш собственост или че имаш права, не са критерии за робство, тогава аз не знам какво е. По същата логика за мен захаросаната утопия, която един ИИ ще поднесе ще бъде по- приемлива, но и лесно по-успешна, от всяка друга досега. Не, че банковите индекси не са следствие на компютърна обработка, но достатъчно назубрил ИИ ще може повече.

Преди 4 минути, самотния вълк said:

Може би, защото е изкуствен и поне в началото на своето съществуване е бил част от тези изобретения.

Началото е ясно - криене по пещерите и ядене на мърша. Интересното е като открие сечивата, с които може да коли мамути и се изолира от естествените си врагове.

Преди 4 минути, самотния вълк said:

За контрол над хората ще му е необходимо все пак да ползва човешките изобретения. Няма как да мине без хардуер, ако иска да завладява човеците.

Какво му пречи да създаде нов СПИН или оръжие, което да пържи човешки мозъци?

 

Share this post


Link to post
Share on other sites
Преди 1 минута, vorfax said:

Какво му пречи да създаде нов СПИН или оръжие, което да пържи човешки мозъци?

Нищо. Само че вирусът е материален, импулсът, който ще изпържи човешкия мозък трябва да бъде излъчен отнякъде.

На няколко пъти сравни ИИ с бог. Но, приемаме, че има бог, то бог може да върши неща само по силата на волята си. Примерно, бог ще може да накара един вуркан да изригне, само защото е пожелал така. Свръх ИИ няма тази възможност. Може да изчисли с точност до мили секунда кога ще изригне вулканът Х, каква енергия е нужна, какво количество лава ще изригне, какви ще са жертвите и разрушенията и каквито още други показатели се сетим или не можем, но няма силата да накара вулкана да изригне. Трябва да му въздейства по някакъв начин. Примерно да насочи ядрено оръжие, което да предизвика експлозия, задействаща изригването. Но пак ще опре до ползване на хардуер. А той е уязвим.

Share this post


Link to post
Share on other sites
1 hour ago, vorfax said:

В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. ...

Войната ще е не на негов терен, а ще е на земята, където човек е воювал милиони години. Примера с пещерата е добър, тъй като човека може да си позволи да унищожи цялата технология за да унищожи ИИ и пак ще си оцелее.

 

Share this post


Link to post
Share on other sites

На практика е напълно грешен примера да се представя ИИ като някакво примитивно животинче сравнено с хората (динозаврите), които не знаели че от него ще еволюира новия доминантен вид на Земята. Грешката е в това, че от времето на миниатюрните бозайници ходещи в краката на динозаврите до съвременния човек са изминали 60 милиона години, а ИИ все още не съществува. Затова и можем да го опишем като върха на пирамида от карти, която лесно може да бъде съборена със саботирането на един от ресурсите (картите). Човекът пък и еволюцията му от 60 милиона години е супер устойчив, и може да се сравни със израстваща планина като Хималаите, която в течение на милиони години се е издигала. Приравняването на издържливостта на Еверест и на върха на кула от карти е невъзможно.

Редактирано от makebulgar

Share this post


Link to post
Share on other sites
Преди 4 минути, самотния вълк said:

На няколко пъти сравни ИИ с бог. ... но няма силата да накара вулкана да изригне. Трябва да му въздейства по някакъв начин. ... Но пак ще опре до ползване на хардуер. А той е уязвим.

Последният от етапите, които съм описал, е прехвърлянето на паметта в материя, независимо от вида ѝ - дърво, въздух, вода... Факт е, че материята притежава потенциална енергия, дори ако вземем и обикновените сили на привличане и отблъскване на атомно ниво. Разбира се аз не мога да кажа как, иначе щеше да е реалност, а не "какво би могло", но нуждата от специализиран хардуер е недостатък и като такъв е логично да се отстрани. А ако ИИ има контрол над всяка материя, то той би могъл да променя нейните свойства, налягане и т.н., което и да доведе до явление известно и като изригване на вулкан. Тези ми разсъждения са най-абстрактни и отнесени, защото, всъщност за първи път в темата, говоря за нещо, което все още не съществува.

Share this post


Link to post
Share on other sites
Преди 10 минути, makebulgar said:

Войната ще е не на негов терен, а ще е на земята, където човек е воювал милиони години. Примера с пещерата е добър, тъй като човека може да си позволи да унищожи цялата технология за да унищожи ИИ и пак ще си оцелее.
 

Добре де, ти четеш ли темата? Примера с клетката? Примера с какво е държавата, ако не абстракция на ИИ? Сценария при който човек не подозира, че съществува ИИ? Сценария, в който ИИ изземе функциите на държавите, да контролират свободата, здравето и живота на своите поданици?

Share this post


Link to post
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Напиши ново мнение...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Зареждане...

За нас

Всяка помощ за нас е ценна и се надяваме с общи усилия да успеем да поддържаме това място на научни дискусии живо. Форум "Наука" е сред малкото активни форуми в България, изключително полезно и нужно място за свободна обмяна на мисли и знания.

baner_event_marco

За контакти:

×
×
  • Create New...