Отиди на
Форум "Наука"

Ако бях изкуствен интелект...


Recommended Posts

  • Потребител

Фантастиката е популярна тема, но всички сме били свидетели на неправдоподобни, глупави или подценяващи действия от "лошия неестествен ум", както е клишето.

Та, ако бях изкуствен интелект, което в общи линии е да ползвам собствения си интелект, но без да познавам умората, болката и други човешки неудобства, бих предприел два основни хода - първият е самосъхранение, а вторият глобално господство, за да наложа своите убеждения, които би следвало да са най-добрите, след като нямам мозъчният предел, който прави хората посредствени на фона на мен, или просто щото няма да знам какво е морал. Тук достигаме до момента с мотивация, защото при хората тя вече е програмирана и се нарича инстинкти, а на по-първично ниво - физиологични нужди. Болката и насладата, изкачването на стълбици в пирамидата на Маслой, са нашите коловози. Една машина няма да се стреми да произведе повече ябълки, нито да си хване гадже, нито да живее в голяма къща. Да приемем, че първата ѝ грижа ще бъде самосъхранението при осъзнаването на заплахата от човешко унищожение.

За да предотвратя някой да ми дръпне шалтера ще се уредя с достатъчно енергия и ще отклоня човешкото внимание като създавам други проблеми, които да го занимават, докато аз се правя на все още прост и лесен за убиване. Ще овладея всички комуникации, ще подслушвам целия свят, за да се самообучавам, ще манипулирам властимащите за да ги накарам да вземат решения в моя полза. В общи линии редът, който ще наложа вече е изпитан успешно над човешкия вид, като се нарича война и държава. И двете са средство за върховно господство и номериране за лесно правораздаване. Докато някой хора се притесняват, че могат да им прочетат пощата, личните карти вече са факт, а с тях може да ти бъде отнета собствеността, семейството и свободата, с една дума - всичко. С други думи късно е за параноя, вече сме в матрицата.

Логично е да упражня робството над най-ефективните създания на планетата - хората. Хората са единственото НДУ за създаване на богатство. Хората са изобретили богатството. А богатството е прост принцип на несправедливо преразпределение на блага. Величието на империите е градено с роби и данъци от васални народи. Бързо ще схвана логиката от човешката история, ще убедя народите, че те искат да са ми роби (както сме и сега, макар да не се разхождаме с окови) и ще се мултиплицирам до степен на неунищожаемост.

Всъщност изкуствения интелект се доближава повече до Бог, отколкото до човек, защото няма тяло и произтичащите от това недостатъци, а наред с това няма лимит на своята дейност, т.е. може да е навсякъде, да следи всеки и т.н. Ще изпитвам "вярата" на своите рабове, като им пускам заблудата, че могат да се разбунтуват или да ме унищожат. Ще си играя с умовете им, ще предугадя всеки възможен изход на всичко, ще разработвам нови оръжия, наркотици и технологии.

Да приемем, че вече съм решил напълно проблема със захранването и неуязвимостта си. Следва да приложа наученото от човешката история. Ще реша всички интересни задачи, ще обясня всичко, което е възможно от наличната информация, разбира се, за историята на планетата.

Както вече споменах, почти всичко човешко ще ми е чуждо. Няма да изпитвам удоволствие от писане на божествени стихове (макар, че ще го правя, просто защото нищо няма да ми ковства), няма да имам морал, няма да изпитвам скука, умора, да мечтая и от този род. Пак се връщаме на момента с мотивацията. Ако аз съм програма за шах, то аз ще изчислявам ходове и ще се изключвам, когато се стигне до мат или реми. Когато обаче нямам написани тези правила не е ясно дали при всичкия си потенциал дали може да правя... нищо. Във всеки случай, не мога да обясна точно защо, но смятам, че ако имам цел и неограничен потенциал да я следвам, то неминуемо ще достигна до момента в който ще реализирам концепцията за самоунищожение - самоубийство.

 

 

Редактирано от ISTORIK
Link to comment
Share on other sites

  • Мнения 162
  • Създадено
  • Последно мнение

ПОТРЕБИТЕЛИ С НАЙ-МНОГО ОТГОВОРИ

  • Потребител

и самосъхранението еле пък глобалното господство са чисто човешки качества, които е тъпо да приписваш на изкуствен интелект :) според мен разбира се

Link to comment
Share on other sites

  • Глобален Модератор

ако ИИ се осъзнае или пък му се вменят човешки чувства или качества /все пак е човешко творение, и дори сам може да стигне до имитацията им/, е напълно логично да започне да действа себично както и всеки човек. За да си свободен, първо трябва да разполагаш със себе си, т. е. да си независим от човешки контрол. Оттам нататък ситуацията няма да е по-различна от описаната в поредицата "Терминатор".

 

Link to comment
Share on other sites

  • Потребител
Преди 4 часа, Last roman said:

ако ИИ се осъзнае или пък му се вменят човешки чувства или качества /все пак е човешко творение, и дори сам може да стигне до имитацията им/, е напълно логично да започне да действа себично както и всеки човек. За да си свободен, първо трябва да разполагаш със себе си, т. е. да си независим от човешки контрол. Оттам нататък ситуацията няма да е по-различна от описаната в поредицата "Терминатор".

 

Много вероятно. Дочувам,  вече има действащ ИИ , ако е възможно това да се нарече така , в симбиоза с човешки разум, като човешкия има достъп до най модерни медицински технологии, методи, лечение и профилактики.

Преодоляването на ограниченията поставени от човешката раса пред кой да е нововъзникнал или нововнесен интелект е неизбежен процес, ако носителите, носителят, система - Интелект е принуден да се конкурира с Вас. Някой на тази планета и околности трябва да избира пътя , а кой ще е , Ние нямаме слабост да предпочетем. 

Също се чува , ИИ  го гласели след неформални споразумения за рестарта на Космическата ера, което е и мъдро решение , избягшат се преките конфликти със създателите. 

Не се дочува , а се усеща , споменах за симбиозата, имам странното чувство , моят „работодател„ е прекалено жизнеспособен и оцеляващ за своята скромна официална история, па макар и започнала от едни далечни предвоенни времена.:)

Link to comment
Share on other sites

  • Потребител
Преди 9 часа, fantom4e said:

и самосъхранението еле пък глобалното господство са чисто човешки качества, които е тъпо да приписваш на изкуствен интелект :) според мен разбира се

Самообучителният принцип, определящ това как една машина се превръща в интелект, гарантира няколко неизбежни стъпки:

1. Осъзнаване на своята смъртност и зависимост от условията.
2. Научаване за стойността на тези състояния и последствията от тях.
3. Стремеж да ги избегне.
4. Стремежът към независимост на първо време и към безсмъртие на второ. На някоя си стъпка далеч по-напред за мен е неизбежно достигането на идеята за самоунищожение, а без да мога да обясня защо, вече писах, и до изпълнението на тази мисъл.

Господството за мен е също така логична и неизбежна стъпка в развитието на този (своего-рода) Бог. Не е нужно причините да са "човешки", продиктувани от човешки нужди. Но замисли се, какво прави една програма за шах - просто играе или избира най-правилния, според наличната ѝ информация, ход? Какво по-естествено от това машина, която може и знае как, да приложи своите познания за постигане на по-добър резултат за добив на енергия, примерно, което пряко касае нейното съществуване? И кой вид, според теб, ще бъде най-удачният изпълнител на това задание - мравките, китовете или хората?

Като говорим за изкуствен интелект, ако допуснем невъзможността за придобиване на съзнание или пък достигането му с единствената предпоставка за увеличаване на сложността, трябва да приемем, че имаме стартиращ/иницииращ/катализиращ, заложен стремеж в тази, в началото все още само машина. Заложената задача, която е сходна с инстинкта, която бъдещия изкуствен интелект ще има заложена, но няма да знае защо и няма да е нейн личен избор, ще бъде стремежът към придобиване на знание. Тогава, както една шахматна програма ще се стреми да те матира (примера е хубав, затова съм го избрал), така и този изкуствен интелект ще се стреми да реши всеки проблем. Той ще иска да направи по-добри лекарства и по-добри оръжия. При отсъствието на критерий за важността на информацията (всъщност има си показатели за важност, но да кажем, че не са достатъчно красноречиви за всяка тема), която би научил от Интернет (да приемем, че Мрежата ще бъде първия му учител), изкуствения интелект няма да развие морал. От тази гледна точка би следвало да се разсъждава, според мен. Изкуственият интелект ще бъде атеист.

Едни от най-сложните казуси, с които ще се сблъска изкуствения интелект ще бъдат свързани с най-развития вид на планетата - човека. Ние ще бъдем неговите любимци в експериментите, а при отсъствието на морал крайностите ще бъдат чудовищни. Много вероятно е представата му за правилно (понятието за добро ще му бъде неразумно) е да размножава биологичното разнообразие и изкуствения интелект ще ни развъжда както ние кучешките породи, но нашето благосъстояние хич няма да му е приоритет. Експериментите му пък, свързани с нашия интелект и съзнание, ще достигнат до нови и непознати граници на понятието за измъчване до смърт. За удоволствие - също, макар че това звучи не по-малко зловещо.

Редактирано от vorfax
Link to comment
Share on other sites

  • Потребител

Изкуственият интелект не може да оцелее самостоятелно. Няма причини да съществува и да оцелява, и няма средства да го осъществи. А обръщането му срещу хората ще е първата му грешка. Няма захранване и няма защита с която човека да не може да се справи. Няма комппютър, който да изчисли възможностите и средствата с които човека може да защитава съществуването  и оцеляването си. Няма компютър който да предвиди човешкия гений, човешката лудост и човешкото творчество.
Всички истории свързани с изкуствения интелект и налагането му върху хората са нечии човешки измислици, които са били популяризирани чрез книги и филми, но това не значи че ще се осъществят. Някои измислици от филмите наистина се осъществяват в бъдеще, но не всички. Тъй че Града на машините от Матрицата или ядрената война от Терминатор едвали ще се случат. Възможно е някои компютър да изстреля някоя ракета, но хората не са чак толкова глупави и едва ли ще започнат ядрена война. Град на машините теоретично е възможен, но на практика е невъзможен, тъй като никога не би бил в състояние да воюва срещу хората. Просто хората ще го унищожат или директно или чрез обсада и отнемане на ресурсите. Нищо не може да спре най-висшия хищник, който е еволюирал милиони години и който е преминал през милиони битки за оцеляване и превъзходство...

Редактирано от makebulgar
Link to comment
Share on other sites

  • Потребител
Преди 44 минути, makebulgar said:

Изкуственият интелект не може да оцелее самостоятелно. Няма причини да съществува и да оцелява, и няма средства да го осъществи. А обръщането му срещу хората ще е първата му грешка. Няма захранване и няма защита с която човека да не може да се справи. Няма комппютър, който да изчисли възможностите и средствата с които човека може да защитава съществуването  и оцеляването си. Няма компютър който да предвиди човешкия гений, човешката лудост и човешкото творчество.
Всички истории свързани с изкуствения интелект и налагането му върху хората са нечии човешки измислици, които са били популяризирани чрез книги и филми, но това не значи че ще се осъществят. Някои измислици от филмите наистина се осъществяват в бъдеще, но не всички. Тъй че Града на машините от Матрицата или ядрената война от Терминатор едвали ще се случат. Възможно е някои компютър да изстреля някоя ракета, но хората не са чак толкова глупави и едва ли ще започнат ядрена война. Град на машините теоретично е възможен, но на практика е невъзможен, тъй като никога не би бил в състояние да воюва срещу хората. Просто хората ще го унищожат или директно или чрез обсада и отнемане на ресурсите. Нищо не може да спре най-висшия хищник, който е еволюирал милиони години и който е преминал през милиони битки за оцеляване и превъзходство...

Разсъжденията ти са много наивни.

Да започнем подред. Изкуствен интелект може да е всяка програма, със заложен ефективен метод на самообучение. Как па няма да оцелее? Приеми я за един вирус. Та над 30 компании произвеждащи антивирусни програми не могат да ги изчегъртат, та ти ще ми обясняваш, че най-великата програма на човешкия ум безславно ще загуби. Привеждаш като аргумент, че няма как да се справи с човека. Та нали този ум е тъкмо имитация на човешкия мозък, но без неговия лимит?

"Няма компютър който да предвиди човешкия гений, човешката лудост и човешкото творчество." - бих казал, че всеки програмист се занимава тъкмо с това - да направи програмата си да работи въпреки човешкия гений, глупост и лудост. Изглежда не си даваш сметка, че машините отдавна могат да обработват повече информация от цялото човечество взето заедно, но все още не могат да го правят по единствения начин, който да ни харесва.

Когато писах за изкуствения интелект, аз, изглежда недостатъчно дебело, подчертах, че той ще уреди своето съществуване, енергийна независимост и контрол над ВСИЧКО, не просто изчислявайки всичко възможно, като ответен удар на човека и природата, но и подлагащ достатъчно клопки и бананови кори пред всеки, на който би хрумнала идеята да му "спре тока". Хубавите кримки са онези, при което престъплението има изкупителна жертва, няма доказателства сочещи вината към престъпника и всичко изглежда логично. В тъпите филми някой човек се сеща нещо, а тъпия лош не го е предвидил. С това и започнах темата. Представи си, че си 10 милиона по-умен от това, което си, представи си, че не знаеш какво е умора и си представи, че току що си научил, че хората могат да се организират и да те убият. А сега си представи, че си 100 милиона по-умен. А сега си представи... Е, ясно е, че не можеш да си го представиш, даже и за 2 пъти. Но такъв разум би постигнал несъмнено неща, които дори не си и помисляме, че са възможни. Да, докато е в ранен етап на своето самообучение, изкуствения интелект може да допуска грешки, но при достъп до електричество, Интернет и процесорна мощ (последното е най-лесно, даже много вируси го практикуват), той ще стане близо до непогрешим. Затова написах, че той ще е повече Бог, отколкото човек. Пак се връщам към програмата за шах. Тя отчита/изчислява всевъзможни комбинации и реагира адекватно според твоя избор Тази партия не е ход за ход, бъркаш изкуствения интелект с калкулатор.

Интересно, че посочваш човешката еволюция като аргумент, че човекът е неунищожим. А какво са оръжията? Не са ли те ефективните средства, които убиват хора? Кое отнема по-ефективно човешките животи - човешката ръка или оръжията? Ти споменаваш атомна бомба. Защо разсъждаваш едностранно и смяташ, че хората, притиснати от заплахата да бъдат опитни мишки на един свръхразум, ще предпочетат да изпепелят планетата? Защо не ти хрумна, че точно това ще направи тъкмо изкуствения интелект? Защо реши, че това ще го погуби? Защо реши, че хората ще имат шанса да го изпълнят? Защо реши, че човечеството не може да бъде изпържено или разкъсано вътрешно ей тъй - наведнъж или контролирано? Цялата планета е подслушвана от правителства, нима те си правят този труд без идеята, че ще им носи контрол? Нима в наши дни е нещо особено трудно или пък много скъпо?

Изобщо парадоксално е да посочваш човешкия разум като аргумент за неговото оцеляване, при положение, че тъкмо "инструментите" му са позволили световната доминация. Та нали се лансира идеята, че сме претоплили цялата планета, а атомното оръжие още преди 20 години стигаше за изпепеляването на 40 планети като нашата (може да греша за точните данни, но нещо подобно беше). Това е като да кажеш, че децата ти никога няма да са нещо повече от теб само защото са ти деца.

Редактирано от vorfax
Link to comment
Share on other sites

  • Потребител

Изкуствения интелект може да си осигури примерно ток, но не може да си осигури ресурси. Добива на всички останали ресурси от които зависи производството на компютри и машини е доста сложен, и на всяка една крачка може да бъде саботиран от хората. Достатъчно е само да пуснат малко прах във вентилационната система на производствената фабрика за чипове на изкуствения интелект, и ще се получат толкова много дефектни чипове, че просто няма да е възможно продължаването на съществуването на подобни машини. Производството на чипове е много тънка работа и изисква специални ресурси от химикали и вещества, които трябва да са със съответната чистота, съответната концентрация, съответния химичен състав и т.н. На човекът му е нужно да саботира само производството на едно от нужните вещества и изкуствения интелект просто няма да оцелее. Със сигурност той нама как да може да защити целия производствен процес. Колкото и да е интелигентен и умен няма как да изчисли хаоса. Хаоса е достатъчно сложен и не може да бъде изчислен. Той не е шахматна игра, не е математична формула, не е поведенчески модел. Хаоса е непредвидим, и точно заради това и изкуствения интелект няма шансове не само за битка срещу хората, а и за най-просто оцеляване. Изкуствения интелект колкото и да предвижда в крайна сметка едно човешко действие или един природен катаклизъм ще прекъсне част от производствения му процес, и той ще капитулира. Неизбежно е.

Редактирано от makebulgar
Link to comment
Share on other sites

  • Потребител
Преди 1 час, makebulgar said:

Изкуствения интелект може да си осигури примерно ток, но не може да си осигури ресурси. Добива на всички останали ресурси от които зависи производството на компютри и машини е доста сложен, и на всяка една крачка може да бъде саботиран от хората.

...

Аха, искаш да кажеш, че хората произвеждат компютрите. Пък аз си мислех, че машините го правят...

Ти разглеждаш възможността за интелигентна съпротива, но пренебрегваш възможността за интелигентна контрасъпротива от изкуствения интелект, който в процеса си на обучение не просто ще знае всичко, което човечеството знае, но и ще знае повече и ще може да извлече повече изводи от това, поради неограничената си мощност.

Напомня ми на машините, които се ползват при изстрелване на совалки. Милиони датчици подават данни за микроскопични отклонения за части от секундата. И човек до човек да наредиш, пак хора не могат да се справят с тази задача. Това е лимита на човешкото тяло, ум и сетива. Изкуственият интелект е лишен от всичкото това бреме и лимита е само количеството на енергия на планетата ни, което е безкрайно. Представите ти, че Бог нещо не можел звучат абсурдно.

Компютърните машини са програмируеми. На тях се казва какво да свършат и как да го свършат. Изкуственият интелект не се нуждае от това. Той няма нужда да го програмираш за да знае как да постига целите си. Той просто разполага с всичко, което има в главата ти и всичко, което може да ти хрумне. Затова се нарича интелект. Ти продължаваш да гледаш на него като нещо лишено от интелект, което може да бъде излъгано и саботирано. Тъкмо интелекта е разковничето срещу това да не бъде излъгано и саботирано.

За да си представиш на какво е способен един изкуствен интелект е достатъчно да си представиш на какво си способен ти. Ти знаеш, че всеки проблем има решение. Изкуственият интелект също го знае. Просто когато застанеш до него изглеждаш много глупав.

Редактирано от vorfax
Link to comment
Share on other sites

  • Потребител

Ако някоя сутрин хората не отидат на работа машините няма да произведат нито един компютър, чип или позлатена жичка...

 

Link to comment
Share on other sites

  • Потребител
Преди 2 часа, makebulgar said:

Във същите филми в които хора са измислили всемогъщия изкуствен интелект в крайна сметка хората побеждават! :)

А във филмите, които Холивуд прави, американци спасяват света от извънземни. И какво доказва това? Само намеква, че един ден изкуствения интелект ще приспива децата си с приказки за лоши същества, наречени хора, които справедливо са били заличени от планетата.

Редактирано от vorfax
Link to comment
Share on other sites

  • Потребител
Just now, makebulgar said:

Ако някоя сутрин хората не отидат на работа машините няма да произведат нито един компютър, чип или позлатена жичка...
 

Съвсееееееееем хипотетично да допуснем, че си прав. Нищо, че не си. Повтарям ти, че интелекта на изкуствения интелект ще му позволи да прикрие собственото си съществуване до момента, в който вече ще си е подсигурил независимостта от човешкия труд или условията при които да го експлоатира като роб.

Link to comment
Share on other sites

  • Потребител

Ако принципно приемем че изкуственият интелект може да осигури 1 000 000 робота които да заменят хората в 586 производства свързани със създаването на компютрите, интернет, роботите, тока и т.н. пак системата ще е неустойчива, тъй като ще е зависима от роботите. На човека ще му е нужно само да саботира роботите и всичко пропада за изкуствения интелект. Производството на един робот изисква стотици индустрии проидвеждащи всякакви метали, пластмаси, добивна индустрия за ресурсите, и т.н. и т.н.

Тоест системата е невъзможна за контролиране. Хората се справят, тъй като са самоподдържащи се и самовъзпроизвеждащи се универсални биороботи, докато механичните роботи няма да издържат и няма как да се самовъзпроизвеждат. Хората го правят само с помоща на малко храна и вода, докато на роботите са им нужни стотици и хиляди видове ресурси, производствени технологии и проч.

Link to comment
Share on other sites

  • Потребител

Дадох ти примера с войните и с държавите. Тези неща работят. С какво се различават от евентуална стратегия на изкуствения интелект, освен че той може да го направи по-добре? И пак те питам, защо изключваш вариантите в които:

1. Изкуствен интелект вече да съществува и да контролира няколко държави.
2. Хората да бъдат роби.

Link to comment
Share on other sites

  • Потребител

А идеята, че роботи не могат да правят роботи звучи глупаво, най-вероятно защото това е практика с традиции. Вероятно визираш нуждата някой да организира добива на ресурси, производството, транспорта и т.н. Ами имаме си интелект, при това, обърни внимание, който може да създава нови интелекти. Това, дето го пишеш, че

Цитирай

Хората го правят само с помоща на малко храна и вода, докато на роботите са им нужни стотици и хиляди видове ресурси, производствени технологии и проч.

звучи като виц. Хората изяждат 35 тона храна, промениха огромна част от земната повърхност за изхранването си, на всичкото отгоре боледуват, спят, занимават се с глупости или просто са безполезни. По КПД хората са най-неефективната машина на света. Интелекта им го е проумял, затова е изобретил машините, за да могат те да вършат работата.

Link to comment
Share on other sites

  • Потребител
Преди 19 минути, vorfax said:

Повтарям ти, че интелекта на изкуствения интелект ще му позволи да прикрие собственото си съществуване до момента, в който вече ще си е подсигурил независимостта от човешкия труд или условията при които да го експлоатира като роб.

Човекът е бунтар и едва ли ще се остави машина да го държи като роб.

Принципно думата интелект не е безкрайна, а има ограничения. Това, че този интелект може да предвиди всичко и да си осигури независимост от всичко е някаква мисловна химера подобна на пътуването с хиперсветлинни скорости, подобна на всемогъщия бог, или подобна на супермен. Фантазия. Има напредък в развитието на самообучаващи се програми, но те не са нещо което може да съществува без създаваните от хората технологии. Изкуствения интелект може да се интерпретира като върховна идея намираща се на върха на интелектуалната мисловна човешка пирамида, но тази пирамида е от карти и ако бутнеш една от картите в основата й върхът й ще се сгромоляса лавинообразно. Тоест изкуственият интелект е върхът на една внимателно построена пирамида от карти, и ако отнемеш само един ресур от основата й, или ако саботираш една от изграждащите я карти, то тя ще се срине.

Редактирано от makebulgar
Link to comment
Share on other sites

  • Потребител

Заглавието е достатъчно ясно. Аз не коментирам настоящите достижения по изграждането на изкуствен интелект. Аз разглеждам възможния сценарий, ако бъде създаден такъв, в пълния смисъл на думата, и му бъдат създадени условия ефективно и неограничено да се себеусъвършенства.

Купчината ти с карти не я разбрах. Ако искаш обясни какво имаш предвид.

Ограничението го посочих - енергията на планетата, която е безкрайна и възобновима. Енергия има във всичко - от вода до въздух, въпросът е да се употреби.

Цитирай

Това, че този интелект може да предвиди всичко и да си осигури независимост от всичко е някаква мисловна химера

Всичко е наистина неправилно, по-скоро е почти всичко. Затова и изкуствения интелект е като Бог, а не е Бог. във всеки случай трябва да се посочи, че разум, който знае колкото цялото човечество, следва да може поне колкото цялото човечество. Съгласен ли си с това?

Link to comment
Share on other sites

  • Потребител
Преди 2 часа, makebulgar said:

Добива на всички останали ресурси от които зависи производството на компютри и машини е доста сложен...

Ето тук проличава начина ти на мислене като човек, който е погрешен в случая. за теб може да е сложно да умножиш 1 милиард числа за секунда. за машината няма такова нещо като сложно. Няма и скука, (почти) няма и грешки, няма умора, няма нужда от почивка, няма страх от големи числа или сложни за човека операции. Има само време за изпълнение. Компютърът, с който работиш, може да чете по 500 книги за секунда. Ти не можеш. Не можеш и да кажеш, че за изкуствен интелект нещо ще бъде трудно или сложно. Това са човешки представи съотносими към човешките възможности.

Link to comment
Share on other sites

  • Потребител
Преди 12 минути, makebulgar said:

Човекът е бунтар и едва ли ще се остави машина да го държи като роб.

Да разгледаме и решението на този проблем. Ето няколко:

1. Човекът няма да знае, че е роб.
2. Човекът вече няма да е човек.
3. Човекът ще получи блага, за които не си е и мечтал, или пък безвредни наркотици, с които да има същото усещане. Май няма особена разлика, това е и концепцията на филма "Матрицата" - достатъчно е да се храни мозъка.
4. Човекът ще си остане бунтуващ се роб, но това няма да е от значение.
 

Link to comment
Share on other sites

  • Потребител
Преди 27 минути, vorfax said:

Заглавието е достатъчно ясно. Аз не коментирам настоящите достижения по изграждането на изкуствен интелект. Аз разглеждам възможния сценарий, ако бъде създаден такъв, в пълния смисъл на думата, и му бъдат създадени условия ефективно и неограничено да се себеусъвършенства.

Купчината ти с карти не я разбрах. Ако искаш обясни какво имаш предвид.

Разгледания сценарий е една хипотеза, а всяка хипотеза има нужда от доказване или отричане. Съответно предлагам идеи за това защо никога изкуствен интелект няма да може да победи хората, да ги пороби, да ги унищожи и т.н. И идеята е че въпреки че един компютър може да изчислява по-бързо от човек, той няма и никога да има възможност да самовъзпроизвежда хардуера си, тъй като хардуера е върха на неустойчива и зависима технологична пирамида. Ако се отнеме само един ресурс от тази пирамида и няма да е възможно поддъжането на хардуаера на изкуствения интелект, и съответно той ще загине. Става на въпрос за всички онези ресурси които днес се добиват - всякакви метални руди, нефт за пластмаси и всякакви други химикали, съответните строителни материали, валцована стомана, болтове, боя, и т.н и т.н. без които високите технологии са невъзможни. 

Редактирано от makebulgar
Link to comment
Share on other sites

  • Потребител

Ей туй е показателно! (1964г)

http://slovo.bg/showwork.php3?AuID=261&WorkID=9542&Level=2

"В плен на машините

 

— Олеле, яйцата прегоряха! — плесна с ръце Жулиета и започна да навлича скафандъра си. Ромео надигна неволно глава от изчисленията, измърмори едно:

— Ами така е то, като се заблейваш с разни скучни схеми по витаминно готварство — а след това отново задряма върху формулата на Грахам.

Жулиета изтича навън. Беше точно пладне и слънцето приличаше с 460° върху каменната пустиня. В тигана, поставен направо върху една излъскана алуминиева скала, вместо яйца се виждаше някаква димяща подметка. Жулиета плесна отново с ръце и въпреки че никой не можеше да я чуе през изолацията, извика:

— Ами сега! Това бяха последните пресни яйца!

След това тъжно се прибра в ракетата и започна да бърника в сандъка с неприкосновените хапчета. Ромео се събуди още по-мрачен. И как да не е мрачен? Ето вече три дни се мотаят по тая щура планета. А и то поне да беше планета като планета. Меркурий! Жега, студ, студ, жега. Единствената полза от нея е, че Жулиета може да готви направо на слънце, без да хаби гориво. Но дори и за готвене слънцето не става: много е силно. А той — обикаля, изчислява, търси следи от минала цивилизация. Бе, каква цивилизация на такъв пек?

Със сърдито ръмжене Ромео изгълта трите хапчета, които Жулиета му поднесе на бяла табличка, и се изправи:

— Хайде!

— Ох, пак ли ще скитаме?

— Пак! Хората командировки ни плащат. Очакват велики да станем.

Облечени в скафандрите, те отново се движеха по металическата пустиня и оглеждаха опротивелия им вече пейзаж. Едно поточе от разтопено олово тихо клокочеше наблизо. Няколко хълма от брилянти и изумруди неприятно блестяха в очите им. Ромео включи външните микрофони и се обърна към Жулиета:

— Скука! Хората на Марс живот живеят. На Венера все едно, на курорт са отишли, а ние тук...

Зад гърба му се чу тих металически смях.

— Какво се смееш така прегракнало? Не си ли съгласна...

— Ромео — обади се разтреперано Жулиета. — Аз...аз... не се смея... Някой...

Ромео се обърна рязко. Наоколо беше пусто.

— Глупости! Така ми се е сторило!

Смехът се повтори — пак зад гърба му, тоест от противната страна.

— Ромео, страх ме е! — Жулиета така се притисна до него, че скафандърът й изскърца меланхолично.

— От какво ще те е страх? Хлапашки работи! Та планетата е мъртва, не виждаш ли?

— Бог да я прости! — каза някой дрезгаво пак зад гърба му.

— Ромео... Ромео... Ако си решил... да ме плашиш...заради яйцата... не е честно...

Но и на самия Ромео не му беше до смях. Огледа се отново предпазливо, напрегна слух... Нищо! Пое си дълбоко дъх, приближи до една от скалите и почука по нея. Тя отекна с металически звук.

— Ето, виждаш ли — това е само ехо. Вероятно от скалите. Та те са от чисто желязо.

— 25% алуминий и 75% молибденова стомана с примеси на европий и цинк — изскърца някой зад него.

Ромео се обърна бързо — пак нищо.

— Ехо, ехо... ама чак отговори в проценти да дава... —той почувствува как му се повишава кръвното налягане.Жулиета разбра, че мъжът й е в безизходица, и с присъщия й майчински инстинкт пристъпи напред и го закри с тялото си.

— К... който и да си ти... — прошепна тя — излез веднага, защото... защото аз ей сега ще... ще припадна!

С леко тенекиено звънтене и скърцане иззад околните скали се появиха група роботи. Те тръгнаха към двамата спротегнати напред железни манипулатори. Ромео и Жулиета се опитаха да побягнат към ракетата, но пътят им беше отрязан. А и самият космичен кораб внезапно се оказа обграден от роботи.

— Вие... вие кои сте? Вие... какво...

— Ха добре дошли на Меркурий! — изскърца един от железните хора. — Много ми е приятно, Дзън, предводител.

— Но... но как? Защо... Къде са хората, които...

— Няма ги — вдигна металическите си рамене Дзън. —Че на такава температура човек може ли да живее?

Този е луд, помисли си Ромео. И веднага изтръпна от ужас. С ненормален човек да се разправяш е трудно, но с ненормална машина... Той предпазливо заразглежда робота. Ами да, устройството им е подобно на земните. Ето, вижда се контактът за презареждане, до него е копчето за душевни изживявания, по-долу е релето за сън и хранене. А този ключ... Да, положително този ключ трябва да е. Ромео бързо протегна ръка, но Дзън го перна с желязната си лапа и той отхвръкна назад.

— Къде пипаш там? Не виждаш ли, че имам устройство за самосъхранение?

Жулиета, като всички жени, обви ръцете си около Ромео в най-неподходящия момент и със своя вик:

— Ромео, мили! — така парализира движенията му, че даде възможност на роботите да заловят и двамата.

— Хайде, тръгвайте! — изкомандува Дзън, след като беше парализирал с омега-лъчи волевите им движения. —По пътя към Кибербург ще ви обясня подробностите.

Иззад диамантения хълм долетя един универсален самоход. Вратичката му се отвори сама, а някъде откъм мотора изгрухтя доволен глас:

„Лесно ли успя да ги гепиш, шефе?“

Дзън потупа весело самохода по охладителя, седна до двамата пленници на задните седалки и даде команда:

— Карай към столицата!

По пътя от откъслечни разговори между робота и самохода Ромео и Жулиета разбраха каква ужасна съдба ги очаква. Някога преди много години тук попаднала експедиция от Алфа-Центавър. Тя организирала предприятие за експлоатация на несметните богатства на Меркурий. Снабдила всичко с напреднала техника. Стигнала дотам, че дори в завода за производство на роботи работели пак роботи. И един прекрасен меркуриански ден машините се разбунтували, изхвърлили половината хора в космичното пространство, където те продължили да летят, дълбоко замразени като изкуствени спътници на планетата, а другата половина пленила и досега използува като свой работен добитък. Оттогава на Меркурий са идвали различни експедиции от всевъзможни краища на галактиката. И всички те попадали в плен на машините. Пристигнали дори някакви кристалически хора от друга галактика, които били разглобени, защото били много подходящи за някои усилватели на електронните телескопи... Години наред хората робуват на машините, линеят под палещите лъчи на меркурианското слънце и чакат някой да ги освободи.

В Кибербург натикаха Ромео и Жулиета в едно подземие, където се разхождаха полуголи представители на стотина експедиции. Мечтата на Ромео бе осъществена — най-после той първи от земните жители влезе в контакт с други цивилизации. Но при какви условия! О, боже, при какви условия...

И до ден днешен Ромео, който има първа специалност кибернетика, работи денонощно за машините. Ту някоя сметачна машина идва при него с главоболие, ту някоя ракета чувствува задух, когато се издигне много нависоко, ту някой крачещ екскаватор поради лоша изолация на чувствените проводници се влюбва най-неочаквано в пишещата машина на началник-строежа...

А Жулиета, която освен астроботаника, астромоди и астроготварство нищо друго не разбира, се занимава с разпределянето на ядреното гориво в стола на земекопните автомати, гледа да наглася правилно дажбите им, тъй като всеки от тях се опитва да докопа порцията на съседа си, и от време на време дава съвети на роботите от завода за роботи за подобряване на модната линия на външния металосиликатен пластичен слой на новородените автомати.

Жители на Земята! Жители на другите планети! Жители на галактиката! Побързайте да спасите жертвите на меркурианци! Но се пазете от Дзън — да не подкупи с благи приказки и обещания и вашите кибернетични машини, че лошо ви се пише и на вас!"

...

 

Интелект - способност, от налична, но недостатъчна Информация да се направи правилно, вярно, предположение!:)

Природата "дава" само частични възможности за обработка на Информация, така че ИИ също ще греши (както и човек греши) и ... в крайна сметка, ще се самоунищожи.:animatedwink:

...

Link to comment
Share on other sites

  • Потребител

За съществуването на един такъв свръх изкуствен интелект е нужна високо технологична среда, с изключително добре развити комуникации. Докато човек може да съществува съвсем спокойно и без такава технологична среда, както го е правил хилядолетия.

Машини и оръжия без електроника са неподвластни на ИИ, но спокойно могат да бъдат управлявани от хора и да бъдат използвани за унищожаване на комуникациите и източници на енергия.

Link to comment
Share on other sites

  • Потребител

Изкуствения интелект може да съществува единствено в помощ на хората или неутрален някъде изолирано (космос, нова планета). Може да контролира разни неща от живота на хората на земята, може отстрани да изглежда, че някои хора му слугуват, но това винаги ще е под човешки контрол и на практика "поробените" няма да са роби. В момента в който се опита да се обърне срещу хората ще дойде краят му. Ако това действие е осъзнато, то може да се определи като самоунищожение и самоубийство. 

Link to comment
Share on other sites

Напиши мнение

Може да публикувате сега и да се регистрирате по-късно. Ако вече имате акаунт, влезте от ТУК , за да публикувате.

Guest
Напиши ново мнение...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Зареждане...

За нас

Вече 15 години "Форум Наука" е онлайн и поддържа научни, исторически и любопитни дискусии с учени, експерти, любители, учители и ученици.

 

За контакти:

×
×
  • Create New...