Стивън Хокинг: Изкуственият интелект може да е последното изобретение на човечеството

[mnogoznaiko]

Развитието на изкуствения интелект върви с все по-голямо темпо. Постигнатото до момента обаче ще бледнее с това, което ще се реализира през следващите десетилетия, пише известният учен Стивън Хокинг в статия за в. Independent.

Потенциалните ползи от изкуствения интелект са огромни, казва Хокинг. "Всичко, което цивилизацията може да предложи, е продукт на човешката интелигентност. Не можем да предвидим какво може да постигнем, когато тази интелигентност се увеличи с инструментите на изкуствения интелект". Допълва той и смята, че е напълно възможно да се открият лечения на всички болести, да се реши проблема с бедността и да няма повече войни.

"Успешното създаване на изкуствения интелект ще е най-голямото събитие в историята на човечеството. За съжаление, може да бъде и последното, освен ако не се научим как да избегнем рисковете", предупреждава ученият.

В близко бъдеще рисковете са разработките на военните за автоматични оръжейни системи, които самостоятелно избират и унижщожават целите си. Хокинг е доволен, че ООН и Human Rights Watch вече са призовали за забрана на тези оръжия.

В средносрочен план, Хокинг се притеснява от възможността неправилното управление на изкуствения интелект да доведе до още по-голямо разделяне между бедните и богатите, вместо да подобри живота на всички.

Целия материал: http://www.dnevnik.bg/tehnologii/2014/05/02/2292572_stivun_hoking_izkustveniiat_intelekt_moje_da_e/

[vorfax]

Вчера гледах игралният филм "Машината", където сюжета се върти върху създаването на изкуствен интелект. Мисля, че беше неправдоподобно пресъздаден. Липсваше му онова, което наричаме интелигентност. А интелигентността не се измерва с обема информация, която се съхранява, а със способността да я обработва така, че да постига конкретни цели.

Възникне ли "идеята" за важността за оцеляване в изкуствен интелект, то човечеството е изправено пред апокалипсис. Защото интелект, който не е ограничен от възраст, умора или невронни връзки спокойно може да наречем съвършен, всемогъщ, Бог. Разполагайки с достатъчно информация би успял да реши проблемът си с енергийното си изхранване и би предугадил и отреагирал на всяка форма на човешка съпротива. Тъкмо това винаги липсва в игралните филми, което изопачава рискът от борба с разума до просто нещо, което може да се преодолее с друг разум - там разполагащите с огромна сила или просто зли идеи хора са идиоти, които правят грешки, неспособни са да предвидят човешките решения дело на логиката, не се прикриват, надменни или наивни са...

Наскоро срещнах една мисъл, че всяка достатъчно напреднала цивилизация се струва божествена на тези, които не са достигнали нейното равнище, по повод един от начините за възникване на религии, който може да се наблюдава и в наши дни при изолирани племена от диваци/туземци.

Интересно е да се прогнозира и какъв би бил изхода от срещата с извънземна разумна форма на живот. По моя преценка онази форма на живот, която е достигнала ниво на развитие, че първа да открие други форми на живот, ще се окаже тяхната гибел. И сигнали в космоса с припяване на "претури се планината" са мега идиотско решение, вероятно продиктувано от някакъв идеализъм, който за щастие на никой повече не му е хрумнало да привежда като причина за заличаването на света си. И тук не говорим за хипотези. Интересното е как ние си имаме и исторически доказателства - ацтеки, световни войни, робство (и до днес) и прочие и настоящо ежедневие - милиардите животни развъждани за храна, и пак някакъв наивинитет бликащ от развлекателната индустрия преди всичко, ни убеждава, че да си умен значи и да си състрадателен и помагащ и т.н. Е, човешкият вид не е бил никога по-напреднал в своето културно, индустриално, интелектуално (поне индивидуално, ако не видово) ниво и ние никога не сме били по-близко до лесното унищожаване на планетата си, до изчерпването на ограничените и ресурси, до разхищаването на площите и обема на консумацията си, която изхвърля от хранителната верига хиляди и хиляди видове ежегодно. Ето това е истинската връзка - интелекта има повече идеи, повечето идеи имат нужда от повече енергия, а енергията се взема от всичко заобикалящо ни и в крайна сметка създава отровени пустини. Сигурно има и по-невинно превръщане на енергията от една в друга форма, ще каже някой благ оптимист. Да, но когато достигнем интелекта, който ще ни позволи да ги открием, ще достигнем и ново ниво на грандиозни идеи, като създаването на планети и звезди примерно, и това ще създаде нови мащаби на енергийни нужди, които така или иначе ще продължават да смилат всичко заобикалащо ни и да го изакват след това

И една последна мисъл по темата. Едни от най-устойчивите форми на живот са вирусите. Между един биологичен вирус, компютърен вирус и човешки разум приликите са повече отколкото може да предположим. Да оставим настрана егото ни, че ние сме по-развита форма на живот от един вирус, но изкуствено или естествено създаден, ние споделяме неговата първоначално заложена програма - да оцелее. И както биологичният вирус се бори с имунитета на реципиента, така и компютърните вируси се стремят да завладеят ресурсите на компютъра - свободно място, памет, антивирусна съпротива... и с какво човека е по-различен? Прави си подслон, изменя средата така, че да отговаря за неговите оптимални условия за активен живот, яде на практика всичко живота край себе си, увеличава ареалът си на 100%, самопоправя се, убива естествените си врагове, множи се неконтролируемо...

Човешкият вид е туморът на Земята и това е така, защото е разумна форма на живот. Не може етиката да спре гениалността на интелигентната мисъл. Има ли нещо в историята ни, което етиката или морала да са възпрели задълго? Просто няма. Няма нито един пример. Прогресът ни е безкраен низ от компромиси със здравето и чистотата на земята, водата, въздуха, флората и фауната, като в това число включва и собственият ни вид.

ПП: Сега погледнах един крайно интересен коментар под статията "Изкуственият интелект е нищо на фона на естествената глупост."

[Малоум 2]

http://megavselena.bg/golyamo-cherveno-kopche-shte-izklyuchva-izkustveniya-intelekt/

Голямо червено копче ще изключва изкуствения интелект

Изследователи от Оксфордския университет и лабораторията DeepMind, която принадлежи на Google, са започнали работа над система за аварийно изключване на самообучаващи се алгоритми.

Това съобщава Business Insider, като се позовава на Института за изучаване на машинния интелект (MIRI)

„Ако такъв агент [изкуственият интелект] работи в режим на реално време под наблюдението на човека, то понякога може да възникне ситуация, при която операторът ще бъде принуден да натисне голямото червено копче, за да спре агента от изпълнението на действия, опасни за самия агент или неговото обкръжение.“

Авторите отбелязват, че самообучаващите се алгоритми могат с времето да открият някакъв механизъм за заобикаляне или игнориране на аварийната команда на оператора.

Според изследователите целта на работата е създаването на рамка, която няма да позволи на изкуствения интелект да намери начин за игнориране на командата за изключване.

Голямото червено копче също така трябва гарантирано да прекъсне дейността и максимално да обезопаси машината и околните при потенциално опасни ситуации, както и да предотврати извършването на действия, които могат да доведат до „необратими последствия“.

Въпросите за сигурността, свързани с разработката на системи за изкуствен интелект, се повдигат отдавна. През 2015 година Елън Мъск, Стивън Хокинг, Ноам Чомски, Стив Возняк и редица други учени, бизнесмени, знаменитости, изследователи и специалисти в областта на робототехниката и изкуствения интелект подписаха открито писмо, предупреждаващо производителите на оръжие от създаването на изцяло автономни бойни системи.

 

Ако ИИ притежава чувства - не е възможно да се отстраняват противоречивите емоции (известен пример - Тъщата пада от петия етаж върху ново ти БМВ!?!), при които трябва да се намери начин на поведение (как да се действа? по физиономия?!)

Ако не притежава чувства - не е ИИ, който да може да "разбира" Човека... Остава си машина с ограничен интелект.

Не е ясно - само на машина ли ще монтират червено копче... В началото - така се твърди, ама ... по-късно, знае ли се.

...

[mnogoznaiko]

Аз някак си представям, че тези бъдещи ИИ ще бъдат много различни видове, вид програми, които инсталираме на компютрите си. Те ще имат възможности, но най-вече ще имат рамки извън които няма да могат да излизат...все пак всяка "машина" се създава с определена цел

[Atom]

Милиардер поиска хората да се превърнат в киборги

Милиардерът Илон Мъск, който е собственик на компаниите Tesla и SpaceX заяви, че хората са длъжни да се превърнат в киборги, за да не станат „домашни котенца” на значително превъзхождащите ги по интелект роботи. Според него, при значителния прогрес в областта на изкуствения интелект, човеците трябва да разширят своите интелектуални възможности с помощта на цифровите технологии, за да не изостанат безнадеждно от бъдещите господари на света-роботите с изкуствен интелект.

И още: Историк: До 200 години богатите ще станат богоподобни киборги

[Б. Киров]

Преди 28 минути, Atom said:

Милиардер поиска хората да се превърнат в киборги

Милиардерът Илон Мъск, който е собственик на компаниите Tesla и SpaceX заяви, че хората са длъжни да се превърнат в киборги, за да не станат „домашни котенца” на значително превъзхождащите ги по интелект роботи. Според него, при значителния прогрес в областта на изкуствения интелект, човеците трябва да разширят своите интелектуални възможности с помощта на цифровите технологии, за да не изостанат безнадеждно от бъдещите господари на света-роботите с изкуствен интелект.

 

И още: Историк: До 200 години богатите ще станат богоподобни киборги

Много интересно, но повдига редица проблеми от чисто морална, политическа и религиозна гледна точка. За това и за други аспекти, най-вече за това дали няма да бъде изоставено въобще разбирането за човешката природа при такова развитие е книгата на Франсис Фукуяма (същият е автор на "Краят на историята") "Нашето постчовешко бъдеще". Още съм в началото и наистина е интересно. В този форум единствено лапландеца беше уверен, че даже по-рано от 200 години човешкият род ще изчезне като такъв и ще бъде заменен от постчовеци, както ги наричаше той.

[Малоум 2]

Преди 14 часа, Atom said:

Милиардер поиска хората да се превърнат в киборги

Милиардерът Илон Мъск, който е собственик на компаниите Tesla и SpaceX заяви, че хората са длъжни да се превърнат в киборги, за да не станат „домашни котенца” на значително превъзхождащите ги по интелект роботи. Според него, при значителния прогрес в областта на изкуствения интелект, човеците трябва да разширят своите интелектуални възможности с помощта на цифровите технологии, за да не изостанат безнадеждно от бъдещите господари на света-роботите с изкуствен интелект.

 

И още: Историк: До 200 години богатите ще станат богоподобни киборги

 

Пророците след Исус Христос само л@йна ядат!

Интересно що, след като са се превърнали в роботи (в мисленето си!), искат и другите да са такива ... роботи, като тях?!

Не случайно споменах необходимостта от човешки чувства (любов, състрадание, умиление и др., водещи до Смирение пред сътвореното от Природата).

Та, то и сега повсеместното приложение на роботите "убива" Човека - отнемат му работата, дето си изкарва хляба и го изхвърлят на улицата...

Е, как няма да очакваме, да им изгорят бушоните ...  дано ... на роботите (и на Човек изнуден от улицата)!

Редактирано Юни 7, 2016 от Малоум 2

[Б. Киров]

„Богатите вероятно ще станат киборги до 200 години и постепенно ще се слеят с технологични устройства като компютри и смартфони, твърди израелски историк, цитиран от в. "Дейли телеграф".

Дори когато хората изпитват удоволствие или имат поситжения, това не им стига. Те искат все повече. Мисля, че е вероятно през следващите 200 години Хомо сапиенс да се ъпгрейдват до нещо като божествено създание или с биологични манипулации и генно инженерство, или като бъдат създадени киборги, отчасти органични, отчасти неорганични."

Според проф. Харари хората са станали толкова доминантен вид заради способността си да измислят "фикции", които обединяват обществото, като религията, парите, идеята за основните човешки права, които нямат основа в природата.

"Бог е изключително важен, защото без религиозния мит не можеш да създадеш общество. Религията е най-важното изобретение на хората - каза проф. Харари. - Докато хората са мислели, че зависят от тези богове, те са контролируеми. Сега казваме, че нямаме нужда от бог, а само от технологии.

Най-интересното място в света от религиозна гледна точка не е Близкият изток, а Силициевата долина, където създават техно-религия.”

 

Нищо принципно различно от идеята на Фр. Ницше за „свръхчовека”, върху базата на която нацистите изградиха теорията си за „свръх-раса” и построиха концлагери за „нисшите и вредни” човешки видове. Иронията е, че професорът е етнически евреин, а този път в ролята на „свръхчовеци” са визирани богатите.

[vorfax]

On 7.06.2016 г. at 11:48, Б. Киров said:

Според проф. Харари хората са станали толкова доминантен вид заради способността си да измислят "фикции", които обединяват обществото, като религията, парите, идеята за основните човешки права, които нямат основа в природата.

"Бог е изключително важен, защото без религиозния мит не можеш да създадеш общество. Религията е най-важното изобретение на хората - каза проф. Харари. - Докато хората са мислели, че зависят от тези богове, те са контролируеми. Сега казваме, че нямаме нужда от бог, а само от технологии.

Добре казано