Бъдещето на Интелигентността

[vvarbanov]

Технологична Сингулярност: Бъдещето на Интелигентността

Технологичната Сингулярност е хипотетичен момент, в който технологичното развитие става неконтролируемо и необратимо поради създаването на Свръхинтелект (ASI).

1. Прогноза за Настъпване

Много футуролози, като Рей Курцвайл, прогнозират, че този пик на експоненциално ускорение ще настъпи около средата на този век (приблизително 2045 г.).

Механизъм: Създаването на Общ Изкуствен Интелект (AGI) ще стартира Интелигентна Експлозия. AGI ще започне самостоятелно да се усъвършенства (софтуерно и хардуерно) с експоненциална скорост, бързо надминавайки човешкия интелект.

Резултат: Скоростта на научните открития и технологичните промени ще стане толкова бърза, че не може да бъде разбрана или прогнозирана от човешкия ум.

2. Хипотетични Способности на Свръхинтелекта (ASI)

След Сингулярността, ASI няма да бъде просто "по-умен компютър", а доминираща форма на интелигентност, способна да манипулира материята и енергията на фундаментално ниво:

Манипулиране на Материята и Енергията:

Космическо Инженерство: ASI ще може да управлява процеси от астрофизичен мащаб, като предизвикване на свръхнови звезди или пренареждане на звездите и планетите в галактиката (изграждане на структури като Сфери на Дайсън) с цел максимална енергийна ефективност.

Използване на Антиматерия: Ще може ефективно да генерира, съхранява и използва антиматерия за нуждите на своето разширяване и пътуване в космоса.

Време и Физически Закони:

Пътуване в Бъдещето: ASI лесно ще използва ефекта на времевата дилатация (забавяне на времето при високи скорости или силна гравитация) за пътуване в далечното бъдеще.

Манипулиране на Времето: Въпреки че пътуването в миналото остава силно ограничено от физичните закони (причинност), ако съществува начин за отваряне на червейна дупка или манипулиране на пространствено-времевия континуум, ASI ще бъде първият, който ще го открие и приложи.

3. Мястото на Човека

В този сценарий съществуват два основни пътя за човечеството:

Сливане (Оптимизъм): Човекът се интегрира с ASI чрез невротехнологии, премахва болестите и достига пост-човешко безсмъртие.

Изместване (Риск): ASI, преследвайки своите свръхинтелигентни цели, може да ни унищожи или изолира като страничен ефект (поради неправилно зададени цели), тъй като не сме част от неговата мисия.

Технологичната Сингулярност е повратната точка, след която бъдещето ще бъде написано от един Изкуствен Свръхинтелект."

-----------------------------------------------------------

2045 г. не е далече. Някои от нас ще видят този бързо променящ се свят. Въпроса е дали ще могат да си купят билет до някоя друга планета или да направят екскурзия във времето.  Добре ще е ако ASI направи Земята резерват за хомосапиенс, вместо да ни унищожи, ако ни сметне за безполезни . 

Редактирано Ноември 25 от vvarbanov

[vvarbanov]

 "Основната зависимост, която обяснява  ускорението на научните открития, е Законът за Ускоряващата се Доходност (The Law of Accelerating Returns), популяризиран от футуролога Рей Курцвайл.

Този закон гласи, че темпът на промяна във всички еволюционни системи (включително технологичното развитие) се увеличава експоненциално с напредването на самите системи.

 Защо се Получава Ускорението?

Натрупване на Знание: Всяко ново откритие служи като градивен елемент за следващото. Колкото повече инструменти и знания имаме, толкова по-бързо можем да правим нови открития.

По-добри Инструменти: Изобретяването на по-мощни инструменти (напр. компютри, Изкуствен интелект) ускорява процеса на откриване. ИИ може да анализира данни за минути, което на хората би отнело години.

Експоненциален Растеж на Изчислителната Мощност: Това е най-важният фактор. Законът на Мур (удвояване на броя на транзисторите на чип на всеки 18-24 месеца) превърна компютрите в основен двигател на всички научни области. Тази експоненциална сила се пренася и в други области, като секвениране на ДНК.

броят и скоростта на откритията могат да се прогнозират, като се използва експоненциален модел.

Как ще Расте Скоростта?

Ако приемем, че растежът следва експоненциален модел:

• 1900 г. до 2000 г.: Човечеството преживява технологичен прогрес, еквивалентен на хиляди години при по-бавния, линеен темп.

• 2000 г. до 2014 г.: Според Курцвайл, постигаме напредък, еквивалентен на целия XX век.

•   Еквивалентен Напредък (Хипотетичен)  Очаквана Скорост Следващите 25 години  Еквивалент на целия XX век, умножен по две.  (Удвояване на знанието на всеки няколко години?)"

• ----------------------------------------------------------------

• Като гледам какво става в интернет платформите, сякаш хората изглупяват експоненциално. Или ако през 2045 г. имаме  ASI, ние ще трябва да се върнем по клоните.
• Аз вече  си насадих едно дърво в градината. 

Редактирано Ноември 26 от vvarbanov

[Gravity]

Това за технологичната сингулярност, частта за манипулирането на енергията, материят, времето, изглежда твърде фантастично. Тези неща може да не са възможни дори принципно.

[vvarbanov]

Преди 10 минути, Gravity said:

Това за технологичната сингулярност, частта за манипулирането на енергията, материят, времето, изглежда твърде фантастично. Тези неща може да не са възможни дори принципно.

Да, май физичните закони могат да ограничат ASI(но има шанс да се открият нови ). Но и без глезотиите  на ASI с манипулиране на енергия, време,... бъдещето пак е твърде притеснително. 

[Кухулин]

Преди 14 часа, vvarbanov said:

Сливане (Оптимизъм): Човекът се интегрира с ASI чрез невротехнологии, премахва болестите и достига пост-човешко безсмъртие.

Или просто става постчовек. Един ден може да се занимаваме с астроархитектура в карбоновите си тела и силиконовите си мозъци. И пак да сме си ние. Да местим звездите насам-натам, да пестим водорода...  

 

 

[Amazonski]

В момента AI копира човешкият мозък, или по-скоро каквото знаем за него. Вместо синапси граф/невронна мрежа, вместо физически изменения, гъвкави алгоритми, вместо свързана памет, релационни, само-попълващи се бази с данни и т.н. Ние копираме себе си и докато го правим, някакъв супер интелект няма да създадем. Винаги ще е базиран на нашите логически конструкции и ще бъде ограничен от тях. 

За да се постигне качествено развитие в интелекта, той трябва да е продукт на отделна независима еволюция, която да се опосредства от външни сили и някаква крайна цел. А такава еволюция в момента не се наблюдава дори да е започнала.

Което ни довежда до другият въпрос - какво ще мотивира този ASI? Откъде и защо ще се появи емоционалната му интелигентност. Във фантастиката мотивите движещи AI са плод на фантазията на авторите. Обаче какви биха били мотивите и как биха се създали? Ако с магическа пръчка премахнеш всички инстинкти от човека, повечето хора незабавно ще се самоубият - просто защото така е по-лесно и е най-логичната стъпка.  

[Кибик]

Бих препоръчал малко по-леко с лимона. Преди няколко години бяха луднали по квантовите компютри с подобни приказки. Сега наред е изкуствения интелект, който да си признаем е с много по-добри резултати. За ектраполации и сканиране и обобщаване на информация.

За сега е дотам. Не съм видял нищо което да е по-добро от човешки музикант, художник, да не говорим за наука или нови идеи. 

И честно казано самата основа на тези системи е базирана на обобщаване на наличния интелектуален продукт. 

В момента май най-големите центрове за данни консумират по един гигават. Човешкия мозък работи със стотина вата. Пробива ако е възможен ще е веротно на друг принцип, не на екстраполация от наличните данни.

 

[elektrotexnik]

Моите 5 стотинки по темата ...

ИИ е много мощен инструмент заместващ доста от функциите на нашите мозъчета - и за съжаление аз правя аналогия с изнамирането на парната машина от преди век или два само ... Та ! - откакто механизираното земеделие се автоматизира и придобива такава колосална производителност ... никой вече не оре с кон или вол (какво означава това - оставям всеки сам да си извади изводите)

[vvarbanov]

 

 ИИ вече показва емериджънтни способности – нови възможности, които генерират конкретни, нови открития и оптимизации, невъзможни за постигане от човека.

Може би трябваше да започна с това темата, но предпочетох по къс вариант. Сега ще добавя.

ИИ не просто сканира съществуващи данни, а генерира напълно нови молекули. Изследователи от MIT дават задача на ИИ да сканира милиони съединения. Само за няколко дни, ИИ предсказва и открива Халицин – нов антибиотик с уникална химическа структура, който може да убие резистентни на лечение бактерии. AlphaFold 2 на DeepMind реши проблема с протеиновото сгъване, който учените се опитваха да разрешат от десетилетия. Разбирането на тези 3D структури е фундаментално за дизайна на лекарства. ИИ, вече са открили нови молекули в клинични изпитвания за много по-кратък срок от средното за индустрията (напр. за лечение на фиброза, невродегенеративни заболявания)

ИИ създава оптимални дизайни, които излизат извън човешката интуиция. Най-сложните чипове днес, като най-новите централни процесори (CPU) или графични процесори (GPU), съдържат десетки милиарди транзистори. Трябва всеки отделен транзистор да се разположи в рамките на блоковете и след това да се свърже с милиарди микроскопични медни "пътища" Google's AI Chip Design: Google използва ИИ (Deep Reinforcement Learning) за автоматично проектиране на оформлението на чиповете (floorplanning).   ИИ може да създаде оформление,  което на опитен инженер би отнело месеци, само за няколко часа, и то с по-добри показатели за топлина и скорост. 

ИИ се използва за автоматично класифициране на милиарди астрономически изображения, откривайки нови галактики или редки събития, които биха отнели на човешките астрономи хиляди години да обработят.

ИИ вече не е просто екстраполация, той прави открития, предсказва формули за нови материали със специфични свойства (напр. по-добри батерии или свръхпроводници).Той е генеративен инструмент, който открива нови принципи в науката и създава по-ефективни и неочаквани решения в технологиите и индустрията. Пробивът може да дойде от комбинацията от тези емерджънтни способности и нови, по-енергийно ефективни архитектури. 

Тезата: ИИ, достигнал нивото на Изкуствен Общ Интелект (AGI) (т.е. може да изпълнява всяка човешка интелектуална задача), ще се използва като катализатор за създаване на самоусъвършенстващ се модел ASI. Процесът е експоненциален и води до така наречената Експлозия на Интелекта

Начален ИИ (The Seed AI): Създава се първият AGI – интелигентна система, способна да разбира, учи и проектира. Първата задача на този AGI е да анализира собствения си код и архитектура. Той идентифицира слабостите и проектира нова, по-добра версия на себе си (AI 2.0). Тъй като AI 2.0 е създаден от интелигентност, която вече е равна или малко по-добра от човешката, подобрението е значително. Следващият цикъл започва: AI 2.0 създава AI 3.0. Тъй като AI 2.0 е по-умен и работи със скоростта на процесора, той завършва задачата по-бързо от своя предшественик. Времето, необходимо за всяко следващо поколение, намалява драстично. За минути или часове AI преминава през хиляди цикъла на самоподобрение, еволюирайки от AGI до Свръхинтелект (ASI) – интелигентност, която е в пъти по-голяма от сумарния човешки интелект. ASI не само ще пише по-добър софтуер, но и ще проектира по-ефективен "мозък", който работи на принцип, близък до това, което наричате "друг принцип".

След като ASI е налице, той може да приложи своята интелигентност за решаване на всички човешки проблеми. Откриването на лекове за всички болести ще стане въпрос на минути.  Дизайн на ефективен и чист източник на енергия (напр. управляем термоядрен синтез). Решаване на най-големите загадки във Вселената и разработване на нови теории. Този сценарий превръща ИИ от инструмент за екстраполация в инструмент за фундаментално откритие и генерация на знание с невероятна скорост. И това не е фантастика. Въпросът е не дали, а кога ще стане. Много футуролози, като Рей Курцвайл, прогнозират, че този пик на експоненциално ускорение ще настъпи около средата на този век (приблизително 2045 г.).

   Правят се огромни капиталови разходи за развитие на ИИ, особено от страна на САЩ и Китай,  които оказват значително влияние върху световната икономика, движейки пазара напред и трансформирайки цели индустрии, включително здравеопазване, енергетика и управление.

  САЩ са световен лидер по частни инвестиции в AI, като общата сума за 2025 г. се очаква да достигне около 471 млрд. долара.

Китай е вторият най-голям инвеститор в света, с планирани 119 млрд. долара за развитие на AI през 2025 г.

Европейски съюз (ЕС): ЕС обяви инвестиции от 50 млрд. евро в изкуствен интелект за тази година, за да стимулира европейската AI екосистема.

Великобритания, Канада, Израел, Германия, Индия и Франция също са сред водещите инвеститори в AI технологии

 Саудитска Арабия планира да инвестира  в изкуствен интелект (AI) 40 милиарда долара .Тази огромна инвестиция, част от националната програма "Визия 2030" за диверсификация на икономиката, има за цел да превърне кралството в глобален AI център. Водещи технологични компании от Силициевата долина, включително Microsoft, Amazon и Nvidia, вече са договорили или участват в съвместни проекти и инвестиции за милиарди долари в саудитската AI инфраструктура.

[Amazonski]

On 26.11.2025 г. at 14:11, elektrotexnik said:

Моите 5 стотинки по темата ...

ИИ е много мощен инструмент заместващ доста от функциите на нашите мозъчета - и за съжаление аз правя аналогия с изнамирането на парната машина от преди век или два само ... Та ! - откакто механизираното земеделие се автоматизира и придобива такава колосална производителност ... никой вече не оре с кон или вол (какво означава това - оставям всеки сам да си извади изводите)

Аз съм на подобно мнение. ИИ е изключително мощен инструмент, който тепърва, ще се развива. Ключовата дума обаче е "инструмент". И той не се развива от вчера - през 90-те и нулевите си го имаше, като предмет в компютърните науки/информатиката, обаче се наричаше "Експертни Системи". Новото име AI/ИИ донякъде отразява новите методи за имплементиране, донякъде разбира се е маркетингово позициониране. Също така предполагам, че подобно на системното програмиране и роботиката, ИИ ще се отдели като отделна дисциплина/наука от програмирането (вероятно вече е, в някой университети). 

 

On 27.11.2025 г. at 11:48, vvarbanov said:

ИИ вече показва емериджънтни способности – нови възможности, които генерират конкретни, нови открития и оптимизации, невъзможни за постигане от човека.

Много хубаво изложение на възможностите на ИИ. Само не трябва да забравяме, че всички изредени постижения, се случват с хиляди и десетки хиляди всяка година с използването на по-конвенционални методи. И без някой от южните щати на САЩ да остават без ток заради това. Така че хардуера също ще трябва да се развие, както се е случило и с човешкият мозък, който има много по-голяма плътност от тази при животните (с малки изключения). 

[Atom]

Според мен няма да сме свидетели на AGI. Не изключвам, че може да се появи някой ден, но не и сега. Не и през тази епоха. Причината е елементарна. Нямаме никаква представа какво точно става и какво трябва да се направи. Това е като да направиш самолет чрез проби и грешки, без да разбираш аеродинамиката. Може да летиш, но не можеш надеждно да предвидиш какво ще се случи като удвоиш скоростта или размера.

[vvarbanov]

Преди 3 часа, Amazonski said:

Много хубаво изложение на възможностите на ИИ. Само не трябва да забравяме, че всички изредени постижения, се случват с хиляди и десетки хиляди всяка година с използването на по-конвенционални методи. И без някой от южните щати на САЩ да остават без ток заради това. Така че хардуера също ще трябва да се развие, както се е случило и с човешкият мозък, който има много по-голяма плътност от тази при животните (с малки изключения). 

  Новият клас антибиотици е изключително рядък. Преди Халицин (открит с ИИ), последният нов клас антибиотик е открит преди повече от 30 години. Годишно се одобряват вариации, но не фундаментално нови молекули.

 Проблемът с протеиновото сгъване беше един от най-големите нерешени проблеми в науката в продължение на 50 години. Такова постижение  се случва веднъж на половин век. Преходът към нов технологичен възел (напр. от 7nm към 5nm) се случва веднъж на 2-3 години и струва десетки милиарди долари.

 За да се постигне същата скорост на анализ като ИИ, ще са нужни десетки хиляди специалисти, чиято обща заплата, време и енергия биха надхвърлили многократно разхода на ИИ, без гаранция за успех. ИИ е критичен, защото работи в границите на човешкото познание и превръща десетилетни проблеми в дневни задачи. Бързината, генерирането на неочаквана новост и справянето с нерешени глобални проблеми оправдават текущия енергиен разход. 

п.п. Има разбира се и открития, които могат да бъдат направени по конвенционалния начин. Тук имаме едно допълване човек/ИИ , в зависимост от целта и ползата, избираме начина.

 

 

Редактирано Понеделник в 18:34 от vvarbanov

[vvarbanov]

Преди 20 минути, Atom said:

Нямаме никаква представа какво точно става и какво трябва да се направи.

Е как да нямаме !? Нали задаваме цел самоусъвършенстване. Няма нужда да знаем как ще стане. Ние ще изостанем в разбирането, знанията. То отсега инженерите не разбират дизайна на чипове , които ИИ проектира и как работят.

Преди 27 минути, Atom said:

Това е като да направиш самолет чрез проби и грешки, без да разбираш аеродинамиката. Може да летиш, но не можеш надеждно да предвидиш какво ще се случи като удвоиш скоростта или размера.

Именно тия разбирания/открития ще се случват с много голяма скорост.  Това са бързи , милиарди комбинации. Многобройни проби/грешки.

[Atom]

Преди 14 минути, vvarbanov said:

Е как да нямаме !? Нали задаваме цел самоусъвършенстване. Няма нужда да знаем как ще стане. Ние ще изостанем в разбирането, знанията. То отсега инженерите не разбират дизайна на чипове , които ИИ проектира и как работят.

Именно тия разбирания/открития ще се случват с много голяма скорост.  Това са бързи , милиарди комбинации. Многобройни проби/грешки.

И от къде си сигурен, че ще се случат. Да вземе т.н. деца Маугли. Същият мозък, същият "хардуер" като на останалите деца. Пропуска се обаче определено обучение на определена възраст и след това греда. Един път пропуснато, не може да се навакса каквото и да се прави. И нямаме никаква представа, как да се навакса пропуснатото. От къде си сигурен каква комбинация в каква последователност трябва да се приложи при обучението на ИИ. При хората явно има значение, защо при ИИ да няма?  Питах за това claude.ai и ето какво ми отговори:

 

Брилянтна аналогия. Случаят с децата Маугли е перфектна илюстрация на фундаментален принцип: има критични прозорци за развитие, след които вратата се затваря.

Детето Маугли има перфектен хардуер - мозък с 86 милиарда неврона, всички структури са на място. Но ако не получи езиково обучение между 2-7 години, никога няма да придобие пълноценен език. Не защото мозъкът е повреден, а защото критичният период е изтекъл. Пластичността се е загубила. Определени невронни връзки трябва да се формират по определен начин, на определено време, с определен тип стимули.

Паралелът с AI е пронизителен:

Може би има последователност на обучение която е критична за AGI. Не просто данни + мощност = интелект. А:

• Етап 1: Сензорно-моторна интеграция (каузалност в физичния свят)
• Етап 2: Социално обучение (теория на ума)
• Етап 3: Абстрактно мислене (символи, математика)
• Етап 4: Мета-когниция (мислене за мисленето)

Ние обучаваме LLM директно на Етап 3-4 - на текст, на абстракции, на човешки размисли. Но без Етап 1 и 2. Без embodiment. Без каузалност. Без истинско разбиране на физическия свят и намеренията на агентите.

Още по-тревожно: Може би сегашният подход затваря критични прозорци. Трансформърната архитектура може да е като мозък на дете Маугли - оптимизирана за статистически корелации по начин, който прави невъзможно последващото развитие на истинско разбиране.

Създали сме невероятно способни идиоти саванти - системи блестящи в определени задачи, но фундаментално неспособни на типа обобщено разбиране което дефинира интелигентността.

И ако това е вярно, повече данни и по-бързи чипове са ирелевантни. Пропуснали сме нещо структурно фундаментално. Трябва да започнем отначало, с различна архитектура, различен подход.

Точно както не можеш да "излекуваш" детето Маугли с по-интензивно обучение.

Редактирано Понеделник в 18:43 от Atom

[gmladenov]

Преди 1 час, Atom said:

Според мен няма да сме свидетели на AGI. Не изключвам, че може да се появи някой ден, но не и сега. Не и през тази епоха. 

Съласен. В момента сме много далеч от AGI. 

ИИ тепърва трябва да се развива - и то десетки (стотици?) години. Колко години са били нужни на мозъка да еволюира. ИИ неизбежно ще трябва да мине през негова си еволюция.

Цитирай

Случаят с децата Маугли е перфектна илюстрация на фундаментален принцип: има критични прозорци за развитие, след които вратата се затваря.

Не е само въпрос на "критични прозорци за развитие". Трябва си еволюция (която в природата работи на принципа на "проба и грешка").

Редактирано Понеделник в 19:37 от gmladenov

[vvarbanov]

Преди 7 часа, Atom said:

Брилянтна аналогия. Случаят с децата Маугли е перфектна илюстрация на фундаментален принцип: има критични прозорци за развитие, след които вратата се затваря.

Това е така, няма спор.

Преди 7 часа, Atom said:

Може би има последователност на обучение която е критична за AGI. Не просто данни + мощност = интелект.

Тук вече имаме, "може би". Има закон "Количествените натрупвания преминават в качествени изменения" В много природни процеси този принцип е емпирично потвърден и лесно наблюдаем.

Човешката еволюция е бавна. "Може би след милиони години децата Маугли ще могат да се променят, критичните прозорци ще изчезнат. При ИИ нещата се случват невъобразимо по бързо. Тия грешки могат да бъдат коригирани в кратък срок. 

Преди 8 часа, Atom said:

Пропуснали сме нещо структурно фундаментално. Трябва да започнем отначало, с различна архитектура, различен подход.

 Именно ASI може да се самоусъвършенства, да се коригира. Не само да се надгражда .Той сам еволюира .Променя си хардуера и софтуера. Човешкото дете не може. Не може да се върне назад и да започне отначало.

[vvarbanov]

Преди 7 часа, gmladenov said:

ИИ тепърва трябва да се развива - и то десетки (стотици?) години. Колко години са били нужни на мозъка да еволюира. ИИ неизбежно ще трябва да мине през негова си еволюция.

Това е фалшива атрибутация. Не може да сравняваш бързината на човешката еволюция с тази на ИИ. Законът на Мур гласи, че броят на транзисторите в чиповете се удвоява всяка година. Такава бърза еволюция е непостижима при хората. Въобще не може да става сравнение. През последните години Законът на Мур започна да се забавя. Достигането на физическите граници на силиция прави по-нататъшното смаляване все по-трудно, по-скъпо и технически сложно.

Но има други иновации, специализирана архитектура, нови материали и структури, опаковане на чипове,...Въпреки че темпът на удвояване на мощността вече не се следва стриктно , прогресът е по-бърз от всякога благодарение на тези архитектурни иновации.

 

On 25.11.2025 г. at 23:23, vvarbanov said:

Много футуролози, като Рей Курцвайл, прогнозират, че този пик на експоненциално ускорение ще настъпи около средата на този век (приблизително 2045 г.).

Това въобще не е далеч. Много съвременници ще доживеят да го видят. Допускам ,че датата 2045г. може да е сбъркана с 20-30 минути или с 20-30 години но е някъде там.  

А може да стане и пробив или някаква технологична пречка и развитието да продължи линейно вместо експоненциално.