Светът иска да регулира изкуствения интелект, но не знае как

[Кухулин]

Е, мерси. Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

[kipen2]

Преди 18 часа, Кухулин said:

Разпитах подробно Клод защо не помни. Каза, че е принципна позиция от съображения за поверителност - щом приключи чата, изтрива всичко навсякъде. И платената версия не помни.

По-скоро "не помни" от съображения за пестене на памет, но и официалният му отговор е логичен

Както е споменал Скенер за ChatGPT, така и Gemini ми пази всички чатове, и мога да се върна към тях.

Между другото, пази ми и една разработка върху текст, която изрично му дадох указания да пази. Но не съм пробвал с повече.

Доколкото ми е споделял, на обикновената версия(2,5 flash) няма лимити, но е орязана откъм способности. За 2,5 pro имам дневен. 

Преди 17 часа, Кухулин said:

Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

Зависи коя! Ако за телефона си ползваш ОС Андроид, то Гемини вече ти е интегрирано

[mnogoznaiko]

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът се корени в двойна слепота. От една страна, хората приемат отговорите на ИИ без критично мислене, възприемайки ги като авторитетни и безспорни. От друга страна, самите ИИ системи не притежават механизми за самосъмнение и верификация на истинността на информацията, която предоставят.

ИИ се обучава от данни в интернет, където количеството не винаги означава качество. Популярните заблуди се възпроизвеждат с авторитета на "изкуствен интелект", което създава порочен кръг: заблуда води до ИИ отговор, който генерира още заблуди в интернет, засилвайки първоначалната грешна, невярна или умишлено пробутана дезинформация.

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство. Имат ли технологичните компании морална отговорност да решат този проблем преди масовото внедряване? Възможно ли е технически да се създадат ИИ системи, които приоритизират истинността пред популярността? Какви са дългосрочните последици за обществото, ако този проблем остане нерешен, и кой носи отговорността - разработчиците, регулаторите или потребителите?

[Кухулин]

Преди 57 минути, mnogoznaiko said:

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство.

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

[mnogoznaiko]

Преди 3 минути, Кухулин said:

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

[Кухулин]

Преди 33 минути, mnogoznaiko said:

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

Нарича се капитализъм. Ако ще си недоволен от нещо, следва да е от него.

[gmladenov]

Преди 2 часа, mnogoznaiko said:

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът е, че в днешно време "истината" не е една. Днес има безброй източници на информация и всеки
си избира на какво да вярва. Кой решава какво е истина. 

Това важи дори за науката, която би трябвало да се основава на факти. На определени теми дори ученитите не
могат да се съгласят какво е факт и какво не е. Какво остава за останалите области от живота, където "факт" е
размито понятие.

[deaf]

Преди 3 часа, mnogoznaiko said:

ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Истини и факти са различни светове. Божията заповед "Не кради" е истина,но е факт,че всички хора крадат. 

Обаче е невъзможно ИИ да бъде научен да ги разпознава двете... Защото няма и не може да му се инсталира втора нервна сигнална система... 

[scaner]

Инженер на Google: Изкуствения интелект ще убие човечеството

 

Според Нейт Соарес, бивш инженер на Google и Microsoft, който сега е президент на Изследователския институт за машинен интелект, има „поне 95% вероятност“ изкуственият интелект (A.I.) да доведе до изчезване на човечеството, ако продължи да се развива по сегашния си път, съобщава The Times .

„Ако не променим текущия си курс, шансовете да избегнем гибелта са почти нулеви. Втурнали сме се към пропастта със скорост от 100 км/ч“, казва метафорично той.

Нобеловият лауреат Джефри Хинтън, математикът Йошуа Бенхио и ръководителите на OpenAI, Anthropic и Google DeepMind са съгласни с него.

Всички те подписаха декларация, в която се казва:

„Намаляването на риска от изчезване на човечеството поради изкуствения интелект трябва да бъде глобален приоритет, наред с пандемиите и ядрените заплахи.“

Отбелязва се още, че опасенията са свързани с евентуалната поява на свръхинтелигентен изкуствен интелект, способен да заблуждава, планира и да излиза извън контрол. Дори сега A.I. може да лъже, а вътрешните му процеси често са неразбираеми за хората.

Някои експерти смятат, че рискът не от пълно изчезване, а по-скоро от „постепенно отслабване“ на човечеството също е реален, защото в свят, където решенията се вземат от машини, просто няма да остане място решенията да вземат хората.

Друг експерт, изпълнителният директор на движението PauseAI Холи Елмор, смята, че рискът от изчезване на човечеството поради изкуствен интелект е само 15-20 процента. Главният изпълнителен директор на Tesla Илон Мъск е съгласен с вероятността от 20 процента, а главният изпълнителен директор на Google Сундар Пичай оценява рисковете на 10 процента".

------

P.S. Ако знаете, че вероятността един самолет да падне е "само" 10-20%, дали ще се качите да пътувате с него? Само защото рекламата обещава дестинация до слънчев райски остров?

 

[Р. Теодосиев]

Чешкият екип от Investigace разследва как AI модели разпространяват дезинформация от различни режими и уебсайтове.

https://www.investigace.cz/ai-modely-siri-dezinformace/

“В днешно време, когато големи езикови модели като ChatGPT или Claude влияят върху мнението на милиони потребители, възниква нов проблем: разпространението на дезинформация директно чрез отговорите на тези инструменти. 

Предполагаше се, че ако езиковите модели получат възможност да търсят в интернет, точността на отговорите ще се подобри, но може да се окаже точно обратното. Особено когато ги питате за конспирации или дезинформация. Те често се сблъскват с феномена на липса на данни. Така учените описват ситуацията, когато питаме за информация, която е необичайна или невярна и следователно не е представена в надеждни интернет източници. Търсачките след това показват резултати от сайтове с дезинформация или конспирации в опит да отговорят.”

Източник: https://t.me/InfoLabyrinth/95

 

[kipen2]

On 4.08.2025 г. at 18:44, Р. Теодосиев said:

Предполагаше се, че ако езиковите модели получат възможност да търсят в интернет, точността на отговорите ще се подобри, но може да се окаже точно обратното. Особено когато ги питате за конспирации или дезинформация. Те често се сблъскват с феномена на липса на данни. Така учените описват ситуацията, когато питаме за информация, която е необичайна или невярна и следователно не е представена в надеждни интернет източници. Търсачките след това показват резултати от сайтове с дезинформация или конспирации в опит да отговорят.”

Ами, нормално! Но не езиковият модел е проблемен, ами обучението му, защото резултатите(отоворите) му зависят от това.

Когато на "машината"(ез.модел) й е зададено да дава претеглени отговори от базата данни, от която е обучена, без да има допълнителни оценъчни филтри, то ще ползва цялата база данни. И конкретно по въпросите с проверено необичайна или невярна информация, която обаче я има в някой сайтове, "машинката" включва и това инфо като тежест и съответното участие на информация от такива сайтове в отговорът й.

Аз вече си изказах мнението, че рисковете от ИИ-технологията се дължат на обучението, което им се прави. А това включва и системата с токените, "възнаграждението за отговорите". Очевидно е, че точно от тук иде проблемът с регулирането на езиковите модели... а не като цяло технологията ИИ, защото тя се ползва доста успешно на други места за управляване на процеси, изготвяне на прогнози, моделиране и т.н.

И всъщност не, че "човечеството не знае как да регулира ИИ", ами са води борба какви отговори да дават езиковите модели, постигането на което става с обучението им. А не да ми спорят съфорумници, че не можеш да обучеш езиковият модел в общочовешки ценности, щото това било свързано с преживяването им, а не само като суха информация.

Ами не е проблем да го обучиш да определя отговорите си съобразно хуманистичната морално-ценностна система. Проблемът е, че при подобно обучение е твърде вероятно наместо "военна операция" да използва "война". Наместо "проичистване на Газа" или "културна асимилация на уйгурите" да използва "геноцид" и т.н.

Ей затова е борбата! И независимо от дипломатичния тон си е "безмилостно жестока".  

Просто с евфемизми, завоалирано се води битка за контрола на езиковите модели, като всякакви служби се включват в играта. Ето, примерно евфемизмите в това: 

On 10.02.2025 г. at 22:30, Р. Теодосиев said:

Днес в Париж започва срещата на високо равнище на френското правителство за действие в областта на изкуствения интелект. 

Технологични лидери, политици и неправителствени организации от цял свят ще дискутират за това как да се справят с развитието на технологията. 

The Economist: Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации. Лагерът на "етиката на изкуствения интелект" ще търси ограничения за неща като дълбоки фалшификати, алгоритмична дискриминация, кражба на интелектуална собственост и изгаряне на изкопаеми горива за захранване на центровете за данни. Други ще настояват за разгръщане на иновациите в областта на ИИ, за да се повиши производителността.

Привържениците на строги глобални правила за ИИ трябва да очакват съпротива. Китай не е склонен да се вслушва в подобни молби; президентът Доналд Тръмп разруши мащабните разпоредби за ИИ на своя предшественик. Френските домакини искат да ограничат рестрикциите на ЕС върху ИИ, за да се конкурират с най-големите световни играчи. 

В неделя президентът на Франция Еманюел Макрон обяви инвестиции на стойност 109 млрд. евро за проекти в областта на ИИ и призова другите европейски държави да "ускорят" тези разходи.
https://t.me/drmjournal/11374

 "как да се справят с развитието на технологията. ", парафразирано е - кой да определя вида и качеството на отговорите на "машинките", достигащи до потребителите.

"Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации." - парафразирано е - някой се боят, че изостават в битката за контрола на отговорите на "машинките" и ще опитат да догонят.

Французите, апропо и ЕС, към момента изостават от излезлите от ЕС британци. Както се видя по-назад в темата, британските служби дори направиха среща и обещаха пари по проекти за мониторинг на "мисловните вериги" на "машинките" и съответно, както е видно от цитираната от Теодосиев последваща срещата на британците с ИИ-разработчиците статия, една компания даже е въвела нов отдел, чрез който ще се разчита на засилване на обмена с правителствения сектор.  ....Тръмп разчупи кутийката около баницата и Грок на Мъск дажи си позволява да въвежда дезинформация за конфликта в Иран. Съответно китайците е нормално да не "се вслушват в подобни молби"(за по-сторги регулации).

Редактирано Август 7, 2025 от kipen2

[scaner]

Преди 1 час, kipen2 said:

Французите, апропо и ЕС, към момента изостават от излезлите от ЕС британци. Както се видя по-назад в темата, британските служби дори направиха среща и обещаха пари по проекти за мониторинг на "мисловните вериги" на "машинките" и съответно, както е видно от цитираната от Теодосиев последваща срещата на британците с ИИ-разработчиците статия, една компания даже е въвела нов отдел, чрез който ще се разчита на засилване на обмена с правителствения сектор.  ....Тръмп разчупи кутийката около баницата и Грок на Мъск дажи си позволява да въвежда дезинформация за конфликта в Иран. Съответно китайците е нормално да не "се вслушват в подобни молби"(за по-сторги регулации).

Именно това е проблемът с липсата на регулировки, за който е тази тема. Ако продължава така, всеки отделен ИИ ще почне да си лее собствени глупости, и ще настане пълно мазало в най-скоро време, защото хората са склонни да вярват. Пресен пример са изцепките на Грок преди две седмици. 

 

[insighting]

On 7.08.2025 г. at 15:05, scaner said:

Ако продължава така, всеки отделен ИИ ще почне да си лее собствени глупости, и ще настане пълно мазало в най-скоро време, защото хората са склонни да вярват

Днес питах ИИ да ми каже кога Меркурий е ретрограден през август 2025 г., за да знам кога мога да сключвам договори и работя с документи, тъй като в ретроград стават неволни грешки.

И той ме излъга: от 4-ти до 28-ми.

А всъщност Меркурий тръгва директно на 11 август.

AI на Гугъл,вграден в търсачката написа: Меркурий обръща ретроградно на 15°35’ Лъв 11 август 2025 г. Меркурий тръгва директно от 04°15’ Лъв 25 август 2025 г. Меркурий напуска ретроградната (пост-ретроградна сянка) на 15°35′ Лъв

____

В статията обаче текстът е този:

Ретрограден цикъл на Меркурий от 18 юли до 11 август в Лъв

• 30 юни 2025 г. Меркурий навлиза в ретроградната зона (пред-ретроградна сянка) на 04°15′ Лъв
• 18 юли 2025 г. Меркурий обръща ретроградно на 15°35’ Лъв
• 11 август 2025 г. Меркурий тръгва директно от 04°15’ Лъв
• 25 август 2025 г. Меркурий напуска ретроградната (пост-ретроградна сянка) на 15°35′ Лъв

 

 

[vvarbanov]

Преди 4 часа, insighting said:

И той ме излъга: от 4-ти до 28-ми.

Защо те излъга? Да не си го лъгала и ти нещо и той да си връща? Карата ли се често? Може би не те харесва защото се държиш грубо с него.

 

Преди 4 часа, insighting said:

Днес питах ИИ да ми каже кога Меркурий е ретрограден през август 2025 г., за да знам кога мога да сключвам договори и работя с документи, тъй като в ретроград стават неволни грешки.

Значи иска да влоши функционирането ти и да направиш грешка, но каква е целта му.  

[insighting]

Преди 1 час, vvarbanov said:

Защо те излъга? Да не си го лъгала и ти нещо и той да си връща? Карата ли се често? Може би не те харесва защото се държиш грубо с него.

 

Значи иска да влоши функционирането ти и да направиш грешка, но каква е целта му.  

И аз го питах защо? Отговорът му съдържаше извинението, че не бил актуализиран. Но много харесвам, като знам истината, да гледам как някой седи насреща ми и реди безсмислици.

[vvarbanov]

Преди 3 часа, insighting said:

И аз го питах защо? Отговорът му съдържаше извинението, че не бил актуализиран. Но много харесвам, като знам истината, да гледам как някой седи насреща ми и реди безсмислици.

Мисля , че не те лъже съзнателно. В чата използва някакъв обем информация. Изглежда има нормативи, стандарти или фактори какво количество  сведения да ползва във всеки конкретен случай. При отговорите си, чатбота показва от къде са почерпени знанията  . При поискване може да задълбочи и разшири източниците. Според мен той не бачка на макс. Не използва цялата информация която има, в чата. Може би преценяв, че няма смисъл да ангажира повече ресурси, които са ценни. Те вероятно не са неизчерпаеми и той ги икономисва. Или са свързани с разходи и пести. Платените модели сигурно са по адекватни.Докато безплатните я карат през куп за грош.Или нарочно се правят на улави, да си платиш за по скъп чатбот.

Редактирано Август 9, 2025 от vvarbanov

[insighting]

Ползвам безплатна версия онлайн и без регистрация. Добре структурира данни, прави отлични конспекти, но не е обучен достатъчно да прогнозира бъдещи събития.

[Р. Теодосиев]

Изследователи от фирмата за киберсигурност ESET твърдят, че са идентифицирали първия пример от рансъмуер, задвижван от изкуствен интелект.

Зловредният софтуер, наречен PromptLock, по същество функционира като твърдо кодирана атака с инжектиране на prompt върху езиков модел, което кара модела да съдейства за извършването на ransomware атака.

Кодът е бил открит на 25 август от ESET във VirusTotal, онлайн хранилище за анализ на зловреден софтуер. Освен че се знае, че е качен някъде в САЩ, няма допълнителни подробности за произхода му.

Изследователите в областта на сигурността на изкуствения интелект все по-често подчертават потенциалния риск за бизнеса и организациите, които внедряват „агенти“ на изкуствен интелект в своите мрежи, отбелязвайки, че на тези програми трябва да се предостави административен достъп на високо ниво, за да изпълняват задачите си, че са уязвими към атаки с незабавно внедряване и могат да бъдат насочени срещу собствениците си.

https://t.me/InfoLabyrinth/98

----------

В един от първите документирани случаи на използване на изкуствен интелект в мащабна киберпрестъпна операция, Anthropic обяви, че хакер е използвал кодиращия инструмент Claude Code, за да изнудва най-малко 17 компании. 

Хакерът е използвал изкуствен интелект в безпрецедентна степен, съобщава Anthropic в доклада си, за да събира информация за жертвите, да прониква в мрежи, да решава кои данни да събира и да пише целенасочени съобщения за изнудване.

Компанията също така е открила, че севернокорейски агенти са използвали Claude, за да създадат убедителни профили на технически работници и да си осигурят работни места в компании от списъка Fortune 500 в САЩ. Тя е предприела мерки за ограничаване на бъдещи измами, като забрана на тези акаунти и пускане на инструмент за проверка.

Експертите по сигурност предупреждават от години, че нарастващата сложност на изкуствения интелект също рискува да увеличи честотата и мащаба на кибератаките.

https://t.me/InfoLabyrinth/99

----------

Разследване на Ройтерс показва, че Мета е присвоила имената и образите на известни личности без тяхно разрешение - включително Тейлър Суифт, Скарлет Йохансон, Ан Хатауей и Селена Гомес - за да създаде десетки флиртуващи чатботове в социалните мрежи.

Ройтерс също така установи, че Meta е позволила на потребителите да създават публично достъпни чатботове на деца-знаменитости, включително Уокър Скобел, 16-годишна филмова звезда. След като бил помолен за снимка на тийнейджъра актьор на плажа, ботът е предоставил реалистично изображение без риза.

https://t.me/InfoLabyrinth/101

[Р. Теодосиев]

Екипът на базираната в Чехия разследваща медия Investigace разкри, че интимните подробности, споделени с големи езикови модели като ChatGPT, се използват от технологичните компании както за подобряване на съществуващите модели, така и за обучение на бъдещи. 

Investigace проучва как шест популярни езикови модела се справят с потребителските разговори според собствените си условия за ползване, включително ChatGPT и DeepSeek. Става ясно, че личните лични данни на хората са станали основа за отговори, получени от други потребители.

https://t.me/InfoLabyrinth/104

[Шпага]

Дали да последваме примера на албанците?

https://bntnews.bg/news/izkustven-intelekt-ministar-v-albaniya-1355478news.html

"Албанското правителство направи нещо, което звучи като сюжет от филм – назначи изкуствен интелект за… министър! Министър-председателят Еди Рама представи новия дигитален член на кабинета – бота Diella („слънце“ на албански).

... "

[makebulgar]

Непалските тинейджъри са си избрали новия премиер чрез ChatGPT. 

В Discord са били основните дискусии. 

[Р. Теодосиев]

️ Meta обяви (https://techcrunch.com/2025/10/01/meta-plans-to-sell-targeted-ads-based-on-data-in-your-ai-chats/), че данните, събрани от взаимодействията на потребителите с нейните продукти с изкуствен интелект, скоро ще бъдат използвани за продажба на целенасочени реклами в нейните платформи за социални медии.

Компанията ще актуализира политиката си за поверителност до 16 декември, за да отрази промяната, и ще уведоми потребителите през следващите дни. 

Новата политика се прилага в световен мащаб, с изключение на потребителите в Южна Корея, Обединеното кралство и Европейския съюз, където законите за поверителност забраняват този вид събиране на данни.

Основният бизнес на Meta отдавна разчита на изграждането на подробни профили на потребители на Facebook и Instagram, за да продава хипер-таргетирани реклами. Компанията предлага на рекламодателите начин да достигнат до специфични демографски данни и потребителски групи. Сега Meta ще използва и данни от разговори със своя AI чатбот, за да изгради тези профили, което ще ѝ даде още един мощен сигнал за насочване на рекламите ѝ.

Гигантът в социалните медии вече разполага с много информация за своите потребители, но Meta AI е създала богат нов поток от информация. Компанията твърди, че повече от милиард души разговарят с Meta AI всеки месец и е обичайно потребителите да водят дълги, подробни разговори с AI чатбота. Ако потребител разговаря с Meta AI за туризъм, например, компанията може да показва реклами за туристическа екипировка. 

Актуализацията за поверителност е по-широка от Meta AI и се отнася за другите предложения на компанията, свързани с изкуствен интелект. Това означава, че Meta може да използва данни от функции с изкуствен интелект в своите интелигентни очила Ray-Ban Meta – включително гласови записи, снимки и видеоклипове, анализирани с изкуствен интелект – за по-нататъшно насочване на рекламните си продукти. Meta може също да използва данни от новия си видео емисия с изкуствен интелект - Vibes - и своя продукт за генериране на изображения с изкуствен интелект, Imagine.

Разговорите с Meta AI ще повлияят на рекламите във Facebook и Instagram само ако потребителят е влязъл в един и същ акаунт в различните продукти.

https://t.me/InfoLabyrinth/112

[Gravity]

[Р. Теодосиев]

OpenAI прогнозира, че AI системите скоро ще станат достатъчно интелигентни, за да правят открития, и призова за глобална координация по отношение на безопасността, надзора и устойчивостта.

- OpenAI заяви, че настоящите системи за изкуствен интелект вече превъзхождат хора в сложни интелектуални задачи и са „на 80% от пътя към изследовател в областта на изкуствения интелект“.

- Компанията очаква изкуственият интелект да направи малки научни открития до 2026 г. и по-значителни пробиви до 2028 г., тъй като разходите за интелект намаляват 40 пъти годишно.

- За свръхинтелигентния изкуствен интелект OpenAI заяви, че работата с правителствата и агенциите за безопасност ще бъде от съществено значение за намаляване на рисковете като биотероризъм или неконтролируемо самоусъвършенстване.

Компанията призова също така за стандарти за безопасност сред водещите лаборатории, екосистема за устойчивост като киберсигурността и непрекъснато проследяване на реалното въздействие на AI, за да се информира обществената политика.

Макар че времевата рамка остава неясна, посланието на OpenAI показва, че светът трябва да започне да се подготвя за супер интелигентен AI с координирана безопасност. Компанията залага на това, че колективните предпазни мерки ще бъдат единственият начин да се управлява рискът от следващата ера на интелигентността, която може да се разпространи по начини, които човечеството никога не е виждало досега.

https://t.me/InfoLabyrinth/132

[scaner]

Едно мрачно, но обосновано мнение от мрежата:

Какво ни чака с навлизането на ИИ

По всичко личи, че се намираме само в началната фаза на огромен скок в развитието на производителните сили, който обещава съчетаване на изкуствен интелект със създаването на човекоподобни роботи, способни да поемат изпълнението на огромно количество “черна работа“, която не изисква значително творческо участие (от грижи за възрастни хора до доставка на каквото и да е където и да е, да не говорим за изпълнението на прости механични функции в рамките на конвейерното производство).  Не ми се иска да мисля за социалните и, като следствие, политическите последствия от този преход, но ще трябва:
 
1. Освобождаване на огромни маси от излишната трудоспособна популация в развитите страни, което не може да бъде компенсирано с никакви програми за професионално преквалифициране. Единственият изход ще бъде да се поеме грижата за огромна маса хора чрез система на гарантиран доход, което от друга страна ще доведе до обедняване на тази маса и непрекъснато нарастване на агресията от нейна страна, чието ограничаване ще постави под заплаха съществуването на демократичните институции.
 
2.  Резко напрежение между богатите и бедните страни във връзка със замразяването на миграционните потоци. Богатите общества ще намалят рязко естествената си нужда от внос на прекариат (временна и безправна работна сила) и ще започнат да затварят своите „ойкумени” за всякакви опити за проникване отвън. Това ще доведе до своеобразна световна сегрегация и появата на „планетарни резервати”, от които хората ще се опитват да избягат на всяка цена, без да се съобразяват с рисковете за живота си.
 
3. Масовото образование ще бъде поставено под въпрос. За обслужването на роботиката ще бъде необходим доста малък набор от примитивни умения, а за нейния контрол, напротив, – висококачествено образование, което по дефиниция не може да бъде масово. Промяната в образователните практики и структурата на „културното потребление“ ще доведе до отслабване на когнитивните функции на значителна част от населението, което от своя страна ще доведе до сериозно класово разслояване и възникване на нова почва за конфликти.
 
По този начин както вътрешното, така и външното напрежение в обществата ще започне да нараства експоненциално. Ако някой мисли, че става дума за някакво невероятно далечно бъдеще, той се лъже. При сегашните темпове на развитие на техниката всичко може да се случи за едно-две поколения (т.е. 15-30 години), а това означава, че ще се случи приживе на значителна част от вече родените хора. Ако това съвпадне с не по-малко драматични климатични промени, вероятността от възникване на глобален военен конфликт изглежда изключително висока.
 
Мащабът на предстоящите предизвикателства контрастира рязко с незначителния характер на проблемите, които днес се считат за почти нерешими и затова заслужаващи да бъдат изпратени на смърт десетки и стотици хиляди хора, за да бъдат „справедливо” решени. В романа на грузинския писател Григол Абашидзе „Дългата нощ“ има интересен сюжет (разказвам приблизително). Един от арабските владетели с армията си отстъпва, избягвайки монголската кавалерия. На пътя му е Грузия. На среща с грузинския цар той го убеждава да се подчини без бой и да пропусне армията му, като казва приблизително следното: „Ние сме само мимолетно затъмнение, а това, което ни следва, е дълга, дълга нощ“.
 
Всичко, което се случва с нас днес и което изглежда достойно да промени живота в смърт по най-гадния начин, е миг от историята. Това, което ни очаква напред, е в най-добрия случай дълга нощ. В най-лошия – истински край на историята. Това е много лоша новина. Но може би осмислянето на тази заплаха може да се превърне в някаква обединяваща идея за движение, което ще ни измъкне от тази яма.

-----

И едно допълнение от мен. Очертаващата се дилема: атоматизацията и свързаното с нея освобождаване на хора се прави с цел още по-големи печалби, има в себе си вътрешно противоречие: от къде ще се вземат тези печалби на фона на обедняващо население и изчезваща на практика икономика? Може би всичко това което се случва с ИИ е един гигантски социален балон, или има важни фактори, които пропускаме в такова опростено разглеждане?