Мой пост: скептично за изкуствения интелект

[SAlexandrov]

Скептично за изкуствения интелект

Image source : Pixabay

15 декември 2025 г. 20:10 ч.

Светослав Александров. Днес ми се иска да си поговорим с вас … за роботиката и изкуствения интелект.
Подобно на мнозина, закърмени с научна фантастика, така и аз намирах появата на изкуствения интелект и роботите за eдни от най-яките неща, които могат да ни се случат. В моя случай, като космически ентусиаст – като второто най-яко нещо. Да имаш свой личен асистент на бюрото като „ХАЛ 9000“ или робот зад гърба си, като в разказите на Айзък Азимов, бе нещо, което можеше да очакваш с нетърпение.

Но изненадващо днес, когато изкуственият интелект и роботите навлизат в живота ни (засега – строго специализирани, но много скоро ще има и хуманоидни), аз все повече установявам, че се позиционирам в лагера на техноскептиците. Направо се изумявам как корпорациите успяха да вземат една от най-яките идеи от научно-фантастичния свят … и да я превърнат в универсално мразена. Мразена дори от научно- и технически грамотни хора. Сам Олтман, Илон Мъск, Марк Зукърбърг и компания заслужават поздравления за това, че съсипаха всичко.

Аз не критикувам изкуствения интелект от позицията на неадаптивен човек – ясно ми е, че когато се появява нова технология, някои хора не се адаптират, губят работата си или остават на по-ниска позиция за дълго. При мен не се получи така – адаптирах се добре, изкуственият интелект изигра сериозна роля за увеличаването на откритията и научната ми продукция скочи практически двойно. Моите аргументи са сходни с тези, когато подчертавам недостатъците на Интернет – например глобалната мрежа изигра сериозна роля в разпространението на конспиративните теории и псевдонауката. И това е „бъг“ в системата, за който все още няма ефективно решение. В свят с изкуствен интелект проблемът ще се задълбочава – а регулаторите са прекалено неефективни.

Но защо засега съм в лагера на скептиците?
На първо място: голяма част от красотата на изкуствения интелект и роботиката в научната фантастика идва от факта, че в научно-фантастичните книги ти си този, който купува робота. И той си е твоя собственост, подобно на пералнята или готварската печка. В реалния живот изкуственият интелект е гладен за ресурси и изчислителна мощ. Съответно, не е твоя собственост, а ти се осигурява достъп. Но има и нещо по-лошо: изкуственият интелект унищожава хардуерния пазар за обикновените потребители.

Винаги съм изпитвал неприязън към голяма част от компютърните фирми. Дори и на наше, българско ниво. Псувал съм ги нееднократно, когато съм им давал задача да ми сглобят компютърна конфигурация, а те ми отговорят: „съжалявам, пич, ама тук от една фирма ми направиха поръчка и се забавих с теб“. Поне така беше, преди да си сменя квартирата. После, в новия квартал, случих на читав хардуерен доставчик. Какво означава това? Означава, че ти като индивидуален клиент не си им важен. Когато това ми се случва в България и има конкуренция – окей, отивам на друго място. Но когато Micron (един от малкото производители на RAM) решава да спре производството на RAM модули за битови потребители, с обяснението, че корпоративният клиент им е по-важен, тогава вече е трагедия за целия свят.

И после защо съм се променил и от почти пълен пазарен фундаменталист станах про-ЕС и про-регулации. Ето ви типичен пример.

Но да се върнем на темата. Очакванията ти са следните: технологиите се развиват, има прогрес, купуваш си по-нова машина. В реалността се получава следното: казват ти, че RAM паметите от 16GB нагоре са изкупени от дейта центровете; производителите на лаптопи, компютри и мобилни телефони ти заявяват, че през цялата 2026 г. ще произвеждат компютри с 8GB RAM; телефоните се връщат на 4GB RAM. Мощният офис или геймърски компютър отива в историята. В технологичен план това не е прогрес, а напротив – регрес. Все едно сме през 2015-2016 година, а не 2025-2026 г.

Бъдещето отива натам, че твоят компютър ще се превърне в терминал с нищожна изчислителна мощ, който се свързва с дейта центровете. Тук идва футуристичната идея: те ще бъдат изведени в космоса (уау!), спътниците с GPU-та ще се сглобяват на Луната (уау!), а пръстените в слънчевосинхронна орбита ще са с големи панели и ще се виждат много по-ефектно, отколкото „Старлинк“, все едно Земята ще се превърне в Сатурн (уау! или „ах, кофти!“, в зависимост дали се кефиш на технологиите или си професионален астроном, на когото това ще пречи).

Но след уау!-а идва отрезвяването: терминалът ти ще се свързва с дейта центровете, а корпорациите не се крият, че искат да ти предлагат не продукт, който да притежаваш, а АБОНАМЕНТ. Абонамент за сървър, който те ще притежават, те ще определят правилата, те ще решават при какви условия да те допуснат или да те изгонят. Facebook да те банва ще е дребен кахър, защото корпорациите ще притежават цялата изчислителна мощ, от която ще имаш нужда.

Мощният гейминг компютър ще е в историята. Бъдещето ще е облачен гейминг. Или орбитален облачен гейминг, в зависимост дали визията на Мъск или Мюлер стане реалност. Виждали ли сте опциите на GeForce Now? Безплатен вариант – играеш един час, с лаг и ограничени възможности. По-скъпи – до 6 или 8 часа. Едно време така играех в компютърните клубове – плащам за час-два, накрая Kaiowas-а ми изключва сесията. Сега се очертава да е същото или нещо подобно – като в компютърен клуб, само че у дома. Времена, които се надявах, че ще забравим – но отново сме се запътили натам.

Стигаме до създаването на произведения на изкуството от изкуствен интелект. Изкуственият интелект достигна възможността да създава произведения на изкуството – и всеки, който го отрича, не е в час. Разбира се, това е тема, вече обсъждана в научната фантастика. Достатъчно е да си спомните за „Гробищен свят“ на Клифърд Саймък – за композицията, създавана от Мустанг, която впоследствие става световен хит. Изкуственият интелект в съвремието надмина всичко, предсказано от фантастите в тази сфера – както като скорост, така и като възможности. Но начинът, по който технологията навлиза в живота ни, е изключително отблъскващ. Кражбите на интелектуален труд са само част от дебата. От друга страна, вече сме стигнали до етап, в който AI-генерираните произведения не се отличават от направените от човешка ръка. Това е плашещ момент – още от ранната интернет епоха хората срещат трудности да отсяват лъжата от истината. Но сега вече нещата излизат извън контрол. Близо 90% от съдържанието, което ми предлагат социалните мрежи, е т.нар. „AI помия“ (на англ. AI slop) – фалшиви клипове. Потребителите се оплакват, че вече не могат да скролват и да се наслаждават дори на клипове с животни, защото не знаят кой от тях е генериран и кой не. Но и обратното също е вярно – истински художници, фотографи и видеооператори качват произведения и срещат обвинения, че са продукт на изкуствен интелект. Случвало ми се е вече и на КОСМОС БГ, качвайки космически снимки. Единствената ни надежда са „гадните регулатори“ от ЕССР, които са тъй мразени от Мъск, Зукърбърг и останалите техброта, да наложат малко ред, защото положението отдавна е непоносимо.

Но най-лошото е агресивното налагане на технологията и отнемането на правото на избор от страна на потребителя. В класическата научна фантастика нещата стоят по следния начин: купуваш робота, роботът ти върши работа, понякога роботът полудява и прави бели. Но в такъв случай се бориш с робота, връщаш го на компанията производител или, както е в случая с ХАЛ-9000, му вадиш модулите и край. В съвремието обаче положението е инакво – скандалът с LG телевизорите и ъпдейтът на Copilot, който не можеш да махнеш, илюстрират това. Купуваш телевизор, само че се оказва, че телевизорът ти става робот. Никой не те информира, че телевизорът ти се превръща в робот. И никой не ти дава право на избор дали искаш това или не. Прочее, подобно налагане на AI технологии се случва на всякакво ниво – и на хората не им харесва. Разбирам, че известно „подбутване“ е необходимо – малоумните анти-ГМО протести от 2011 година, когато активисти крещяха „нещеме гемео, нещеме гемео“, го доказват нагледно. Или пък тоталното отричане на ядрената енергетика, което нанесе достатъчно вреди. Но има определени линии, които не бива да се прекрачват. Поне според мен.

Моето мнение е, че няма „добри“ и „лоши“ технологии. Всяка технология може да се използва за добро или за зло. Истината е, че ако гледам само и единствено технологичните възможности на ChatGPT, аз го харесвам. Например, той е много по-добър от Google Scholar като агрегатор на научна информация – стига да знаеш как да боравиш с него. Нашето бъдеще има нужда от изкуствен интелект, от автомобили, които нямат нужда от шофьори, от хуманоидни роботи. Но техбротата не са доказали, че може да им се има доверие, особено когато става въпрос за етичната страна на проблема.

Някои коментатори казват, че понастоящем се намираме в началната фаза от съществуването на изкуствения интелект, която е хаотична версия на „дивия запад“, но с течение на времето ще уляга и ще се нормализира. Силно се надявам да са прави. Защото това, което виждам да се случва, е повече от тревожно.

https://cosmos.1.bg/space/2025/12/15/ai-skepticism/

[Amazonski]

Огромен проблем за бъдещето на AI, и което ще спука балона е погрешният маркетинг. Както беше споменато, големите фирми се опитват да пробутат специализирани системи, като нещо, което има в името "интелект". Все едно да рекламираш нещо за компютър, а то да се окаже научен калкулатор на Casio. Полезен ли е калкулатора - разбира се. Би ли ускорил развитието в много сфери - Да. Ще бъде ли ужасно разочарован потребителят платил за компютър и имащ нужда от компютър - ами да, естествено че ще е разочарован. 

Голям проблем според мен е че неща, като Copilot,  крият зад себе си реалните източници на знание. Да - впечатляващи са. Езиков процесор, съчетан с търсачка, кеширане на огромно количество данни и сложни алгоритми за класифицирането им. За по-неопитни потребители е като магия, как на секундата получават програмният код, който им трябва, научната инфромация и т.н. И може да е много полезно - да. Обаче така потребителя няма никога да се докосне да сайта, или форума създал това знание. Няма да разбере защо предложеният му подход не е оптимален, или направо е опасен, няма и от своя страна да създаде съдържание, или подобри/инициира дискусията. По този начин се отнема енергия от например програмистките форуми и предполагам не е толкова различно в другите сфери на познанието...