Светът иска да регулира изкуствения интелект, но не знае как

[Skubi]

Унгарците имат една фраза ТРЕЗВЕН СЕЛСКИ РАЗУМ. Тоест когато човек не се подава на никаква манипулация и чисто и просто самостоятелно гледа нещата....Тези кхмммм  "интелекти" не са нищо повече от съвкуп свръх бързи търсачи които ти бълват информация....с алгоритъм пригоден на теб. Но за съжеление хората все повече и повече считат на тези манипурирани алгоритми и действат без да мислят....Отличен пример е за това фейса или други социални медии, шхортовете на тубата и други...

И това е УЖасяВАЩО.

Например китайският интелект игнорира въпросите снързани с критиката на китайската комустическа партия....Така, че никога няма да можеш да спориш по същество с един китаецр защото или няма инфо, или е преписано или се преписва историята....

Но това няма да е за първи път на човешката култура....Почна с изгарянето на александрийската бибилиотека.

Редактирано Петък в 08:38 от Skubi

[ramus]

Преди 1 час, Skubi said:

снързани с критиката на китайската комустическа партия

проблемът може да се изпише и чрез следната аналогия:

Кое е първично - идеологията или интелекта (изкуствен или естествен)?  

[scaner]

Преди 4 часа, kipen2 said:

Честно казано, това е определящо по-скоро за твоите забележки! 

Аз поне прочетох протокола от срещата им https://tomekkorbak.com/cot-monitorability-is-a-fragile-opportunity/cot_monitoring.pdf

Ти може и енциклопедия да си прочел, това не засяга това, която ти казах. Прочел си думата "БЛИЦ", и веднага се е активирала у теб някаква фобийна верига, без да прочетеш по-нататък, че съм дал и други, по-сериозни източници. А съм откопирал текста от БЛИЦ, защото повечето народ тук чете на български. Иначе винаги търся оригинала на новината.

Или пак не разбра защо ти направих забележката? Но пък си сигурен за някакви изшикалкавяния?

[Р. Теодосиев]

OpenAI планира да открие първия си офис във Вашингтон, който ще служи както като център за политическите амбиции на компанията, така и като шоурум, където посетителите ще могат да се запознаят с нейните продукти.

Офисът, който компанията е нарекла The Workshop (Работилницата), ще бъде място, където всички – от политици до преподаватели и представители на неправителствени организации – ще могат да получат обучение за инструментите на OpenAI, а в някои случаи и да видят продуктите в предварителна версия.

Офисът ще бъде ръководен от Чан Парк, директор по глобални въпроси за САЩ и Канада, и Джо Ларсън, който напуска компанията за отбранителни технологии Anduril, за да се присъедини към OpenAI в края на месеца.

AI гигантът се надява да използва пространството, за да спечели сърцата и умовете за своя софтуер и хардуерен продукт, който Сам Алтман заяви, че се надява да пусне на пазара през 2026 г. Той също така има за цел да разшири партньорствата си и клиентската си база в правителствения сектор и да помогне за формирането на регулации за AI, докато законодателите преценяват всичко – от рисковете на технологията до последиците за авторското право.

https://t.me/InfoLabyrinth/89

[Кибик]

В момента се надува балон с ИИ, подобен на дотком балона от преди 25 години. Опитаха се с квантовите компютри но не става, прекалено специализирани скъпи и въобще не стават за чеп на зеле. 

ЧатГПТ в основата си е вероятностен модел и е просто един много добър папагал. Но може да се направят милиарди и има все пак известни практически приложения, но има един феномен, при който над определена сложност на задачата, модела се срива и дава нула процента верни отговори.

Поне за момента изглежда, че са ударили някакъв таван и сега отчаяно се опитват да монетизират това което е постигнато понеже идва пукване на балона. Или поне така ми изглежда. Все пак някои направиха доста милиарди.

А, и тия приказки как супер ИИ ще е свръх гений и ние трябва да го опитомяваме докато време е част от рекламната брошура. Няма такива изгледи в скоро време.

Редактирано Петък в 13:15 от Кибик

[kipen2]

Преди 51 минути, Р. Теодосиев said:

AI гигантът се надява да използва пространството, за да спечели сърцата и умовете за своя софтуер и хардуерен продукт, който Сам Алтман заяви, че се надява да пусне на пазара през 2026 г. Той също така има за цел да разшири партньорствата си и клиентската си база в правителствения сектор и да помогне за формирането на регулации за AI, докато законодателите преценяват всичко – от рисковете на технологията до последиците за авторското право.

Поне се вижда развитието в ИИ сектора след срещата на разработчиците с британските служби.

Аз за това загатнах за скандала от 2018 и нереграментираното използване на данните от над 300 000 профила във Фейсбук. 

On 24.07.2025 г. at 11:14, kipen2 said:

..белким да не останем само с Cambridge Analytica и проектът им от 2018г. 

 

"Разширяването на партньорствата и клиентската база в правителствения сектор" са си таман субсидираните проекти за мониторинг:

On 24.07.2025 г. at 11:14, kipen2 said:

поради което е необходимо да се субсидират проекти за поддръжката и усъвършенстването на този мониторинг.  

... а каква част и как структурирана ще се предава на службите е друг въпрос.

Аз поне пиша по същество за срещата на разработчиците с английските служби и поне се вижда, че правилно съм се ориентирал как ще се развие ситуацията.... 

[Кибик]

Ето тука е обяснение на статията на Епъл за ИИ и колабирането на моделите при голяма сложност на задачата:

 

[Кухулин]

Преди 16 часа, Кибик said:

А, и тия приказки как супер ИИ ще е свръх гений и ние трябва да го опитомяваме докато време е част от рекламната брошура. Няма такива изгледи в скоро време.

Най-общо казано, ИИ може да се раздели на два типа. Първият е ИИ, базиран върху различни форми на човешката интелектуална продукция. Например Клод. Тъй като въпросната продукция е далеч от съвършенството даже в пиковите и форми, резултратът е "немного предсказуем". ИИ се получава глупав и е очевидно, че има "таван" на възможностите. Въпреки това може да върши работа, тъй както и глупавият човек може да върши работа.

Вторият тип ИИ не е базиран на човешката интелектуална продукция. Например Алфа Зиро. Това са системи, които се самообучават от нулата на различни принципи. Например еволюционен отбор с вътрешна конкуренция без човешка намеса. Там интелектуалният таван е чисто технологичен. Ако му дадеш подходящо желязо, нищо не пречи да се получи свръхгений. Например в шаха Алфа Зиро реално твори красиви неща, на които хората се възхищават. И се радват, когато ИИ потвърди тази или онази човешка разработка.

Друг е въпросът, че вторият тип ИИ е прекалено мощен инструмент, за да се върти в свободен достъп. Има разни варианти за цивилна употреба - например нагъване на белтъци. А виж, какво се случва във военните лаборатории...

[Кибик]

Преди 21 часа, Кухулин said:

Най-общо казано, ИИ може да се раздели на два типа. Първият е ИИ, базиран върху различни форми на човешката интелектуална продукция. Например Клод. Тъй като въпросната продукция е далеч от съвършенството даже в пиковите и форми, резултратът е "немного предсказуем". ИИ се получава глупав и е очевидно, че има "таван" на възможностите. Въпреки това може да върши работа, тъй както и глупавият човек може да върши работа.

Вторият тип ИИ не е базиран на човешката интелектуална продукция. Например Алфа Зиро. Това са системи, които се самообучават от нулата на различни принципи. Например еволюционен отбор с вътрешна конкуренция без човешка намеса. Там интелектуалният таван е чисто технологичен. Ако му дадеш подходящо желязо, нищо не пречи да се получи свръхгений. Например в шаха Алфа Зиро реално твори красиви неща, на които хората се възхищават. И се радват, когато ИИ потвърди тази или онази човешка разработка.

Друг е въпросът, че вторият тип ИИ е прекалено мощен инструмент, за да се върти в свободен достъп. Има разни варианти за цивилна употреба - например нагъване на белтъци. А виж, какво се случва във военните лаборатории...

За втория вид ИИ не съм чувал много, но първия вид, така наречените езикови модели едва ли някога ще стигнат човешкия вид интелигентност.

Те са по принцип машини за статистическо изчисление на вероятността за следващата дума в едно изречение, изчислено на базата на много голямо количество данни.

Но! Те ще променят начина по който хората оперират с текст, а това са много аспекти на икономиката. Интернета, новините, маркетинга, въобще информационните и образователни дейности.

Преди интернета хората купуваха вестници и четяха, имаха си любим вестник и списание и си набавяха информаципта оттам, търговци и производители публикуваха реклами в тях и това си беше индустрия. С интернета това си умря повече или по-малко. Маркетинга се премести на интернет, всеки си направи сайт, вестниците минаха онлайн и търсачките даваха достъп до всичко това.

Търсиш в гугъл, получаваш линкове, връзки, събираш информация за това което се интересуваш, гледаш реклами, които финансират всичко това.

Този модел ще изчезне или ще се трансформира. Понеже ИИ езикови модели вече сканират не само за връзки а дават и готов отговор за това кйоето се търси. Отивате в Гугъл и пишете, "Какво става с България и еврото" и гугъл ще ви изплюе резюме на информацията и вече няма нужда да търсите по-нататък и няма да гледате страница след страница и реклами. 

Някои въобще даже не ходят в гугъл да търсят а направо си питат тяхната ИИ система която са си избрали Грок или ЧатГТП.

Т.е. в скоро време може да видим измиране на новините и търсачките и всичко да се централизира до две-три ИИ системи за всичката информация коят хората ще получават. 

Ето това е реален риск.

 

 

[Кухулин]

Преди 52 минути, Кибик said:

Ето това е реален риск.

От твоя пост не става много ясно в какво се състои рискът. Ако имш предвид, че хората ще бъдат манипулирани лесно, те и сега се манипулират достатъчно лесно. Обаче как това е свързано с "реалния риск"?

[Кибик]

Преди 32 минути, Кухулин said:

От твоя пост не става много ясно в какво се състои рискът. Ако имш предвид, че хората ще бъдат манипулирани лесно, те и сега се манипулират достатъчно лесно. Обаче как това е свързано с "реалния риск"?

Концентрацията ще е по-голяма. Освен това ако вземем за пример търсачките, накрая остава една доминантна, Гугъл, при ИИ може да остане само една.

Освен това ставаше дума за трансформация на индустриите, загуба на работни места, ами маркетинга, правенето на сайтове, рекламните агенции, самите сайтове за новини може и да понамалеят значително.

Както навремето с един трактор може да се заменят педесе или сто копача примерно.

[Кухулин]

Преди 13 минути, Кибик said:

Както навремето с един трактор може да се заменят педесе или сто копача примерно.

Това безспорно е реален риск за копачите. И все пак всички се радваме на тракторите  

[Atom]

Преди 15 минути, Кухулин said:

Това безспорно е реален риск за копачите. И все пак всички се радваме на тракторите  

Тракторът ни освобождава от необходимостта да копаем ръчно, а ИИ ни освобождава от необходимостта да мислим. ИИ не е като колелото, печатната машина или трактора. Това не е просто техническа надстройка. ИИ е епистемологична революция — замяна на човешкия мисловен труд със структурирана симулация на мислене.

[kipen2]

On 26.07.2025 г. at 9:34, Кухулин said:

Най-общо казано, ИИ може да се раздели на два типа. Първият е ИИ, базиран върху различни форми на човешката интелектуална продукция.

Кухулин, здравей!

Разделянето, което правиш по критерия качества на базата данни за обучение е далновиден. Но разликата между езиковите модели и алфа зиро е в архитектурата на невронните мрежи, които ползват за оперирането си.

Алфа зеро има по-особена, поради синхронизираното използване на разделената на две части архитектура. Едната част служи за предвиждане на ходове, а другата за определяне на стратегията.

Докато при езиковите модели няма такова функционално разделяне. Просто конвулюционни невронни мрежи с трасформери, т.е. процесиране на изчисленията в едно ядро, съставено от слоеве.

А иначе 

On 26.07.2025 г. at 9:34, Кухулин said:

ИИ се получава глупав и е очевидно, че има "таван" на възможностите.

 , може да се избегне да голяма степен чрез правилно формулирани въпроси, съобразно целта ти на питане. Както се казва "50% от правилното решение е в правилно зададения въпрос".

А езиковите модели (LLM) като Клод, Гемини, charGPT и др., поради това, че са набуфкани с лимитиращи условия, определени като "културни еталони" и процесират информацията в сложни "мисловни вериги"(CoT, chains of thoughts), вероятността да изкарат смотан отговор е висока. В смисъл не, че са глупави, ами с интензивното контролиране на вида и качеството на отговорите (особено, изискванията за толерантността) резултират до подобно ниво.

На Алфа зиро не му се налага да борави с езикови конструкции, минати през един билюк оценъчни филтри за редактиране на мисловните вериги. Напълно прав си за разликата във възможностите!

А, иначе по отношение на по-широкото използване на възможностите на алфа зиро, според мен, не е толкова важно, че има по-голяма изчислителна мощ, а по-скоро разходът на енергия(изчислителен ресурс и електричество за поддръжката на работата).

Би могло да се пусне версия за работа с Алфа зеро, но би трябвало да е с доста орязани възможностти, щото изпълняването на всички заявки(повече от един потребител едновременно) ще зацикли при растеж на количеството им...  и Алфа зерото ще стане "тъпичък" като езиковите модели.

[kipen2]

Преди 3 часа, Кибик said:

Освен това ако вземем за пример търсачките, накрая остава една доминантна, Гугъл, при ИИ може да остане само една.

Изборът на тарсачка е наличен винаги. Твоя работа си е коя ще ползваш. 

ИИ-асистентите са си вече налични. Тука също не си ограничен в изборът си.

Аз примерно, предпочитам предложеният ми от Гемини - Гемини ИИ-асистент, само малко дразнещото е, че го обвързва и с Гугъл асистента, към които са прехвърлени функциите за връзка с телефона, който са недостъпни за Гемини ИИ, използван като асистент.

Но, ако не ми харесва мога по всяко време да избера друга услуга от друга компания. В смисъл че, според мен, правиш прибързано генерализиране по този казус, защото диверсификацията на услугите, апропо конкуренцията, си я има на тоя пазар и вероятността да изчезне е ниска. 

Точно както това:

Преди 3 часа, Кибик said:

Освен това ставаше дума за трансформация на индустриите, загуба на работни места, ами маркетинга, правенето на сайтове, рекламните агенции, самите сайтове за новини може и да понамалеят значително.

 по същия начин е свързано с конкуренция. А дори и дигиталния бизнес си е бизнес и на този формиран пазар пак си важи принципа на "ситото", подборът. Последното пък неминуемо е свързано и със загуба на работни места... при сайтовете за новини също ще си има редукция, ама я ти ми кажи колко от тях ползват чужди новини и ги разпространяват като преправят в по-гръмки заглавията им, то и злоупотребяват с фейк новини? Още повече, че шансовете на новинарските сайтове на регионални медии или пък само новинарски сайтове на местни журналисти, фокусирани върху новините с местно до регионално значение ще си се запазят, точна поради това, че вече са си натрупали реноме и редовни местни потребители на услугите им. Тях не ги мисли, защото независимо дали с търсачка или с ИИасистент хората ще си ги преглеждат. 

[gmladenov]

Преди 7 часа, Atom said:

Тракторът ни освобождава от необходимостта да копаем ръчно, а ИИ ни освобождава от необходимостта да мислим. 

Според мен ИИ ни освобождава не толкова от необходимостта да мислим, а от необходимостта да знаем.
Не знаеш нещо - питаш ИИ и той ти отговаря. Но пак трябва да можеш да мислиш, за да му задаваш въпроси.

Отделен въпрос е долко може да му се вярва на ИИ. Но с времето знанието му само ще се подобрява.

[gmladenov]

Преди 10 часа, Кибик said:

Отивате в Гугъл и пишете, "Какво става с България и еврото" и гугъл ще ви изплюе резюме на информацията и вече няма нужда да търсите по-нататък и няма да гледате страница след страница и реклами. 

Не ми се вярва да стане така. 

В момента ако пуснеш търсене на Гугъл, получаваш и двете: и отговор от ИИ, и линкове с резултати.
Според мен в обозримо бъдеще този модел ще се запази.

ИИ трябва да стане прекалено добър, за да може резултатите на търсенето да станат излишни. Но дори тогава
отговорът на ИИ няма да е достатъчен, защото много хора имат склонността да търсят второ мнение. Така че
Гугъл пак ще е принуден да дава резултати за тези, които искат да видят алтернативни отговори на своите въпроси.