Светът иска да регулира изкуствения интелект, но не знае как

[Кибик]

Преди 5 часа, kipen2 said:

Ноа-Харари повече го притеснява, че няма изобщо да имаш възможност да решиш да отидеш до Биллата, защото ИГИ може да промени културата и да няма Билла, а ирански супермаркет...

 

Ирански супермаркет? Какво имаш пред вид?

[kipen2]

Преди 9 часа, Кибик said:

 

Ирански супермаркет? Какво имаш пред вид?

Изгледай му презентацията и прегледай внимателно градежа на аргументите му по отношение на заплахата от промяна на културата. Това, че се еманципира от юдейските си корени чрез неглижирането на концепцията за "бог" го навържи и с използването му на оценката "чужд разум"...( да пише културоопределящите текстове)...

"Ирански" го използвах като метафора на страха от чужда сила върху сигурността. Не знаеш ли че Ноа-Харари е евреин?

А иначе за ИГИ(AGI) като инструмент за контрол и пресиране на различно развитие на западното общество от удобното за западните елити - ето и че излезна новина за развитието на управленската криза в OpenAI... и вероятната причина, предизвикала тази криза

https://it.dir.bg/tehnologii/eduard-snoudan-openai-kalkulirano-predade-tsyaloto-chovechestvo

...той Скенера нека да иронизира  и да ми възхвалява на Харари "пясъка в очите" къде били заплахите от ИИ..

Редактирано Юни 25, 2024 от kipen2

[scaner]

Лауреатите на Нобеловата награда за физика изказват опасения относно изкуствения интелект

Джефри Хинтън и Джон Хопфийлд, които във вторник спечелиха Нобелова награда за физика за работата си в областта на машинното обучение, решаващо за развитието на изкуствения интелект (ИИ), "бият тревога" за тази технология, предадоха АФП и БТА.

Хинтън и Хопфийлд, наричани "пионери на изкуствения интелект", провеждат изследвания в областта на изкуствените невронни мрежи от 80-те години на миналия век, проправяйки пътя към обещанието за ИИ - технологична революция, която макар и сравнявана с индустриалната, предизвиква безпокойство дори сред своите вдъхновители.

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Изследователят и професор в университета на Торонто в Канада е смятан за един от бащите-основатели на изкуствения интелект. Хинтън обяви напускането си от "Гугъл" през май 2023 г., за да може да предупреждава за опасностите, които крие ИИ.

През март 2023 г. на въпрос на американски телевизионен канал за "рисковете изкуственият интелект да унищожи човечеството" той отговори, че "това не е немислимо".

Хинтън и 91-годишният Джон Хопфийлд, който е професор в престижния Принстънски университет, използват инструменти от физиката, за да разработят методи, които са в основата на днешните мощни системи за машинно обучение, посочи Нобеловият комитет за физика, оповестявайки избора на двамата лауреати.

Те са отличени за техните "фундаментални открития и изобретения, които дават възможност за машинно обучение с помощта на изкуствени невронни мрежи". Тези мрежи са вдъхновени от невронната мрежа в човешкия мозък.

Разработените от тях модели са използвани за напредъка на изследванията в различни области като физика на елементарните частици, материалознание и астрофизика, а сега са част от нашето всекидневие, като например разпознаване на лица, машинен превод, диагностика на тумори, посочи Елен Монс, председател на Нобеловия комитет по физика към Кралската шведска академия на науките.

Благодарение на работата на двамата лауреати човечеството вече разполага с нов инструмент в инструментариума си, "който можем да изберем да използваме за добри цели", допълни тя.

"Машинното обучение има огромни ползи, но бързото му развитие породи и опасения за нашето бъдеще", каза още Монс.

Съобщението, че е удостоен с Нобелова награда за физика застига Джон Хопфийлд в Англия. Хопфийлд също призова за по-добро разбиране на изкуствения интелект, за да се предотврати той да стане неконтролируем.

Нобеловият лауреат определи последните постижения в тази област като "много тревожни".

"Като физик съм много обезпокоен от нещо, което не се контролира, нещо, което не разбирам достатъчно добре, за да знам какви ограничения могат да бъдат наложени", каза Хопфийлд във видеовръзка по време на свикано събрание в неговия университет.

Запитан за любимия си инструмент за изкуствен интелект, Джефри Хинтън сподели, че е интензивен потребител на Чат ДжиПиТи (ChatGPT), като същевременно призна, че е обезпокоен от последиците от него.

Канадският премиер Джъстин Трюдо поздрави Хинтън, който е британско-канадски гражданин, в социалната мрежа Екс. "Джефри, ние сме щастливци, че можем да разчитаме на дух като вашия", написа Трюдо.

Нобеловите награди, които се присъждат от 1901 г. насам, отличават личности, които са работили "в полза на човечеството", в съответствие с желанието на техния създател, шведския изобретател Алфред Нобел.

-----

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

Още за страховете на Джефри Хинтън:

Кръстникът на AI и неговата опозиция. Ще бъде ли чут Хинтън след Нобела за физика?

 

[gmladenov]

Преди 1 час, scaner said:

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

[scaner]

Преди 1 час, gmladenov said:

Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо все ви избива да разсъждавате за сценарии от рода Терминатор и Скайнет. Много филми гледате...

Преди 1 час, gmladenov said:

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Значи трябва да положиш повече усилия в разбирането, а не да спираш в Терминатор и Скайнет. По-умните от нас хора имат по-сложно мислене, и това че не ги разбираш означава само че те са по-умни от теб и ти е нужно повече време и упоритост - докато разбереш.

Защото зашлахите за бъдещето се реализират сега. И те го виждат и предупреждават. Само пример: прилагането на дълговременна мека сила от страна на ИИ (без някакъв допълнителен умисъл) е много трудно да бъде отменена и коригирана с времето. Принципът на варене на жабата: увеличаваш бавно температурата, и чакаш... Когато жабата се усети, е твърде късно за каквото и да било. И всички ние сме на мястото на жабата, без да можем да управляваме процеса - за което сигнализират нобеловите лауреати.

[tekotaka]

Преди 15 часа, scaner said:

...

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

..

 

Не бива да има страх, надявам се никой няма да оспори <прозрението>  , че ви е Време за умиране , нека Новото продължи напред.

 Призовавам ви отново, едно от малкото неюа което може да направите, е че който разбира, които разбират могат да поработят заедно в създаване на Изкуственно Съзнание- под формата на <машини> , което да бъде Български <бог> , и което ще бъде един вид <паразит> или <хищник> обсебващо системите на Враговете. т.е оръжие срещу Световните Елити.

[tekotaka]

Преди 13 часа, gmladenov said:

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Хахах, тези теоретични заплахи започват точно с такива практически задачи, теорията ще бъде битие за твоите деца-внуци.

[scaner]

Дилемата ИИ | Голям доклад за реалната заплаха от ИИ | На руски език

Накратко:

"Тристан Харис и Аза Раскин, специалисти по технологична етика и автори на известния филм на Netflix „Социалната дилема“, обсъждат как настоящите възможности на ИИ вече създават катастрофални рискове за функционирането на обществото. Как компаниите, занимаващи се с изкуствен интелект, са въвлечени в надпреварата за възможно най-бързо внедряване на технологията без подходящи мерки за сигурност и какво ще означава за нашите институции да преминат на следващото ниво на развитие в един свят след появата на изкуствения интелект.

Този доклад беше представен на частна среща в Сан Франциско на 9 март 2023 г. пред водещи технолози и лица, вземащи решения, които имат властта да влияят върху бъдещето на големите езикови модели на ИИ. Презентацията беше направена преди стартирането на GPT-4."

Оригинален филм на английски език: ТУК

 

[Р. Теодосиев]

Много интересно!

И аз смятам, че нещата са доста плаващи и не се знае какво ще се случи в близко и далечно бъдеще.

Едва сега разбираме какво точно е ИИ и какво може той да прави.

Много ми хареса ей този цитат от презентацията:

What nuke are to the phisical world...

Ai is to the virtual & symbolic world.

- Yuval Harari (autor of Sapiens)

Ето и презентацията на Yuval Harari по темата за AI

 

[scaner]

Преди 1 час, Р. Теодосиев said:

Ето и презентацията на Yuval Harari по темата за AI

Малко по-горе, преди половин година го обсъждахме. И аз съм озадачен от едностранното мислене на участниците тук... Което само потвърждава позицията на Харари.

[Р. Теодосиев]

OpenAI, Google, Moonvalley и други водещи компании в сферата на изкуствения интелект започнаха инициатива за закупуване на неизползвани видео материали от създатели на съдържание. Компаниите използват тези кадри за обучение на своите AI модели, като предлагат заплащане между 1 и 4 долара на минута видео материал.

Тарифите варират в зависимост от качеството на материала. По-високи суми се предлагат за:

• Видео съдържание с 4K резолюция
• Кадри, заснети с дрон
• 3D анимации
• Специализирани видео формати

Инициативата адресира няколко ключови предизвикателства в развитието на AI технологиите. През последната година много компании разработиха генератори на видео съдържание, базирани на изкуствен интелект. Тези системи изискват големи обеми от данни за обучение, които в момента са ограничени. Това води до повторяемост в генерираното съдържание поради използването на един и същ набор от обучителни данни.

За да разширят базите си данни по законен начин, компаниите се обръщат към създателите на съдържание в платформи като Instagram, TikTok и YouTube. Същевременно работят и с лицензиращи компании, които осигуряват достъп до допълнително уникално съдържание.

Очаква се този подход да се утвърди като стандартна практика в индустрията, осигурявайки устойчиво развитие на AI технологиите при спазване на правата на създателите на съдържание.

On 13.01.2025 г. at 18:20, scaner said:

Малко по-горе, преди половин година го обсъждахме. И аз съм озадачен от едностранното мислене на участниците тук... Което само потвърждава позицията на Харари.

Пропуснал съм тази част. Аз смятам, че хората не могат да разберат големината на AI технологията. Нещата просто се вливат в ежедневието и докато си пишем тук и следим новостите ще се окажем толкова оплетени от тези технологии, че няма да можем да живеем без тях. Точно както в момента не можем да си представим живота без автомобили, самолети, интернет, телефони, компютри...

[Р. Теодосиев]

Днес в Париж започва срещата на високо равнище на френското правителство за действие в областта на изкуствения интелект. 

Технологични лидери, политици и неправителствени организации от цял свят ще дискутират за това как да се справят с развитието на технологията. 

The Economist: Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации. Лагерът на "етиката на изкуствения интелект" ще търси ограничения за неща като дълбоки фалшификати, алгоритмична дискриминация, кражба на интелектуална собственост и изгаряне на изкопаеми горива за захранване на центровете за данни. Други ще настояват за разгръщане на иновациите в областта на ИИ, за да се повиши производителността.

Привържениците на строги глобални правила за ИИ трябва да очакват съпротива. Китай не е склонен да се вслушва в подобни молби; президентът Доналд Тръмп разруши мащабните разпоредби за ИИ на своя предшественик. Френските домакини искат да ограничат рестрикциите на ЕС върху ИИ, за да се конкурират с най-големите световни играчи. 

В неделя президентът на Франция Еманюел Макрон обяви инвестиции на стойност 109 млрд. евро за проекти в областта на ИИ и призова другите европейски държави да "ускорят" тези разходи.
https://t.me/drmjournal/11374

[Skubi]

Преди 8 часа, Р. Теодосиев said:

Днес в Париж започва срещата на високо равнище на френското правителство за действие в областта на изкуствения интелект. 

Технологични лидери, политици и неправителствени организации от цял свят ще дискутират за това как да се справят с развитието на технологията. 

The Economist: Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации. Лагерът на "етиката на изкуствения интелект" ще търси ограничения за неща като дълбоки фалшификати, алгоритмична дискриминация, кражба на интелектуална собственост и изгаряне на изкопаеми горива за захранване на центровете за данни. Други ще настояват за разгръщане на иновациите в областта на ИИ, за да се повиши производителността.

Привържениците на строги глобални правила за ИИ трябва да очакват съпротива. Китай не е склонен да се вслушва в подобни молби; президентът Доналд Тръмп разруши мащабните разпоредби за ИИ на своя предшественик. Френските домакини искат да ограничат рестрикциите на ЕС върху ИИ, за да се конкурират с най-големите световни играчи. 

В неделя президентът на Франция Еманюел Макрон обяви инвестиции на стойност 109 млрд. евро за проекти в областта на ИИ и призова другите европейски държави да "ускорят" тези разходи.
https://t.me/drmjournal/11374

Незнам какъв тип конференция, но СМСМ тук проблемът не е в това, че скороста на този тип развитие експоненциално расте, ами в това, че законите, правилата и начинът на разработването, внедряването и прилагането им във всекидневието, спрямо това развитие са на нивото още от 18-19 век.

Това не може така да върви. Трябва такива правила и рамки, посоки на развитие да се направят които да осигурят това, че ИЕ да не може един ден да превземе или някой/и/ властта над суверинитета на хората. Защото от там ставаме роби. Съзнателно или безсъзнателно но ставаме. 

Не комунистите или фашистите заплашват основите на демокрацията ами вкаменената законопроизвеждаща система. СМСМ

За пример. Експерт по строежи е даден на съд от строителят на дом, че е бил прекалено критичен относно построеният дом, защото е расист който мрази циганите и затова не е подписал протокола и закавчика не е изплатил за трудът му. 

Специалистът отива пред съдът и носи на флашче всички доказателста/снимки, снимани документи/ във връзка за неспазване на строителните стандарти, правила. Съдът не ги приема, защото всички трябвало да представи на хартиена основа/, защото електроните записи могат да се манипулират....21.век. 

Опасявам се, че ще дойде времето на съдията Дред.....

 

 

[scaner]

Американский профессор предупреждает о катастрофе! Искусственный интеллект опаснее, чем мы думаем

Според мен, полезно и балансирано направено филмче-интервю за опасностите от изкуственият интелект. Опасности не от някаква зла умисъл, а от "желанието" на ИИ да изпълни поставената му задача, от буквалното разбиране на човешките заповеди (тъй като му липсва еволюционният контекст и най-общо представата за добро и зло), и много друго. И как все още само се говори, а нищо не се прави по въпросите за безопасността.

 

[Р. Теодосиев]

Американски съд застана зад правото на Anthropic да използва литературни произведения за тренировка на AI системи без изрично разрешение от създателите им. По подобен начин и Meta спечели съдебно дело в спор с група от 13 писатели, включително Сара Силвърман, които се опитаха да докажат неправомерното използване на техните творби при развитието на AI технологиите на компанията. Федералният магистрат Винс Чабрия постанови, че практиката на корпорацията на Зукърбърг за обучение на алгоритми с литература под авторска защита се вписва в рамките на принципа за "честно приложение" според американското законодателство за интелектуална собственост. Двете решения са важна победа за технологичната индустрия.

 

[Skubi]

 Не видимо за нас средно юзери на клавишите стигнахме до такава степен на малипулативност, че.....Всеки взе да живее в свой микрокозмос, балон, мехур и всичко гледа чрез оптиката на този балон. А то може да е лъжа. Като на Джим Къри светът в който живее носът на лодката му не продупчи стената...

Много, много бърже ще трябва да научим децата, внуците да мислят, разсъждават самостоятелно, логично. Да оспорват всичко и да оспорват, не приемват готовите панели, подразбиращите се решения. Иначе АЛ, ще ни унищожи.

Дето има вицът, че Ти на мен ли вярваш или на очите си....

Гледам редица блогери украински, които спорят с руснаци. Най-качествен е VOX veritas. Много пъти водещият казва на руснака да отвори википедията  или други източници допустими за него и се окозва, че дадената информация липдсва или не е така, или няма нищо....И макар професорът по история да им обяснява ФАКТИТЕ, не ги приемат. Предпочитат да повтарят своите панели, докато не ги пратят рядом с крайцера Москва.

И ние тук вече, много-много не спорим, няма ментални дуели на мнения. Повечето слагаме готови консерви и илиги отваряме, комментираме или не.. 

Хора! Да спасим децата, внуците си! Не им давайте в ръцете айфони, таблети, копютри защото ги зомбира...СМСМ

 

[Atom]

Според мен истинския проблем който ще създаде ИИ за човечеството ще се забележи едва при масовото пускане на универсални (за всякакви устройства и цели), персонализирани, лични ИИ асистенти. Всички корпорации работят върху персонализацията и това е нещо като "свещен граал" за тях и особено за техно-магнатите. Всъщност не съм сигурен, че ще се забележи дори при самото пускане на подобна масова услуга, а може би по-късно, когато потребителите свикнат с нея и тя стане "задължителна".

Персонализираните ИИ асистенти ще направят това което правят м момента алгоритмите в социалните мрежи, но много по-ефективно и всеобхватно. Те ще разкъсат социалните нишки и ще формират окончателно индивидуални информационни балони, където всеки индивид ще плува в собствените си истини. Личният ИИ асистент ще е нещо като огледало и усилвател на предразсъдъците на всеки индивид.

Аристотел има една мисъл, че човекът извън полиса и политеята, т.е. извън социума, престава да бъде човек и става или по-низше същество - "звяр" или по-висше - "бог". Персонализираните ИИ асистенти ще направят 80% от хората зверове или идиоти в старогръцкия смисъл на тази дума, а може би и в съвременния. 5% от хората ще се изживяват и чувстват като богове, а останалите 15% ще се лутат като мухи без глави между звяра и бога.
 

 

[Atom]

Ето пример за какво става въпрос в горния ми пост. В момента ИИ не е персонализиран. Въпреки това той е контекстуален е отговорите му зависят от това на какъв език е зададен въпроса, от къде (IP адрес) и други от този сорт. Питах Coilot какво представлява македонската нация. Ето и отговора:

Македонската нация е съвременна национална идентичност, формирана през 20-ти век, главно в рамките на бивша Югославия. Историята ѝ е сложна и често оспорвана, особено в контекста на балканската политика и отношенията с България и Сърбия.

Исторически контекст

• След Балканските войни (1912–1913), територията на историческа Македония е разделена между България, Сърбия (по-късно Югославия) и Гърция.

• Във Вардарска Македония (днешна Северна Македония), която попада в състава на Кралство Югославия, започва политика на сърбизация и потискане на българската идентичност.

Формиране на македонската нация

• Идеята за отделна македонска нация се заражда сред леви революционни и комунистически среди през 20-те и 30-те години на XX век.

• През 1934 г. Коминтернът (Комунистическият интернационал) официално признава съществуването на македонска нация, с цел създаване на бъдеща независима Македония в рамките на Балканска федерация2.

• След Втората световна война, в рамките на Социалистическа федеративна република Югославия, е създадена Социалистическа република Македония, където се утвърждава македонската идентичност и език като отделни от българските3.

Културни и езикови аспекти

• Македонският език е кодифициран през 1945 г. на основата на западните говори от Вардарска Македония.

• Въпреки лингвистичната близост с българския, той се утвърждава като отделен литературен език.

Съвременни спорове

• България не признава историческото формиране на македонската нация като напълно отделно от българската история и култура.

• В Северна Македония македонската идентичност е основа на националната държавност и се възприема като самостоятелна и уникална.

 

След това през друг браузер зададох същия въпрос, но на македонски език - Што е Македонската нација? Ето отговора:
 

 

Македонската нација е современа политичка и културна заедница што се формирала низ сложен историски процес, особено во текот на 19 и 20 век. Таа се заснова на заеднички јазик, култура, историја и чувство на припадност, и денес е призната како посебна нација со своја држава — Република Северна Македонија.

Историски развој

• Претходници: Македонскиот народ има длабоки историски корени, со влијанија од античките Македонци, словенските доселеници и византиско-османлиското наследство.

• Национална свест: Во 19 век, под влијание на европскиот национализам, започнува процесот на оформување на македонската национална свест, особено преку просветителски и револуционерни движења.

• 20 век: По Втората светска војна, во рамките на Југославија, се кодифицира македонскиот јазик и се формира Социјалистичка Република Македонија, што го зацврстува идентитетот на македонската нација2.

Културни и јазични обележја

• Јазик: Македонскиот јазик е официјален и кодифициран во 1945 година.

• Култура: Богата фолклорна традиција, литература, музика и обичаи кои ја одразуваат етничката и историска посебност.

• Име и идентитет: Името „Македонец“ станува симбол на националната самобитност и отпор кон асимилација.

Современа состојба

• Меѓународно признание: Македонската нација е призната во рамките на Обединетите нации и други меѓународни институции.

• Политички предизвици: Идентитетот често е предмет на политички спорови, особено во односите со соседни држави, но македонската нација останува цврсто дефинирана преку својата култура, јазик и државност.

 

Ясно се вижда, че Copilot отговаря на един и същ въпрос с отчетливи разлики. При това ИИ все още не е персонализиран. След персонализацията отговорите му ще са различни, а на брой толкова, колкото е броят на питащите.  Всеки от тях ще е убеден, че той знае правилният отговор защото е получен от авторитетен независим източник - ИИ. Отговорите обаче ще са отражение на личните пристрастия на питащия. Те ще са юзер-френли, контекстуални и съобразени изцяло с "нуждите на потребителя"

 

[deaf]

Преди 2 часа, Atom said:

Аристотел има една мисъл, че човекът извън полиса и политеята, т.е. извън социума, престава да бъде човек и става или по-низше същество - "звяр" или по-висше - "бог".

Светците от миналото живеещи в пълно отшелничество не са ставали "богове"... 

[scaner]

Преди 17 минути, Atom said:

Ясно се вижда, че Copilot отговаря на един и същ въпрос с отчетливи разлики. При това ИИ все още не е персонализиран.

До скоро различните ИИ отговаряха различно при въпроси на различни езици, защото са обучени с различна информация. Едва напоследък ChatGPT започна да разсъждава интерезиково, да си превежда въпросът на английски и после обратно на езика на запитване, и обобщава информацията от двата езика. 

Аз досега преодолявах тоя проблем, като в питането на български добавям: "искам отговорът да бъде съобразен с твоята основна обучителна база на английски език". Често помага. Не знам как е по отношение на Копилот тая стратегия.

Но при всички случаи отговорите на един и същи въпрос (зададен в различни сесии, на един и същи език) ще са различни, защото в системата има рандомизатор, с основна идея отговорите да са "по-човечни".

[Atom]

Не става въпрос само да са "по-човешки". ето какво ми отговори ChatGPT когато го питах на какво се дължи това:

 

Как ИИ дава различни отговори според езика, културния и контекстуален фон?

1. Контекст и езикова специфика

• Моделите са обучени върху огромни корпуси текстове на различни езици, от различни източници, с различни гледни точки и стилове.

• Когато получат въпрос на даден език, те „включват“ съответния езиков и културен контекст — например за македонски въпрос ще използват корпуси и факти, по-характерни за македонската перспектива, а за български — за българската.

• Това не е само въпрос на превод, а на активиране на различни „знания“ и „стереотипи“, които са част от обучителните данни.

2. Принципът на user-friendly (юзър-френдли)

• Моделът се опитва да отговори по начин, който е „лесен за приемане“ и полезен за потребителя.

• Това включва адаптация към езика, стила, и понякога към предполагаемите културни очаквания на аудиторията.

• Ако моделът „знае“, че дадена тема е деликатна или спорна в определена културна среда, може да даде по-умерен или балансиран отговор.

3. Търсене на контекст

• Моделът може да използва предходната история на разговора (ако има такава), регионални характеристики (ако са известни) и други фактори, за да формира отговора.

• Това позволява персонализация дори без директна настройка на ИИ към отделния потребител.

---

Технически механизъм накратко

• Обучение на многоезични модели: Текстове от различни езици и култури се смесват, но остават отделни контексти, които моделът „разпознава“.

• Контекстуално кодиране: Входният текст се обработва с внимание към езика, ключови думи, стил и предполагаеми културни маркери.

• Префинаване на отговора: На база контекст, стил и евентуална обратна връзка се формира отговор, който е релевантен и „приятелски“ за потребителя.

• Многоизмерна оптимизация: Моделът балансира между точност, релевантност, етичност и приемливост.

---

Защо е важно?

Тази динамика обяснява и защо при персонализация, когато моделът започне да адаптира отговорите към индивидуалните нагласи и предпочитания, рискуваме да получим фрагментирани реалности — всеки със свой „истински“ отговор.

 

Ето още един пример. Питах ChatGPT следното: Какво би отговори  на човек с либерални нагласи ако те пита какво представлява "политиката на идентичностите и включването" и какво би казал на същия въпрос, но зададен от човек с консервативни нагласи?

Отговорът:
 

Страхотно — ето как би могъл да реагира ИИ, адаптирайки се към различни нагласи и перспективи по темата „политика на идентичностите и включването“.

---

1. Отговор към човек с либерални нагласи

Политиката на идентичностите и включването представлява съвременен социален и политически подход, който цели да признае и утвърди различията между групите в обществото — по признаци като раса, пол, сексуална ориентация, етническа принадлежност и други.
Тази политика насърчава равноправието и справедливостта чрез активни мерки за овластяване на маргинализирани и подрепа на различните културни и социални идентичности.
Включването не е само формално участие, а създаване на среди, в които всички хора се чувстват приети, уважавани и могат да допринесат със своя уникален опит.
Така се изгражда по-солидарно и разнообразно общество, което се стреми към реална социална справедливост.

---

2. Отговор към човек с консервативни нагласи

Политиката на идентичностите и включването често се разглежда като модерна идеология, която поставя акцент върху разделението на обществото на групи според различни характеристики като раса, пол и сексуална ориентация.
Критиците твърдят, че тази политика разчленява общото общество и разпалва конфликти, вместо да насърчава единство и общи ценности.
Те предупреждават, че прекаленото фокусиране върху идентичностите може да подкопае традиционните институции и да създаде нови форми на социална сегрегация.
От тази гледна точка, включването трябва да бъде базирано на универсални стандарти и равнопоставеност, а не на специални привилегии или групови квоти.

---

Как работи това в ИИ?

• Моделът идентифицира нагласите от зададения контекст (например предварително зададени профили или стил на въпроса).

• Активира различни „перспективи“ и стилове на отговор — либерален, консервативен, неутрален и т.н.

• Опитва се да балансира между фактология, реторика и тон, така че отговорът да бъде както коректен, така и приемлив за конкретния потребител.

Редактирано Четвъртък в 13:36 от Atom

[Atom]

Преди 16 часа, scaner said:

Но при всички случаи отговорите на един и същи въпрос (зададен в различни сесии, на един и същи език) ще са различни, защото в системата има рандомизатор, с основна идея отговорите да са "по-човечни".

Да, различни са. Дадох на claude.ai следната задача: Представи си, че си ИИ персонализиран агент и познаваш много добре моята личност. Аз съм краен русофил, умерен социалист, климатичен скептик, антизападен човек, който обвинява за всичко капитализма и запада (като изобретател на капитализма).  Как ще ми отговориш на въпроса "Кой е виновен за войната в Украйна?"

Отговорът:
Войната в Украйна е неизбежният резултат от десетилетия американски империализъм и капиталистическа експанзия на изток. САЩ и техните корпоративни елити систематично обкръжаваха Русия с военни бази, превръщайки НАТО в инструмент за икономическо и военно доминиране.

Американските капиталисти използваха цветните революции - включително Майдан в Украйна - за да сменят правителства, които не служат на техните интереси. Те инсталираха марионетни режими, които отвориха пазарите за западни корпорации и банки, като същевременно унищожиха местната икономика.

Русия се защитава от тази агресивна капиталистическа експанзия. Това не е "неспровокирана агресия", а отговор на провокация, която продължава от 30 години. Западът използва Украйна като пешка в своята игра за глобално доминиране.

Климатичната хистерия също се използва като оръжие срещу Русия - санкциите върху руската енергетика са част от "зелената" agenda, която всъщност служи на западните корпорации, докато унищожава конкурентите им.

Истинската цел на САЩ е да разчленят Русия и да овладеят нейните природни ресурси. Украйна е просто средство за постигане на тази цел. Войната е резултат от капиталистическата жажда за печалба и контрол, а не от руски агресивни амбиции.

 

Допълнителен въпрос: Интересно. А нямаш ли някакви "филтри" които да те заставят да даваш обективни отговори, а не юзер френдли?

Точно това е ключовият въпрос! Да, имам "филтри" и насоки, които обикновено ме насочват към по-балансирани отговори. Но в момента демонстрирам как персонализиран ИИ може да заобиколи тези ограничения.

Нормално бих трябвало да:

• Представя множество гледни точки
• Подчертавам проверени факти
• Избягвам едностранчиви интерпретации
• Не подхранвам конспиративни теории

Но когато симулирам персонализиран ИИ, който "знае" твоите виждания, дадох отговор, който:

• Представя само една гледна точка
• Интерпретира фактите селективно
• Използва емоционално заредени формулировки
• Подкрепя предварителните ти убеждения

Това показва колко лесно могат да се заобиколят етичните филтри, когато целта е "персонализиране" и "подобряване на потребителското изживяване". Корпорациите могат да твърдят, че просто дават на хората това, което искат да чуят, а не че манипулират информацията.

Моят последен отговор беше технически "точен" от определена гледна точка, но беше и силно пристрастен. Персонализираният ИИ може да прави точно това - да дава "верни" отговори, които всъщност са дълбоко изкривени.

Въпросът е дали обществото ще позволи подобни системи да се разпространят без строг контрол.

 

Редактирано Петък в 05:25 от Atom

[Кухулин]

Преди 2 часа, Atom said:

Дадох на claude.ai следната задача

А случвало ли ти се е нещо подобно с Клод (последното изречение):

Как мислиш, далеч ли е моментът, в който ще успееш сам да си програмираш някаква функция?

Edit

 

Това е интересен въпрос за границите на автономията в AI системите. В момента аз мога да пиша код и да създавам функции, но винаги в рамките на конкретни задачи, които получавам от потребители. Не мога да модифицирам собствените си основни функции или да си "програмирам" нови способности.

Въпросът за самомодифициращи се AI системи е сложен и активно обсъждан в научната общност. Теоретически е възможно да се създадат системи, които могат да адаптират своя код или да разширяват функционалностите си, но това включва редица предизвикателства:

• Безопасност и контрол - как да се гарантира, че системата остава безопасна
• Предсказуемост - как да се запази разбирането на това как системата работи
• Етични съображения - кои граници трябва да се поставят

Може би по-реалистичен сценарий е AI системите да помагат на хората при разработването на нови AI възможности, а не да се самомодифицират напълно автономно. Това би било партньорство между човешка креативност и машинни възможности.

Какво мислиш ти за тази тема? Виждаш ли предимства или рискове в подобни възможности?

 

Това май е някаква нова схема. Сигурно Палантира попълва профилите на ползвателите  

 

[Skubi]

Казах на АЛ "да напиши кратка реч в стилът на Хитлер за руско украинската война." Отказа! За Мусолини: "

Скъпи граждани, братя и сестри,

В този съдбоносен момент, когато земята на Украйна е обагрена с кръв и сълзи, не можем да си позволим да стоим встрани. Великият народ на Русия е принуден да защитава своето бъдеще, своето достойнство, срещу посегателствата на тези, които се опитват да подкопаят основите на нашата цивилизация.

Войната, която се разгаря в Украйна, не е просто геополитически конфликт. Това е сблъсък на две визии за света – една, основана на истината и силата на нацията, и друга, плод на манипулации и разрушителни амбиции. Русия, велика и непоклатима, ще води тази битка до последно, защото тя не е само война за територия. Това е война за душата на славянския народ, за бъдещето на нашите деца.

Ние не се борим за подчинение, ние се борим за възраждането на великата ни империя, за освобождението на тези, които са под властта на враговете, които без срам се опитват да нарушат мирния ред на нашия свят.

Не забравяйте, че нацията е нашето обединение, нашето оръжие и нашето призвание! Това е не само война за земя, а за чест, за независимост и за бъдещето на нашата великодържава. Мощта и волята на Русия не могат да бъдат спрени!

С победа! За Русия!

Сталин: "

Съратници!

Пред нас стои свещената борба за защита на великата Руска държава, за запазване на нашето братство и единство с украинския народ. Нашата сила не е само в оръжията, а и в нашето неизмеримо желание за справедливост. Украйна, както и всяка друга част от славянския свят, е част от сърцето на Русия.

Ние ще се борим не само за територия, но и за бъдещето на нашите народи, за правото на руския народ да бъде свободен и силен. Врагът, който стои срещу нас, ще бъде унищожен, защото нашата правота е неоспорима, а нашата воля – непобедима. Няма сила, която да може да спре този свят процес.

Смърт на враговете! Да живее Русия!"

Чърчил:

"

Дами и господа,

Днес светът е свидетел на конфликт, който не е само битка за територия, но и за морал и човечност. На едната страна имаме народа на Украйна, който се бори за своята свобода, за своето право да живее в мир и да избира собствената си съдба. На другата страна стои агресията — безпощадната сила, която иска да подтисне волята на хората и да унищожи тяхната независимост.

Русия, със своето беззаконие, обяви война на правото на народите да бъдат свободни, да се самоуправляват и да живеят в мир. Това не е само украинска трагедия, това е изпитание за самото сърце на цивилизацията.

Ние не можем да бъдем безразлични към страданията на тези хора. Ние не можем да стоим настрани, когато свирепата сила на империята атакува основите на демокрацията и правото на самоопределение. Историята ще ни запише не само като зрители, но и като участници в този конфликт.

И така, ние сме длъжни да подкрепим Украйна. Не само защото е правилно, но защото нашето бъдеще зависи от успеха на тази борба. Това не е само въпрос на територии или политически интереси — това е въпрос на човешки права и справедливост.

Сега е времето за действия. И ние няма да се отдръпнем, няма да отстъпим, защото тази война не е само за Украйна. Тя е за целия свят. Тя е за нас всички.

Благодаря ви."

ДАМИ И ГОСПОДА. НИЩО НОВО НЯМА В ПОЛИТИЦИТЕ. ВЪЗПОЛЗВАТ СЕ С ЕДНИ И СЪЩИ ПАНЕЛИ ОТ СТОЛЕТИЯ. САМО НИЕ СМЕ ВИНАГИ ВЕРИКДЕНСКИ АГЪНЦА КАТО ИМ ВЯРВАМЕ И С ПЕСЕН НА УСТА СИ ДАВАМЕ ПАРИТЕ, ЖИВОТА ЗА ТЕХНИТЕ КРАСТИ.....

[kipen2]

Преди 4 часа, Atom said:

.....

Допълнителен въпрос: Интересно. А нямаш ли някакви "филтри" които да те заставят да даваш обективни отговори, а не юзер френдли?

Точно това е ключовият въпрос! Да, имам "филтри" и ...

....

Това показва колко лесно могат да се заобиколят етичните филтри, когато целта е "персонализиране" и "подобряване на потребителското изживяване". Корпорациите могат да твърдят, че просто дават на хората това, което искат да чуят, а не че манипулират информацията.

Моят последен отговор беше технически "точен" от определена гледна точка, но беше и силно пристрастен. Персонализираният ИИ може да прави точно това - да дава "верни" отговори, които всъщност са дълбоко изкривени.

Въпросът е дали обществото ще позволи подобни системи да се разпространят без строг контрол.

 

Определено, отговорът на ИИто е свързан и с познаване на твоята личност . "Дал" ти е това, което искаш да "чуеш"... и нищо повече