Светът иска да регулира изкуствения интелект, но не знае как

[Кухулин]

Е, мерси. Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

[kipen2]

Преди 18 часа, Кухулин said:

Разпитах подробно Клод защо не помни. Каза, че е принципна позиция от съображения за поверителност - щом приключи чата, изтрива всичко навсякъде. И платената версия не помни.

По-скоро "не помни" от съображения за пестене на памет, но и официалният му отговор е логичен

Както е споменал Скенер за ChatGPT, така и Gemini ми пази всички чатове, и мога да се върна към тях.

Между другото, пази ми и една разработка върху текст, която изрично му дадох указания да пази. Но не съм пробвал с повече.

Доколкото ми е споделял, на обикновената версия(2,5 flash) няма лимити, но е орязана откъм способности. За 2,5 pro имам дневен. 

Преди 17 часа, Кухулин said:

Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

Зависи коя! Ако за телефона си ползваш ОС Андроид, то Гемини вече ти е интегрирано

[mnogoznaiko]

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът се корени в двойна слепота. От една страна, хората приемат отговорите на ИИ без критично мислене, възприемайки ги като авторитетни и безспорни. От друга страна, самите ИИ системи не притежават механизми за самосъмнение и верификация на истинността на информацията, която предоставят.

ИИ се обучава от данни в интернет, където количеството не винаги означава качество. Популярните заблуди се възпроизвеждат с авторитета на "изкуствен интелект", което създава порочен кръг: заблуда води до ИИ отговор, който генерира още заблуди в интернет, засилвайки първоначалната грешна, невярна или умишлено пробутана дезинформация.

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство. Имат ли технологичните компании морална отговорност да решат този проблем преди масовото внедряване? Възможно ли е технически да се създадат ИИ системи, които приоритизират истинността пред популярността? Какви са дългосрочните последици за обществото, ако този проблем остане нерешен, и кой носи отговорността - разработчиците, регулаторите или потребителите?

[Кухулин]

Преди 57 минути, mnogoznaiko said:

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство.

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

[mnogoznaiko]

Преди 3 минути, Кухулин said:

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

[Кухулин]

Преди 33 минути, mnogoznaiko said:

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

Нарича се капитализъм. Ако ще си недоволен от нещо, следва да е от него.

[gmladenov]

Преди 2 часа, mnogoznaiko said:

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът е, че в днешно време "истината" не е една. Днес има безброй източници на информация и всеки
си избира на какво да вярва. Кой решава какво е истина. 

Това важи дори за науката, която би трябвало да се основава на факти. На определени теми дори ученитите не
могат да се съгласят какво е факт и какво не е. Какво остава за останалите области от живота, където "факт" е
размито понятие.

[deaf]

Преди 3 часа, mnogoznaiko said:

ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Истини и факти са различни светове. Божията заповед "Не кради" е истина,но е факт,че всички хора крадат. 

Обаче е невъзможно ИИ да бъде научен да ги разпознава двете... Защото няма и не може да му се инсталира втора нервна сигнална система... 

[scaner]

Инженер на Google: Изкуствения интелект ще убие човечеството

 

Според Нейт Соарес, бивш инженер на Google и Microsoft, който сега е президент на Изследователския институт за машинен интелект, има „поне 95% вероятност“ изкуственият интелект (A.I.) да доведе до изчезване на човечеството, ако продължи да се развива по сегашния си път, съобщава The Times .

„Ако не променим текущия си курс, шансовете да избегнем гибелта са почти нулеви. Втурнали сме се към пропастта със скорост от 100 км/ч“, казва метафорично той.

Нобеловият лауреат Джефри Хинтън, математикът Йошуа Бенхио и ръководителите на OpenAI, Anthropic и Google DeepMind са съгласни с него.

Всички те подписаха декларация, в която се казва:

„Намаляването на риска от изчезване на човечеството поради изкуствения интелект трябва да бъде глобален приоритет, наред с пандемиите и ядрените заплахи.“

Отбелязва се още, че опасенията са свързани с евентуалната поява на свръхинтелигентен изкуствен интелект, способен да заблуждава, планира и да излиза извън контрол. Дори сега A.I. може да лъже, а вътрешните му процеси често са неразбираеми за хората.

Някои експерти смятат, че рискът не от пълно изчезване, а по-скоро от „постепенно отслабване“ на човечеството също е реален, защото в свят, където решенията се вземат от машини, просто няма да остане място решенията да вземат хората.

Друг експерт, изпълнителният директор на движението PauseAI Холи Елмор, смята, че рискът от изчезване на човечеството поради изкуствен интелект е само 15-20 процента. Главният изпълнителен директор на Tesla Илон Мъск е съгласен с вероятността от 20 процента, а главният изпълнителен директор на Google Сундар Пичай оценява рисковете на 10 процента".

------

P.S. Ако знаете, че вероятността един самолет да падне е "само" 10-20%, дали ще се качите да пътувате с него? Само защото рекламата обещава дестинация до слънчев райски остров?

 

[Р. Теодосиев]

Чешкият екип от Investigace разследва как AI модели разпространяват дезинформация от различни режими и уебсайтове.

https://www.investigace.cz/ai-modely-siri-dezinformace/

“В днешно време, когато големи езикови модели като ChatGPT или Claude влияят върху мнението на милиони потребители, възниква нов проблем: разпространението на дезинформация директно чрез отговорите на тези инструменти. 

Предполагаше се, че ако езиковите модели получат възможност да търсят в интернет, точността на отговорите ще се подобри, но може да се окаже точно обратното. Особено когато ги питате за конспирации или дезинформация. Те често се сблъскват с феномена на липса на данни. Така учените описват ситуацията, когато питаме за информация, която е необичайна или невярна и следователно не е представена в надеждни интернет източници. Търсачките след това показват резултати от сайтове с дезинформация или конспирации в опит да отговорят.”

Източник: https://t.me/InfoLabyrinth/95

 

[kipen2]

On 4.08.2025 г. at 18:44, Р. Теодосиев said:

Предполагаше се, че ако езиковите модели получат възможност да търсят в интернет, точността на отговорите ще се подобри, но може да се окаже точно обратното. Особено когато ги питате за конспирации или дезинформация. Те често се сблъскват с феномена на липса на данни. Така учените описват ситуацията, когато питаме за информация, която е необичайна или невярна и следователно не е представена в надеждни интернет източници. Търсачките след това показват резултати от сайтове с дезинформация или конспирации в опит да отговорят.”

Ами, нормално! Но не езиковият модел е проблемен, ами обучението му, защото резултатите(отоворите) му зависят от това.

Когато на "машината"(ез.модел) й е зададено да дава претеглени отговори от базата данни, от която е обучена, без да има допълнителни оценъчни филтри, то ще ползва цялата база данни. И конкретно по въпросите с проверено необичайна или невярна информация, която обаче я има в някой сайтове, "машинката" включва и това инфо като тежест и съответното участие на информация от такива сайтове в отговорът й.

Аз вече си изказах мнението, че рисковете от ИИ-технологията се дължат на обучението, което им се прави. А това включва и системата с токените, "възнаграждението за отговорите". Очевидно е, че точно от тук иде проблемът с регулирането на езиковите модели... а не като цяло технологията ИИ, защото тя се ползва доста успешно на други места за управляване на процеси, изготвяне на прогнози, моделиране и т.н.

И всъщност не, че "човечеството не знае как да регулира ИИ", ами са води борба какви отговори да дават езиковите модели, постигането на което става с обучението им. А не да ми спорят съфорумници, че не можеш да обучеш езиковият модел в общочовешки ценности, щото това било свързано с преживяването им, а не само като суха информация.

Ами не е проблем да го обучиш да определя отговорите си съобразно хуманистичната морално-ценностна система. Проблемът е, че при подобно обучение е твърде вероятно наместо "военна операция" да използва "война". Наместо "проичистване на Газа" или "културна асимилация на уйгурите" да използва "геноцид" и т.н.

Ей затова е борбата! И независимо от дипломатичния тон си е "безмилостно жестока".  

Просто с евфемизми, завоалирано се води битка за контрола на езиковите модели, като всякакви служби се включват в играта. Ето, примерно евфемизмите в това: 

On 10.02.2025 г. at 22:30, Р. Теодосиев said:

Днес в Париж започва срещата на високо равнище на френското правителство за действие в областта на изкуствения интелект. 

Технологични лидери, политици и неправителствени организации от цял свят ще дискутират за това как да се справят с развитието на технологията. 

The Economist: Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации. Лагерът на "етиката на изкуствения интелект" ще търси ограничения за неща като дълбоки фалшификати, алгоритмична дискриминация, кражба на интелектуална собственост и изгаряне на изкопаеми горива за захранване на центровете за данни. Други ще настояват за разгръщане на иновациите в областта на ИИ, за да се повиши производителността.

Привържениците на строги глобални правила за ИИ трябва да очакват съпротива. Китай не е склонен да се вслушва в подобни молби; президентът Доналд Тръмп разруши мащабните разпоредби за ИИ на своя предшественик. Френските домакини искат да ограничат рестрикциите на ЕС върху ИИ, за да се конкурират с най-големите световни играчи. 

В неделя президентът на Франция Еманюел Макрон обяви инвестиции на стойност 109 млрд. евро за проекти в областта на ИИ и призова другите европейски държави да "ускорят" тези разходи.
https://t.me/drmjournal/11374

 "как да се справят с развитието на технологията. ", парафразирано е - кой да определя вида и качеството на отговорите на "машинките", достигащи до потребителите.

"Тези, които се опасяват, че бързият напредък на изкуствения интелект може да бъде катастрофален за човечеството, ще настояват за строги регулации." - парафразирано е - някой се боят, че изостават в битката за контрола на отговорите на "машинките" и ще опитат да догонят.

Французите, апропо и ЕС, към момента изостават от излезлите от ЕС британци. Както се видя по-назад в темата, британските служби дори направиха среща и обещаха пари по проекти за мониторинг на "мисловните вериги" на "машинките" и съответно, както е видно от цитираната от Теодосиев последваща срещата на британците с ИИ-разработчиците статия, една компания даже е въвела нов отдел, чрез който ще се разчита на засилване на обмена с правителствения сектор.  ....Тръмп разчупи кутийката около баницата и Грок на Мъск дажи си позволява да въвежда дезинформация за конфликта в Иран. Съответно китайците е нормално да не "се вслушват в подобни молби"(за по-сторги регулации).

Редактирано Четвъртък в 10:14 от kipen2

[scaner]

Преди 1 час, kipen2 said:

Французите, апропо и ЕС, към момента изостават от излезлите от ЕС британци. Както се видя по-назад в темата, британските служби дори направиха среща и обещаха пари по проекти за мониторинг на "мисловните вериги" на "машинките" и съответно, както е видно от цитираната от Теодосиев последваща срещата на британците с ИИ-разработчиците статия, една компания даже е въвела нов отдел, чрез който ще се разчита на засилване на обмена с правителствения сектор.  ....Тръмп разчупи кутийката около баницата и Грок на Мъск дажи си позволява да въвежда дезинформация за конфликта в Иран. Съответно китайците е нормално да не "се вслушват в подобни молби"(за по-сторги регулации).

Именно това е проблемът с липсата на регулировки, за който е тази тема. Ако продължава така, всеки отделен ИИ ще почне да си лее собствени глупости, и ще настане пълно мазало в най-скоро време, защото хората са склонни да вярват. Пресен пример са изцепките на Грок преди две седмици. 

 

[insighting]

On 7.08.2025 г. at 15:05, scaner said:

Ако продължава така, всеки отделен ИИ ще почне да си лее собствени глупости, и ще настане пълно мазало в най-скоро време, защото хората са склонни да вярват

Днес питах ИИ да ми каже кога Меркурий е ретрограден през август 2025 г., за да знам кога мога да сключвам договори и работя с документи, тъй като в ретроград стават неволни грешки.

И той ме излъга: от 4-ти до 28-ми.

А всъщност Меркурий тръгва директно на 11 август.

AI на Гугъл,вграден в търсачката написа: Меркурий обръща ретроградно на 15°35’ Лъв 11 август 2025 г. Меркурий тръгва директно от 04°15’ Лъв 25 август 2025 г. Меркурий напуска ретроградната (пост-ретроградна сянка) на 15°35′ Лъв

____

В статията обаче текстът е този:

Ретрограден цикъл на Меркурий от 18 юли до 11 август в Лъв

• 30 юни 2025 г. Меркурий навлиза в ретроградната зона (пред-ретроградна сянка) на 04°15′ Лъв
• 18 юли 2025 г. Меркурий обръща ретроградно на 15°35’ Лъв
• 11 август 2025 г. Меркурий тръгва директно от 04°15’ Лъв
• 25 август 2025 г. Меркурий напуска ретроградната (пост-ретроградна сянка) на 15°35′ Лъв

 

 

[vvarbanov]

Преди 4 часа, insighting said:

И той ме излъга: от 4-ти до 28-ми.

Защо те излъга? Да не си го лъгала и ти нещо и той да си връща? Карата ли се често? Може би не те харесва защото се държиш грубо с него.

 

Преди 4 часа, insighting said:

Днес питах ИИ да ми каже кога Меркурий е ретрограден през август 2025 г., за да знам кога мога да сключвам договори и работя с документи, тъй като в ретроград стават неволни грешки.

Значи иска да влоши функционирането ти и да направиш грешка, но каква е целта му.  

[insighting]

Преди 1 час, vvarbanov said:

Защо те излъга? Да не си го лъгала и ти нещо и той да си връща? Карата ли се често? Може би не те харесва защото се държиш грубо с него.

 

Значи иска да влоши функционирането ти и да направиш грешка, но каква е целта му.  

И аз го питах защо? Отговорът му съдържаше извинението, че не бил актуализиран. Но много харесвам, като знам истината, да гледам как някой седи насреща ми и реди безсмислици.

[vvarbanov]

Преди 3 часа, insighting said:

И аз го питах защо? Отговорът му съдържаше извинението, че не бил актуализиран. Но много харесвам, като знам истината, да гледам как някой седи насреща ми и реди безсмислици.

Мисля , че не те лъже съзнателно. В чата използва някакъв обем информация. Изглежда има нормативи, стандарти или фактори какво количество  сведения да ползва във всеки конкретен случай. При отговорите си, чатбота показва от къде са почерпени знанията  . При поискване може да задълбочи и разшири източниците. Според мен той не бачка на макс. Не използва цялата информация която има, в чата. Може би преценяв, че няма смисъл да ангажира повече ресурси, които са ценни. Те вероятно не са неизчерпаеми и той ги икономисва. Или са свързани с разходи и пести. Платените модели сигурно са по адекватни.Докато безплатните я карат през куп за грош.Или нарочно се правят на улави, да си платиш за по скъп чатбот.

Редактирано Събота в 17:32 от vvarbanov

[insighting]

Ползвам безплатна версия онлайн и без регистрация. Добре структурира данни, прави отлични конспекти, но не е обучен достатъчно да прогнозира бъдещи събития.