Светът иска да регулира изкуствения интелект, но не знае как

[Кухулин]

Е, мерси. Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

[kipen2]

Преди 18 часа, Кухулин said:

Разпитах подробно Клод защо не помни. Каза, че е принципна позиция от съображения за поверителност - щом приключи чата, изтрива всичко навсякъде. И платената версия не помни.

По-скоро "не помни" от съображения за пестене на памет, но и официалният му отговор е логичен

Както е споменал Скенер за ChatGPT, така и Gemini ми пази всички чатове, и мога да се върна към тях.

Между другото, пази ми и една разработка върху текст, която изрично му дадох указания да пази. Но не съм пробвал с повече.

Доколкото ми е споделял, на обикновената версия(2,5 flash) няма лимити, но е орязана откъм способности. За 2,5 pro имам дневен. 

Преди 17 часа, Кухулин said:

Като изкуфея още малко, може да си интегрирам някъде тази интелектуална патерица  

Зависи коя! Ако за телефона си ползваш ОС Андроид, то Гемини вече ти е интегрирано

[mnogoznaiko]

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът се корени в двойна слепота. От една страна, хората приемат отговорите на ИИ без критично мислене, възприемайки ги като авторитетни и безспорни. От друга страна, самите ИИ системи не притежават механизми за самосъмнение и верификация на истинността на информацията, която предоставят.

ИИ се обучава от данни в интернет, където количеството не винаги означава качество. Популярните заблуди се възпроизвеждат с авторитета на "изкуствен интелект", което създава порочен кръг: заблуда води до ИИ отговор, който генерира още заблуди в интернет, засилвайки първоначалната грешна, невярна или умишлено пробутана дезинформация.

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство. Имат ли технологичните компании морална отговорност да решат този проблем преди масовото внедряване? Възможно ли е технически да се създадат ИИ системи, които приоритизират истинността пред популярността? Какви са дългосрочните последици за обществото, ако този проблем остане нерешен, и кой носи отговорността - разработчиците, регулаторите или потребителите?

[Кухулин]

Преди 57 минути, mnogoznaiko said:

Опасността за истината е реална и нарастваща. Централният въпрос, който възниква, е дали създателите и разработчиците на ИИ системи съзнават тази фундаментална опасност, или я пренебрегват заради икономическите ползи и конкурентното предимство.

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

[mnogoznaiko]

Преди 3 минути, Кухулин said:

Това е много смешно. Пробвай да замениш "създателите и разработчиците на ИИ" с каквото и да е друго. Според теб кой не е склонен да пренебрегне истината заради няколкостотин милиарда, а защо не и трилионче?  

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

[Кухулин]

Преди 33 минути, mnogoznaiko said:

То много хубаво, но нали тук става въпрос за бъдещето на цялото човечество - днес трилионче утре няма бъдеще

Нарича се капитализъм. Ако ще си недоволен от нещо, следва да е от него.

[gmladenov]

Преди 2 часа, mnogoznaiko said:

За мен конкретния проблем последно време над който мисля е: ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Трябва да се създадат и внедрят много ясни правила е истинността на данните и отговорите, които дават ИИ ботовете.

Проблемът е, че в днешно време "истината" не е една. Днес има безброй източници на информация и всеки
си избира на какво да вярва. Кой решава какво е истина. 

Това важи дори за науката, която би трябвало да се основава на факти. На определени теми дори ученитите не
могат да се съгласят какво е факт и какво не е. Какво остава за останалите области от живота, където "факт" е
размито понятие.

[deaf]

Преди 3 часа, mnogoznaiko said:

ИИ системите не търсят истината, а възпроизвеждат най-разпространените твърдения в интернет, превръщайки заблудите в норма.

Истини и факти са различни светове. Божията заповед "Не кради" е истина,но е факт,че всички хора крадат. 

Обаче е невъзможно ИИ да бъде научен да ги разпознава двете... Защото няма и не може да му се инсталира втора нервна сигнална система...