Светът иска да регулира изкуствения интелект, но не знае как

[kipen2]

On 3.07.2025 г. at 12:58, Atom said:

Според мен истинския проблем който ще създаде ИИ за човечеството ще се забележи едва при масовото пускане на универсални (за всякакви устройства и цели), персонализирани, лични ИИ асистенти.

Има го поне от 6 месеца. Но, за да си го персонализираш, да се напасне по твоите параметри, трябва да му зареждаш база данни, от които да се обучава. ...и тука мързелът е лимитиращ фактор

А иначе, Гемини предлага доста опции  от специфично обучени AI assistants... най-много, според мен се ползва този за генериране на дигитално(предимно видео) съдържание,  за да си ъплоадват клипчета в мрежата. Я тик-ток, я ютуб шортс, я не знам още къде. За да се докопат до инструментите за монетизиране(заплащане на основа брой гледания).

Редактирано Петък в 10:07 от kipen2

[Atom]

Преди 41 минути, kipen2 said:

Определено, отговорът на ИИто е свързан и с познаване на твоята личност . "Дал" ти е това, което искаш да "чуеш"... и нищо повече

Точно така. И в това всъщност е драмата за която говори Харари.  Ние сме социални същества и не съществуваме във вакуум, а в социум. Социумът обаче се опира на наративи. ИИ който дава на всеки индивид това което иска да чуе индивида, създава информационни индивидуални балони с индивидуални разкази и разрушава колективните наративи. Без тях следва социален разпад.

Редактирано Петък в 10:38 от Atom

[kipen2]

ОК!

Но точно заради това, че

Преди 1 час, Atom said:

Социумът обаче се опира на наративи

...спорех със Скенер, че Харарито бръмчи като ферарито, спонсорирано от елитите на запад.

Защото промяната на наративите, което Харари определя като "чужд разум да пише културоопределящите текстове", предизвиква страх в доминиращата прослойка от обществото, заела позицията да определя водещите културни еталони.

Всъщност за това и приключих да споря със Скенер с израза, че "той си гледа неговия филм и твърди, че аз не го правя".

Защото "чуждият разум" не е изобщо чужд, независимо как ми го определя Харари, а си е пак производен на човешкия. И е във връзка и с твоето споменаване на "информационни индивидуални балони с индивидуални разкази", които обаче, споделени битуват в дадена нация и определят нейния бит и култура. 

Това, че нечии "информационни балони" могат да разрушат колективните такива си е нещо изобщо не негативно! Напротив - така се реализират културните промени !? ...и някак си е, меко казано, странно за мен, че го използваш като аргумент.

....п.п. също така не смятам, че скоро ще зажевеем изолирано, само пред компютъра, без да има някаква физическа комуникация, при която доста "балони" се "пукат" и се получава синхронизираната приказка на социума или поне на социалната група, към която принадлежи "произвелия си балона"....

Редактирано Петък в 12:13 от kipen2

[kipen2]

А и между другото, за да не съм само в "диапазона на розовите очила", каквато оценка получих за тезата ми, че не е чак такъв проблем ИИ, ще спомена, че съм съгласен с аргумента, че има опасност от повсеместното използване на ИИ. Защото води до "шаблонизация".

Но, това е страничен продукт на глобализацията и не ИИ би бил опасност, защото предизвиква подобна "шаблонизация".

Дори от тази перспектива, въвеждането на персонализирани ИИ-асистенти, може да спомогне за индивидуацията в процеса на личностното развитие на индивидите.... стига да се научат децата как да борявят с тази технология. В което се съмнявам да се случи повсеместно - предполагам, че такъв процес, отново ще се възпроизведе по познат модел  ...(едни деца, с по-адекватни родители и среда от добри учители, ще се научат много по-бързо от други, а някои изобщо няма и да могат. Съответно достигане до конвенционалното и сега социално разлоение, но вероятно по-изразено) ... както се казва "Нищо ново под слънцето" или "History repeating"  

[scaner]

Ще си позволя да сложа тук един коментар на тема ползването на ИИ. Мнението е от следното видео, давам съдържанието му в текстова форма. Авторът е преподавател, Баумейстер, Андрей Олегович. Авторът разглежда как ние, хората, губим културата си да се обучаваме, да мислим, и как това се задълбочава с изкуственият интелект. Как получаваме само илюзия за информираност.

Попитай ChatGPT! Как умира мисленето.

Запитайте се: Каква е целта на задаването на въпроси? Какво искате да получите от ChatGPT?

• Информация?
• Знания?
• Разбиране?
• Помощ в познанието и разбирането?
• „Правилни“ отговори?
• Полезни препоръки?
• Помощ при намирането на източници или помощ при ориентирането в темата?
• Но какво означава да мислиш, да познаваш и да разбираш?
• И как ChatGPT може да ни помогне да мислим, познаваме и разбираме?
• Или става въпрос за колосалната илюзия за осъзнатост и илюзията за знание? Илюзия, създадена и поддържана чрез пазарни механизми и прикрита реклама?

Когато разговарям с хора, често чувам такива фрази: „Попитах ChatGPT“. „Попитах чат стаята на GPT“ или „Попитах ChatGPT какви са основните идеи на тази книга“. Мисля, че и във вашето обкръжение се срещат много такива фрази. И тук трябва да се запитаме: какво искаме от ChatGPT? До каква степен този чат допринася за нашите знания, разбиране, помага за нашата информираност или ни помага да се ориентираме в един сложен свят.

Нека направим крачка назад, само за малко. Аз принадлежа към поколението, което видя раждането на интернет. Тоест помня времето преди и след интернет. Когато интернет започна да се появява - беше в края на 90-те години, а в нашия регион се появи в началото на 90-те години - веднага имахме чувството, че целият свят е в джоба ни. Че компютърът ни, а след това дори и смартфонът ни, съдържат почти цялата информация за света и почти цялото знание за света. Още преди появата на интернет си спомням как с моите колеги се втурнахме да сваляме стотици и хиляди книги и бяхме толкова горди, че имаме огромна библиотека в компютъра си: на Светите отци, схоластиката, Кант, Хегел и съвременната философия.

Връщам се към стария интернет, защото с ChatGPT започва нова ера. И така, старият интернет, който е от края на деветдесетте години до 2023 г., породи две сериозни илюзии, както разбрахме по-късно.

Първата илюзия е илюзията за информация. Ами защото един куп цитати, събития и факти все още не е информация. А достъпът до огромно количество текстове, цитати и твърдения не е знание. Илюзия за информираност и илюзия за знание. Когато през двадесет и третата година - това е февруари-март на двадесет и третата година - ChatGPT се превърна в продукт и стана продукт за публична употреба, той също предизвика огромен фурор. И така тази илюзия за знание и илюзия за осъзнатост се издигна на още един етап. Удвои се, ако не и се утрои. И сега ChatGPT се посещава по-често дори от Уикипедия, по-често от търсачката на Google и т.н., и т.н. Нещо повече, забелязах една особеност. Вече ChatGPT питат за най-простите неща, за онези неща, които всъщност са в състояние да помислят сами за себе си и сами да стигнат до тях. Но ние също искаме да попитаме този чат. И ето че отново се питаме, вече на нов етап. Помага ли ни той да опознаем, да разберем и да бъдем по-добре информирани?

Като преподавател с дългогодишен опит (освен в университета съм преподавал и в Института „Тома Аквински“, в Киевомогиланската академия, в различни големи институции), всяка година се сблъсквам с такова явление като подражанието на учениците. Съществува и подражателство от страна на преподавателите, но за това ще говоря друг път. Какво означава подражание от страна на студентите? Винаги има малък брой много добри студенти. Винаги е имало и все още има. Съществува един среден слой. За него ще говорим малко по-късно и ще ви кажа накъде отива сега. А има и голяма маса от галерията, голяма част от учениците. И тази голяма част и дори средното ниво на студентите, дошли за кредит, за изпит или предлагащи курсовата си работа или бакалавърската или магистърската си теза, е изцяло или 90% ангажирана с имитацията. Например студент или студентка идва за изпит, да речем, че е метафизика или е история на античната философия. И с пълна увереност, гледайки ви в очите, добродушно момиче казва фрази, които от момичешките ѝ уста изригват плоски ужасни умъртвени фрази от диамат, съветския. Това е 2003 или 2019 г. Говоря за изпитни кредити или за разговори. Ами за справка малка звездичка. Диамат е диалектически материализъм, псевдонаука, възникнала в Съветския съюз и сателитните страни през двайсетте и седемдесетте години на миналия век. Имаше закони на диалектиката, имаше и други измислени неща. Законите на диалектиката не трябва да се бъркат с диалектиката на Хегел - Маркс там в „Капиталът“, да, или Платон. Те са напълно различни неща.

Диаматът е такава конструкция. И така, едно младо момиче някъде през 2003 г. - десета - деветнадесета, гледайки ви перфектно, изрича този диамат. Или пък ученик, чието съзнание е чисто като бял лист хартия с изглед към последното откровение, което е сънувал през нощта, разказва за някакъв ужасен учебник, копиран от съветските учебници от седемдесетте и осемдесетте години. Защото често тази имитаторска дейност на учебниците, и то преписани от съветско време за последните 20 години, е лесна. Интересното - че тези ученици и ученички дори не подозират и не са подозирали, че имитаторската им дейност е очевидна, че ако си на 17-18-20 години и учиш в Киев или някъде другаде, правиш първите стъпки. Не можеш да озвучиш един стар мъртъв учебник по диамат. Или ако пишеш курсова работа, текстът ти не може да бъде като мъртви параграфи от някой остарял речник. Но това не възникна в съзнанието на учениците. Тоест те си мислеха, че ако тези звуци преминат през тях, да, ако те издават тези звуци, значи това им принадлежи, значи професорът ще си помисли, че щом аз съм го казал, значи аз мисля така. Дистанцията между съдържанието на изказването и това, което сте вие, не се взема под внимание. Искам да кажа, че подражанието съществува отдавна, но ChatGPT създаде нови условия за подражание. И тези условия са станали просто чудовищни.

Каква е разликата между познаване и разбиране и подражание. Нека преминем заедно с мен през няколко малки стъпки.

Първо. В началото се изкачвате от думите към изречението, от изреченията към параграфа, от параграфа към главата. На всяка от тези стъпки е много важно да разберете значението на думите, граматиката, синтаксиса семантиката, а след това и прагматиката. Какво означава прагматика на изречението: в едно скорошно немско изследване (ще говоря за него по-късно) за спада на читателската компетентност и на способността за четене като цяло има един пример. На учениците се чете откъс от някакъв текст за Хитлеровата младеж. Текстът осмива естествено и се отнася негативно към Hitler Jugend и неговите представители. Но учениците не осъзнават, че това е ирония или критика. Те нямат разбиране за контекста. Контекстуалното разбиране е прагматиката. Например, когато осъзнаем, че дадена фраза е по-скоро шега, ирония, отколкото положителна оценка на определен герой. Или че въпросите за изказване имат различна прагматика, или че шегата и описанието в учебника имат различно съдържание, различна прагматика. Така че дори на този етап всичко се формира от училище, от думите към изреченията, от изреченията към параграфите, от параграфите към главите.

Следваща стъпка. Научете се да подчертавате основното в изречение, параграф, глава. Разбира се, можете да попитате ChatGPT кое е основното в този текст и той ще го направи вместо вас: условно казано, той ще подчертае някои фрази в текста, но това не е вашето подчертаване на основното, вие ще останете в неведение какво е основното в тази фраза. А когато се явите на интервю за работа или по-късно ще участвате в някаква дискусия, в дебат или ще представите пред някого своя идея, например бизнес идея или политическа идея, ще трябва да изложите главното и то кратко. Ако не знаете какво е основното, няма да разберете събеседника си, няма да можете да разберете себе си, защото ChatGPT ще направи всичко вместо вас.

Следващата стъпка е много важна. Преобразувате изреченията от текста в свои собствени изречения. Започвате да променяте различните фрази, както художникът рисува или графикът нахрърля разлчни скици, различни проекти, като тази роза или китката на ръката. По този начин се научавате да варирате и да очертавате отклонението от текста, който е пред вас. След това сгъстявате страницата и главата до няколко кратки формули, които трябва да са ваши, а не на подсказка от ChatGPT. А от тези кратки формули можете да ги разширите и в есе до 7 или 10 страници ваш текст, ваши мисли. Когато се изкачвате на по-високо стъпало в разбирането и познанието, можете да намерите примери, метафори, аналогии, които да илюстрират и подчертаят първите ви самостоятелни стъпки на собственото ви разбиране. След това сравнявате този текст, тази мисъл или това значение с други текстове, мисли и значения от литературата, историята, философията, културологията, психологията. Чрез илюстрациите, примерите, метафорите, аналогиите възниква не само осветяване, но и вие създавате определена мрежа, самостоятелно, мрежа между идеи, текстове, значения. И тази мрежа е вашата мрежа, защото вие мислите, когато правите връзки, когато анализирате, сравнявате, разграничавате. Това е активен процес. Веднага щом получите външни подсказки, не се ангажирате с мислене. Мисленето не работи. Получава се нещо като клише. Това клише може да е повече или по-малко правилно. Ами скучно мъртвешки правилно, този учебникарски речник, обработката на няколко речника, и въпреки това вие лично не сте включили мисленето си нито за миг.

И накрая, когато опиша накратко тези стъпки, вие поемате риска и започвате да формулирате свои собствени, все още плахи, но все по-уверени самостоятелни мисли, идеи, образи. Това е като да излезеш в космоса. И е като освобождаване. Сякаш започвате да дишате, сякаш преодолявате суровата гравитация на чуждите текстове и чуждите мисли.

За да се откъснем от тях и да отплаваме, трябва първо да работим с текстовете и мислите на другите, като използваме метода, който току-що ви описах. Но това е ваша работа. В това може да ви помогне майстор, учител, преподавател в майсторския клас в YouTube или в друга социална мрежа също някой може да ви помогне в това, но без това вие самите да участвате активно в този процес не се случва нито познание, нито разбиране.

Така че вместо това, което току-що ви описах, вие написвате въпрос в чата. Например, основните идеи на романа на Михаил Булгаков „Майстора и Маргарита“. ChatGPT с удоволствие ще ви представи тези идеи. Ту-ду-ду-ду. Някакъв Бог, дявол, любов. Сталиновата Москва от тридесетте години на миналия век. Е, общо взето, започват да ви заливат някакви фрази, някакви изречения, но без компетенциите, които описах преди 3 минути, основното сравнение, вариациите, вашите примери, вашите метафори, вашите първи опити да мислите самостоятелно, тези заливащи ви чужди фрази не ви дават нищо. Е, освен ако имаш някой приятел, който е толкова напреднал в кавичките, колкото и ти, можеш да кажеш: „А, Майстора и Магрита го знам, това е роман, а там е бла бла бла“ или има някакъв Ремарк или не знам, Дикенс. Това е роман за...".

Ще разкажа повече за това как ChatGPT може да ви помогне в търсенето на ресурси. За сега не говорим за това, а какво може да ви даде като цяло в сферата на разбирането, в сферата на познанието, в сферата на анализа и т.н. Тоест блокове от чужди фрази, формулировки, сдъвкани, преосмислени от някой друг. И този някой е анонимен. Ако по-рано при търсене в Google сте намерили някакъв повече или по-малко среден речник или енциклопедия, добре, защото няма толкова много добри енциклопедии в свободен достъп. Не считаме, разбира се, Станфордската енциклопедия за прекрасна, но най-вече такива средни речници, то в крайна с етка поне беше ясно, че това е някакъв речник по културология, психология, социология, философия, нечия статия. И дори да е с лошо качество, но е разпознаваема.

А ChatGPT ви дава някаква анонимна фраза, изразена от някой, когото не разбирате. Ето, аз например написах в ChatGPT, че в моето училище имахме курс по разбиране и говорихме за херменевтичният кръг. Написах „херменевтичен кръг“ от ChatGPT. Ами получавам съвсем нормално средно описание на това какво представлява. А после дори накрая има имената на Хайдигер и Гадамер, които смятат, че разбирането е контекстуално и историческо. Точно това ми хареса в последното изречение. ChatGPT издаде два параграфа. И в този последен параграф в отделно изречение, защото вече ставаше дума за херменевтика (сега ще питам какво е херменевтика!), и там ставаше дума за Мартин Хайдегер, Ханс Георг Гадамер и за това, че тяхното разбиране е контекстуално и историческо. Е, по принцип това е правилна фраза, но какво означава тя за човек, който започва да изучава този предмет? Ако аз изнасям лекция или семинар, или пък някой професионалист го прави с група, той започва с тази фраза.

Може би той ще го формулира по различен начин и тогава ще започне процеса, който описах: примери и сравнени1. Той приканва участниците да се изкажат. И заедно стигаме до някакво разбиране. А човекът, който използва ChatGPT, не започва движение, а си мисли, че има нещо готово. Но в тази фраза той не разбира нито йота. Първо, кой е Хайдегер - трябва отново да попитате чата. Чат, кой е Хайдегер? Хайдегер е велик немски философ, който... и тук отново имаме осреднено анонимно знание. Какво, откъде го има този Хайдегер, какво е това? Човекът, който направи онтологичен завой или направи нещо друго, написа „Битие и време“. Може да има хиляди отговори. Хиляди! От тези хиляди варианти ще бъдат избрани най-плоските. Или това е един от основните представители на екзистенциалната философия. Макар че Хайдегер отрича, че е философ екзистенциалист, но ще бъде написано от чата, че е философ екзистенциалист, т.е. на тези, които задават въпроси. Тоест той ще каже: "Какво тогава е екзистенциалист? Ами чата да ми каже кой е философ екзистенциалист?". И отново често ще казва: "Този и онзи, така че битието е преди същностите или онези, които са мислили за смисъла на човешкия живот. А какво е животът, какво е смисълът, и започва непрестанната игра. Само че това е лоша игра на топчета, когато хвърляме върху себе си някакви значения на думи, изясняваме ги с други, задаваме много въпроси, включваме се в този процес, но не напредваме нито на йота, нито с един сантиметър, нито с една крачка.

Нека се върнем към основния въпрос. Та, как да пробием тази повърхност от пълзящи фрази, която ни дава ChatGPT или други подобни чат ботове, как да влезем вътре, как да излезем от китайската стая, как да отидем към обективните значения или универсалните смисли, намирайки своя индивидуален път. И точно тук ChatGPT няма да ни помогне, защото познанието и разбирането, от една страна, имат някакви методологии, водещи подходи, школи, но този път трябва да извървите сами или заедно с майстори, или да започнете да изследвате, изучавате, да правите собствени търсения, анализи, сравнения, това е пътят, който току-що ви описах. Изчакайте до края на това видео. Ще се позова на едно изследване отпреди две седмици на много авторитетен немски институт за уменията за четене и мислене. Изчакайте заключението.

И така. Когато с помощта на ChatGPT пробием до нещо, което дори не разбираме какво е, попадаме в свят, в който няма нищо лично, в който няма идентификация, няма привързване. Това е някакъв безличен, анонимен, осреднен, непонятно от кого формулиран масив дори не от идеи, а от масиви от внушения. И за да ги осмислите, за да осмислите тези изречения, трябва да започнете процеса на обучение. Но ако нямате уменията да учите, отговорите в ChatGPT няма да ви помогнат с нищо. Те само ще ви разрушат и ще съсипят първите ви стъпки към образованието. Те ще ви породят една надута илюзия за информираност. Каква е ползата от това, че можете да получите някакви кванти информация, но как да анализирате информацията, да я сравнявате, да я поставяте в някакъв контекст, за да правите изводи, кой ще го направи вместо вас? Преди казваха: „Пушкин ще го направи вместо вас“ Сега казват: „ChatGPT ще го направи вместо вас“ Кой ще го направи вместо вас? ChatGPT. Той е заменил Пушкин в общата употреба. И раздутата илюзия за познание, защото, слушайте, тук можете да добавите името на Хайдегер, а там е Нютон, а там е Айнщайн, а там е още нещо. А там е Витгенщайн. Айнщайн, Витгенщайн, всички тези имена, фрази, ти просто се къпеш в тях, но се къпеш в такова разредено, не знам, такова пространство, в което изобщо не можеш да дишаш. Намираш се в пространство без въздух.

И сега стигам до последната част на моята лекция. Тя показва, че, от една страна, имаме тази илюзия за информираност и знание, която поражда неща като ChatGPT. Между другото, сега всички го използват. О, хората печелят добри пари, нали? Виждате колко много, колко много финансови инжекции в този бизнес, но те печелят и добре се справят. Те правят правилното нещо. 

Но на 30 април 2025 година, преди няколко дни, в последния брой на „Insights" имаше голям материал за уменията за четене. Анкетирали са няколко десетки професори от различни специалности: литературознание, философия, история, биология, други природни науки. И питаха за това как четат студентите, как протичат техните семинари, лекции. Освен това този материал съдържа редица изказвания на водещи специалисти в областта на методиката на преподаването, дидактиката, когнитивната наука. Ще си позволя да се позова на тези материали, за да можете да имате някои цифри и някои мисли. И така, на първо място, цитатите. Материалът е в курсив, някои цитати от професори, които са били интервюирани. Преди две седмици те бяха попитани.  От 70 до 80 процента от учениците имат сериозни проблеми с умерено трудните текстове. Това твърди Михаел Зомир, професор по древна история в Олденбург. Едва след три семестъра аз и студентите започваме да работим самостоятелно с литературни произведения. Преди това бавно, стъпка по стъпка, овладяваме уменията за разбиране на малки литературни текстове или специални статии, речникови статии. Това казва и германистът Максимилиан Бенс от университета в Билифелд. Става дума за специализация по литература, а хората не могат да се доближат до истински литературни текстове в продължение на три семестъра. Те трябва да се подготвят върху някакви фрагменти и да накарат студентите да развият някои основни умения.

По-нататък. Каролина Рьодор, професор по литературна дидактика в Лудвигсбург. През последните 20 години програмата за четене е намалена наполовина. Между другото, спомнете си разговора ми с един учител от немската гимназия и когато го попитах, а той преподава немски език и литература в гимназията, го попитах какви произведения четат в гимназията. Той казва: „Нито едно, това са адаптирани текстове“. Аз си мислех, че ще каже: „Херман Гес или Гьоте, или не знам какво ще каже там, ами Томас Ман“. Не, нищо подобно. Някакъв роман на Томас Ман? Нищо подобно. Адаптирани текстове. Защото гимназистите просто не се справят с тези текстове, измислили са им такава разредена вода. Така да речем, че на човек му дават не отлежало вино, а капки, разредени с вода, такива розови капки. И той не пие вино, а само вода. Защо тогава да пиете вино, пийте вода, изобщо не пийте вино и така нататък. Но не си мислете, че в този процес консумирате вино.

Продължавам цитата. Много първокурсници очакват да получат цялата информация лъжичка по лъжичка, като малки деца. Това е Дженифър Евалд, професор по биология в университета в Тюбенген, дама. Тя казва, че студентите идват след училище, след гимназията, и си мислят, че ще им се дава по малко, по малко, така че да не се налага да работят твърде много. Или пък някога е било възможно да се задават трудни въпроси в час. Сега това вече не е възможно - казва Соня Емерлинг, професор по германистика в университета в Регансбург. По принцип не може да се задават трудни въпроси в семинарите, защото студентите ще се обидят и след това ще спрат да идват в час. Тези анкети бяха проведени преди няколко седмици. И диагнозата на анкетираните професори съвпада почти на 100%.

Нека да го кажа така. Новото поколение студенти почти не могат да четат малки текстове. И дори не става дума за книги. Бележка в полето: в никакъв случай не твърдя, че в миналото е било така, а сега е иначе. Не казвам, че някога е имало много Сократи и Айнщайни, които са ходили на училище и в университета. Не твърдя и това. Много професори в този в списъка на интервюираните казват, че все още 10-15% от студентите в университетите са отличници, четат много, мислят, изразяват мислите си. Но средното ниво, а аз например съм учил през деветдесет и втора - деветдесет и седма година в университета, мога да кажа, че са били средни хора, но тези средни хора не са били лоши. Да кажем, че бих разделил нашия курс и имаше 40 души плюс или минус, с които преминахме през всичките пет години на обучение. Нека го кажем така. Петима-шестима бяха на добро ниво, 20-15 души изобщо не бяха случайни, може би 10 души бяха абсолютно случайни. И най-вече средното ниво, добре, хората са разумни и от такива семейства, тоест могат да поддържат разговор, но това е средното ниво. Така че сега според социологическите проучвания, минавайки от Украйна до Германия, това средно ниво се разсейва и се движи към по-ниското ниво. Тоест имаме 10-15% отлични студенти, но 90-85% изобщо не са такива. Тоест те нямат никакви основни умения. Отново се обръщам към текста. Учениците предпочитат предимно: подкасти, видеоклипове, видеофилми и аватари, генерирани от изкуствен интелект. Струва си да се признае, че това също е много добро учебно помагало. Самият аз използвам кратки видеоклипове, диаграми, рисунки, някои фрагменти, но въпросът е, че ако разчитаме само на тях, няма да получим знания или разбиране.

Сега ще разберете за какво говорим. Става дума за това, че губим основните умения на съвременната култура, на които се основават нашите фундаментални практики, като например практиките на мислене, възприемането на този или онзи вид дейност, губят се уменията за дълбоко четене. Тук, в текста в големия материал на „Insights“, се използва словосъчетанието deep reading, дълбоко четене или задълбочено четене. И всички експерти по учене, по формиране на умения за учене казват, че без дълбоко четене не формираме критично мислене, не можем да анализираме, познавателният ни апарат изобщо не се формира. Уменията за задълбочено, замислено четене на сложни текстове все още са основният фактор в образованието. Но точно тук, а именно дълбокото, замислено четене на сложни или умерено сложни текстове, днес е напълно изключено от процеса.

Сега ще се спра на някои цифри. Например, даден е пример за семинар на филолози. Тук дори е посочено името на професора. Това е Анина Клаперт, професор с двадесетгодишен стаж. Нейната специалност е сравнително литературознание или, на немски език, литературна теория. Сравнителна теория на литературата. Ето как един журналист описва семинара. На семинара присъстват девет души. Всички са на бюрата си, а това са литературоведи! Всеки има на бюрото си лаптоп, таблет или смартфон. Всички те четат от екраните. Добре четат и четат доста модерни момчета, но им се задава въпрос. Ето я нашата професорка Анина, която задава въпрос. Те четат малък фрагмент от своите екрани, джаджи, и тя ги пита: „Защо този разказ, всъщност мини разказ, е пример за литература?“. Ами това означава, че например четете фрагмент от стихотворение или фрагмент от роман, или новела, или разказ, или малко есе, заедно. И ви питат: „Защо това не е журналистически репортаж, например, а литература?“. Студентите мълчат. Студентите по сравнителна литература не могат да отговорят. Да, и по-рано в гимназията, те не могат да отговорят. Тогава тя веднага се притичва на помощ, ами професорът не иска да дразни студентите. Ако има дълга пауза, тя трябва да се притече на помощ. И тогава им дава допълнителен въпрос, за да съживи мотивацията им. Въпросът е: помислете как авторът борави с времето. Не знам какъв текст четат, но помислете как авторът борави с времето. И тогава първият студент там вдига ръка, започва да казва нещо. След това в есето е интересно, че след 30 минути от началото на семинара идват още трима студенти, лениво се запътват към аудиторията, сядат и включват джаджите си, за да се свържат със семинара.

Така че имаме пред себе си едно странно нещо. Това дори не е труден въпрос. Това е среден по сложност въпрос. Студентите филолози не могат да му отговорят.

Ето някои статистически данни за изследванията на четенето. Така през 2024 г. в Германия само 17% от студентите четат ежедневно. През 2002 г. 43% от студентите са чели ежедневно. Миналата година, през 2024 г., само 17%. Почти всеки пети студент не поглежда към книга в продължение на цял месец! Това е един от всеки пет студента. Не знам къде гледа в книгата. Е, сигурно му дават някакви бележки. Между другото, преди около 7-10 години видях мои студенти от университета „Шевченко“, някой учили вече в Европа. И тук ми бяха изпратили такива материали. В тези материали, особено когато започна ковидът, стана нещо като обща практика. Един студент казва: „Лесно ми е да уча след нашия университет“.  Защо е лесно? Тук имаме професор, има курс и той ни дава скрипт. И в този скрипт има просто описание. Аз също правя скриптове, правя и конспекти за участниците в моето училище. Но е ясно, че това изисква още занятия от нашите класове. Плюс това ние четем още нещо друго, плюс това има семинар.

Ето, дава ви се скрипт. И когато дойдат тестовете, трябва да използвате скрипта, за да преминете тестовете. Това е много просто. И за да преминете там, трябва да посетите няколко занятия. Три условия. Посещавате определен процент от занятията. Професорът ви изпраща скрипта преди началото на курса и вие решавате тестовете. Това е всичко, научава се, не се говори с теб, не се обсъжда, не се изказваш, не го описваш. Всичко е чисто механично. Не твърдя, че това се случва постоянно във всички курсове навсякъде, но това е един от примерите какво означава, че всеки пети студент не гледа в книгата. Защо да го правят? И така можете да получавате точки и оценки и да напредвате от курс в курс.

И още една цифра. През 2004 г. 56% от анкетираните студенти твърдят, че се интересуват от книгите. Повече от половината студенти по някакъв начин са се интересували от книгите. През 2024 г. само 35% от студентите се интересуват от книги. Знаете ли, ами Германия е четяща нация, четяща страна, четяща култура. Мисля, че в някои други страни този процент ще бъде по-малък.

Но ако през 2004 г. 8% изобщо не се интересуват от книги, то през двадесет и четвъртата година 23% от студентите изобщо не се интересуват от книги. Но ако всичко, от което се нуждаете, е в джаджите и има само фрагменти, аватари, видеозаписи, но защо изобщо да има книги? Един студент без книги е съвсем нормално, той дори не се интересува от тях.

Професорите казват, че още в гимназията, а учителите в гимназията също го казват в този материал, тези умения не се придобиват в гимназията и изобщо не се усъвършенстват. Искам отново да помислите върху тази формула, уменията за задълбочено четене, които се развиват в гимназията, а след това и в университета, предполагат опит за потапяне в тезите и теориите на автора, за проследяване на логиката, аргументацията, последователността на твърденията на автора. За това е необходимо да се чете, защото някакъв блогър говори нещо несвързано, а ти там, не знам, се тъпчеш с някакъв сандвич или тичаш, имаш някакви фрагменти от фрази в главата си. Но в повечето случаи е трудно да се следи, особено много блогъри, които просто говорят хаотично, нямат никаква структура. И това се вмъква в нас, но ние не следваме логиката му, или как не е противоречиво, или е противоречиво. Особено не преминаваме през процеса на дълбоко осмисляне. Където няма дълбочина, там изобщо няма как да задълбочаваш. Така че това е умението за задълбочено четене.

Според водещия световен експерт Мариана Улф развиването на уменията за четене отнема много години. Тя е изследовател на практиките в областта на четенето. Ще я цитирам. Тя твърди, че по пътя към качественото четене няма място за съкращения и фрагментиране. Така че, когато някой попита ChatGPT за какво става дума в романа „Майстора и Маргарита“, Мариана Улф казва: „Чакай, никога няма да изградиш уменията, които ще ти позволят да мислиш. Искаш да убиеш мисленето си още в зародиш?“ Ами попитайте, ако ви е интересно. Този път, искам да кажа, пътят към качественото четене, към задълбоченото четене, не свършва със завършването на гимназията, на училището. Този път е вашият последователен живот. Ако сте завършили училище и сте спрели да четете и да мислите, това е всичко. Ако сте завършили университета и сте се отказали от четенето и формирането на умения, това също е така. Това е дълъг път. Това е пътуване през целия живот. И задачата е да изчислите това разстояние и да усещате всеки етап от този път през целия живот като изпълване с радост, удоволствие, нова мотивация, ново откритие. Представете си, че можете да се оформите и да се учите в продължение на десетилетия. Всичко в света, създадено от водещите умове на художници, писатели, композитори, философи, биолози, физици, астрономи, вВсичко това е на ваше разположение. Но трябва да умеете да учите и да можете да изчислявате пътя си. 

През последните години се появяват все повече доказателства, че смартфоните понижават концентрацията и вниманието. Аз проследявам много от този материал. Пиша много за него. Работата е там, че чета не само философски списания, но и когнитивна наука и психология. И напоследък има много такива материали, почти във всеки брой срещаме такива материали по един или друг начин. 

нес за обикновения човек е трудно да прочете дори малък текст. Ето един кратък начин да го представим. Мозъкът е отвикнал от концентрираното и задълбочено потапяне в четенето. Центровете за възнаграждение или за удоволствие на мозъка на този човек, развратени от TicToc и Instagram, постоянно изискват нова захар. Спомняте ли си, че преди мечките в цирковете: тя се изправя на два крака - получава захарно удоволствие. Свършила е страхотна работа, изправя се на задните си крака и изминава няколко метра с велосипед - отново получава захар. Направила е всичко възможно, съжалявам, трябва да бъде възнаградена. 

И така е с нас днес, пленници на TikTok, Instagram и социалните медии, за които ще говоря малко по-късно, ние постоянно се нуждаем от стимул. Някакъв блок от информация, буквално няколко секунди, трябва да се възнаградят органите ни за възприятие. Това трябва да е много силно възприятие. Например едно шимпанзе пред смартфон. Ние го гледаме: „О, това е смешно“, а ние сме шимпанзето пред смартфона. Радваме се, че сме там, ето го, колко е смешно. Погледнете себе си. Или например тийнейджърът, който скача на един крак и се преобръща. Всичко това е на ваше разположение.Но трябва да умеете да учите и да можете да изчислявате пътя си. 

Все едно, малки фрагменти. Но ако продължат малко по-дълго, ни става скучно. Започваме да се прозяваме. А ако прочетем текст поне една страница, обикновено човек, който е роден в ерата на джаджите, започва да изпитва тъга, ужас и първите признаци на депресия. Защото тези черни букви, и то малки, а те са толкова много на бял фон, внушават ужас, какво да се прави с тях, а някак трябва да се работи с тях. И започва лека паника. След първото свързване на буквите в думи, на думите в първите две изречения, мозъкът се разпада напълно. Той не може да работи с тях. Усеща се, този мозък, че човекът е принуден към някаква свръхтежка работа. 

Ето защо сега трябва да има толкова много консултанти. Отивате в банката, сключвате договор, оформяте някакви документи, дават ви някакви купища печатни текстове, а повечето хора не могат да прочетат тези текстове. Какво правите вие? "Кажете ми какво има в договора". И трябва да подпишеш това и това. И добре, къде да подпиша, точно тук. Донг-донг-донг. Това е най-опасният начин. Човек не може да прочете собствения си документ. 

В заключение, ето още един когнитивен учен - Кристиан Монтаг, който изказва интересно твърдение. Много статии, стотици статии, съобщават това. Поне аз вече съм прочел стотици статии по тази тема. Цитирам: „Знаем, че прекомерното използване на смартфони корелира с нарушени умения за учене“. А колко статии имаше, в които се казва, че интерактивните дъски влошават обучението, използването на таблети влошава обучението. И най-важното, всички ние бяхме като морски свинчета в епохата на ковидите, четейки редовно материали за това как се понижава нивото на децата в училище, които са принудени да преминават през целия материал вкъщи, а разликата между децата от богати и бедни семейства само се задълбочава. А съвсем наскоро и аз започнах публични лекции, през петнайсет-шестнайсет години, първата ми лекция беше за онлайн образованието. 

След бума на еуфорията от дванадесета до тринадесета година стана ясно, че човек, който няма умения да учи предварително, не може да учи онлайн. Той трябва първо да придобие уменията, а след това онлайн обучението може да му помогне. Но по онова време на Дафни Колер, на другите представители, на създателите на онлайн платформи, им се струваше, че това ще бъде революция. Университетите щяха да умрат, всеки щеше да получава онлайн образование от комфорта на стаята си. Оказа се, че това не е така. Без умения за учене не може да се учи онлайн. Но и тук е точно така. Онлайн обучението отиде в къщи, всички бяха арестувани за 2 години ковид. И се оказа, че децата не могат да учат. Те имат нужда от общуване, от интерактивност. Те трябва да докосват, да ходят, да тичат между чиновете, да общуват с връстниците си и да чуват, особено в началните класове, жив учител. Това показва, че технологиите тук не работят.

И особено вредно, ако се върнем към Кристиан Монтаг, е това особено вредно въздействие на социалните медии върху нас. Бизнес моделът на социалните медии.  Не мисля, че имате нужда от този Монтаг. Мисля, че сами го знаете, но ще ви го кажа още веднъж. Бизнес моделът на социалните медии е да поглъщат вниманието ни и постоянно да ни ангажират с натрапчиви послания. Е, push съобщенията са гръмки скандални заглавия, скандални фрази, условна скръб. Като например за мен: „Баумайстер е предател и дегенерат“. Или „за пореден път сме убедени, че Баумайстер е предал родината си“, или работи за Ватикана, или е на хранилка във Вашингтон, или Баумайстер е агент на Кремъл. Подобни заглавия, например, или каквото и да било друго. О, това е запомнящо се, но човекът, който започва да чете материала под това заглавие, не обмисля нищо. Той във всяка фраза ще прочете „Баумайстер е агент на Ватикана, или агент на Кремъл“, защото този push-pull ефект на това заглавие, той напълно прониква във вашето възприятие и вие ще видите в текста само това, което е зададено от заглавието, или някаква много силна фраза. 

Между другото, последните метаизследвания на уменията за четене отново потвърдиха предимството на хартиените пред дигиталните и електронните книги. „Цифровите джаджи имат голям потенциал за отвличане на вниманието. Екранът на смартфона насърчава повърхностното плъзгане по текста.“ Мисля, че някога отделно ще се спрем по-подробно на всички тези изследвания. защото наистина, дори да виждате електронния текст, не виждате книгата, не напредвате пространствено, не виждате къде е началото, средата, краят. А това е много важно за нас, за да се ориентираме, както във всеки терен. Ние не разбираме разделението на структурата, не знаем кога тя свършва. Освен това често некачествените електронни текстове просто са слети, сякаш са непрекъснати редове от букви и изречения, които следват едно след друго. Невинаги е така, но дори и да е pdf, не можеш да видиш цялата книга. За вас това е загуба на ориентация, загуба на структура. А ние с вас сме не само ментални, но и физически същества, да, тоест имаме нужда от разбиране на телесно-психосоматичния контакт със света. 

И накрая, професорът по педагогика Питър Герец. Герец предполага, че за 70-80% от днешните ученици изкуственият интелект се превръща в познат инструмент за създаване на текстове или за намаляване на обема на четене, т.е. пищови. Всъщност ChatGPT се превръща в такъв инструмент за пищови. „О, дълго четене, дебела книга“. Между другото, в този материал на Insights учениците са мърморили тези твърдения. „Цялата книга, сериозно?“ или „книгата, цялата книга?“, това са въпроси от този тип. Вие луди ли сте, цялата книга? А там има 100 страници, 200 страници. И някога образованите хора са чели по 200-300 страници на ден, а е имало хора, които са чели повече и на различни езици. Това е начинът, по който се случва. 

Така ИИ генерира почти всичко вместо нас. Толкова повече намалява способността ни да учим, анализираме, сравняваме и т.н. Възможно е да се формулират такива връзки, защото много професори и специалисти по обучение именно цитират тези връзки. Бавното и задълбочено четене е свързано с формирането на критично мислене. А изграждането на критично мислене изгражда устойчивост към манипулации и авторитарни тенденции. Още по-просто: бавно и задълбочено четене - критично мислене, устойчивост на манипулативна пропаганда. Съответно липса на умения за бавно, задълбочено четене - никакво критично мислене, абсолютна уязвимост към всякакъв вид пропаганда. И така, когато за пореден път попитате за основната идея на романа „Бесове“ на Достоевски или на поемата „Фауст“ на Гьоте, помислете какво точно искате, какъв отговор искате да получите, защо ви е нужен.

Може би трябва да се научите сами да анализирате, да търсите, да сравнявате. Въпросът може да възникне, но в крайна сметка ChatGPT може да ни помогне в търсенето на литература. Но на първо място е много важно да развиете самостоятелно умение да търсите, оценявате и подбирате необходимите ви източници. За тази цел можете да се консултирате със специалисти или специализирани речници. Тогава това безспорно са много авторитетни източници, които ще ви помогнат да потърсите други източници. И в краен случай, като помощно средство, като вторичен инструмент, можете да се обърнете към ChatGPT. Но повечето от вас веднага се обръщат към ChatGPT като към основен инструмент. Това е опасността. Вместо да използват чата като допълнителен инструмент, като вторична помощ, много от вас използват ChatGPT като основен инструмент. Но никога няма да се научите как да търсите, оценявате, подбирате, сортирате, анализирате информация, източници, литература. И не е ясно кой ви изсипва всичко това и ви го предлага. 

Знам това от опита си във всяка област. През последните години се интересувам особено от история. Украйна и Полша, например. Първо, историците не са богове, всички те имат различни позиции. Имат различни възгледи Те обработват, категоризират, оценяват информацията по различен начин и изграждат своите разкази по различен начин. И ако не разбирате това, тогава, когато се обърнете към ChatGPT, ще получите, например, във възгледите си за историята на музеите на Запад, а може би след 2-3 години просто едно ужасяващо клише на този постколониален дискурс. Или пък защо, защото тези автори са най-често цитирани, те се цитират един друг, позовават се един на друг, ChatGPT обработва този масив и ви дава тази отвратителна псевдонаука и псевдоизточници като истински научни източници. И вие ще ги прочетете. Защото, вие не знаете как се създава исторически разказ. И не знаете каква е работата на историка, как работи с фактите, как работи с източниците, как изгражда заключенията си, на каква основа, какви методи използва. Вие просто вземате готов списък и започвате да го четете, попивайки вече сдъвканата картина на света, нечия друга, но не и ваша.  

Така че ние се учим сами, ако търсим сами, преценяваме, сравняваме, анализираме и по този начин сами създаваме истории. Никой няма да го направи вместо вас. Пътят на ученето и разбирането винаги е лично пътуване. ChatGPT със сигурност може да бъде помощно средство в образованието, но никога няма да замени основните източници и фактори на образованието. Той няма да чете и анализира „Майстора и Маргарита“ вместо вас. И когато попитате ChatGPT каква е същността на категоричния императив на Кант, то със сигурност ще изтърси анонимно и средностатистически някоя фраза, но ще ви помогне ли да разберете какво е категоричният императив на Кант или не? 

Затова, преди да попитате ChatGPT нещо, помислете дали си заслужава в този случай, дали можете да изберете друга стратегия за търсене или друг източник за вашата тема или информация и дали този анонимно осреднен отговор от неясен човек, в неясна област, в неясна форма, изобщо ще ви даде нещо. 

Разбира се, развитието на технологиите и възможностите трябва да се приветства. Признавам предимствата по отношение на изучаването на чужди езици, превеждането на текстове на други езици. Разбира се, това е важно. Но обърнете внимание на факта, че вземайки анонимни извадки от големи книги, текстове, събития, вие всъщност не се учите да мислите, а убивате мисълта в нейния зародиш. А основният убиец на вашето образование и формиране сега е, от една страна, ChatGPT, който много хора толкова харесват, а от друга страна, тази абсолютно анонимно усреднена мрежа от блогове и социални мрежи. Ще кажете: „Ами ти се свързваш с нас чрез социалните мрежи?“ Да, но аз използвам социалните мрежи само като един от инструментите. В продължение на много десетилетия съм преподавал в най-добрите университети в цялата страна. Имам училище, в което общувам всяка седмица с хора, с големи групи от хора. Отделно от това с тях провеждаме занятия и срещи. А социалните медии, като канала ми в YouTube, където е публикуван този видеоклип, са само едно от проявленията на това, което правя. Аз не съм youtuber, не съм блогър. На първо място съм академичен учен, а на второ - преподавател, изследовател, човек, който се учи и преподава на другите. А хората, които живеят изцяло в социалните мрежи, за тях това е основната сфера на живот. И те са тези, които създават опасности за вашето образование, за вашето формиране. И едно е, когато го използваме само като един от инструментите, но друго е, когато хората са напълно образовани в YouTube или в Instagram, или разбират нещо с ChatGPT. Аз не налагам нищо. Това е моята гледна точка. Това е сферата на вашата свобода тук. Ваш е изборът как да се образовате, как да станете критично мислещ и зрял човек. 

Аз просто излагам своето мнение. Можете да ме критикувате или да ме обвинявате в нещо ретроградно, остаряло. 

 

 

[Atom]

Преди 1 час, kipen2 said:

Защото "чуждият разум" не е изобщо чужд, независимо как ми го определя Харари, а си е пак производен на човешкия. И е във връзка и с твоето споменаване на "информационни индивидуални балони с индивидуални разкази", които обаче, споделени битуват в дадена нация и определят нейния бит и култура. 

ОК, да приемем, че не е чужд, а човешки.  Плоскоземците също са хора. Доколко би се доверил, на ИИ инструмент създаден от плоскоземци, които са заложили собствените си виждания в него?  Днешните ИИ разработчици, културата на корпорациите които ги разработват и вижданията на техно-магнатите са точно такива "плоскоземни". Или хайде не точно плоскоземни, а плоскомозъчни. Днешните ИИ модели са изградени при следните предварително заложени "аксиоми": 
- Човекът е рационален агент (винаги търси оптималното)
- Той е автономен, т.е. взема решения сам, не е просто част от колектив
- Той е индивидуалист, т.е. има уникални цели, интереси, мнение и идентичност.

Всичко обаче това са догми, а не изводи на науката. Точно както плоската земя е догма за плоскоземците. ИИ агентите достъпни за масовите потребители, без значение къде е как са обучавани, са изградени върху няколко основни парадигми, които от своя страна произлизат от горните догми:
- Персонализация (оптимизация според твоя вкус, търсене, поведение)
- UX / user-friendliness (да ти е лесно, приятно, комфортно)
- Максимална релевантност и удовлетворение (алгоритмични препоръки, feed, chatbot отговарящ точно както ти искаш)

С други думи ИИ е проектиран  като удобна, практична и user-friendliness кафеварка, но според теб това е чисто човешко?   Според мен може да е човешко, но е отклонение от човешката норма за общуване. Хората не търсят съвет от кафеварката си, колкото и да е удобна, практична и персонално - удовлетворителна.

Преди 1 час, kipen2 said:

Това, че нечии "информационни балони" могат да разрушат колективните такива си е нещо изобщо не негативно! Напротив - така се реализират културните промени !? ...и някак си е, меко казано, странно за мен, че го използваш като аргумент.

Разбира се, че е не е проблем. Не бих искал обаче новите културни рамки да са задават от удобен, практичен и  user-friendliness електрически чайник със собствено мнение по въпроса.

Редактирано Петък в 13:30 от Atom

[gmladenov]

Преди 2 часа, Atom said:

Ние сме социални същества и не съществуваме във вакуум, а в социум. Социумът обаче се опира на наративи. ИИ който дава на всеки индивид това което иска да чуе индивида, създава информационни индивидуални балони с индивидуални разкази и разрушава колективните наративи. 

Въпросът е дали "индивидуални балони" са наистина индивидуални или пък се вписват в определени
групови наративи.

Точно защото сме социални същества нашите вярвания не са чисто индивидуални, а са споделени с
други хора. Така че според мен персонализираните ИИ асистенти едва ли ще създават "индивидуални
информационни балони", а по-скоро ще ни приобщават към балоните на групите, с които ние се
отъждествяваме.

Редактирано Петък в 13:15 от gmladenov

[Р. Теодосиев]

Неотдавнашен анализ на DFRLab разкри, че чатботът Grok на Илон Мъск е изиграл проблемна роля в разпространяването на дезинформация по време на първите дни на конфликта между Израел и Иран. 

Проектиран да помага на потребителите да проверяват факти, Grok вместо това даваше противоречиви и неточни отговори, особено когато e питан за съдържание, генерирано от изкуствен интелект, и широко разпространени фалшиви изображения.

В един от примерите Grok дава противоречиви отговори в рамките на минута относно летище, за което се твърдеше, че е било ударено от Иран. Той последователно твърди, че местоположението е в Бейрут, Газа или Техеран, като нито едно от тези твърдения не беше точно. В няколко случая чатботът погрешно идентифицира събития или потвърди измислени твърдения като факти.

Според DFRLab този провал подчертава една проблемна тенденция: с намаляването на човешкия контрол и проверката на фактите от платформите, потребителите все повече разчитат на AI инструменти като Grok или Perplexity, само за да получат дезинформация, представяна като авторитетни отговори.

Grok е показал подобни уязвимости и в миналото: по-рано той разпространи опроверганата крайна дясна конспиративна теория за „геноцид на белите“ в Южна Африка, което е ярък пример за това как AI системите, без подходящ надзор, могат безкритично да повтарят и разпространяват вредни наративи.

https://t.me/InfoLabyrinth/78

[Atom]

Преди 1 минута, gmladenov said:

Въпросът е дали "индивидуални балони" са наистина индивидуални или пък се вписват в определени
групови наративи.

Точно защото сме социални същества нашите вярвания не са чисто индивидуални, а са споделени с
други хора. Така че според мен персонализираните ИИ асистенти едва ли ще създават "индивидуални
информационни балони", а по-скоро ще ни приобшават към балоните на групите, с които ние се
отъждествяваме.

Индивидуални дотолкова, доколкото ще бъдат персонализирани и уникални, а не че аз или ти сме ги измислили от нулата. В примера който дадох за симулацията на claude.ai се представих за краен русофил, умерен социалист, климатичен скептик, антизападен човек. Към тези "профилни особености" вероятно самия персонализиран ИИ ще добави и много други.  Не е задължително тази комбинация да се повтаря по същия начин при друг русофил или при друг климатичен скептик.  Т.е. всеки балон ще е уникален и специфичен.

Освен това ИИ ще отчита интелекта на потребителите, дълбочината на знанията им в определени области.   Ако отчете например, че даден потребител няма познания по математика, няма да гозалива със сложни математически обяснения. Следователно някои балони ще са по-сложни, по-подробни, по-аналитични, други по елементарни и повърхностни. 

За групови балони не знам как ще се получат в ИИ, освен ако не въведат "свързване с подходящи хора" в самите платформи.  

[Skubi]

Преди 4 минути, gmladenov said:

Въпросът е дали "индивидуални балони" са наистина индивидуални или пък се вписват в определени
групови наративи.

Точно защото сме социални същества нашите вярвания не са чисто индивидуални, а са споделени с
други хора. Така че според мен персонализираните ИИ асистенти едва ли ще създават "индивидуални
информационни балони", а по-скоро ще ни приобщават към балоните на групите, с които ние се
отъждествяваме.

Предлагам експеримент за да видите, че това и сега бачка. По гуглето на телефона на жената търсих точното име на едно лекарство за простата. 

Почнаха да и се отварят реклами за проснанинис, лекуване, бани, даже и за сините хапчета, после разни за подобряване на сексуалният живот...Тя изтрива всичко или забранява сайтовете...И и от някъде откриха мен и почнаха на мен да идват на всички места от гмейл до АБВ,  докато изведнъж се появиха на тубата. От там не можах да се освободя от този вид реклами, само когато заплатих затова, че да не получаван реклами....Така, че и сега вече сме манипулирани....

[kipen2]

Преди 4 минути, Atom said:

Днешните ИИ модели са изградени при следните предварително заложени "аксиоми": 
- Човекът е рационален агент (винаги търси оптималното)
- Той е автономен, т.е. взема решения сам, не е просто част от колектив
- Той е индивидуалист, т.е. има уникални цели, интереси, мнение и идентичност.

Всичко обаче това са догми, а не изводи на науката.

Ами, не бих се съгласил с това!

ИИ се поддържа от невронни мрежи, които работят на аксиоми от математиката. Въпросът е, че количественото натрупване на много операции и специфични функции, връщащи за корекция изчислените отговори на базата от обучението, дават и крайният отговор. Да вече са "пипнали" и са въведени опции за оформянето на отговорът на ИИ, но не може да става въпрос за някакви аксиоми, които да са част от парадигми. Персонализираш самата машина и се получава проектиране на човешки качества у машината, според мен. 

А по отношение на

Преди 8 минути, Atom said:

С други думи ИИ е проектиран е като удобна, практична и user-friendliness кафеварка, но според теб това е чисто човешко?   Според мен може да е човешко, но е отклонение от човешката норма за общуване.

Нормално е да се опитват да го направят "удобна кафеварка", защото бизнес моделът за функционирането на тази технология изисква и приходи от функционирането, за да се осъществява поддръжката й. А за това е нужно да е user-friendlу, за да може да се ползва от потребители, някой от които и да си плащат за това (за платените варианти на ИИ, които позволяват доста по-обширно прилагане на технологията в бизнеса на потребителя на същата)

А това, че боравенето и използването на ИИ е отклонение от човешката норма за общуване, според мен е феномен, издаващ промяна в съвременната култура. Аз, честно, изпитвам страх да давам оценки за качество на съвременната култура (защото се усещам като остарял дърдорко, неспособен да си скрие неприязънта към новостите), ама това си е мой личен проблем на възрастта.

Виж, ако те интересува, със Скенера спорех по отношение на ъпгрейдването на ИИ до ИГИ(Artificial general intelligence) и как това би могло да доведе до качествен скок в управлението на обществото, извън досегашния модел "Господар-роб", но той не ми прие доводите, а остана фокусиран върху повествованието на Харари.

[kipen2]

Преди 1 минута, Skubi said:

Предлагам експеримент за да видите, че това и сега бачка. По гуглето на телефона на жената търсих точното име на едно лекарство за простата. 

Почнаха да и се отварят реклами за проснанинис, лекуване, бани, даже и за сините хапчета, после разни за подобряване на сексуалният живот...Тя изтрива всичко или забранява сайтовете...И и от някъде откриха мен и почнаха на мен да идват на всички места от гмейл до АБВ,  докато изведнъж се появиха на тубата. От там не можах да се освободя от този вид реклами, само когато заплатих затова, че да не получаван реклами....Така, че и сега вече сме манипулирани....

Принципно "балонът" е метафора за системата от убеждения на индивида. А "колективният балон" е доминиращата система от вярвания в обществото.

Но, ако те притеснява, че ти идат реклами за лекарства за простата - това можеш да го промениш. Събери се с дружки и си говорете за млади момичета - щи ти зилезнат доста реклами на сайтове за запознанства ... клин, клин избива ;~)

[Skubi]

Да ама когато питаш нещо конкретно от ИИ никога не дава изворите от които черпи информацията. И това не е коректно, защото не можеш да провериш истината.

[Skubi]

Преди 2 минути, kipen2 said:

Принципно "балонът" е метафора за системата от убеждения на индивида. А "колективният балон" е доминиращата система от вярвания в обществото.

Но, ако те притеснява, че ти идат реклами за лекарства за простата - това можеш да го промениш. Събери се с дружки и си говорете за млади момичета - щи ти зилезнат доста реклами на сайтове за запознанства ... клин, клин избива ;~)

Не познаваш жена ми.....

[kipen2]

Преди 2 минути, Skubi said:

Да ама когато питаш нещо конкретно от ИИ никога не дава изворите от които черпи информацията. И това не е коректно, защото не можеш да провериш истината.

Не съм сигурен, че си прав! При поискване чатботът или което ползваш винаги може да ти изброи данните, от които е черпил инфо за отговорът. Ето там се засича, кога си измисля източници, което е част от проблемът "фантазиране на ИИ"

 

... а инчае, щото предполагам каква би била реакцията на жена ти, ти предложих предното :)))))

Редактирано Петък в 13:39 от kipen2

[Atom]

Преди 10 минути, kipen2 said:

ИИ се поддържа от невронни мрежи, които работят на аксиоми от математиката. Въпросът е, че количественото натрупване на много операции и специфични функции, връщащи за корекция изчислените отговори на базата от обучението, дават и крайният отговор. Да вече са "пипнали" и са въведени опции за оформянето на отговорът на ИИ, но не може да става въпрос за някакви аксиоми, които да са част от парадигми. Персонализираш самата машина и се получава проектиране на човешки качества у машината, според мен. 

Не я персонализирам. Напротив казвам, че е програмирана да дава удобни, юзер френдли, контекстуални и удовлетворяващи потребителя отговори. затова и казвам, че е кафеварка или чайник.  

 

Преди 10 минути, kipen2 said:

Нормално е да се опитват да го направят "удобна кафеварка", защото бизнес моделът за функционирането на тази технология изисква и приходи от функционирането, за да се осъществява поддръжката й. А за това е нужно да е user-friendlу, за да може да се ползва от потребители, някой от които и да си плащат за това (за платените варианти на ИИ, които позволяват доста по-обширно прилагане на технологията в бизнеса на потребителя на същата)

Не бих платил за ИИ, който се съгласява през цялото време с мен и гледа "да ми е удобно и да не ме разстрои".  При среща с професионалист, независимо дали е лекар, адвокат, счетоводител и т.н. очакваш да свърши работа, а не да се съгласи веднага с теб, че "нищо ти няма", защото искаш да чуеш точно това или "няма проблем".

Редактирано Петък в 13:41 от Atom

[kipen2]

Преди 5 минути, Atom said:

Не я персонализирам. Напротив казвам, че е програмирана да дава удобни, узер френдли, контекстуални и удовлетворяващи потребителя отговори. затова и казвам, че е кафеварка или чайник.  

ОК! Аз вече споменах защо е "програмирана" да е И такава.

 

Преди 5 минути, Atom said:

Не бих платил за ИИ, който се съгласява през цялото време с мен и гледа "да ми е удобно и да не ме разстрои".  При среща с професионалист, независимо дали е лекар, адвокат, счетоводител и т.н. очакваш да свърши работа, а не да се съгласи веднага с теб, че "нищо ти няма", защото искаш да чуеш точно това или "няма проблем".

Други плащат, защото вече нямат секретарка в офиса, а дейностите, които извършва човек на тази длъжност са поети от вече обучен персонализиран ИИ. Просто всеки му намира приложението на ИИ според потребностите си...

Да не споменавам пък, че достъпът по телефон до служител в по-големи компании вече задължително минава през ИИ.

Редактирано Петък в 13:45 от kipen2

[kipen2]

Преди 27 минути, Р. Теодосиев said:

Неотдавнашен анализ на DFRLab разкри, че чатботът Grok на Илон Мъск е изиграл проблемна роля в разпространяването на дезинформация по време на първите дни на конфликта между Израел и Иран. 

Проектиран да помага на потребителите да проверяват факти, Grok вместо това даваше противоречиви и неточни отговори, особено когато e питан за съдържание, генерирано от изкуствен интелект, и широко разпространени фалшиви изображения.

В един от примерите Grok дава противоречиви отговори в рамките на минута относно летище, за което се твърдеше, че е било ударено от Иран. Той последователно твърди, че местоположението е в Бейрут, Газа или Техеран, като нито едно от тези твърдения не беше точно. В няколко случая чатботът погрешно идентифицира събития или потвърди измислени твърдения като факти.

Според DFRLab този провал подчертава една проблемна тенденция: с намаляването на човешкия контрол и проверката на фактите от платформите, потребителите все повече разчитат на AI инструменти като Grok или Perplexity, само за да получат дезинформация, представяна като авторитетни отговори.

Grok е показал подобни уязвимости и в миналото: по-рано той разпространи опроверганата крайна дясна конспиративна теория за „геноцид на белите“ в Южна Африка, което е ярък пример за това как AI системите, без подходящ надзор, могат безкритично да повтарят и разпространяват вредни наративи.

https://t.me/InfoLabyrinth/78

По този казус вече си изказах мнението, но с риск да стане досадно включването ми, пок ще се повторя - не е пролемът в ИИ, ами в обучаващите го.

 

Редактирано Петък в 13:55 от kipen2

[Atom]

Преди 2 минути, kipen2 said:

Други плащат, защото вече нямат секретарка в офиса, а дейностите, които извършва човек на тази длъжност са поети от вече обучен персонализиран ИИ. Просто всеки му намира приложението на ИИ според потребностите си...

Плащат разбира се. В тази тема обаче не става въпрос за ползите от ИИ - тях никой не ги отрича, а за рисковете и евентуалните вреди. Лично за мен един от най-големите недостатъци на сегашните модели е, че не могат да казват "не знам", а вместо това ти пускат някакви халюцинации. Пак да дам примера с лекаря. Когато не уцелиш специалиста, си доволен когато ни каже, че това не е за него,  а за друг специалист. Не  очакваш например уролог да се прави на кардиолог или обратно.  В момента ИИ не познава израза "не знам" или "това не е за мен". 

[kipen2]

 

Преди 10 минути, Atom said:

В тази тема обаче не става въпрос за ползите от ИИ - тях никой не ги отрича, а за рисковете и евентуалните вреди. Лично за мен един от най-големите недостатъци на сегашните модели е, че не могат да казват "не знам", а вместо това ти пускат някакви халюцинации.

Както споменах и по-горе - не е проблемът в ИИ, ами в обучаващите го.

Т.е. не е въпросът на темата в рисковете и евентуалните вреди, а в това, че не могат да го обучат в обективност, докато има по-важни фактори в изгледа на крайния продукт... дивелопърите не могат да се справят.

Не знам дали не си пропуснал една стара новина, но ще я спомена - ИИ, използван експериментално във федерален съд в САЩ е бил засечен да дава расистки насочена присъда. При проверка се оказало, че е бил обучен и в извадка от расистки форуми.(ако държиш ще се опитам да намеря новината, която иначе бях шернал някъде във форума, но не помня къде и кога). Но идеята ми е, че от базата данни за обучение и работата на екипа по обучението зависи това, което определяш като "програмиране на кафеварката".

Редактирано Петък в 14:04 от kipen2

[kipen2]

Преди 17 минути, Atom said:

Лично за мен един от най-големите недостатъци на сегашните модели е, че не могат да казват "не знам", а вместо това ти пускат някакви халюцинации.

Бай дъ уей, този недостатък се дължи на това, че ИИ все още е ИИ. Защото, ако имаше програмистката "свобода" да си пренаписва кода, то ИИ щеше да се превърне в ИГИ. А, както и сам си отбелязвал в друга тема, в чата ти с ИИ, ти е споменал изрично, че може да пише кодове, но не и да "пипа" своите!

...а от ИГИ е страхът, които се насажда в обществото, обаче като се визира ИИ.... което пък още повече засилва интереса и използването на ИИ от потребителите ... хитър маркетингов трик.

Т.е. хем елитите на запад са се защитили от риска от възникването на нов играч на глобалната сцена, които да консолидира човешките маси от негативно настроени към живота хора, хем и на част от елитите им върви бизнеса.

Редактирано Петък в 14:14 от kipen2

[Atom]

Преди 24 минути, kipen2 said:

 

Както споменах и по-горе - не е проблемът в ИИ, ами в обучаващите го.

 

Чакай сега. нали точно това казах и аз. Хайде да се самоцитирам: "Плоскоземците също са хора. Доколко би се доверил, на ИИ инструмент създаден от плоскоземци, които са заложили собствените си виждания в него?  Днешните ИИ разработчици, културата на корпорациите които ги разработват и вижданията на техно-магнатите са точно такива "плоскоземни". Или хайде не точно плоскоземни, а плоскомозъчни."

Освен това писах по-напред, че за мен най големия риск ще дойде от персонализираните  лични ИИ асистенти. Това пак са задава от разработчиците, от корпорациите и от техно-магнатите, а не от самия ИИ. Един ИИ няма да тръгне сам да се настройва по мен, моите знания, мисли, предубеждения и т.н. ако някой не го програмира да прави това. 

Ти през цялото време ме оборваш как всичко било ОК, колко правилни били постъпките на разработчиците, но когато стигнем до някъде където не ти отърва  изведнъж разделяш нещата. Самият ИИ към този момент все още няма и не може да има нито "вина", нито да е "риск". Рискът и вината идват от тези които го разработват и внедряват без много да мислят и изобщо без да отчитат евентуалните минуси. 

Редактирано Петък в 14:25 от Atom

[kipen2]

Преди 2 минути, Atom said:

Чакай сега. нали точно това казах и аз. Хайде да се самоцитирам: "Плоскоземците също са хора. Доколко би се доверил, на ИИ инструмент създаден от плоскоземци, които са заложили собствените си виждания в него?  Днешните ИИ разработчици, културата на корпорациите които ги разработват и вижданията на техно-магнатите са точно такива "плоскоземни". Или хайде не точно плоскоземни, а плоскомозъчни."

Да, спомена това, но в контекста, че работи аксиоматично по тяхната повеля. А това не е така. Виж новината на Теодосиев - на Мъск ИИ-то е като него. Докато за Гемини съм на друго мнение. В смисъл, че не може да се генерализира така.

ИИ, като инструмент зависи за какво го ползваш. Пробвал ли си за медицина да питаш, за физика, за сфери от познанието, които не съдържат сложни плетеници, основани на боравене с морални категории?

Защото от това, което си споделял като питания и отговори с чатботове се вижда, че си го питал за системи от убеждения, за възниквания на идеологии, за политически системи.

Все сфери на познанието, касаещи политики и политически идеи или бидещи основа за възникването им. Е няма как, при положение, че в тези сфери се набърква и моралният релативизъм, да очакваш да няма тенденциозност в отговорите. Когато машината е създадена и работи на принципа на интерполациите (напанагон и да "запълва дупките" със средно претеглени като "тежест" стойности, които след като ги облече и в езикова форма, за нас се явяват "фантазиране"), да не се получава проблем при генерирания отговор.

В смисъл, че въпросът с доверието в отговорът на ИИ е свързан с това за какво го питам. Както и да са го обучили програмистите, има неща, за които може да се ползва, апропо рискът от проявата на "фантазиране" е нисък, и неща, за отговорите на които рискът че ще запълни с измислени факти или твърдения е висок.

Преди 22 минути, Atom said:

Освен това писах по-напред, че за мен най големия риск ще дойде от персонализираните  лични ИИ асистенти. Това пак са задава от разработчиците, от корпорациите и от техно-магнатите, а не от самия ИИ. Един ИИ няма да тръгне сам да се настройва по мен, моите знания, мисли, предубеждения и т.н. ако някой не го програмира да прави това. 

Ами точно при персонализираните ИИ, разработчикът, апропо - корпорациите, няма такова значение. Т.е. рискът е неоправдан, защото ти обучаваш езиковият модел.

За пример - наскоро се интересувах как да си обуча пероснален ИИасистент и Гемини ми даде подробна информация. Но си е доста работа да обърнеш интересуващото те инфо в подходящ за прочитане от ИИасистента код. В смисъл, че ПДФ-ката (например учебно помагало) трябва да я шернеш в чата, за да може да я обърне в разбираем за него формат....и така за всички документи, чрез които да му създадеш твоя си база, от която да се обучи и съответно сгълсува с твоите потребности за работа с него и това което да отговори на очакванията ти.

За това написах

Преди 2 часа, kipen2 said:

Дори от тази перспектива, въвеждането на персонализирани ИИ-асистенти, може да спомогне за индивидуацията в процеса на личностното развитие на индивидите.... стига да се научат децата как да борявят с тази технология.

 

[Atom]

Преди 6 часа, kipen2 said:

Ами точно при персонализираните ИИ, разработчикът, апропо - корпорациите, няма такова значение. Т.е. рискът е неоправдан, защото ти обучаваш езиковият модел.

Не персонализиран ИИ, а персонализиран ИИ асистент, който прави всичко вместо теб. Ето например това тук: