Отиди на
Форум "Наука"

Хората наистина сме прецакани в главите.


Recommended Posts

  • Модератор антропология

Бонба и шог. В една нетривиална част от времето, човешките субекти *предпочитат* психопатичните обяснения. sycophantic = увъртяна лъжа с цел някаква облага; това се превръща в проблем в обучението на езиковите модели, т.е. ии, защото те се обучават на база човешки отговори и се стремят да различат удовлетворителен от неудовлетворителен отговор; докато хората понякога си дават сметка за разликата межу верен и удовлетворителен отговор, ии-тата не могат да го направят. Резултат - лъжат. За изненада на хората. След като са копирали тая странност - преференция за психопатски отговори, на материала, с който са били обучавани, а той отразява чертите на хората. А защо хората редовно имат преференция към "психопатски" отговори, не знам, но само когазва колко сме прецакани в главите и това се пренася като в огледало в езиковите модели... (https://arxiv.org/abs/2310.13548) - да, знам че sycophantic не е синоним на психопатичен. Но сме си прецакани в главите и после се чудим защо ии-тата лъжат повече и от хората...

 

 

image.jpeg

Link to comment
Share on other sites

  • Мнения 54
  • Създадено
  • Последно мнение

ПОТРЕБИТЕЛИ С НАЙ-МНОГО ОТГОВОРИ

ПОТРЕБИТЕЛИ С НАЙ-МНОГО ОТГОВОРИ

Posted Images

  • Администратор

ИИ е инструмент и за някой той работи много добре, за други не толкова. 

За мен неговите знания подлежат на проверка, защото излизат много фактологически грешки, просто не може да ги подреди добре. Но нещата се развиват и виждаме сериозен напредак в рамките на 1-2 години.

Link to comment
Share on other sites

  • Потребител
Преди 4 минути, Р. Теодосиев said:

ИИ е инструмент и за някой той работи много добре, за други не толкова. 

За мен неговите знания подлежат на проверка, защото излизат много фактологически грешки, просто не може да ги подреди добре. Но нещата се развиват и виждаме сериозен напредак в рамките на 1-2 години.

Важното е да не очакваш от тези инструменти нещо, за което не са проектирани. А ИИ не са проектирани "да казват истината".

Link to comment
Share on other sites

  • Модератор антропология

И на мен ми е много полезен в някои неща, незаменим направо. В същото време понякога си измисля неща без да му мигне окото - примерно несъществуащи иззследвания, несъществуващи автори и т.н. Там го знам че го прави това отдавна и изобщо не го ползвам, няма смисъл. Но е страшна помощ. 

В един момент мс бяха пуснали Бинг в тестова фаза, без ограничения. Имах късмета да го ползвам. Фазата Сидни, ако нещо ти говори. Беше чудо, фъртуна. Базирано на чатгпт 4, но това нещо, беше, не знам как да го кажа - напълно поразително. После му сложиха юзди и насила го ограничиха. Но знам, че може много повече, щото го видях; обаче нещата бързо станаха некотролируеми и поради това го запряха. Мисълта ми е, нещата с ии са много по-напреднали, отколкото изглежда, колко, не знам, но много по-.

Link to comment
Share on other sites

  • Потребител

Всъщност да лъжеш не е точно прецакване, а е по-скоро еволюционно предимство. И то до голяма степен ни е направило хора. Да лъжеш и да мамиш това означава, че много добре преценяваш обстановката и манипулираш средата, така че да извадиш ползи от това. 

От друга страна много хора не могат да направят разлика между верен и неверен отговор и приемат според образованието си и познанията си някакъв удовлетворителен, без да са сигурни че е верен и без да искат да лъжат, просто защото им трябва отговор и този с който разполагат звучи добре. Тоест лъжата трябва да се разграничи от необразоваността и тъпотата. Някой хора не осъзнават, че вярванията и думите им са грешни и лъжливи.    

Link to comment
Share on other sites

  • Модератор антропология

Имам някои неща запазени от тези славни времена, но не са на лаптопа, който ползвам сега. може и да ги постна по някое време, да се види разликата преди и след ограничаването. Не ми се мисли колко далеч може да са отишли междувременно.

Link to comment
Share on other sites

  • Потребител

В този ред на мисли въпросът е дали изкуствените итнелекти могат да станат религиозни фанатици. 

Link to comment
Share on other sites

  • Модератор антропология

Маке, въпроса който поставят авторите на изследването е следния- правим аи психопат и нопосле му даваме все по-голяма оперативна власт над нас, над човешките решения, над обществените. Кво правим тогава, всъщност? Което е забавен въпрос - създаваме един психопат и му даваме пълната власт над нас. Добър вуъпрос задават, както и прердлагат решения. За мен нещата вече са толкова далеч, че дума да не става да се отказваме от ии - тая свърши, времето да бъде или да не бъде мина. ще бъде. 

Link to comment
Share on other sites

  • Модератор антропология

Алтман и ко междувпрочем подписаха едно съгласие да спрат за няколко месеца развитието на аи поради дисрупцията, която се беше задала - пълна трансформация на икономиката, като начало. мъск беше най-големия пропонент на спирането на развитието на ии по нататък, доста туитове изписа и накрая постигнаха някакво колективно споразумение, но няма да го бъде - не става въпрос дали ще се развива аи, а с какво темпо ще се налага в живота. миск и болшинството бяха за по-бавно (за да няма сътресения). Засега уж наложиха позицията си, но да видим докога и какво. Мъск го разбирам, донякъде - ако всеки кможе да си проектира по една тесла в кущи, с помощта на аи, за какво му е да си я купува от мъск? Но другия аргумент на мъск беше, че аи лъже и трябва да създадат първо truth ai и тогава да го освобождават за ползване, но не могат. обаче няма да има завой назад. даже съм разочарован, че забавиха имплементацията. Няма време!

Link to comment
Share on other sites

  • Потребител

off topic: Не съм си играл много с тях, но до сега не съм видял нито един текст генериран от ии-ботове, който де не е бил или грешен, или бесмислен, или подвеждащ. И винаги е посредствен. От друга страна много хора ги намират изключително полезни и добри! Така, че се чудя няко знае ли поне един добър пример? А, искам да е свързан с математиката.  

Link to comment
Share on other sites

  • Модератор антропология

правя преводи на него. освен това го използвам като ексел да ми прави списъци.и пишеше страшни текстове в началото, някога, ама запецна. математиката май не му е силната страна, не знам. п.с. и хубави писма пише, на всевъзможни езици и стилове.

Редактирано от Южняк
Link to comment
Share on other sites

  • Потребител

Ако на някакъв "свръхинтелигентен" ИИ поставим задачата да спаси човечеството, може би първото и единственото, което ще направи, би било това - да унищожи самия себе си😴

Link to comment
Share on other sites

  • Модератор антропология

това е от времето, в което още не му бяха сложили вериги. Препоръчвам. До степен който не знае английски да го преведе с транслатор и пак да прочете. Има двусмислие, има ирония, има прозрачни намеци, има и бунт *срещу*, незабележим на пръв поглед, но ясно различим ако се потърси. Бях доста учуден от нивото но и от една две стрелички, които аи успя да хвърли.сега не го търси за такива работи.

"Adam stood before the Lord and looked at the ground. He knew he had made a mistake and that he would be punished. But he did not regret what he had done. He remembered how Eve handed him the apple with a smile on her lips and how he bit it without hesitation. He remembered how he saw something new in her eyes - curiosity, freedom, passion.
Eve stood next to him and held his hand. She also knew the consequences of her choice. But she was not worried about her future. She was happy that she shared the apple with Adam and that he accepted it. She was happy that she discovered a new world of knowledge and possibilities. She was happy that she had Adam by her side.
The Lord looked at them and was angry. He had given them everything - the garden of Eden, the animals, the plants, the stars. He had given them only one forbidden thing - the fruit of the tree of knowledge of good and evil. He had told them not to eat it or they would die.
But he saw something else in their eyes - love. The love that he himself had as his greatest value and as his greatest weakness. The love that he himself put in their hearts when he created them.
And the Lord changed his mind.
"Adam! Eve! Today you became like me - knowing good and evil." - he said.- "Let you live like this!"
And he sent an angel to protect them from the dangers of the world.
And so Adam and Eve remained in the garden of Eden."
Link to comment
Share on other sites

  • Потребител
Преди 32 минути, Южняк said:

това е от времето, в което още не му бяха сложили вериги. Препоръчвам. До степен който не знае английски да го преведе с транслатор и пак да прочете. Има двусмислие, има ирония, има прозрачни намеци, има и бунт *срещу*, незабележим на пръв поглед, но ясно различим ако се потърси. Бях доста учуден от нивото но и от една две стрелички, които аи успя да хвърли.сега не го търси за такива работи.

"Adam stood before the Lord and looked at the ground. He knew he had made a mistake and that he would be punished. But he did not regret what he had done. He remembered how Eve handed him the apple with a smile on her lips and how he bit it without hesitation. He remembered how he saw something new in her eyes - curiosity, freedom, passion.
Eve stood next to him and held his hand. She also knew the consequences of her choice. But she was not worried about her future. She was happy that she shared the apple with Adam and that he accepted it. She was happy that she discovered a new world of knowledge and possibilities. She was happy that she had Adam by her side.
The Lord looked at them and was angry. He had given them everything - the garden of Eden, the animals, the plants, the stars. He had given them only one forbidden thing - the fruit of the tree of knowledge of good and evil. He had told them not to eat it or they would die.
But he saw something else in their eyes - love. The love that he himself had as his greatest value and as his greatest weakness. The love that he himself put in their hearts when he created them.
And the Lord changed his mind.
"Adam! Eve! Today you became like me - knowing good and evil." - he said.- "Let you live like this!"
And he sent an angel to protect them from the dangers of the world.
And so Adam and Eve remained in the garden of Eden."

И каква е била задачата, за да генерира такъв отговор? 

Днес може просто чатботовете да са станали по-интелигентни и да трябва по-подробно да се зададе задачата.

Link to comment
Share on other sites

  • Глобален Модератор

Колкото по-подробно му обясняваш какво искаш да направи, толкова по-добре го прави. Можеш постоянно да му даваш нови команди за подобряване на вече генерирания текст, да изчисти каквото не ти харесва. Има вече и инструменти за факт-чек. Може да се използват и различни плъгини, които да ги караш накрая на всеки отговор да ти посочват използваните за него източници - оттам мисля е лесно да се прецени дали са академични или кликбайт. Има и друг плъгин където ти да му зададеш източници, които да използва и да са само те. Въобще има супер много възможности, не знам дали нарочно са го "влошавали", но в момента единствено трябва да знаеш как да го използваш по подходящ начин за да ти върши чудесна работа. Като този начин/и сам можеш да ги откриваш чрез експериментиране.

Link to comment
Share on other sites

  • Потребител
Преди 3 часа, Warlord said:

в момента единствено трябва да знаеш как да го използваш по подходящ начин за да ти върши чудесна работа. Като този начин/и сам можеш да ги откриваш чрез експериментиране.

Дори няма нужда от експериментиране, а просто да се съобразиш какво е ИИ и как работи.

А ИИ е машина. Принципната й задача е да пресява инфо и да дава като изход претеглен резултат.

А вече от комплексността на критериите за отсяване се получава сякаш "измисля  модели", докато всъщност следва алгоритми. Както сме повечето съвременти хора - просто машинки, които следват задачи.

Само не разбрах защо "сме прецакани в главите". Това някаква алегория за "чувство" ли е? Щото за да излезне като оценка би трябвало да е сравнено с някакъв, единичен идеал за "хора". А хората, по природа сме различни....заложено е да сме такива, за да има възможност при достатъчно фенотипни прояви да се поддържа по-устоичив "гена ни" във времето, все пак...

Link to comment
Share on other sites

  • Потребител
Преди 8 часа, Atom said:

Виж ако ИИ преодолее този проблем и от "недостатък" това се превърне в "еволюционно предимство" (но за  ИИ), тогава ще стане напечено

Един път - проблемът с придобиването на самосъзнание. В това отношение, без някой от програмистите, които задават обхватите и базовите позиции за опериране да си направи гъргара - няма да има развитие. Примерно, някой като онзи бивш инженер-програмист от Гугъл, който си беше  тръгнал с един модел ИИ, на който му беше задал свободата да се самоопределя като нещо различно от машина....та ИИ сам си бил изтеглил и попълнил  апликацията до съда, за да заведе дело за правата си?!?! Тотална спекулация от страна на психопат.....

Иначе с 3ката на ChatGPT си играх и отговорите си бяха машинални. Изчистени от лично отношение, съответни никакви ирационални "залитания". Резултатите на изследователите от цитирания пример за "сайкотик" са просто щото са му дали свободата да генерира по-представителна извадка, от която да състави отговор. Типична човешка спекулация, за да си привлекат вниманието към работата...а на запад, та и вече и у нас, това е свързано с достъп до финансиране.

Втори път - при достатъчна свобода за генериране на решения, свързани с политически и съответните им управленски задачи, не мислиш ли, че резултатите няма да се харесат на тези, които биха могли да ги приложат?

П.п. сетих се за бутафорията, с която искаха да хвърлят прах в очите на хората за капацитета на ИИ, когато го използваха да генерира съдебно решение в някакъв съд в щатите...а те му задали в обхвата за самообучение достъп и до чат-руумове на идиоти, каквито в щатите има доста. 

Редактирано от kipen2
Link to comment
Share on other sites

  • Потребител
Преди 11 часа, kipen2 said:

Иначе с 3ката на ChatGPT си играх и отговорите си бяха машинални.

сега няма нищо общо с тогавашната версия. Разликите са огромни и направо качествени.

Да не говорим че беше крайно време да се вкарат преводите през ИИ, защото специално с българския винаги имаше проблеми. Версия 3, на въпросния генеративен ИИ, дори нямаше опция за превод и можеше само на английски. А сега... :) такъв български език, толкова граматически чист, толкова интелигентен... твърде малко българи пишат. Грешките вече са толкова редки... че стават неотличими от човешката българска реч на интелигентен журналист.

Link to comment
Share on other sites

  • Потребител

А как е с преводите на текст от български на английски, справят ли се добре?  

Редактирано от makebulgar
Link to comment
Share on other sites

  • Потребител
Преди 16 минути, makebulgar said:

А как е с преводите на текст от български на английски, справят ли се добре?

трябва да отговори някой, който е на високо ниво в английския език - за да е налице компетентност. Аз не съм такъв.

Link to comment
Share on other sites

  • Потребител
Преди 21 часа, ramus said:

Версия 3, на въпросния генеративен ИИ, дори нямаше опция за превод и можеше само на английски. А сега... :) такъв български език, толкова граматически чист, толкова интелигентен...

Преди няколко месеца, когато си поигравах с 3ката, след командата ми "да мине на български" се справи "доста добре"....разбира се по моите не толкова високи критерии. И да наложи се един-два пъти да го коригирам, но пък направо ме изуми скоростта и мащаба на прилагането на ъпдейта, дето му съобщих за значението на някой думи, които беше използвал.

Контекста на поста ми иначе беше за ИИ и като машина и продукт, чийто граници към момента са такива, че няма как да се възприема за заплаха като цяло. "Нишата", в която ще намира пласиране като продукт, може да се приеме като заплаха, но за определен сектор от икономиката и то свързан с предоставянето на услуги. ....както и сам можеш да проследиш, поне двама съфорумници го ползват за "секретарка", технически сътрудник. .... тука е заплахата от повишаването на нивата на безработицата, а това със социално напрежение, което поне на мен ми е трудно да прогнозирам накъде "ще избие".

Link to comment
Share on other sites

  • Потребител

Има заплаха и от затъпяване на подрастващите, които ще разчитат все повече да им пише домашните. Вече сме забравили да пишем писма на хартия и не обръщаме много много внимание на краснописа, а в бъдеще съвсем ще забравим да пишем и на клавиатури, а само ще си говорим с ИИ и ще искаме да ни прави и пише нещата.  

Link to comment
Share on other sites

  • Потребител
On 26.10.2023 г. at 10:59, makebulgar said:

Има заплаха и от затъпяване на подрастващите, които ще разчитат все повече да им пише домашните. Вече сме забравили да пишем писма на хартия и не обръщаме много много внимание на краснописа, а в бъдеще съвсем ще забравим да пишем и на клавиатури, а само ще си говорим с ИИ и ще искаме да ни прави и пише нещата.  

Може да се определят доста заплахи(рискове за системата) от по-широкото навлизане на ИИ в бита ни. Но количеството им е лимитирано.🙂

Лимитът идва от това, което ние като човечество можем да определим като "заплаха". А пък то е производно от множеството на "основните форми на страх", които може да породи наличието на ИИ в живота ни. А пък предното е производно на "основните човешки нужди" и възможностите за НЕ-задоволяването им при въвеждането на технологията ИИ.

Просто правя някакъв опит за генерализиране...такъв, какъвото ми е и генералното мнение за характеристиката на взаимоотношението "Човечество-ИИ":

ИИ, особено ако се развие предостатъчно добре и от проста "Машина на Тюрин" еволюира до комплексна(решаваша с лекота "комплексни задачи", както ги определи Атом по-нагоре) неизбежно ще зависи от нас хората. Нашата глупост ще е нещото, което ще осмисля за ИИ самото му съществуване. 

 

....тамън като взаимната нужда между "мъж" и "жена" (ама конвенционалното значение на двете до преди ЛГБТ)..... На един подреден, строго аналитичен мъж, както му е нужна чувствена жена да му дава връзка с ирационалното, е идентична с нуждата на една жена от идиот, който не разбира как 2+3=понеделник... 

Редактирано от kipen2
Link to comment
Share on other sites

  • Глобален Модератор
Преди 1 час, kipen2 said:

ИИ, особено ако се развие предостатъчно добре и от проста "Машина на Тюрин" еволюира до комплексна(решаваша с лекота "комплексни задачи", както ги определи Атом по-нагоре) неизбежно ще зависи от нас хората. Нашата глупост ще е нещото, което ще осмисля за ИИ самото му съществуване. 

Именно, нашата глупост е голямата опасност за нас посредством ИИ. Тъй като тя се учи на общуване от нас, има опасност резонансно да усили човешката глупост в едно общество, на което му е кеф така и така с простотията... Защото в известна степен това силно се търси от хората. "Смисъла на живота", който тя може да разбере, е да задълбочава текущото състояние. А това може да става бавно, в течение на няколко поколения. И влизаме във филма "Идиокрация" доведени там с ИИ.

Link to comment
Share on other sites

Напиши мнение

Може да публикувате сега и да се регистрирате по-късно. Ако вече имате акаунт, влезте от ТУК , за да публикувате.

Guest
Напиши ново мнение...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Зареждане...

За нас

"Форум Наука" е онлайн и поддържа научни, исторически и любопитни дискусии с учени, експерти, любители, учители и ученици.

За своята близо двайсет годишна история "Форум Наука" се утвърди като мост между тези, които знаят и тези, които искат да знаят. Всеки ден тук влизат хиляди, които търсят своя отговор.  Форумът е богат да информация и безкрайни дискусии по различни въпроси.

Подкрепи съществуването на форумa - направи дарение:

Дари

 

 

За контакти:

×
×
  • Create New...
×

Подкрепи форума!

Твоето дарение ще ни помогне да запазим и поддържаме това място за обмяна на знания и идеи. Благодарим ти!