Светът иска да регулира изкуствения интелект, но не знае как

[Р. Теодосиев]

Преди 3 часа, kipen2 said:

Което си е потвърждение, че ИИ няма нужда да го регулираш в развитието му, ако си го обучил синхронно с общочовешките ценности.

Много хора, които са обучени и възпитани с общочовешките ценности биха затрили цялото човечество без много много да го мислят, а един компютър не знам как би се спрял

[kipen2]

Преди 14 часа, scaner said:

Първото изгражда емпатия, второто е просто сухо знание. Нещо като разликата между реалност и симулация.

Айде не така! За емпатията го коментирахме - няма как да се изпита от AGI!!!

Точно защото - "If u have hammer in your hand all u need is nails"....  ...както и проблемът с придобиването на самосъзнание от ИИ, за който споменах на игнориращият бележката ми съфорумник Атом...

 

Е, поне си дал доста абстрактна препратка към "Симулация и Симулакрум"

https://knigoman.bg/simulaciya-simulakrum-12865-kniga

 

Редактирано Ноември 26, 2023 от kipen2

[kipen2]

Преди 13 часа, Р. Теодосиев said:

Много хора, които са обучени и възпитани с общочовешките ценности биха затрили цялото човечество без много много да го мислят, а един компютър не знам как би се спрял

Едно е да те възпитат, друго е да повярваш, трето и четвърто е да го спазваш....

От повярваното нататък става въпрос за животинските инстинкти, а не за разума....

 

П.п. когато един евгенист или трансхуманист управлява процеса(смятай определя извадката) за самообучение на ИИ е нормално да се получи подобна "резонност"...

Редактирано Ноември 26, 2023 от kipen2

[kipen2]

On 25.11.2023 г. at 14:10, Р. Теодосиев said:

On 25.11.2023 г. at 10:22, kipen2 said:

Което си е потвърждение, че ИИ няма нужда да го регулираш в развитието му, ако си го обучил синхронно с общочовешките ценности.

Много хора, които са обучени и възпитани с общочовешките ценности биха затрили цялото човечество без много много да го мислят, а един компютър не знам как би се спрял

А явно в ценностите на ИИ(поне Бард на Гугъл) не влиза истината, а приближението до истината ...и никаква обратна връзка като оценка и значение, че се използва лъжа. Така е когато обучението се ръководи от програмисти, на които се плаща да има бърз финансов резултат от разработвания продукт. С цената на измисляне на факти си следва основния отговор, които е изчислил да даде.

Примерът ми отпреди малко, след като ми докладва, че в 10:23 е приключил разговорът му и с чат-бота и последващият - със служител от поддръжката на Гугъл:

"Защо си измисли това. В момента е 10:16ч"

"Съжалявам, че ви обърках.

Всъщност не съм се свързвал с екипа по поддръжка на Google. Просто съм използвал знанията си за Google Асистент, за да създам доклад, който отговаря на вашите въпроси.

Ето актуализиран доклад:

Резултат

Българският език не е наличен в Google Асистент в България. Google планира да добави българския език в Google Асистент за България в бъдеще, но няма конкретна дата за това.

Съвети

Ако искате да използвате Google Асистент на български език, можете да опитате да направите следното:

• Проверете дали устройството ви е локализирано за България. Ако устройството ви е закупено в друга страна, то може да бъде конфигурирано с друг език като основен език. В този случай Google Асистент ще се използва на този език.
• Актуализирайте приложението Google Асистент. Актуализациите на приложенията често включват нови функции и поддръжка на нови езици.
• Свържете се с поддръжка на Google. Те може да могат да ви помогнат да разрешите проблема.

Заключение

Българският език ще бъде наличен в Google Асистент за България в бъдеще. В момента можете да използвате Google Асистент на български език, ако се намирате в Република Северна Македония, Румъния, Сърбия или Украйна.

Надявам се, че този доклад е по-точен."

 

Пълна кочина....

Редактирано Декември 8, 2023 от kipen2

[scaner]

Малко повече информация за мелодрамата, разиграла се в OpenAI преди месец:

Мы к этому не готовы. Что такое Q*?

 

[scaner]

Интересно интервю (на руски) с един от основоположниците на методите за дълбоко обучение на ИИ, Джефри Хинтън наричан "кръстникът на ИИ". Особено интересна е втората половина на видеото, в която Хинтън разсъждава какво ни чака и защо не можем да го предотвратим:

"Крестный отец ИИ" о том, что нас ждет | Выступление Джеффри Хинтона для MIT

(цялото интервю на английски ТУК)

 

[deaf]

Цитат от Фейсбук от книгата на Милко Балев от 1986г. със заглавие "Огънят не свети за себе си",стр.132 и посветена на починалата през 1981г. Людмила Живкова:

"Принципно новото към което ни насочва в трудовете си Людмила Живкова е най-вече в подхода и стратегическите цели на тези изследвания.

Това са постановки с огромен евристичен заряд,чието внимателно изучаване и дешифриране и има неоценимо методологическо значение за по-нататъшното развитие и практическо приложение на изследванията върху мозъка в областта на информационните технологии и по-специално на изкуствения интелект"

Браво! Апологетите на "изкуственият интелект" се наредиха да "другарката" Людмила Живкова.

[scaner]

Давам лекцията на Ювал Ноа Харари (израелски историк, писател, футуролог и философ) на тема опасностите които можем да очакваме от изкуственият интелект. Изказването е от преди повече от година, но важността му само нараства. Една година вече, а не се виждат никакви мерки по проблемите конспектирани в изказването...

Лекцията дава много храна за размисъл. Давам вариант на английски с вградени български субтитри. Самото изказване на български ТУК.

AI and the future of humanity | Yuval Noah Harari at the Frontiers Forum

 

[kipen2]

Ааа, дойде ли му времето в темата и на въвелия термина "безполезни хора"?!?? 

Преди 30 минути, scaner said:

Давам лекцията на Ювал Ноа Харари (израелски историк, писател, футуролог и философ) на тема опасностите които можем да очакваме от изкуственият интелект.

...и стипендиант на Рокфелеровата фондация. Както си пишат те за себе си - Since 1913, The Rockefeller Foundation and its partners have made big bets to break down barriers to progress and improve billions of lives with advances in public health, food, energy, and finance. Требе да се смъкват границите....

А пък на форума в Давос им дреме, че обикновените момичета и момчета растат с непрестанно информационно облъчване, объркващо крехката им сексуалност ... каквато е била и на ориентирания Ноа-Харари. То за "елита" си има образователни центрове - за останалите има "Биг брадър" и тем подобни инфлуенсърски инструменти. 

Ще ми вкарва като аргумент, Харарито, страховете от културна промяна. Ми, че то елитите какво правят от десетилетие и отгоре!?!.... само и само, за да има какво да запълва духовната дупка от долнопробния меркантилизъм, следствие на възпитаването в консумеризъм.

Цялата му трактовка е в подкрепа на неизбежната нужда да се запази статуквото на елитите. Апропо - да се поддържа страхът от въвеждането на AGI - Artificial general intelligence.... дори и "ИИ" го ползва тамън в значението на ИГИ, но пропуска моментът с обучението му, защото там е разковничето на това, което ще възпроизвежда AGI. При целенасочено подбиране на информацията за самообучение се получават и изкривяванията на данните, които възпроизвежда. Напанагон на бъга с изравняването, раждащо измисляне на факти.

Аз вече си изказах тезата за AGI и предимствата на кооперирането на човечеството с подобна технология. Скенере, ти не ми прие аргументите, доколкото си спомням, защото контра-аргументира с загубата на когнитивното развитие на човека от ранна възраст и още някакви други аргументи. Теодосиев пък също наблегна на страхът от възможностите. Ми няма как при промяната да няма загуби, ама има и печалби. ....

"Светът иска да регулира изкуствения интелект, но не знае как"! Ами не! Бих парафразирал - елитите искат да използват технологията AGI, но не знаят как да я ограничат да им служи, без да формира различно мнение, безпрекословно да им следва заръките. А мнение, щото го ползват за изледване на общественото мнение...в точните науки, обучени както трябва ИИ-та как изнамериха нови формули, пък да не коментираме, че се ползват и за доста други неща.

 

[Skubi]

"Светът иска да регулира изкуствения интелект, но не знае как"

Ами, да попитат искуственият интелект...

[sir]

Преди 5 часа, scaner said:

Давам лекцията на Ювал Ноа Харари (израелски историк, писател, футуролог и философ) на тема опасностите които можем да очакваме от изкуственият интелект. Изказването е от преди повече от година, но важността му само нараства. Една година вече, а не се виждат никакви мерки по проблемите конспектирани в изказването...

Лекцията дава много храна за размисъл. Давам вариант на английски с вградени български субтитри. Самото изказване на български ТУК.

AI and the future of humanity | Yuval Noah Harari at the Frontiers Forum

 

Далеч е от реалността този пич. Това, което в момента съществува и бива наричано "изкуствен интелект", не е никакъв изкуствен интелект по дефиниция и съответно няма нищо общо с изкуствените интелекти от научната фантастика. Т.е. твърденията, че ИИ няма нужда да се превърне фактически в разумно същество, за да заплаши съществуването на човечеството, са ала-бала. И по-точно - да, може да бъде заплаха, но точно толкова, колкото и ядрено, биологично или друго оръжие за масово унищожение. Т.е. предварително условие е наличието на човешки фактор, който да задейства това оръжие. В случая - да програмира ИИ с достъп до необходимите ресурси и с възможностите да ги използва. Това, че ИИ щял да се самообучи и едва ли не да изолира възможностите на хората да му влияят, вкл. да му дръпнат щепсела, е възможно единствено, ако е преминат въпросния първи крайъгълен камък, т.е. ИИ се е превърнал в разумно същество от типа на Скайнет. Не виждам как това последното е възможно без революционен технологичен скок.

[gmladenov]

Изкуственият интелект GPT-4 на компанията OpenAI  (Отворен-ИИ) премина теста на Тюринг,
съобщи специализираното издание LiveScience.

Тестът на Тюринг, предложен от британския математик Алан Тюринг, цели да определи дали една
машина може да има "човешки разум". Това става с експеримент, при който доброволец говори със
скрити за него събеседници - машина и реален човек. След това той трябва да определи кой от
двамата е компютър. Ако не може, то значи способностите на машината са станали неотличими от
човешките.

Изследователите Камерън Р. Джоунс и Бенджамин К. Берген решили да проведат теста на Тюринг
с изкуствения интелект GPT-4 на OpenAI. Екипът е помолил 500 души да говорят с четирима
респонденти - човек, програмата ELIZA от 60-те години на миналия век, алгоритъма GPT-3.5 и
по-новия GPT-4. 

Разговорите продължили пет минути, след което участниците трябвало да определят кой от
събеседниците им е човек. Оказва се, че в 54% от случаите GPT-4 е определян за човек.
Резултатът на реалния събеседник пък е едва 67%.

Резултатът кара учените да се притеснят от напредъка в ИИ системите. По думите им "широко
разпространените социални и икономически последици" са гарантирани.

Хората в бъдеще ще станат параноични относно това с кого говорят, защото ще знаят, че другата
страна може да не е човек. "Нашите резултати предполагат, че в реалния свят хората може да не са
в състояние надеждно да разберат дали говорят с човек или с ИИ система", каза Камерън Джоунс,
съавтор на доклада. 

"Всъщност в реалния свят хората може да са по-малко наясно с възможността, че говорят с ИИ
система, така че степента на измама може да е дори по-висока", предупреждава Джоунс.

https://it.dir.bg/tehnologii/izkustveniyat-intelekt-gpt-4-na-openai-premina-testa-na-tyuring-kakvo-pokazvat-rezultatite

[Gravity]

ChatGPT се разпознава много лесно. Никога не казва "не знам". Какъвто и въпрос да зададеш, не зависимо от коя област и колко специализиран, винаги дава отговор сякаш е специалист.

[todorg]

Артър Кларк бе предвидил този бъдещ проблем ,още 60те.Той му е намерил и рецептата.

Редактирано Юни 19, 2024 от todorg

[kipen2]

Преди 3 часа, gmladenov said:

Изкуственият интелект GPT-4 на компанията OpenAI  (Отворен-ИИ) премина теста на Тюринг,
съобщи специализираното издание LiveScience.

Тестът на Тюринг, предложен от британския математик Алан Тюринг, цели да определи дали една
машина може да има "човешки разум". Това става с експеримент, при който доброволец говори със
скрити за него събеседници - машина и реален човек. След това той трябва да определи кой от
двамата е компютър. Ако не може, то значи способностите на машината са станали неотличими от
човешките.

Изследователите Камерън Р. Джоунс и Бенджамин К. Берген решили да проведат теста на Тюринг
с изкуствения интелект GPT-4 на OpenAI. Екипът е помолил 500 души да говорят с четирима
респонденти - човек, програмата ELIZA от 60-те години на миналия век, алгоритъма GPT-3.5 и
по-новия GPT-4. 

Разговорите продължили пет минути, след което участниците трябвало да определят кой от
събеседниците им е човек. Оказва се, че в 54% от случаите GPT-4 е определян за човек.
Резултатът на реалния събеседник пък е едва 67%.

Резултатът кара учените да се притеснят от напредъка в ИИ системите. По думите им "широко
разпространените социални и икономически последици" са гарантирани.

Хората в бъдеще ще станат параноични относно това с кого говорят, защото ще знаят, че другата
страна може да не е човек. "Нашите резултати предполагат, че в реалния свят хората може да не са
в състояние надеждно да разберат дали говорят с човек или с ИИ система", каза Камерън Джоунс,
съавтор на доклада. 

"Всъщност в реалния свят хората може да са по-малко наясно с възможността, че говорят с ИИ
система, така че степента на измама може да е дори по-висока", предупреждава Джоунс.

https://it.dir.bg/tehnologii/izkustveniyat-intelekt-gpt-4-na-openai-premina-testa-na-tyuring-kakvo-pokazvat-rezultatite

Днес гледах как двама екоактивисти във Великобритания пръскат с оранжева боя Стоунхендж. Дано да не са били от тези 500 участници в опита!

[sir]

Преди 3 часа, gmladenov said:

Изкуственият интелект GPT-4 на компанията OpenAI  (Отворен-ИИ) премина теста на Тюринг,
съобщи специализираното издание LiveScience.

Тестът на Тюринг, предложен от британския математик Алан Тюринг, цели да определи дали една
машина може да има "човешки разум". Това става с експеримент, при който доброволец говори със
скрити за него събеседници - машина и реален човек. След това той трябва да определи кой от
двамата е компютър. Ако не може, то значи способностите на машината са станали неотличими от
човешките.

Изследователите Камерън Р. Джоунс и Бенджамин К. Берген решили да проведат теста на Тюринг
с изкуствения интелект GPT-4 на OpenAI. Екипът е помолил 500 души да говорят с четирима
респонденти - човек, програмата ELIZA от 60-те години на миналия век, алгоритъма GPT-3.5 и
по-новия GPT-4. 

Разговорите продължили пет минути, след което участниците трябвало да определят кой от
събеседниците им е човек. Оказва се, че в 54% от случаите GPT-4 е определян за човек.
Резултатът на реалния събеседник пък е едва 67%.

Резултатът кара учените да се притеснят от напредъка в ИИ системите. По думите им "широко
разпространените социални и икономически последици" са гарантирани.

Хората в бъдеще ще станат параноични относно това с кого говорят, защото ще знаят, че другата
страна може да не е човек. "Нашите резултати предполагат, че в реалния свят хората може да не са
в състояние надеждно да разберат дали говорят с човек или с ИИ система", каза Камерън Джоунс,
съавтор на доклада. 

"Всъщност в реалния свят хората може да са по-малко наясно с възможността, че говорят с ИИ
система, така че степента на измама може да е дори по-висока", предупреждава Джоунс.

https://it.dir.bg/tehnologii/izkustveniyat-intelekt-gpt-4-na-openai-premina-testa-na-tyuring-kakvo-pokazvat-rezultatite

Аз не съм убеден, че това може да се счита за успешно преминат тест на Тюринг. Освен това изобщо не съм на мнение, че успешното преминаване на този тест е необходимо и достатъчно условие да считаме, че дадена машина е преминала на "следващото ниво", т.е. че е разумно същество, неотличимо от човека.

Това, че в реалния свят хората може и да не са в състояние надеждно да разберат дали говорят с човек или с ИИ система, обикновено означава чисто и просто, че на самите хора по една или друга не им достига капацитета да различат ИИ от човек. А не, че съответната ИИ система е еволюирала до състоянието на действително разумно същество.

Т.е. Скайнет се отлага.

[scaner]

Преди 6 часа, Gravity said:

ChatGPT се разпознава много лесно. Никога не казва "не знам". Какъвто и въпрос да зададеш, не зависимо от коя област и колко специализиран, винаги дава отговор сякаш е специалист.

Моят опит ми сочи обртаното. Често ми отговаря с "не знам", а един път ми се обиди и каза, че не иска повече да ми отговаря - когато я хванах в логическо противоречие и завъртях кръга изцяло до изходна позиция Та трябваше да префразирам отново задачата...

 

Преди 5 часа, sir said:

Т.е. Скайнет се отлага.

Изобщо не става дума за Скайнет. Ювал Харари сочи много по-ежедневно достижими опасности.

[Шпага]

Преди 7 часа, todorg said:

Артър Кларк бе предвидил този бъдещ проблем ,още 60те.Той му е намерил и рецептата.

И каква е рецептата?

[Gravity]

Преди 4 часа, scaner said:

Моят опит ми сочи обртаното. Често ми отговаря с "не знам", а един път ми се обиди и каза, че не иска повече да ми отговаря - когато я хванах в логическо противоречие и завъртях кръга изцяло до изходна позиция Та трябваше да префразирам отново задачата...

Твоите въпроси сигурно са твърде спецализирани. Сега пробвах и питах. Кой е най-високият връх в Аржентина. Даде отговор в метри е футове. Каква е задачата на Коши в ОТО. Какво гласи теоремата на Торели. Каккво е разстоянието от Ловеч до Деветашката пещера. Това го питах на Български. Какве типове прилагателни има в Японская език. 

Колко хора могат до отговарят на тези въпроси. Но пък отговаря човшки. На края му благодарих.

[scaner]

Преди 5 часа, Gravity said:

Твоите въпроси сигурно са твърде спецализирани. Сега пробвах и питах. Кой е най-високият връх в Аржентина. Даде отговор в метри е футове. Каква е задачата на Коши в ОТО. Какво гласи теоремата на Торели. Каккво е разстоянието от Ловеч до Деветашката пещера. Това го питах на Български. Какве типове прилагателни има в Японская език. 

Колко хора могат до отговарят на тези въпроси. Но пък отговаря човшки. На края му благодарих.

Първо, ти неправилно ползваш ИИ. Силата му е в обработката на информация, намирането на закономерности в нея, не в енциклопедичните му познания. Ти в случая го ползваш като търсачка, при което основните му качества не се намесват, а се намесват куп допълнителни артефакти свързани с начина на обучение и помнене на знанията. Повечето знания се помнят не като факти, а като връзки, и когато от тези връзки се опитваш да получиш фактите, често се получава известният ефект на "халюциниране" на ИИ. Един малко по-начетен човек лесно може да попадне на такава халюцинация, и после дърпайки по логиката за единия край, да покаже че срещу него няма логически мислещо същество на човешко ниво, това което правя и аз.

Има специални хватки, когато ефективно може да изпоилзваш ИИ за търсене. Например мрежата Perplexity работи на база нейно си търсене върху Гугъл или друга търсачка, и после от намереното в няколко сайта синтезира обобщение по въпроса, който търсиш. Обобщението може да стане както с нейна вградена мрежа (по подразбиране), така и с някоя от известните и доказани, ако имаш платен абонамент за нея. С опцията Focus може да укажеш къде да търси, All, Academic, Wolfram Alpha и др. и в синтезираният текст вмъква линкове към източниците, които не са измислени, за разлика от повечето други мрежи - защото са получени от реално търсене, реални данни. Във въпроса си може да укажеш много допълнителни характеристики на това което искаш, какъв обем да е, колко източника максимум да обхване и още много. Но източниците са на езика, на който задаваш въпроса, така че това има значение за резултата.

Тя си има и платена версия, тогава има ограничен достъп до останалите мрежи без да си ги платил лично (споделя плащането), и за сега успешно балансира на пазара с тази стратегия. Хубаво е да се логнеш в нея, дава повече възможности от напълно анонимен достъп, който също е възможен. Аз вече почти не ползвам Гугъл, а нея.

 

Второ, многото публични ИИ са настроени за маскимална възможна комуникация с потребителя, при което изпъкват много особености характерни за ИИ, прекаленото сервилничене и всезнайност. Но може лесно да се напише промт, който да ограничи поведението на мрежата до типично човешкото, средно ниво на знания (не знам доколко това работи с безплатната версия, в платените става). Последната ChatGPT 4o има гласов интерфейс за телефон, на кокто може да настройваш - чрез промпт - много параметри, типа на гласа, степента на приповдигнатост и надмощие в интонацията, характерни особености - понякога естествено да заеква, да вкарва паразитни конструкции като ъъъ, ааа и подобни, тоналността на речта в крайна сметка. По този начин я доближаваш до човек (което тя го може, а значи може и много повече щото това е ограничение), и я пригаждаш за теста на Тюринг. Няма да е всезнайко, ще се държи естествено (което го виждаме и сега, но с малко експресии), и наистина става проблем разпознаването. Да не говорим, че вече има софтуер като https://hidegpt.app/, https://undetectable.ai/, https://www.humanizeai.io/ чрез които написаното от ИИ се преработва и зазвучава съвсем по човешки, ако разчиташ на такива особености в текста, все още характерни за нормален сегашен ИИ.

Няма съмнение, че това е само началото, имаме едва година и половина от първият публичен ИИ, а нещата са напред, даже твърде напред...

Редактирано Юни 20, 2024 от scaner

[Gravity]

Преди 27 минути, scaner said:

Първо, ти неправилно ползваш ИИ. Силата му е в обработката на информация, намирането на закономерности в нея, не в енциклопедичните му познания. Ти в случая го ползваш като търсачка, при което основните му качества не се намесват, а се намесват куп допълнителни артефакти свързани с начина на обучение и помнене на знанията. Повечето знания се помнят не като факти, а като връзки, и когато от тези връзки се опитваш да получиш фактите, често се получава известният ефект на "халюциниране" на ИИ. Един малко по-начетен човек лесно може да попадне на такава халюцинация, и после дърпайки по логиката за единия край, да покаже че срещу него няма логически мислещо същество на човешко ниво, това което правя и аз.

Има специални хватки, когато ефективно може да изпоилзваш ИИ за търсене. Например мрежата Perplexity работи на база нейно си търсене върху Гугъл или друга търсачка, и после от намереното в няколко сайта синтезира обобщение по въпроса, който търсиш. Обобщението може да стане както с нейна вградена мрежа (по подразбиране), така и с някоя от известните и доказани, ако имаш платен абонамент за нея. С опцията Focus може да укажеш къде да търси, All, Academic, Wolfram Alpha и др. и в синтезираният текст вмъква линкове към източниците, които не са измислени, за разлика от повечето други мрежи - защото са получени от реално търсене, реални данни. Във въпроса си може да укажеш много допълнителни характеристики на това което искаш, какъв обем да е, колко източника максимум да обхване и още много. Но източниците са на езика, на който задаваш въпроса, така че това има значение за резултата.

Тя си има и платена версия, тогава има ограничен достъп до останалите мрежи без да си ги платил лично (споделя плащането), и за сега успешно балансира на пазара с тази стратегия. Хубаво е да се логнеш в нея, дава повече възможности от напълно анонимен достъп, който също е възможен. Аз вече почти не ползвам Гугъл, а нея.

 

Второ, многото публични ИИ са настроени за маскимална възможна комуникация с потребителя, при което изпъкват много особености характерни за ИИ, прекаленото сервилничене и всезнайност. Но може лесно да се напише промт, който да ограничи поведението на мрежата до типично човешкото, средно ниво на знания (не знам доколко това работи с безплатната версия, в платените става). Последната ChatGPT 4o има гласов интерфейс за телефон, на кокто може да настройваш - чрез промпт - много параметри, типа на гласа, степента на приповдигнатост и надмощие в интонацията, характерни особености - понякога естествено да заеква, да вкарва паразитни конструкции като ъъъ, ааа и подобни, тоналността на речта в крайна сметка. По този начин я доближаваш до човек (което тя го може, а значи може и много повече щото това е ограничение), и я пригаждаш за теста на Тюринг. Няма да е всезнайко, ще се държи естествено (което го виждаме и сега, но с малко експресии), и наистина става проблем разпознаването. Да не говорим, че вече има софтуер като https://hidegpt.app/, https://undetectable.ai/, https://www.humanizeai.io/ чрез които написаното от ИИ се преработва и зазвучава съвсем по човешки, ако разчиташ на такива особености в текста, все още характерни за нормален сегашен ИИ.

Няма съмнение, че това е само началото, имаме едва година и половина от първият публичен ИИ, а нещата са напред, даже твърде напред...

Не ставаше дума за ползване, а за тестта на Тюринг. С такива въпроси и отговори ще разпознавам хората и ботовете.

[scaner]

Преди 23 минути, Gravity said:

Не ставаше дума за ползване, а за тестта на Тюринг. С такива въпроси и отговори ще разпознавам хората и ботовете.

Ами опитай да му обясниш да се държи като среден човек, да се ограничи с проста и кратка форма на отговорите, и там където има съмнителна или липсваща информация, да отговаря с "не знам". Това ще ти реши теста, само малко трябва да подостриш тези ограничения. Това е итеративна задача, даже нещо повече - може да впрегнеш самият ИИ да ти помогне да настроиш тези ограничения. Това е малко нетривиална, но сравнително лесно решаема задача   В резултат ще видиш как си комуникираш със сравнително просто момче отсреща, но простотата (която е естествено човешко качество!) не ти дава информация доколко е човек в останалите отношения, в които и така знаем че е добър. Много вероятно така да получиш от ИИ аспергер отсреща, но и това е решение на теста. Основната идея е да го инструктираш да се държи не като ИИ, а като човек. А той възприиема подобни убеждения с роли, това е първата стъпка при писане на сериозните промптове.

По отношение на езика ИИ е вече нещо повече от човека в много отношения, а теста на Тюринг изисква налагане на някакви ограничения върху това. И те се постигат като го инструктираш, като го хуманизираш. Със сравнително прости правила.

Редактирано Юни 20, 2024 от scaner

[sir]

Преди 11 часа, scaner said:

Изобщо не става дума за Скайнет. Ювал Харари сочи много по-ежедневно достижими опасности.

Да, опасности, които вече са достигнати и без ИИ и които не са сериозни заплахи за човечеството, а потенциално единствено за установения от хегемона ред. ИИ не може да произведе по-мощен ИИ без значителен технологичен скок. А значителен технологичен скок не може да бъде достигнат от ИИ с настоящите характеристики и възможности. Т.е. омагьосан кръг за горкия ИИ.

[sir]

Преди 1 час, scaner said:

 Но може лесно да се напише промт, който да ограничи поведението на мрежата до типично човешкото, средно ниво на знания (не знам доколко това работи с безплатната версия, в платените става). Последната ChatGPT 4o има гласов интерфейс за телефон, на кокто може да настройваш - чрез промпт - много параметри, типа на гласа, степента на приповдигнатост и надмощие в интонацията, характерни особености - понякога естествено да заеква, да вкарва паразитни конструкции като ъъъ, ааа и подобни, тоналността на речта в крайна сметка. По този начин я доближаваш до човек (което тя го може, а значи може и много повече щото това е ограничение), и я пригаждаш за теста на Тюринг. Няма да е всезнайко, ще се държи естествено (което го виждаме и сега, но с малко експресии), и наистина става проблем разпознаването.

Това е, което не схващате ти и Ювал Харари. Всички тези характеристики биха били проблем, ако ИИ сам можеше да си ги променя в зависимост от целите и желанията си. Но не може и не мисля, че в близко бъдеще се очертава да може. С думи прости - това не е интелект, не е разумно същество, няма емоции, желания, цели и т.н. характеристики на разумните същества. Може да прави единствено това, което му бъде предварително зададено от контролиращото разумно същество. Т.е. заплахата си остават хората, а ИИ системите в настоящия им вид са просто един инструмент, който, както и всички останали инструменти, може да се ползва и за зловредни цели.

[scaner]

Преди 1 минута, sir said:

Да, опасности, които вече са достигнати и без ИИ и които не са сериозни заплахи за човечеството, а потенциално единствено за установения от хегемона ред.

За всеки ред. Независимо от кого възглавяван. Това е истинската опасност.

Преди 2 минути, sir said:

ИИ не може да произведе по-мощен ИИ без значителен технологичен скок.

2-10 години. Вече виждаме как за година ИИ нараства по възможности над 10 пъти. Технологичният скок е безалтернативен, няма кой да го спре, и това е другата опасност. ИИ има потенциалът да произведе по-мощен ИИ. А технологията за това бързо се развива.

 

Преди 4 минути, sir said:

А значителен технологичен скок не може да бъде достигнат от ИИ с настоящите характеристики и възможности.

ЧОвечеството само го извършва. По спиралата: ИИ е интересен, ще го развиваме, той става още по-интересен и дава още повече възможности, ще засилим да го развиваме защото другите могат да го развият преди нас. Просто капитализъм. Така че този процес е подсигурен, не го мисли. Мисли какво ще се случи като резултат.

 

Преди 6 минути, sir said:

Т.е. омагьосан кръг за горкия ИИ.

Омагьосан кръг, който действа ЗА развитието на ИИ. В момента OpenAI и Meta изкупуват всички чипове на компанията за графични карти nVidia. Става дума за чипове по цена 100000$ в количество над 100000 бройки, общите инвестиции в това се оценяват за над 100 млрд долара в краткосрочен план. Което скоро направи nVidia най-скъпата компания в света. И тая конкуренция няма спирачки, а само ускорители. ИИ ще получи всичко това даром, без да се напряга изобщо И като покаже резултат, ще получи още по толкова. "Горкия" му приляга в някакъв друг странен контекст...

Но заплахите, които дискутира Харари, не са свързани с моща която ще придобие ИИ, а с неговата повсеместност. Това качество ще ни бутне цивилизацията дори ИИ да няма разум и да няма за цел умишлено да ни унищожи - само ще ускори това, което човечеството само си причинява в културният и всички останали аспекти. Ти сам казваш - опасностите са достигнати и без ИИ, а какво ще се случи като се усилят с порядъци с помоща на ИИ?

Преди 1 минута, sir said:

Това е, което не схващате ти и Ювал Харари. Всички тези характеристики биха били проблем, ако ИИ сам можеше да си ги променя в зависимост от целите и желанията си. Но не може и не мисля, че в близко бъдеще се очертава да може.

Ами точно това е проблема. ИИ има всички възможности това да се случи, невронните мрежи могат да се самообучават и в много аспекти го правят, няма как човек да ги учи с милиони верифицирани примери, физически невъзможно е. Тези алгоритми вече съществуват, работат, ползват се, и е въпрос да се усъвършенствуват, което може да прави и самия ИИ - и го прави.

Преди няколко месеца имаше изслушване пред конгреса за възможните тенденции, и споменатите неща бяха плашещи: оптимистичен сценарии ИИ да достигне човешко ниво (основно подобрявайки алгоритмите за самообучение, защото на това ниво всичко друго е неефективно) е до 2040 г., Песимистичният сценарии - до 5 години. А достигайки това ниво. няма граница за самообучение нагоре. С любезната помощ на заинтересуваното (и вероятно вече манипулирано от ИИ) човечство...

Преди 13 минути, sir said:

С думи прости - това не е интелект, не е разумно същество, няма емоции, желания, цели и т.н. характеристики на разумните същества.

Именно на тази база Харари разглежда опасностите - не е нужно да има разум и цел в ИИ, достатъчнио е да прави мощно това което може да прави, за да усили шума в човешкото общество до катастрофа.

Преди 15 минути, sir said:

Може да прави единствено това, което му бъде предварително зададено от контролиращото разумно същество. Т.е. заплахата си остават хората, а ИИ системите в настоящия им вид са просто един инструмент, който, както и всички останали инструменти, може да се ползва и за зловредни цели.

Ами точно това казва и Харари. ИИ хаква основата на нашето съществуване, езикът, и понятията за добро и зло, градени на база езикът, почват да се променят. И нямаш инструмент с който да контролираш това, защото езикът ти вече не създава истории от други хора, носещи някакъв морал, а създава истории от нечовешки разум, истории каквито масите искат да слушат. А масите вече виждаме какви истории искат да слушат, нали? И тук нямаш средства за противодействие, защото езикът се управлява от този нечовешки разум, и на власт идва постистината, дийпфейковете и какво ли не. Преставаш да имаш възможност да ползваш езикът за нещо добро, защото ИИ е много по-мощен с ресурси от тебе за противното. И всичко това ще се случи без ИИ да има разум и цели, без да има чувства, без страшилките за Скайнет и Терминатор. Просто усилвайки тенденциите в обществото.