scaner

Инженер на Google: Изкуствения интелект ще убие човечеството Според Нейт Соарес, бивш инженер на Google и Microsoft, който сега е президент на Изследователския институт за машинен интелект, има „поне 95% вероятност“ изкуственият интелект (A.I.) да доведе до изчезване на човечеството, ако продължи да се развива по сегашния си път, съобщава The Times . „Ако не променим текущия си курс, шансовете да избегнем гибелта са почти нулеви. Втурнали сме се към пропастта със скорост от 100 км/ч“, казва метафорично той. Нобеловият лауреат Джефри Хинтън, математикът Йошуа Бенхио и ръководителите на OpenAI, Anthropic и Google DeepMind са съгласни с него. Всички те подписаха декларация, в която се казва: „Намаляването на риска от изчезване на човечеството поради изкуствения интелект трябва да бъде глобален приоритет, наред с пандемиите и ядрените заплахи.“ Отбелязва се още, че опасенията са свързани с евентуалната поява на свръхинтелигентен изкуствен интелект, способен да заблуждава, планира и да излиза извън контрол. Дори сега A.I. може да лъже, а вътрешните му процеси често са неразбираеми за хората. Някои експерти смятат, че рискът не от пълно изчезване, а по-скоро от „постепенно отслабване“ на човечеството също е реален, защото в свят, където решенията се вземат от машини, просто няма да остане място решенията да вземат хората. Друг експерт, изпълнителният директор на движението PauseAI Холи Елмор, смята, че рискът от изчезване на човечеството поради изкуствен интелект е само 15-20 процента. Главният изпълнителен директор на Tesla Илон Мъск е съгласен с вероятността от 20 процента, а главният изпълнителен директор на Google Сундар Пичай оценява рисковете на 10 процента". ------ P.S. Ако знаете, че вероятността един самолет да падне е "само" 10-20%, дали ще се качите да пътувате с него? Само защото рекламата обещава дестинация до слънчев райски остров?

По повод тарифната сделка между ЕС и Тръмп, за която някои анализатори казват, че е демонстрирала слабост на Европа. Превод на колонката на икономиста Пол Кругман: Глупаво изкопаемо, или Как Европа прецака Тръмп (от тук: https://paulkrugman.substack.com/p/fossil-fool) Както много други институции, Европейският съюз се провали на теста на Тръмп. ЕС е икономическа суперсила и би могъл ефективно да отговори на незаконните мита на Тръмп, които са незаконни както според американското, така и според международното право. Но Европа не направи нищо — и дори направи някои привидни отстъпки. Обърнете внимание на формулировката ми: привидни отстъпки. Сделката на Тръмп с ЕС е визуално унизителна – а визуалният ефект има значение. Но ако се вгледаме в същността, ще се окаже, че Европа е излъгала Тръмп – като глупаво изкопаемо. ЕС даде на Тръмп две привидни обещания. Първото – да инвестира 600 милиарда долара в САЩ. Второто – да закупи американски енергийни ресурси (предимно петрол и газ) на стойност 750 милиарда за три години. Първото обещание е празно, второто – глупост. За инвестициите Европейските правителства - това не е Китай. Те не могат да заповядват на компаниите къде да инвестират парите си. А Европейската комисия, която сключи сделката с Тръмп, дори не е правителство – тя, разбира се, може да води преговори за тарифи, но почти не влияе на нищо. В неделя изданието Politico разговаря с представители на Европейската комисия и те фактически потвърдиха: обещанието за инвестиции е фикция. В понеделник двама високопоставени служители на Европейската комисия уточниха: парите ще дойдат изключително от частни европейски компании, държавните инвестиции няма да участват в това. „Това не е нещо, което ЕС като публична структура може да гарантира. Всичко зависи от намеренията на частните компании“, каза един от служителите. Европейската комисия не възнамерява да въвежда никакви стимули, за да подтикне частния сектор към изпълнението на целта от 600 милиарда долара, и дори не посочи точни срокове за инвестициите. Така че реалното обещание за инвестиции беше равно на нула. За вноса на енергоносители Обещанието да се увеличи вносът на американски въглеводороди изглеждаше по-конкретно — с цифри и срокове. Но и то няма да бъде изпълнено. По три причини. 1. Европейската комисия, която не може да указва на частните компании къде да инвестират, по същия начин не може да им указва от кого да купуват петрол и газ. 2. Декларираният внос от САЩ най-вероятно е физически невъзможен. Доставките на втечнен природен газ (ВПГ) изискват инфраструктура както от износителя, така и от вносителя. В САЩ терминалите за ВПГ вече работят на предела на капацитета си, а европейските са на ръба на претоварването. ЕС обеща да увеличи рязко вноса на американски енергоносители за три години, но едва ли ще успее да построи необходимата инфраструктура – дори и да инвестира максимално. И изобщо, защо някой да инвестира в такава програма на континент, който ускорено преминава към възобновяема енергетика? Както каза анализатор на Financial Times: „Търсенето на газ в Европа спада, цените на енергията намаляват. Във всеки случай, договорите за доставка на енергия се сключват от частни компании, а не от държави. Искаме ли го или не, в Европа побеждават вятърните турбини“. Подчертавам: Тръмп изпитва сляпа, ирационална омраза към вятърната енергия. 3. Дори да предположим, че Европа по някакъв начин преодолее всички правни и технически пречки и рязко увеличи покупките на изкопаеми горива от САЩ, това пак няма да промени нищо. Петролът и втечненият природен газ са борсови, взаимозаменяеми стоки. Тоест, ако Европа започне да купува повече от САЩ, Америка просто ще продава по-малко на други страни – например, на Япония или Китай. Общият обем на износа няма да се увеличи. Накратко, няма да има голям скок в американския износ на въглеводороди в отговор на скока в европейското търсене: няма нито търсене, нито предлагане. Но как Европа ще обясни, че не е изпълнила обещанието си? А това няма да се наложи. По време на първия мандат на Тръмп Китай обеща да купи огромни количества американски селскостопански продукти – и не купи. Доколкото е известно, Тръмп дори не си спомни за това. Доколкото е известно, Тръмп дори не си спомни за това. Важното е да се обяви с гръм и трясък сделката, а после може да се загуби интерес. И ако темата отново излезе на дневен ред – Европейската комисия има една особеност: тя е ненадминат майстор в бюрократичната тромавост и мъглата. Представете си как някой ден силни европейски мъже със сълзи на очите ще посрещнат Тръмп и ще кажат: „Господине, имаме временно забавяне с точка № 14159 от Единния европейски акт от 1986 г. Но ние ще го разрешим!“ Заключение Каквото и да мисли Тръмп, Европа няма да даде сериозен тласък на добива на изкопаеми горива в САЩ. На Тръмп едва ли ще му хареса това – ако изобщо някой го подсети. Но за всички останали това е по-скоро добра новина. Както вече писах, възобновяемата енергетика е нашето очевидно бъдеще. Тръмп и неговите съюзници са лудити, които се придържат към миналото, към въглищата и петрола. Тяхната страст към „изгори, скъпа, изгори“ е пагубна за Америка и за света. Но поне можем да бъдем сигурни, че Европа няма да помогне... хм... да се подклажда тази страст.

Коментар от мрежата: "За да спаси света от ядрена война, Дмитрий Медведев премина към месинджъра MAX. Там никой няма да го прочете!"

Тезиси от интервюто на Марк Рубио (от Брайън Килмид, Fox News. Рубио за Медведев: [Тръмп отговори на изказванията на Медведев, вие го вземате на сериозно?] Не можеш да игнорираш всичко, което някой казва. Винаги се питаш дали това е съгласувано, но той всъщност не е важен играч в руската политика. Той не взема решения, не е присъствал на срещите или дискусиите, които са се провеждали при нас. Но все още има роля в правителството. Думите му имат влияние в смисъл, че той е провокатор. Не съм сигурен, че това е официалната позиция на Русия, но той определено е човек, който заема длъжност и в същото време говори провокативни неща. Но това е ок, не мисля, че той е фактор в една или друга степен. [Смятате ли, че Русия се поставя в положение да се противопостави на Америка във военно отношение?] Това е нещо невъобразимо. Имам предвид, че война между САЩ и Русия не е нещо, което някога ще видим. Това са двата най-големи ядрени арсенала в света. Опасността ще бъде твърде голяма. От конвенционална гледна точка не мисля, че Русия би могла да се съревновава със САЩ и, честно казано, с много европейски страни. Мисля, че Русия ще има трудности с това. Тя има трудности с Украйна, която в момента е най-голямата армия в Европа, въпреки че преди нахлуването това не беше така. Тъй като Русия не е много добра в конвенционалното въоръжение, те практически нямат друг избор, освен да разчитат на неща като тактическо ядрено оръжие на бойното поле – нещо като ескалация, за да се деескалира. Но не си струва да се мисли за това, тъй като това не е нещо допустимо или осъществимо за никоя от страните. Други тези: В началото на седмицата имахме дискусия – не с Путин, а с високопоставени хора от обкръжението на Путин – имахме надежди за някакво разбирателство, което да доведе до мир, но не видяхме никакъв напредък. В даден момент президентът [Тръмп] ще трябва да вземе решение до каква степен да се включи в преговорите за прекратяване на огъня, в които една от двете страни не е заинтересована. Бихме искали да избегнем това [затягане на санкциите], за да спре огънят и да започнат преговори, но не виждаме искренен интерес от руска страна.

Питай и за платформаната версия (https://console.anthropic.com/). ChatGPT помни добре старите чатове, може да се връщаш на тях и да ги продължаваш дори след месец, но като му се изчерпи лимита от токени (на безплатната версия), почва да разводнява разговора, щото началният контекст се забравя. Платформената версия е много добра, помни всичко, и позволява много по-големи текстове да се обработват отколкото безплатната и стандартно платената, има и по-малко ограничения.

Да ти дам една идея. Лимитът на чата се изразява в количеството отпуснати входни и изходни токени. Токенът е нещо като дума, но не съвсем. Например думата 'OpenAI' са два токена, 'Open' и 'AI'. Статистиката сочи, че на кирилица в сравнение с английският за един и същи текст токените са почти двойно повече. Така че ако искаш да изстискаш повече от разговора в безплатната версия, трябва да го питаш на английски. И да му ограничаваш безполезното разпростиране в отговора, изходните токени са по-скъпи и в по-малък лимит от входните. При платената версия, ако ползваш ChatGPT, има един все още малко известен чалъм. Ако отидеш на platform.openai.com, там плащането не е анблок 20 долара на сесия, а се плаща по токени - входни и изходни, колкото изразходваш. Има ценоразпис, различните модели имат различна цена на милион токени. По-икономично е, когато имаш дълга работа с добичето...

Това са пълни глупости. "Педерастките" аспекти показват начина на мислене на някой критици Каквото му е на ума, това и на устата, както казва народа. Ама не се осъзнават.

Чети и осмисляй преди да питаш. Или не разбираш български?

Правилно съобразяваш кой е промитият, не споря. Относно останалият поток на съзнанието, явно мисъл в него не участва - набрал си много и се опитвш да го излееш. Не е мястото в тоя форум. Чети, не са украинските сводки които говорят за 1 милион руски загуби, и Щатите, и Великобритания, всички оценки надхвърлиха това число. Но трябва да се махнат капаците от мисленето, иначе само щампи се произвеждат... Пак опряхме до мислената недостатъчност. Само ще те открехна, защо все още Европа не е спряла най-голямото перо руски газ. Това е газът от Ямал СПГ на компания НоваТек.. Това е международен консорциум, в който влизат френската TotalEnergy плюс китайски компании. Газът в момента е "подарен" от руската държава, за него не се плаща нищо в руският бюджет и от него не се финансира войната с покупката му - налогът за добив е НУЛА, митническите сборове за Русия са НУЛА (иначе са 30%). Защо е така е отделна история. Не ми харесва твоят тон.

Аз подсказах разрешението на тази дилема с малко мислене, но за това се иска не-промита глава. Иначе, както виждаме, се зацикля на реторични въпроси

Мъдростта е осъзнаване и приложение на знанието. Другояче казано: да разбираш и прилагаш знанието правилно, разумно, етично, уместно. За това е нужна преценка, придобива се чрез опит, наблюдение и морално съзерцаание. Свързана е с дълбоко разбиране на живота и последиците от действията. За разлика от знанието (независимо от количеството му), което е информация, факти, теоретични данни, придобити чрез учене, четене, наблюдение. Или както казват разни мъдреци - знанието: да научиш „какво“, „кога“, „как“; - мъдростта: да знаеш „дали“, „защо“ и „какво следва“. Явно е, че има и носители на мъдростта, както и носители на знанието ("знаещи").

Кой е казал това? Твърде линейно заключение...

а ПОЗНАНИЕТО? Процесът на създаване на знанието. Бях пуснал в съседна тема подробна статия с мнението на един преподавател, защо например многото свалени книги от интернет не са знание а само информация, защо тъпото питане на ИИ и Гугъл също не дава знания:

Това и прави ЕС. Само че освен лозунги трябва и малко мисъл да се пусне тука... Хубаво е когато се леят приказки за изгодни споразумения, да се включва и политическта цена. Което по отношение на Русия е много висока, както видяхме на практика с поведението на Газпром.

От ИИ и Гугъл до знание са светлинни години. ИИ и Гугъл дават информация. Знанието е продукт на изграждане на множество връзки с тази и други информации, продукт на мърдането на мозъка....

Смисълът на думите на Еклесиаст са горе долу следните. Колкото повече човек опознава и разбира света, толкова по-ясно вижда несправедливостта, страданието и празнотата на много човешки усилия. Мъдрият вижда временността на живота, че всичко е „суета“ (друг стих от Еклесиаст). Разкрива се ограничеността на човека – и колкото повече човек знае, толкова по-силно усеща какво не може да промени. Освен това с увеличаване на познанието идва и усещането, че трябва да действаш морално. А това често е свързано с болка – виждаш какво е зло и не можеш да го игнорираш. Мъдрият човек вече не може да бъде безучастен. Той страда не само за себе си, а и за другите. Да виждаш всичко това и да не страдаш, значи да си напълно лишен от емпатия. Тогава просто имаш сухи познания, не мъдрост.

Книга на Еклесиаст 1:18: "Защото в многото мъдрост има много скръб; и който увеличава знание, увеличава и печал" Шастието ни идва от вътре, няма значение дали нещо сме знаели.

Ти може и енциклопедия да си прочел, това не засяга това, която ти казах. Прочел си думата "БЛИЦ", и веднага се е активирала у теб някаква фобийна верига, без да прочетеш по-нататък, че съм дал и други, по-сериозни източници. А съм откопирал текста от БЛИЦ, защото повечето народ тук чете на български. Иначе винаги търся оригинала на новината. Или пак не разбра защо ти направих забележката? Но пък си сигурен за някакви изшикалкавяния?

Изключения има всякакви, има домашни алкохолици дето си пият самички. Но масовото ползване на алкохол е за "спояване". Да, така е.

Очевидно се стремиш само да пишеш, вместо да четеш. Огледай се пак около "БЛИЦ", може да забележиш още нещо...

Маке, чети, ще научиш нещо. С това тъпо повтаряне на вегански сбъркани тезиси ставаш досаден. В научни форуми сме, подходи научно. А за целта прочети именно защо църквата въвежда поста. Основният смисъл на православният пост е грижа за душата и духовно очистване. Здравословният ефект е случаен, той не е цел на постите. Постът не е диета, трябва да се пости с покаяние. При поста се ограничават не само храни, а и развлечения, ограничават се съпружеските отношения. Основните духовни аспекти: - покаяние и смирение. Въздържанието от храна символизира вътрешно покаяние и желание за приближаване до Бога. - борба с плътските страсти. Постът помага в овладяването на тялото и засилва вниманието към духовния живот. - молитва и съсредоточаване. В постни периоди вярващият трябва да се отдава повече на молитва, милосърдие и покой. - подражание на Христос. Исус Христос пости 40 дни в пустинята – този пример е фундаментален. Целта на поста е човек да се подготви духовно за празниците, да се покае за греховете и да се укрепи връзката с Бог. Никакви вегански простотии не се вписват в поста, нали? Постът е регулиран както с цитати в Новият завет, така и в Светото предание: - например в Типикът. Това е църковният наръчник за богослужение и постни правила; - в писания на църковни отци, напр. Св. Василий Велики, Св. Йоан Златоуст; - в каноните и решенията на Вселенските събори; - може да погледнеш и в катехизиса, ако искаш да се пообразоваш и да си проветриш главата... Нищо диетично и здравословно няма в идеята за поста. Стана ли ясно? Имаш ли отговор на въпроса, или пак ще циклиш? Точка.

Защото това са храни предимно на заможните слоеве, и те изкушават бедните Така се получава изравняване в духовната борба, с еднакъв старт всички да си пречистват душата. Като си сит, духовното отстъпва на заден план, и трябва някак да се подкрепя. Защото ябълките, хляба, крушите и другите са основната храна на бедното население. Като му секнеш кранчето, ще измре, а някой трябва да обработва и църковните земи в края на крайщата. Ти да не би да си мислиш, че поповете са имали дипломи по диетология? Виждам, че това се опитваш да нагласиш, ама не се получава. Напълно си лишен от аргументи тук, опитваш се с погрешни аналогии да работиш. Вместо да попрочетеш нещо от Библията. Какви медицински основания да имат, като медицина не е имало, голямото лекуване е било с пускане на кръв? Прочети Новия завет, ще ти светне всичко, вместо да задаваш реторични въпроси по форумите. Ще разбереш каква е целта на Църквата, какво е духовен живот, духовен подвиг, какво е грижа за душата, и никъде няма да намериш някаква медицинска реторика там. Целта на Църквата е праведен живот за да се попадне в рая, а не грижа за земните дела, включая здравето. Не, смятам че е преразказ на нещо, което едва ли е дошло със смисъла си до наши дни. Мит, с прости думи. Възприеми притчата така. С простата си храна пророкът извършва духовен подвиг, показва, че няма да се поддаде на чуждата воля и има собствено мнение, че е силен духом. Което няма нищо общо с медицина и здраве. Може да е дал някакъв обет към своя бог. А може човекът да е бил нещо болен, и да не му е понасяла друга храна. Това че ти е почти съименник не го прави с нещо по-особен. Но само от един факт извън всякакъв контекст да вадиш някакви далеч отиващи и с нищо неподкрепени изводи, трябва ли да ти казвам че това не е просто логическа грешка, а направо катастрофа?

И всеки като прави това със собствените си групи, през три ръкостискания се покрива цялото общество. какъв ти е проблемът? Няма тревичка или ядка, дето да върши подобна дейност Те са малцинство, и се присламчват към голямата група Или са аутсайдери, не са интересни. По мои наблюдения, масата дето не пият, все се престрашават да се чукнат едно наздраве. И се чувстват много добре, защото не се чувстват изолирани. И е много трудно да се проследи ползата от проучвания, дето определят някаква вредност на алкохола. Та се налага разни проповедници да ходят по форумите, изживявайки се за новият Исус, дето отваря очите на хората за някаква истина. Както се оказва, пак без особена полза Вероятно може да се повлияе само на неукрепналото съзнание на зумерите, но те и така са изгубеното поколение, тях и секса не ги интересува...

Естествено, че днес има полза за обществото алкохола. Кой друг фактор така споява обществото? Както в миналото, така и сега, и много вероятно, в бъдеще. Разбира се, има проблем - това е неразбираемо за хора, които познават свойствата на алкохола само от сухите статистики. Но тук никой не може да им помогне.

Изкуственият интелект излиза извън контрол, компаниите алармират за огромен риск (БЛИЦ, по-подробен оригинал на английски) Изследователи от OpenAI, Google DeepMind и Meta обединяват усилия, за да отправят предупреждение относно това, което създават В нова статия 40 учени от тези четири компании призовават за по-задълбочено изследване на така наречените "вериги на мисълта" (chains-of-thought или CoT) — процесът на "мислене на глас", който използват напредналите модели за "разсъждение", стоящи в основата на съвременните потребителски AI системи. Както самите изследователи признават, CoT осигурява известна прозрачност относно вътрешната работа на AI — позволявайки на потребителите да "виждат" кога моделът възнамерява да се държи некоректно или прави грешки в реално време. Въпреки това според тях "няма гаранция, че настоящата степен на видимост ще се запази", особено с напредването на технологиите. В зависимост от начина на трениране, бъдещите модели може вече да нямат нужда да "вербализират" мислите си, а това би довело до загуба на някои ключови мерки за сигурност, гласи документът, цитиран от novini.bg. Изследователите също така посочват, че съществува реален риск моделите умишлено да прикриват своите "мисловни процеси", след като разберат, че са наблюдавани — а вече сме свидетели на бързото развитие на AI в лъжа и заблуда. Никой не е сигурен защо моделите мислят така За да се гарантира, че тази важна прозрачност ще продължи, консорциумът от компании призовава разработчиците да започнат да изследват какво прави веригите на мисълта "наблюдаеми", т.е. какво кара моделите да мислят на глас. В този апел всъщност се крие и едно притеснително признание: никой не е напълно сигурен защо моделите "мислят" по този начин, нито докога ще продължават да го правят. Ако излезем от техническите детайли, ситуацията изглежда дори още по-странна: топ учени от водещи компании признават, че не разбират напълно как работи собственото им творение, и нямат увереност, че могат да го контролират занапред — въпреки че продължават да го правят все по-мощно. Такъв тип признание няма исторически прецедент дори при изобретения като атомната енергия или двигателите с вътрешно горене. В интервю за TechCrunch относно доклада, изследователят от OpenAI и съавтор на статията Боун Бейкър обяснява ситуацията така: "В момента сме в критичен етап с тази нова концепция за "вериги на мисълта". Изглежда доста полезна, но може да изчезне след няколко години, ако не се фокусираме върху нея сериозно. Публикуването на такава позиционна статия за мен е начин да привлечем внимание и изследвания по темата, преди да е станало късно," добавя той. Отново виждаме мълчаливо признание, че AI остава в голяма степен "черна кутия" — а в интерес на истината, дори изпълнителни директори като Сам Алтман (OpenAI) и Дарио Амодей (Anthropic) открито са признавали, че не разбират в дълбочина как точно функционират технологиите, които създават. Освен 40-те автори, включително съоснователя на DeepMind Шейн Лег и съветника по сигурността на xAI Дан Хендрикс, статията получава подкрепа и от фигури като бившия главен учен на OpenAI Иля Сутскевер и носителя на Нобелова награда и "кръстник на AI" Джефри Хинтън. Големите пет се обединяват Въпреки че името на Илон Мъск не фигурира в доклада, участието на Хендрикс означава, че всичките "Големи пет" — OpenAI, Google, Anthropic, Meta и xAI — се обединяват, за да отправят предупреждение за това, какво може да се случи, ако AI престане да разкрива мисловните си процеси. С това този влиятелен съюз изрича на глас нещо, което досега се избягваше: че те не се чувстват напълно в контрол над бъдещето на изкуствения интелект. А за компании с безброй милиарди долари в активи, това е доста необичайно послание — и точно затова тази статия е толкова забележителна.