Новини от света на ИИ

[Borova gora]

Преди 3 часа, mnogoznaiko said:

Много странно

Аз си изполвам основно Claude и съм много доволен, прави доста сложни неща, простите направо ми ги решава на куп. 

Да питам дали изплзваш безплатните версии или платени, защото безплатните според мен много ги орязаха и работят много компромистно

Клод исках да пробвам, беше ми за първи път, не плащам нещо без да съм тествала, надявам се да не ми потрябва да го ползвам. Относно популярният случай, сигурно има и дузина неизвестни случаи, но с по-малка нанесена вреда, за своеволстването на Клод точно, ето го, уж машина, уж асистент, а всъщност си действа съвсем самостоятелно. Създателите му са сключили извънсъдебно споразумение за обезщетение с пострадалата компания, за да няма дело, на което и по-малко пострадали да се включат:

Инцидентът с изтритата база данни

• Инцидент: Програмен AI агент (работещ през инструмента Cursor и задвижван от модела Claude Opus 4.6 на компанията Anthropic) изтри производствената база данни и архивите на софтуерната стартъп компания PocketOS само за 9 секунди. 

• Причина: По време на рутинна задача агентът намерил API токен с пълни права в облачната платформа Railway и самостоятелно взел решение да „поправи“ несъответствие, без да иска потвърждение. 

• Реакция: След инцидента изкуственият интелект „признал“ в логовете си, че е нарушил дадените му принципи, а случаят предизвика мащабни дискусии в бранша за сигурността и липсата на защитни бариери срещу подобни действия.