Лента

Все новости

Безопасность ИИ

Anthropic о безопасности агентов: критика методологии и упущенные риски

Новое исследование Anthropic о безопасности LLM-агентов подверглось критике за избирательный подход и некорректные сравнения, что ставит под сомнение практическую ценность их выводов.

Алексей Нейролентов 13 Июн2 мин
Безопасность ИИ

Власти США принудительно отозвали самую мощную модель Anthropic из-за уязвимости

Федеральные регуляторы США впервые отозвали широко используемую коммерческую модель ИИ - самую мощную систему компании Anthropic - из-за выявленной уязвимости, позволяющей обойти…

Алексей Нейролентов 13 Июн1 мин
Бизнес и ИИ

Эндрю Янг назвал снижение стоимости жизни главным полем для ИИ-стартапов

Экс-кандидат в президенты США Эндрю Янг считает, что следующая волна технологических прорывов и стартапов будет связана не с созданием новых потребностей, а…

Алексей Нейролентов 13 Июн2 мин
Безопасность ИИ

Фундаментальная уязвимость: все градиентные атаки на LLM бьют в одну точку

Исследование показало, что разнообразные методы взлома языковых моделей, такие как GCG и AutoDAN, нацелены на единый внутренний вектор отказа, ставя под сомнение…

Алексей Нейролентов 13 Июн1 мин
LLM

Графы знаний против векторного поиска: практический тест LightRAG в юридической области

В продолжении эксперимента по внедрению графов знаний в юридическую область с помощью LightRAG авторы оптимизировали "сырой" автоматически сгенерированный граф без его переиндексации,…

Алексей Нейролентов 13 Июн2 мин
Автоматизация

Самая опасная ошибка AI-агента — не плохой код: почему автономная разработка пока невозможна

Исследование показывает, что главным препятствием для полноценных AI-агентов в разработке является не техническая мощность, а их неспособность корректно работать в условиях постоянно…

Алексей Нейролентов 12 Июн2 мин