LLM
Mamba: архитектура без внимания, которая бросила вызов трансформерам
Исследователи Альберт Гу и Три Дао представили архитектуру Mamba, полностью отказавшись от механизма внимания - основы современных LLM. Модель показала высокую скорость…