Безопасность ИИ

Pangram привлек $9 млн на развитие детекторов AI-контента и представил новые модели

Стартап Pangram, специализирующийся на обнаружении сгенерированного искусственным интеллектом контента, закрыл раунд финансирования на $9 миллионов и одновременно анонсировал новые модели для детекции AI-текста и AI-изображений.

Иллюстрация к новости: Pangram привлек $9 млн на развитие детекторов AI-контента и представил новые модели

Стартап Pangram, который создает софт для обнаружения AI-контента, привлек 9 млн долларов венчурного финансирования. Эти средства пойдут на масштабирование технологии и коммерческой деятельности.

Компания сразу представила обновленную версию своего текстового детектора. Эта модель способна анализировать текст и определять его происхождение - от человека или от современных языковых моделей. Также была анонсирована модель для обнаружения AI-изображений, пока доступная в режиме превью. Она нацелена на выявление артефактов, характерных для популярных генеративных моделей.

Этот шаг происходит на фоне стремительного роста объема контента, созданного искусственным интеллектом. Поток статей, постов и рекламы уже серьезно затрудняет различение между человеческим и машинным творчеством. Такая ситуация создает реальные проблемы для академической честности, журналистики, авторского права и борьбы с дезинформацией. В результате инструменты детекции превращаются в необходимую инфраструктуру для образовательных платформ, издателей и социальных сетей.

Выход Pangram с новым финансированием усиливает конкуренцию на рынке, где уже есть несколько известных игроков. Это может ускорить технологическое развитие в этой нише и привести к повышению общей точности детекторов. Для самих разработчиков генеративного ИИ растущий спрос на детекцию служит сигналом. Он указывает на растущую потребность во встроенных механизмах прозрачности, поскольку внешний контроль становится все более распространенным явлением.

Финансирование Pangram демонстрирует, что инвесторы начинают рассматривать технологии верификации контента как важный компонент цифровой экосистемы. Успех таких компаний может в конечном итоге повлиять на формирование отраслевых стандартов или даже регуляторных требований к маркировке контента, созданного с помощью ИИ. Развитие этого рынка - прямое следствие технологической гонки в области генеративного искусственного интеллекта.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…