Безопасность ИИ

Советник Белого дома по ИИ Шрирам Кришнан покидает пост для создания новой организации

Шрирам Кришнан, ключевой советник Белого дома по вопросам искусственного интеллекта, уходит с должности, чтобы основать независимую институцию для продолжения влияния на политику в области ИИ при администрации Трампа.

Иллюстрация к новости: Советник Белого дома по ИИ Шрирам Кришнан покидает пост для создания новой организации

Ведущий советник Белого дома по вопросам искусственного интеллекта Шрирам Кришнан покидает официальный пост. По сообщениям, он планирует создать независимую организацию для работы над политикой в области ИИ. Этот шаг указывает на возможный переход влияния из формальных государственных структур во внешние организации.

Уход Кришнана не означает прекращение его деятельности. Новая структура позволит ему и его коллегам продолжать работать над вопросами регулирования, безопасности и конкурентоспособности, но уже как независимый институт. Это отражает смену подхода: ключевые эксперты теперь могут формировать политику через внешние, но тесно связанные с администрацией организации.

Для технологической отрасли это сигнализирует о возможном усилении внешнего лоббирования через специально созданные структуры. Каналы воздействия на регуляторные процессы могут стать разнообразнее. Решения по безопасности моделей, экспортным ограничениям или регулированию генеративного ИИ теперь могут формироваться не только в официальных комитетах, но и через подобные внешние институты.

В более широком смысле это может привести к росту числа подобных организаций. Они заполняют пространство между быстро развивающейся технологической отраслью и медленно адаптирующимся государственным регулированием. Политика в области ИИ будет формироваться под влиянием не только официальных законодательных процессов, но и через активное продвижение концепций извне. Это может ускорить принятие мер по безопасности, но и создать риски чрезмерного влияния узкопрофессиональных интересов на государственные решения.

Уход ключевого советника и создание новой организации - симптом более глубокого процесса. Отрасль ИИ развивается быстро, а традиционные государственные структуры часто не могут реагировать с нужной гибкостью. Ответом становятся гибридные формы - внешние институты, сохраняющие близость к власти, но обладающие большей оперативной самостоятельностью. Такая модель может стать новой формой взаимодействия технологического сообщества и государства.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…