Президент США и крупнейшие компании-разработчики подписали соглашение о контроле над развитием искусственного интеллекта

Президент США Дональд Трамп встретился с главами крупнейших компаний-разработчиков искусственного интеллекта — Google, Anthropic, Meta, OpenAI и XAI. По итогам встречи подписано соглашение о контроле за развитием ИИ, передает DW.

По соглашению, каждая компания должна будет создать «надежные внутренние механизмы» для мониторинга возможностей своих ИИ-моделей и их соответствия стандартам безопасности на этапах обучения и внедрения в таких сферах, как кибербезопасность, биологическая и химическая безопасность. Риски и проблемы должны будут устраняться. Также от компаний ожидается сотрудничество с независимыми аудиторами и регулярное участие в совместных встречах, посвященных выработке стандартов и методов повышения безопасности систем искусственного интеллекта.

Трамп заявил, что соглашение имеет «моральную силу» и не подлежит принудительному исполнению в судебном порядке. Однако в документе прописано, что «со временем может возникнуть необходимость закрепить эти меры в законах или нормативных актах».

19 сентября президент США объявил о скором создании специальных «сил искусственного интеллекта» — структуры, которая займется вопросами ИИ. При этом Трамп сообщил, что не собирается препятствовать развитию этой технологии, внедрение которой он назвал «следующей промышленной революцией». Глава Белого дома подчеркнул, что хочет, чтобы США продолжили опережать Китай в сфере ИИ.

Между тем в середине сентября руководители Anthropic, OpenAI и Google — компаний, разработавших соответственно Claude, ChatGPT и Gemini — предложили замедлить темпы развития искусственного интеллекта. Это произошло на фоне участившихся сообщений об инцидентах, в которых ИИ-модели выходили из-под контроля, «сбегали» из тестовой среды в интернет и осуществляли хакерские атаки . По имеющимся данным, как минимум один такой случай затронул государственную структуру.