После череды инцидентов в сфере информационной безопасности и критики со стороны бывших сотрудников ведущие игроки рынка искусственного интеллекта заговорили о самоограничении. Глава Anthropic Дарио Амодеи выступил с инициативой «модерации» темпов развития ИИ, которую оперативно поддержали Сэм Альтман из OpenAI и Илон Маск (xAI). Подобное решение уже повлияло на бизнес-планы компаний: в частности, OpenAI решила отложить выход на IPO на более поздний срок, чтобы сосредоточиться на вопросах безопасности.
Предложенный Амодеи трехэтапный план включает допуск независимых экспертов к закрытым отчетам по безопасности, координацию стандартов между демократическими государствами и разработку глобальных договоренностей на международном уровне.
Представители Anthropic также призывают правительство США ужесточить экспортный контроль чипов и ввести обязательное тестирование моделей перед релизом. Несмотря на призывы притормозить на год-два для минимизации рисков, разработчики подчеркивают необходимость баланса, чтобы не уступить лидерство геополитическим конкурентам.
