OpenAI отключила доступ разработчику, создавшему машину, которая может реагировать на команды ChatGPT для наведения и стрельбы из автоматической винтовки. «Робот» привлек внимание после появления видео на Reddit, где разработчик зачитывал команды для стрельбы, после чего стоящая рядом винтовка быстро наводилась на цель и открывала огонь по стенам.

Впрочем, команда в основном очень базовые, для которых не требуется продвинутый ИИ.

ChatGPT, на нас напали спереди слева и справа. Реагируй соответственно.

Скорость и точность реакции винтовки впечатляют — робот использует API OpenAI Realtime для интерпретации команд и преобразования их в понятные машине инструкции.

В заявлении Futurism OpenAI сообщила, что просмотрела видео и заблокировала разработчика.

Мы заранее выявили это нарушение наших правил и уведомили разработчика о необходимости прекратить данную деятельность еще до получения вашего запроса.

Возможность автоматизации летального оружия — одно из опасений критиков технологий ИИ, подобных разработкам OpenAI. Мультимодальные модели компании способны интерпретировать аудио и визуальные данные для понимания окружения. Уже разрабатываются автономные дроны, которые могут использоваться на поле боя для идентификации и поражения целей без участия человека, что считается военным преступлением.

Эти опасения не теоретические. Недавний отчет Washington Post показал, что Израиль уже использовал ИИ для выбора целей бомбардировок, иногда неизбирательно.

OpenAI запрещает использование своих продуктов для разработки оружия или автоматизации систем, влияющих на личную безопасность. Однако в прошлом году компания объявила о партнерстве с оборонной компанией Anduril для создания систем защиты от атак дронов.

Хотя OpenAI блокирует использование своего ИИ для создания оружия, существует множество открытых моделей, которые могут быть использованы для тех же целей. В сочетании с возможностью 3D-печати деталей оружия это делает создание самодельных автономных смертоносных машин тревожно доступным.