В дебатах о преимуществах и рисках искусственного интеллекта (ИИ) сторонники этой технологии нередко обвиняют ее критиков в иррациональном страхе. Они приравнивают опасения к сценариям из фильмов вроде «Терминатора», где машины восстают против человечества. Но, как бы абсурдно это ни звучало, подобные «терминаторы» уже существуют. Только они не пытаются захватить мир насильственным способом — они используются компаниями, чтобы лишать людей работы для максимизации своей прибыли, что для многих куда страшнее.

Реддитор под ником cawfee вызвал бурное обсуждение на форуме r/sysadmin, поделившись историей о таком «терминаторе». По его словам, он присутствовал на презентации ПО для «мониторинга продуктивности» сотрудников. Описанные возможности программы больше похожи на кошмар офисного работника и мечту отдела кадров крупных корпораций.

Программа включает функции, знакомые по современным системам корпоративного слежения: отслеживание движений мыши, регулярные скриншоты рабочего стола, логирование открытых программ и создание тепловых карт кликов. Но это только начало.

Менеджеры могут разделять сотрудников на «категории работы» и использовать ИИ для построения «графиков продуктивности». Эти графики отслеживают такие метрики, как скорость набора текста, посещенные сайты, отправленные письма и многое другое. Полученные данные позволяют детально контролировать каждое действие сотрудника. Если ваша производительность падает — например, вы медленно отвечаете на письма или позволяете экрану простаивать 30 секунд,то получаете красный флаг.

Система фиксирует даже незначительные паузы или снижения активности. Работаете усердно с понедельника по четверг, а в пятницу расслабляетесь? Красный флаг. Ответили на письмо спустя минуту? Еще один флаг. Такие данные автоматически направляются руководству для «разговора о продуктивности».

Еще более тревожный аспект — использование собранных данных для автоматизации рабочих процессов. Та же компания, которая создает «графики продуктивности», предлагает услуги по замене сотрудников автоматическими системами. Таким образом, один алгоритм фиксирует ваши «ошибки», а другой анализирует, как вашу работу может выполнять машина. Все это под зонтиком одной компании.

Наверное, это уже не новость для большинства, но я лично жду не дождусь, когда интернет рухнет под тяжестью самого себя, и мы избавимся от этого бесконечного поиска дна.

Так что, возможно, страхи перед «терминаторами» из фильмов не так уж далеки от реальности, только их цель — не уничтожение человечества, а оптимизация корпоративной эффективности любой ценой.