​Как люди реагируют на «цифровую диктатуру», каким образом можно выявить «взломщиков» системы мотивации и что из опыта «Острова 10-21» и «Острова 10-22» можно использовать для того, чтобы приучить людей к самоизоляции и «удаленке», в своей колонке для Indicator.Ru рассказал генеральный директор АНО «Университет 20.35» Василий Третьяков.

Сейчас многие участники «Острова 10-21» и «Острова 10-22» (образовательные программы интенсивной подготовки кадров для цифровой экономики и Национальной технологической инициативы) говорят о том, что эти мероприятия стали для них подготовкой к тем стремительным изменениям, которые происходят в мире. «Острова» действительно во многом были экспериментом, где отрабатывались новые форматы цифрового взаимодействия, системы управления персональными траекториями развития людей в большом сообществе на основе данных цифрового следа. Организация и управление «Островами» стали уникальным опытом, которым команда Университета «20.35» считает важным поделиться именно сейчас, когда для общества вопрос повышения социальной ответственности и принятия новых моделей поведения напрямую связан с вопросом жизни и здоровья сотен тысяч людей.


«Остров 10-21» и технооптимизм

«Остров 10-21», состоявшийся во Владивостоке в 2018 году, стал первым в мире массовым мероприятием, где участники (1021 человек) принимали обязательства по сбору данных о своем местоположении и иных показателях, собираемых с помощью датчиков частоты сердечных сокращений. Из 1021 участника только десять человек тем или иным способом явно отказались от сбора данных (отказ в подписании общей формы соглашения об использовании данных, неустранимые проблемы с устройствами, непереносимость контакта кожи с материалами датчиков).

 


Фото: Кирилл Королев


Однако реальная готовность действительно носить устройства и обеспечивать непрерывный сбор данных в течение всего дня оказалось не такой высокой: только для 80% пользователей были собраны датасеты, пригодные для анализа. Более 70% людей хотя бы в один из дней забыли или надеть датчик, или зарядить его, или проверить работу приложения на телефоне. Социальным ответом на призыв к обязательному ношению датчиков стали предложения другим участникам интенсива «поносить датчик» вместо его владельца (вместе с личным телефоном) за скромное вознаграждение — этим пользовались участники, желающие выехать за пределы кампуса.

Выводы:

  1. Сам факт процесса сбора данных для значительной доли участников стал дополнительным стимулом к выполнению правил (в нашем случае — нахождение в рабочее время на «Острове»).
  2. Для фиксации нарушений нужна инфраструктура (стабильная сотовая или Wi-Fi сеть) и централизованно выданные устройства, которые обеспечивают условия для выполнения правил участниками.
  3. В первые несколько дней (или даже недель) основными нарушителями будут люди с низкой цифровой культурой и те, кто успешно под них маскируются.


О цифровой диктатуре ИИ

Второй важный эксперимент, проведенный на «Острове 10-21», — это эксперимент с «цифровой диктатурой искусственного интеллекта» в плане формирования индивидуальных траекторий обучения и организации расписания. Программа каждого «Острова» предельно насыщенная: в каждый момент времени в кампусе проходит не менее 40 мероприятий, любое из которых каждый обучающийся может включить в свою траекторию. Для того чтобы обеспечить справедливое распределение тысячи участников без переполненных аудиторий и с максимальным образовательным эффектом, был спроектирован механизм рекомендаций и автоматического формирования расписаний. Участник выбирал приоритетное направление своего развития, алгоритм формировал рекомендации, а участник использовал модель аукционов, позволяющих получить право участия даже в тех мероприятиях, которые не были рекомендованы.

 


Посетители ситуационного центра. Фото: Пресс-служба АНО «Платформа НТИ»


В реальности люди разделились на тех, кто следует рекомендациям «бездушного ИИ», и тех, кто их явно игнорирует. Изначально выбранный жесткий подход к распределению участников на первых этапах поставил под угрозу модель проведения интенсива. Отказ от цифровых инструментов управления (переход к полной самоорганизации или бумажным форматам работы) тоже был невозможен — слишком сложной была структура мероприятий и высока вероятность конфликта.

Прямо в процессе интенсива была выработана и реализована новая модель, в рамках которой ИИ не предопределяет, куда человек может пойти, а рекомендует ему наиболее подходящие для него мероприятия с учетом прогноза загруженности аудиторий и фактического наличия свободных мест (механизм аукционов продолжал гарантировать места в аудиториях для победителей). Такой механизм перестал вызывать отторжение (основное раздражение вызывал запрет перейти в соседнюю полупустую аудиторию), но позволил управлять процессом, избегать массовых конфликтов из-за наличия мест, сформировал осознанное отношение участников к своей траектории.

Выводы:

  1. Очень важно нащупать баланс во взаимодействии человека и искусственного интеллекта, чтобы люди не чувствовали себя ущемленными в возможности выбора, но при этом понимали ценность, обеспечиваемую контролем со стороны ИИ.
  2. Коллапс системы поддержки деятельности в цифровом мире приводит к дезориентации с последующей попыткой самоорганизации людей. Информационные системы должны быть способными помочь людям в самоорганизации, и тогда получится вернуть контроль над процессом.


«Остров 10-22» и социальные рейтинги

Во время «Острова 10-22», который прошел в Сколтехе в 2019 году с учетом предыдущего опыта, были сделаны другие акценты:

  1. Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе.
  2. Мотивация участников к соблюдению правил, которые помогают сообществу использовать возможности «Острова» максимально эффективно, например через справедливое распределение возможности доступа к востребованным мероприятиям (нельзя приходить на мероприятие с переизбытком желающих, на которое для тебя не забронировано место, и нельзя бронировать места и не приходить).
  3. Для мониторинга посещения мероприятий была выбрана гибридная технология — одновременно использовались данные геопозиционирования, Wi-Fi сети, регистрации на входе в помещения и видеоконтроль. Из этических соображений сбор данных с датчиков стал опциональным — желающим получить дополнительные данные о себе предоставлялась такая возможность. Для контроля соблюдения правил была реализована система красных и зеленых «карточек», которая поощряла за правильные действия и начисляла штрафные баллы командам за неправильные. Рейтинг команд был публичен в рамках сообщества «Острова».

Гибридная система мониторинга в целом повысила точность данных, однако выяснилось, что при наличии достаточно больших групп людей, при нечетком разделении пространств для работы и гибком индивидуальном расписании для каждого участника неизбежны погрешности. Проще говоря, был ли человек на конкретном мероприятии в течение какого-то времени, мы можем определить только вероятностно.

Сочетание достаточно строгих правил публичного начисления карточек, с одной стороны, и неизбежной погрешности, с другой, привело к ожидаемым «народным возмущениям» и борьбе за справедливость. Решение было найдено через установление пороговой вероятности нарушения (карточки выдавались только на основании нескольких подтверждающих данные источников, введение системы апелляции и смещение информационного фона в сторону зеленых карточек за правильные действия. При этом стоит отметить, что, в отличие от автоматической раздачи красных карточек, апелляции проводились вручную и требовали достаточно много сил в первые дни.

Отдельно хочется отметить, что практически любая система мотивации (в нашем случае — система зеленых карточек) с большей вероятностью, чем репрессивная система, может быть «взломана». С этим мы столкнулись на второй неделе: люди находили способы получать зеленые карточки, и все свои усилия сосредотачивали на этом. Это казалось им проще, чем исключить получение красных карточек. При этом есть два варианта. Первый — участники выявляют стратегию, которая близка той, что задумали организаторы, и достигают предельных результатов в ущерб более осмысленной деятельности. Второй — участники убеждаются в несправедливости системы или не соглашаются с предложенной стратегией и ищут способы препятствовать работе системы или явно фальсифицировать результаты. Выявление таких случаев требует работы ситуационного центра, который способен на основе данных проводить мониторинг происходящего и имеет возможности для управления процессом — налаженные каналы коммуникации, изменения в программном обеспечении «на лету», управление распределением ресурсов, ценных для участников.

 

Ситуационный центр в Сочи. Пресс-служба АНО «Платформа НТИ»


Выводы:

  1. Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе.
  2. Мотивационные механизмы и понятная для участников система ограничений, явно обеспечивающая повышение эффективности для самих участников, работают гораздо эффективнее, чем жесткие репрессивные системы.
  3. Введение системы контроля и мотивации позволяет сильно ускорить процесс вхождения людей в новую среду, объединить их вокруг новых вызовов, повысить осознанность в принятии решений.
  4. Создавая репрессивные инструменты, опирающиеся на автоматизированные системы оценки, нужно сразу планировать действия в тех случаях, когда система ошибается, и проводить оценку ресурсов, которые потребуются на корректировку и минимизацию последствий ошибок.
  5. Очень важно правильное проектирование и экспериментальное подтверждение того, что система мотивации ведет к желаемому социальному поведению. Если единственный способ — провести эксперимент в процессе работы, то надо иметь ресурсы для быстрой модификации системы, в том числе через изменения в информационных системах.

Как использовать опыт «Островов» сейчас:

  1. Для создания цифровой системы контроля и мотивации людей на уровне компании или даже региона для быстрого введения новых моделей поведения — от самоизоляции до культуры удаленной работы (мы готовы делиться опытом, программными решениями, апробированными моделями).
  2. Для введения систем мотивации на активное развитие в период самоизоляции, поощрения прохождения онлайн-курсов, работы с образовательными ресурсами, передачи образовательного опыта другим людям, в том числе внутри компании (набор инструментов для этого мы планируем запустить в самое ближайшее время).

Автор: Василий Третьяков

Похожие новости

  • 03/06/2020

    Популяризация науки в вузах Проекта 5-100: итоги 2019 года

    ​Как изменилась работа пресс-служб вузов Проекта 5-100 за год, наука каких вузов наиболее заметна в России, а каких — на международной арене, кто лидирует по ведению социальных сетей и многим другим параметрам, в слеующем материале.
    143
  • 25/02/2020

    Ученые — о ближайшем будущем технологий

    ​Ученые из российских вузов Проекта 5–100 рассказали о том, каких прорывов и открытий в сфере своих научных интересов они ждут в ближайшее десятилетие. Мы отобрали прогнозы о развитии технологий, к которым стоит присмотреться бизнесу.
    431
  • 03/02/2020

    Чем опасно внедрение технологий с искусственным интеллектом

    ​Мы живем в новой технологической реальности, будто нас переместили в сцену фантастического фильма. Долги "выбивал робот"Недавно в Екатеринбурге долги из клиента "выбивал" робот-коллектор (об этом "РГ" писала на прошлой неделе).
    345
  • 09/09/2019

    Квантовое завтра. Каким быть компьютеру будущего

    ​Основы квантовых вычислений сформулировал в 1981 году Ричард Фейнман в лекции «Моделирование физики на компьютерах». Стоит упомянуть, что идею о возможности использовать для расчетов поведения квантовых систем другие квантовые системы еще за год до того высказывал советский математик Юрий Манин.
    648
  • 20/02/2018

    Оцифровка страны как национальная идея

    ​Очевидно, что главной  задачей  российских цифровиков является не развитие промышленности и экономики в целом,  а создание «комфортной правовой среды»   для внедрения таких IT-технологий,   которые, мало что давая экономике и обществу в целом,    позволяют  «инноваторам» выкачивать и присваивать себе огромные средства.
    709
  • 17/04/2017

    Как выглядели cамые первые российские сайты

    Были золотые времена, когда число пользователей интернета в России измерялось в десятках тысяч (точное число никто не считал), а все сайты можно было обойти за несколько дней. Не было ни «Яндекса», ни «Mail.
    692
  • 06/11/2018

    Александр Авдеев: нужно время, чтобы прийти к умному городу

    В рамках XI Алтайского регионального ИТ-форума работала тематическая секция «Умные, безопасные города. Комфортная цифровая среда обитания». О том, какими путями последняя должна внедряться в жизнь, что уже сделано, разном отношении к цифровизации общества жителей края журналист «АП» беседует с модератором секции, деканом факультета информационных технологий АлтГТУ Александром Авдеевым.
    1068
  • 11/12/2017

    По мнению экспертов, выбор места для блокчейн-проектов по географическому принципу не оправдан

    Географический принцип при выборе места для развития блокчейн-проектов не вполне оправдан, так как местоположение для разработки технологии определяющей роли не играет, считают представители IT-отрасли из регионов Сибири, опрошенные ТАСС.
    662
  • 19/05/2020

    Мнение: Актуальные научные вызовы эпохи коронавируса

    Обрушившаяся на человеческое сообщество пандемия коронавируса и произошедшие в первые три месяца 2020 года глобальные изменения сложившегося образа жизни в ближайшее время станут (и уже стали) центром мировых дискуссий: философских, политических, исторических, экономических и гуманитарных.
    238
  • 17/05/2017

    ТГУ вошел в топ-20 вузов РФ по уровню зарплат выпускников в сфере IT

    ​Томский государственный университет (ТГУ) занял 16 место в рейтинге интернет сервиса Superjob по уровню зарплат выпускников российских вузов, трудоустроенных в IT-сфере, сообщила пресс-служба сервиса.
    1593