Этика искусственного интеллекта, его связь с правами человека, новые принципы ИИ, ИИ в спасательных операциях, госуправлении и сельском хозяйстве — в репортаже InScience.News. 

«Цель внедрения любой технологии — улучшение качества жизни граждан» 

16 июня в рамках XII Международного IT-форума с участием стран БРИКС и ШОС прошел круглый стол «Искусственный интеллект — разумный партнер». Его участники обсуждали проблемы, перспективы, а также вопросы надежности и безопасности ИИ. 

Первой слово взяла Ткачева Ксения, директор Центра подготовки руководителей и команд цифровой трансформации РАНХиГС. Она рассказала, что в Центре проводится образовательная деятельность, а именно подготовка кадров в сфере цифровой трансформации. Для тех, кто хочет сам учиться цифровой трансформации, есть открытый курс. 

«Долгое время человечество внедряло технологии и очень радовалось, как они ускоряют жизнь. Но за последние пару лет скорость увеличилась и принятие решений ускорилось, и нет времени на анализ и просчет рисков. Поэтому появилась этика», — рассказала Ткачева.  

Риски необходимо учитывать. Ткачева отметила, что для государства первостепенной задачей стало видеть эти риски своевременно, а не когда что-то произошло. В современном мире цифровые технологии становятся основой государственного управления, из-за чего меняется роль госслужащих. 

«Что происходит, когда робот заменяет труд человека? Как технологии могут манипулировать поведением человека? Это все этические вопросы, и, на наш взгляд это оказалось, к сожалению, слабым местом. С внедрением технологий, с распространением цифровой трансформации многие вопросы остались незамеченными», — отметила Ткачева.  

Такие риски достаточно серьезны и могут существенно менять отношения между населением и государством, если речь идет о технологиях в госсекторе. В первую очередь, возникает проблема потери доверия. 

«Цель внедрения любой технологии — улучшение качества жизни граждан», — обратила внимание спикер. Для выполнения этой цели необходимо иметь аналитические инструменты, а также иметь контроль над работой с технологиями. 

«Этика в последние годы была в тени, сейчас она вышла на первый план, но пока это теоретические рассуждения. Нам нужны практические решения, нам нужны реальные инструменты, которые позволят давать конкретные ответы на конкретные вопросы», — заявила Ткачева. 

«Подход должен быть человекоцентричным» 

Следующий взял слово Максим Федоров, вице-президент в области ИИ и математического моделирования Московской школы управления «Сколково», представитель РФ в группе по подготовке Рекомендаций в области этики ИИ (ЮНЕСКО). Он начал свое выступление с объявления о необходимости сформировать набор инструментов, который поможет создать этические подходы к регулированию не только ИИ, но и других технологий.  

«Искусственный интеллект позволяет бесконтрольно нарушать права человека, поэтому необходимо сформулировать глобальные нормы использования этих технологий», — отметил Федоров. ​

Спикер обратил внимание, что для сведения к минимуму рисков необходимо заложить базовые концепции уже сегодня, а также уточнить научную верификацию, сформулировать базовые понятия. 

Более того, Федоров отметил, что в вопросах функционирования искусственного интеллекта существует риск, вызванный свойством «черного ящика»: дело в том, что алгоритмы имеют огромное количество степеней свободы, а это дает возможность заменять некоторые функции разумной деятельности человека. Кроме того, если ИИ изначально получил некачественный набор данных, это может привести к предвзятым решениям. Избежать этого поможет контроль системы, разработка механизмов, которые помогут регулировать ИИ, и кодексов. 

«Пока согласились на большинстве международных площадках, что подход к нормативной базе в области этики должен быть человекоцентричным», — рассказал Федоров.  

Более того, он отметил, что сейчас активно идут споры на тему субъектности и объектности искусственного интеллекта, например о браках между роботами. Особенно активно это продвигает Япония. Однако пока что ИИ расценивается как объект. 

Федоров обратил внимание, что сейчас необходимо выработать российскую концепцию, так как российский бизнес (за исключением Сбербанка) занимает выжидательную позицию. Это происходит из-за недостатка нормативно-правовых актов. 

«Основная задача для нас — образование», — завершил свою речь Федоров. 

Персональные данные и их защита 

Павел Готовцев, координатор российской рабочей группы по этике искусственного интеллекта, рассказал о том, чем проблема, связанная с этикой ИИ, отличается от этики других технологий. 

«Примеры, когда искусственный интеллект принимает решения за человека, вокруг вас. В вашем смартфоне, в компьютере, в Интернете. И применение этих программ вызывает много вопросов, их независимость, открытость, понимание, что происходит внутри», — рассказал Готовцев.  

Особым вопросом является ответственность, ведь с ошибками ИИ люди сталкиваются ежедневно: например, когда в Интернете человек видит рекламу, а она совершенно ему не нужна. 

Анализ данных в соцсетях нейросетями также является вопросом этики. Дело в том, что при обработке данных, выложенных человеком в соцсетях, некоторые нейросети могут получать метаданные — то есть ту информацию, которую пользователь не публиковал, и она является конфиденциальной. 

Кроме того, сейчас искусственным интеллектом используются огромные генетические базы данных, с помощью которых можно узнать особенности человека. 

Готовцев обратил внимание и на то, что искусственный интеллект влечет за собой дальнейшее развитие технологий. Это привносит в жизнь людей еще один риск: изменения на рынке труда, необходимость переквалифицироваться. 

Множество принципов робототехники 

Следующим выступил Андрей Незнамов, управляющий директор Центра регулирования ИИ ПАО Сбербанк, основатель центра «Робоправо». Он рассказал о том, что сейчас в мире насчитывается более 1100 этических документов, которые затрагивают сферу искусственного интеллекта. 

«Безусловный тренд последних двух лет — это корпоративные нормы. Сейчас по нашей аналитике более 30 компаний в мире разработали и приняли свои принципы искусственного интеллекта», — отметил Незнамов.  ​

Такими принципами могут быть отказ от гонки, то есть объединение команд, разрабатывающих системы ИИ, совместимость с человеческими ценностями, безопасность и другие. 

Существуют в мире и международные инициативы, например у ЮНЕСКО «Рекомендации по этике искусственного интеллекта». В России также есть национальная стратегия работы с ИИ, в которой указана необходимость разработать этические принципы. 

 «Вопросы этики — мировой тренд последних исследований», — закончил свое выступление спикер. 

О регулировании и обработке персональных данных рассказал Алексей Мунтян, специалист по приватности и защите данных. Он начал свое выступление с рассказа о том, что на данный момент вопрос регулирования персональных данных в сфере искусственного интеллекта стоит на самой начальной стадии. 

«В настоящий момент у нас начинается работа по разработке социально-технических норм. Речь о государственных стандартных. В последние годы разработка документов ускоряется», — отметил Мунтян. ​

Цифровая трансформация в государственном секторе и спасении людей 

С докладом на круглом столе выступил Олег Полетаев, директор по развитию цифрового бизнеса группы «Интерфакс», первый вице-президент Российской ассоциации по связям с общественностью. 

«В бизнесе исследование отзывов потребителей настолько не новость, что бизнес на этом держался всегда. В государственном секторе исследование социальных сетей началось полтора года назад. О том, что государству нужно заниматься мониторингом и анализом соцсетей, говорили года с 2009. Прошло примерно 10 лет до того, как государство построило необходимую инфраструктуру», — отметил он.  

Полетаев отметил, что привлечение социальных групп, ради которых происходит цифровая трансформация, необходимо. 

Виктор Ничипорчук, заместитель министра МЧС, рассказал об опыте трансформации процессов предупреждения чрезвычайных ситуаций. Важнейшими критериями в этой области являются время и качество прогноза. 

Ничипорчук рассказал, как раньше обнаруживались пожары с помощью кадров со спутников. По всей стране расположены станции, которые получают сигнал, далее проходит дешифровка, по которой определяются изменения температуры. После этого информация высылалась на территории, где происходило реагирование. Этот процесс не был оптимизирован. В конце 2019 совместно со Сбером МЧС провело мероприятие, на котором участникам предлагалось сформировать алгоритмы для искусственного интеллекта. Победитель предложил решение, которое показало точность выше 92,5%. Теперь приложение, созданное на основе этой модели, используется муниципальными образованиями для мониторинга противопожарной обстановки. Более того, оно бесплатно и находится в открытом доступе. 

Такое решение существенно решило проблему МЧС, ведь оперативность реагирования на пожары увеличилась в три раза, достоверность и надежность информации — в два раза.  

«Система работает в полностью автоматическом режиме, без участия человека, что не позволяет ошибаться, как это было ранее. На текущий момент любой космический снимок обрабатывается автоматически, все выявленные термические аномалии проходят процедуру обработки и наиболее рискованные доводятся до собственника», — рассказал Ничипорчук. ​

Искусственный интеллект лишает работы чиновников 

Павел Ципорин, директор Департамента информационных технологий и цифрового развития Ханты-Мансийского автономного округа – Югры, рассказал о том, что искусственный интеллект уже повсеместно внедряется. 

«Наши жители активно используют систему Госуслуг, более 56 млн запросов за 2020 год от них поступило на наши цифровые сервисы», — рассказывает он. ​

Ципорин также отметил, что уже сегодня используется шесть услуг, которые обрабатывает запросы граждан без участия чиновников. Это позволит существенно снизить трудоемкость таких процессов в государственном секторе. 

«Три года назад мы запустили нейронную сеть, которая консультирует пользователя. Жители могут узнать как, где получить госуслугу. Открою маленькую тайну, которую мы еще никому не презентовали: сейчас мы эту нейронную сеть, которая была сделана для граждан, обучаем для работы внутри правительства. Она сможет консультировать вновь принятых чиновников, чтобы они могли быстро влиться в работу, руководство по различным показателям и прочее», — рассказал Ципорин. ​​

Также в этом году на форуме Департамента информационных технологий и цифрового развития презентовали робота, который сможет проводить мониторинг здоровья с помощью сканирования температуры, глаз, фиксирования изменения цвета ротовой полости. По времени это будет занимать около пяти секунд. В первую очередь этого робота хотят расположить в детских садах, чтобы уменьшить распространение болезней. 

Искусственный интеллект в сельском хозяйстве 

Далее слово взял Павел Христенко, ex-директор по отраслевым решениям АНО «Цифровая экономика», руководитель проектов Департамента цифровой трансформации АО «ОХК “УРАЛХИМ”». Он рассказал об искусственном интеллекте в сельском хозяйстве. 

По его словам, сегодня в этой отрасли наблюдаются некоторые тренды, которые определяют дальнейшее развитие. Таковыми являются появление новых рынков сбыта (из-за роста численности населения), повышение производительности, причиной чего стало серьезное ограничение ресурсов, а также рост углеродного следа и продовольственная безопасность. На улучшение ситуации с последними двумя тенденциями направлена работа систем искусственного интеллекта. 

Христенко также затронул вопросы экологии. Там есть определенные проблемы, например смещение климата на те земли, которые не адаптированы под сельское хозяйство, неравномерное внесение воды, удобрений и пестицидов и прочее. 

Искусственный интеллект сегодня существует в различных системах. Это анализ почвы, который помогает фермеру проанализировать землю, ее плодородие и оценить, какой урожай он получит и какую культуру необходимо высаживать. Производство пищи на вертикальных (городских) фермах, что поможет сократить логистику. Также Христенко рассказал об объединении опыта, цифровых двойниках поля и беспилотном транспорте (в сельском хозяйстве — беспилотные комбайны). 

«Что будет завтра? Завтра с помощью технологий ИИ появится и мясо из пробирки, и 3D-печать, генетическая модификация, но не та, которая поможет сделать помидор морозоустойчивым, а та, которая позволит производить продукцию по запросу. Иными словами если у вас есть какое-то вкусовое — это, конечно, совсем футурология — предпочтение, то в ближайшем будущем вы сможете получить необходимый фрукт или овощ по заданным вкусам и качествам», — поделился Христенко. 

Уже сегодня существующие технологии искусственного интеллекта помогут разработать не только альтернативные источники сырья и пищи, но и специализированное питание, а также значительно повысить производительность сельскохозяйственных угодий. Более того, ИИ обеспечит создание умных цепочек поставок продукции и, возможно, уменьшит ее стоимость. 

Предвзятость ИИ и способы борьбы с нею 

Последним спикером стал Сергей Добров, руководитель аналитического отдела ООО «PrimeGroup». Он рассказал о рисках «предвзятости» в работе искусственных нейронных сетей и способах противодействия им. 

Основными рисками, связанными с ИИ, Добров назвал информационную безопасность персональных данных, пристрастность решений, принимаемых нейросетью, а также интерпретируемость результатов и предвзятость. Последнее является достаточно малоизученным аспектом, и противодействие ему не так хорошо исследовано. Об этом и рассказал спикер. 

«Интерпретативность результатов и предвзятость возникает из-за того, что искусственный интеллект в лице искусственных нейронных сетей делает выводы на основе данных хоть и обильных, но несколько узкоспециализированных. Поэтому результаты его работы имеют перекосы, в ту или иную сторону», — отметил Добров.  

Для того, чтобы повысить качество работы ИИ, они предпринимали несколько действий. Например, им пришлось разнообразить типы данных для обучения нейронной сети. Это эффективно, однако перекосы сохранялись. Для того, чтобы уменьшить их количество, пришлось использовать автокодировщиков (AEN) после использования сверточной нейронной сети. Используя эти способы удалось повысить качество результатов до 95%. 

Автор: Анастасия Черкесова. 

Фото: Ars Electronica/Flickr/Frank Ramspott/ISO Republic

Источник: www.inscience.news​

Похожие новости

  • 04/08/2021

    Единую научно-образовательную сеть для интеграционного проекта стран ЕАЭС создадут на базе НИКС

    Крупное евразийское объединение научно-образовательных сетей стран Европейского экономического союза (ЕАЭС) создадут на базе российской Национальной исследовательской компьютерной сети (НИКС). Проект обсудили на заседании научно-технического совета при председателе коллегии Евразийской экономической комиссии (ЕЭК).
    714
  • 03/08/2021

    Двери в науку открыты. Школьникам показали цеха и лаборатории

    Технологические и промышленные туры для школьников — часть масштабного проекта «Наука. Территория героев». С 26 по 30 июля 2021 года ученики смогли посетить более 30 высокотехнологичных предприятий в 21 регионе России.
    573
  • 30/08/2021

    Генетические технологии: что сделать, чтобы обеспечить прорыв?

    Генетические технологии находятся на пике популярности уже не первое десятилетие. Количество исследований и секвенированных геномов растет стремительно, в то же время с внедрением разработок в жизнь до сих пор возникают проблемы.
    266
  • 18/06/2021

    Формирование экосистемы молодежного технологического предпринимательства обсуждают в Томске

    Глава ТПУ Андрей Яковлев представил факторы и целевые рамки развития технологического предпринимательства в университетах на стратегической сессии «Проектирование региональной экосистемы молодежного технологического предпринимательства» в Томске.
    1123
  • 16/08/2021

    Более 17 тыс. человек приняли участие в интенсиве "Архипелаг 2121" в Великом Новгороде

    Проектно-образовательный интенсив "Архипелаг 2121" для представителей стартапов и вузов собрал на одной площадке 17,2 тыс. человек. Об этом сообщила 13 августа пресс-служба Платформы Национальной технологической инициативы (НТИ).
    251
  • 18/08/2021

    Форум «Армия-2021» примет фестиваль робототехники

    В этом году впервые в рамках международного военно-технического форума "Армия" в конгрессно-выставочном центре "Патриот" пройдет фестиваль робототехники и инновационных технологий "РобоАрмия".
    835
  • 17/08/2021

    Участки, перспективные для поиска урана, обнаружили в Бурятии ученые

    Ученые ИРНИТУ, АО «Сосновгео», Всероссийского института минерального сырья им Н.М. Федоровского (ВИМС) выполнили ревизионные работы на юге Бурятии. Результаты работы экспедиции позволили выделить участки, перспективные для возможных поисков урана.
    521
  • 03/09/2021

    Ректор ВШЭ: университеты должны создавать новые образовательные и исследовательские продукты и преумножать человеческий капитал

    Как должны развиваться университеты стран Азиатско-Тихоокеанского сотрудничества в цифровую эпоху, какие вызовы стоят перед российским рынком труда и какие перспективы есть у региона Дальнего Востока и Арктики? Эти и другие темы обсудили в первый день работы Восточного экономического форума, в работе которого принимают участие ректор НИУ ВШЭ Никита Анисимов и эксперты Вышки.
    534
  • 01/09/2021

    Диплом за лучший доклад, подписание соглашения о сотрудничестве, участие в выставке и круглые столы: ТУСУР на форуме «Армия — 2021»

    Делегация Томского госуниверситета систем управления и радиоэлектроники приняла участие в международном научно-техническом форуме «Армия — 2021». Сотрудники университета провели несколько круглых столов, выступили на пленарных заседаниях, подписали соглашение о сотрудничестве.
    353
  • 25/06/2021

    Специалисты России и Германии обсудили, как обеспечить контроль ИИ

    ​Российские и немецкие специалисты в области информационных технологий в рамках воркшопа «Искусственный интеллект и право» обсудили ряд актуальных проблем, связанных с использованием ИИ в разных сферах человеческой жизни.
    1020