НИЖНИЙ НОВГОРОД, 1 июня. /ТАСС/. Развитие систем на основе технологий искусственного интеллекта (ИИ) способствует постепенному и добровольному отказу людей от навыков критического мышления, что создает угрозы массовых манипуляций. Снижение рисков возможно при условии осознанного использования таких инструментов, сказал в четверг ТАСС на конференции "Цифровая индустрия промышленной России" (ЦИПР) в Нижнем Новгороде доцент Университета Иннополис, эксперт по этике в сфере ИИ Сергей Кладько.
Эксперт назвал технологии искусственного интеллекта инструментом, который может как принести пользу, так и навредить. Негативный тренд заключается в том, что пользователи таких систем пытаются делегировать ИИ критический анализ получаемой информации, как, к примеру, в случае с чат-ботами, которые периодически предлагают неверные данные.
"Бедствие состоит не в том, что мы перестаем мыслить креативно, а в том, что мы перестаем мыслить критически: нам так удобно, за нас принимают решения. И, конечно, есть опасность, что за нас могут решить что-то не так. <…> Такое отношение людей к ИИ создает риски массовых манипуляций", - сказал Кладько.
Он напомнил, что на днях несколько десятков предпринимателей, ученых и журналистов подписали "Заявление о риске ИИ", опубликованное на сайте Центра безопасности ИИ. В нем риски бесконтрольного развития этих технологий сравнивались с угрозами от применения ядерного оружия и возникновением пандемий. Среди присоединившихся к инициативе - генеральный директор OpenAI Сэм Альтман, глава Google DeepMind Демис Хассабис и другие. Российский эксперт поддержал инициативу и согласен с масштабами этих рисков.
"[Эксперты тем самым] признают опасность и то, что надо относиться к [технологиям] с осторожностью и искать решения", - добавил Кладько, указав на необходимость выработки этических норм в сфере ИИ, которые должны касаться как разработчиков, так и пользователей технологий.
О ЦИПР
Восьмая ежегодная конференция "Цифровая индустрия промышленной России" (ЦИПР) проходит в Нижнем Новгороде с 31 мая по 2 июня. В рамках тематических треков участники обсуждают вопросы цифровой независимости российской промышленности, взаимодействие бизнеса, науки и государства, а также совершенствование и распространение отечественного софта и другие темы. Организатором конференции выступает компания "ОМГ". Стратегические партнеры - госкорпорации Ростех и Росатом, "Ростелеком" при поддержке Министерства цифрового развития, связи и массовых коммуникаций РФ, правительства Москвы и правительства Нижегородской области. ТАСС - генеральное информационное агентство конференции.
ЦИПР - одна из крупнейших в России конференций, выступающих площадкой для диалога и кооперации государства и бизнеса по вопросам развития цифровой экономики, цифровой трансформации промышленности и реализации национального проекта "Цифровая экономика". В 2022 году в конференции приняли участие около 6 тыс. человек из 1,5 тыс. компаний и 73 субъектов России.