Эксперт Павловский: сознание у ИИ достижимо, но несет риски

НОВОСИБИРСК, 29 ноября. /ТАСС/. Эксперимент по развитию сознания у искусственного интеллекта (ИИ) может быть вполне успешным, однако несет риски возникновения зависимости людей от общения с нейросетевыми личностями. Но такое исследование позволит лучше понять самих себя, таким мнением поделился с ТАСС ведущий научный сотрудник Центра искусственного интеллекта Новосибирского государственного университета (ЦИИ НГУ) Евгений Павловский.

На прошлой неделе в компании "Яндекс" заявили о начале эксперимента по развитию сознания у искусственного интеллекта. Цель исследования - выяснить, формируются ли у нейросети устойчивые предпочтения и собственная точка зрения, не заимствованная из текстов людей.

"Это вполне достижимо, сформировать личность, что искусственный интеллект будет формировать собственные предпочтения. Это совсем не за горами. Другой вопрос, нужно ли это делать. <...> Конечно, люди будут более пользоваться помощниками, которым можно задать определенную структуру личности. Но все это, в конце концов, отдаляет человека от человека, привязывает его к технологической структуре, к питанию, к электричеству и делает человека более зависимым", - сказал собеседник агентства.

Еще один риск, по мнению эксперта, в том, что ИИ, обладающий сознанием, может начать выходить из-под контроля. "Об этом же очень много уже сказано, что такие субъекты - раз они субъекты - начинают выходить из-под контроля и могут нажимать на кнопки. <...> Если уж нам очень хочется изучать феномен самосознания, давайте применим искусственный интеллект к изучению этого феномена у животных", - предложил ученый.

По мнению Павловского, плюс эксперимента по развитию сознания у ИИ - это исследование феномена самосознания и лучше понять самих себя.

"В плане разработки супертехнологии, имплементации сознания в искусственный интеллект, должно очень четко, этически проходить разрешение, на публикацию таких исследований, потому что все это может причинить определенный вред", - резюмировал эксперт.