Стоит ли бояться восстания машин: челябинский математик-айтишник отвечает на вопросы о нейросетях

Согласно исследованиям «Яндекса», развитие нейросетей пугает людей едва ли не больше войны. Слишком далеко шагнули технологии, все сильнее напоминают людей и вызывают смутные ассоциации с фильмом «Терминатор» 30-летней давности. Но мы боимся того, чего не знаем. Рассказать простыми словами о нейросетях «Хорошие новости» попросили заведующего кафедрой компьютерной безопасности прикладной алгебры математического факультета ЧелГУ Алексея Ручая.

– Что такое нейросети, объясните простыми словами для людей, которые не имеют технического образования? 

– Нейронная сеть – это компьютерная программа, упрощенная модель, аналогичная человеческому мозгу, с помощью которой люди решают разнообразные повседневные задачи. В ее основе – способность обучить компьютер решать эти рутинные задачи не хуже, чем с ними сможет справиться человек. Для обучения нейросетей требуется много размеченных данных, результатом чего является обобщение и выявление закономерностей. 

– Нейросети уже могут решать контрольные и писать сочинения. Может ли это отрицательно отразиться на качестве образования и развития школьников, студентов? 

– На наших глазах происходит трансформация всей жизни. Сейчас уже не требуется энциклопедических знаний – любую информацию можно мгновенно получить в интернете. Раньше знания получались только на уроках или лекциях. Сейчас открыт безграничный доступ к любым ресурсам: можно повторно прослушать материал или получить аудио-видео-текстовый доступ, а скоро возможно обучение с дополненной или виртуальной реальностью. Развитие людей пойдет в другом направлении – будут требоваться иные навыки и компетенции, будут востребованы иные специальности, а какие-то профессии просто исчезнут.

– Нейросети могут помогать полиции искать преступников по фото. Но не могут ли сами преступники использовать их в своих целях? 

– Конечно, могут. Поэтому разрабатываются способы минимизации таких рисков. Системы работают с ограниченным доступом, между сотрудниками осуществляется разграничение доступа. Сама модель нейросети и база данных закрыта. Обнадеживает то, что у преступников нет мощных суперкомпьютеров для создания модели. 

Однако, человеческий фактор может приводить к серьезным последствиям. Например, админ нейросети, обладая максимальными правами, может предоставить доступ кому угодно. То есть, нейронные сети и искусственный интеллект пока только развиваются, но уже сейчас ставятся вопросы их надежности и уязвимости. Например, запрещено использовать ИИ в критической инфраструктуре. Или разрешено лишь частично, когда окончательное решение выполняет оператор-человек, а ИИ работает в качестве помощника или подсказки. Пока за принятие решений все-таки ответственность несут люди.

– В прошлом году Сбербанк сократил штат на 14 тысяч человек. Теперь работу менеджеров среднего звена будет выполнять искусственный интеллект. Не грозит ли это безработицей, если опыт Сбербанка будут использовать другие крупные компании страны? 

– Научно-технический процесс не остановить. Это естественный процесс. Я считаю, что будет процесс трансформации профессий, и переобучение людей. Каков бы не был ИИ, мы все равно видим большую нехватку врачей, учителей, IT-специалистов и рабочих.

– В 2018 году обученная программа создала картину, которая была продана на аукционе «Сотбис» за полмиллиона долларов. Нейросети пишут сценарии, музыку, стихи. Способны ли они заменить талант человека, его индивидуальность? 

– Нейронные сети могут делать только то, на что они были обучены. Они могут воспроизводить, только то, что они уже видели или слышали – то, что создано человеком. Нейросеть может нам помочь с решением рутинных задач, однако ей пока сложно заменить настоящее творчество. Пока ученые не нашли универсальный способ создания настоящего искусственного интеллекта.

– С нейросетями связано много страхов: например, что они могут получить контроль над обществом, что их разум более совершенен. Может ли воплотиться в жизнь сюжет фильма «Терминатор», когда машины захватят мир? 

– Я думаю, что люди смогут организовать процесс так, что подобного не случится. Меня больше пугает более вероятный сценарий матрицы – где люди заменяют реальный мир виртуальным и искусственным. Зачем иметь реальное общение, жениться, рожать детей, если можно получить весь набор удовольствий и иметь «полноценную» виртуальную жизнь. Это может привести к значительному уменьшению населения.

– Чего никогда не сможет делать нейросеть из того, на что способен человек? 

– Вера, высокие чувства, эмоциональность, сопереживание, сострадание, милосердие.

– Может ли нейросеть себя осознать? 

– Только на уровне тех данных, на которых была обучена. Она не может как человек осознавать, постигать и изменяться. 

– Что тогда произойдет, если она осознает себя как личность? 

– Это и будет появление действительно настоящего искусственного интеллекта. 

– Какие бы этические ограничения в использовании и развитии нейросетей вы бы ввели. И почему? 

– Это сложный и большой вопрос, который важно решить именно сейчас – пока ИИ не вошел в нашу повседневную жизнь. Я считаю, что нужен арбитраж всех действий ИИ – когда можно оспорить те или иные решения. Возможно, в критической инфраструктуре, я бы навсегда оставил принятие решения за человеком.

Иллюстрации созданы нейросетью «Кандинский»

Кстати, у нас есть телеграм-канал Челябинский Ингалятор — подписывайтесь, чтобы читать еще больше хороших новостей