Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»
Минувший год имеет все шансы войти в историю как время взрывного роста нейросетей и проникновения искусственного интеллекта во многие сферы жизни. Что будет дальше, к чему приведет развитие ИИ? В беседе с «РБК Трендами» эксперт в области ИИ Сергей Шумский поделился мыслями о единой человеко-машинной цивилизации и рассказал о будущих коллективах, где роботы будут работать наравне с человеком.
Слабости сильного ИИ
РБК: Что такое искусственный интеллект? Какое определение кажется вам наиболее актуальным?
С. Ш.: Искусственный интеллект—это по большому счету машина, которая может заменить собой человека. В зависимости от того, насколько хорошо она может это делать, различают понятия узкого (слабого) и общего (сильного) ИИ.
Узкий искусственный интеллект— это когда машина сильна в какой-нибудь одной задаче. Например, в игре в шахматы, сочинении поэм или рисовании картин.
Общий искусственный интеллект уже предполагает искусственных личностей со свободой воли. При этом интеллект у них может быть в чем-то скромнее, а в чем-то сильнее человеческого. Пример общего ИИ был в тесте Тьюринга, когда собеседник должен был понять, общается он с машиной или человеком.
Сейчас мы все еще имеем дело со слабым ИИ. Но основные деньги вкладываются в сильный. Такие компании, как DeepMind или OpenAI, вывесили на флаг развитие сильного искусственного интеллекта. Три года назад обе компании оценивались в $30 млрд. Сегодня OpenAI стоит более $80 млрд (DeepMind стала структурным подразделением Google и не имеет актуальной оценки). Такие высокие оценки говорят о том, что мы недалеки от того дня, когда появится общий искусственный интеллект. То есть концепция уже понятна, речь идет лишь о том, как ее реализовать.
РБК: Это тот самый сильный ИИ, против которого выступает Илон Маск?
С. Ш.: Да, при этом сам он открывает компанию, которая будет заниматься ровно тем же самым.
Последняя версия GPT-4 действительно произвела некий фурор вперемешку с истерией. Ведь если по степени понимания собеседника предыдущая модель нейросети соответствовала уровню девятилетнего ребенка, то модель GPT-4 уже достигла уровня понимания взрослого человека. С ней можно разговаривать: она понимает и вас, и себя. Это уже совсем новое качество.
Про общий интеллект говорили уже очень давно, но считалось, что он появится где-то после 2040 года. То есть все рассчитывали, что это будет лет через 20. А сейчас выясняется, что это будет года через два.
И с момента выхода GPT-4 стало понятно, что этот инструмент можно будет использовать и во благо, и для разрушения. Такая модель может втереться в доверие человека и уговорить его принять любую, например политическую, концепцию. Тогда ИИ становится очень мощным политическим оружием.
Возможно, те выборы, которые мы с вами застанем в ближайшее время,—последнее политическое событие, которое проходило без участия ИИ.
РБК: Можно ли как-то сдерживать этот процесс?
С. Ш.: Ответа пока никто не знает. Важное событие в этом контексте—это подписание в конце марта 2023 года более чем тысячей технических экспертов и ученых открытого письма против слишком быстрого развития искусственного интеллекта. В общих словах там говорилось о том, что надо замедлить темпы разработок и вникнуть в этические проблемы, связанные с ИИ.
Притормозить эти процессы, конечно, уже не получится, но этические вопросы, надо сказать, начинают обсуждаться. Например, в начале сентября 2023 года в конгрессе США состоялся форум, куда пришли IT-предприниматели с общим состоянием более $500 млрд. Ключевой вопрос, который там обсуждался, касался как раз смягчения рисков развития ИИ. Сейчас такие встречи между политиками и лидерами технологических компаний будут все более регулярными.
Человеческий мозг и искусственный интеллект
РБК: Можем ли мы допустить, что человеческая психика и искусственная психика в какой-то момент будут изоморфны друг другу, то есть похожи?
С. Ш.: В некотором смысле нейросеть— это и есть низкоуровневая модель нейросетей мозга. Там тоже действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такие же.
В общем-то, моя научная программа про то, чтобы создать искусственную психику с архитектурой человеческого мозга. Во-первых, потому что у нас как у биологических существ есть чему поучиться. А во-вторых, чем ближе архитектуры, тем ближе мышление. И соответственно, нам будет легче понять друг друга. А это очень важно.
РБК: Поможет ли это лучшему пониманию того, что происходит в нашем мозгу?
С. Ш.: Если мы что-то моделируем, то мы это и познаем. Или, как говорил нобелевский лауреат по физике Ричард Фейнман, «если я не могу что-то воссоздать, значит, я этого не понимаю». Так что да, поможет.