Интеллект – искусственный, проблемы – человеческие: эксперт рассказала о рисках, связанных с машинным разумом

В 80-е, зачитываясь Рэем Брэдбери, мы все же не верили. Видеотелефон? Телевизорные стены? Умные дома? Ну что вы, это же фантастика. Однако сбылось. Искусственный интеллект (ИИ) рулит тракторами на полях, пишет книги и музыку, управляет нашими квартирами – «до чего дошел прогресс»! Так до чего же он дошел? О рисках, связанных с машинным разумом, мы говорим с Ольгой Любимовой, доцентом БЮИ, кандидатом психологических наук.

Не выпустить джинна

– Ольга Марковна, есть реальные истории, когда машина, призванная помогать человеку, вдруг сходит с ума. Блокирует людей в раскаленном от жары автомобиле, подвешивает их в лифте между 13-м и 14-м этажом или включает электроплиту, пока хозяев нет дома… Разве не страшно?

– Каждый раз, получив новую игрушку, человечество боится. Страшили первые промышленные станки, автомобили, теперь – искусственный интеллект… Это ведь очень молодая практика. Чтобы страх прошел, надо создать нормы общения с ИИ, как были созданы техника промышленной безопасности и правила дорожного движения. Когда постигнем логику такого диалога в полной мере, умные дома станут безопасными. Как сейчас, к примеру, мы ставим в личном кабинете МФЦ галочку «не заключать сделки без моего участия» и живем спокойно.

– Если все так радужно, почему же тогда тысяча экспертов поставили свои подписи под открытым письмом с призывом приостановить обучение нейросетей? Очевидно, есть опасения, что ИИ выйдет из-под контроля человека?

– Чтобы не выпустить джинна из кувшина, надо, повторю, четко прописать протоколы, как сделали это для атомной энергетики. Потому и было опубликовано это письмо. Мы ведь тоже учимся, это нам нужно время – на формирование культурологических способов общения с нейросетями, анализ возникающих проблем. ИИ работает стабильно там, где уже наработаны шаблоны корректного ввода определенных данных. Но при усложнении задачи, при невнятном запросе он выдает неверные действия, становится «машинным аутистом». Примерно так же в условиях стресса дает сбои и психика человека.

Слишком дорогая ошибка

– Получается, в ИИ не больше тайн, чем в человеческом интеллекте?

– Да, несмотря на множество современных исследований, мы не вполне пока понимаем, как работает наш мозг. Человек создает ИИ по образу и подобию своему, на основе разработанных им же математических моделей. Иных нет. В широком контексте наше мышление работает в ситуации максимальной неопределенности. То есть люди могут создавать то, чего никогда не было прежде. Верх возможностей нейросетей – так называемое комбинаторное творчество, когда за основу берутся уже существующие элементы. По этой причине ИИ не может превзойти наш потенциал,  даже в условиях самообучения. Какие границы желаемого и дозволенного программист задаст системе? От этого зависит, станет ли ИИ удобным инструментом реализации замысла людей или приблизит Судный день.

– Обезьяна стала человеком, когда взяла в руки палку. А сейчас, когда люди сидят в своих офисах и домашнее хозяйство ведут, нажимая на кнопки, не запускают ли они обратный процесс?

– К сожалению, общество не слишком ценит интеллектуальный труд. Одно из самых его грандиозных заблуждений – считать, что художник должен быть голодным. И доцент, и журналист, и врач, и учитель. Чтобы в полной мере понять, как дорого России обошлась эта ошибка, надо, чтобы на всех уровнях, от школ и вузов до управленческих институтов, произошла культурологическая революция, осознание ценности результатов человеческой мыследеятельности. Но это отнюдь не исключает культуры красивого, а потому здорового тела, которому не в тягость физические нагрузки. Фантасты и об этом писали тоже. Наша крепкая оболочка позволит мозгу жить долго и продуктивно.

– Насколько в принципе хай-тек и комфорт, которым человек окружил себя, связаны со здоровьем?

– Скорее,  надо говорить о доступности лечения в случае заболевания. Прогресс идет быстрее, чем к нему адаптируется человеческое тело. Вспомните наше детство! Мы бегали, прыгали и по весне, когда все другие запасы в погребе заканчивались, ели квашеную капусту, не подозревая, что так спасаем себя от авитаминоза. Мы были счастливы и здоровы. Сейчас, переходя на новый уровень комфорта, нельзя забывать о принципах природосообразности. Время, высвободившееся от бытовых забот, обратите себе на пользу. Займитесь спортом, читайте книги.

Читать и учить историю

– Вот и нейрофизиолог Татьяна Черниговская главным фитнесом для мозга называет чтение. Но мы ведь и в Интернете читаем – статьи, аналитику, новостные ленты. Этого недостаточно?

– Речь о практике полноценного, длинного чтения. Книги как можно скорее нужно вернуть в нашу жизнь, снова стать «самой читающей страной». Когда человек читает длинный текст (не путать с лонгридом), он вспоминает, воображает, обращается к своему опыту. То есть загружает работой все зоны мозга – отбора, фильтрации, синтеза информации, принятия решений. Короткий текст – короткая память. И уже выросло оно, это поколение, не знающее, не помнящее истории своей семьи, своей страны. О том, чем это опасно, красноречиво говорит нынешняя геополитическая ситуация. Мы не заметили, как подсели на информационную иглу. Именно потому, что живем не с книгой, а с мобильником.

– Откуда этот термин, словно из жизни наркоманов, – «подсели на иглу»?

– Фейки, инфоцыгане с их манипуляциями, весь тот поток, что обрушился на пользователей, можно сравнить с бесконтрольными поставками героина. Психоактивные вещества лечат в маленькой дозе, в большой – убивают. Переизбыток токсичной информации иссушает мозг и душу, запускает депрессии. Одна из базовых наших потребностей – в информации – должна быть под контролем этики. Если его нет, дети не могут расти здоровыми, что мы и наблюдаем сейчас.

– Можно ли решить проблему опциями родительского контроля?

– Отчасти. Уютный для ребенка узкий социальный круг Интернет расширил до планетарных размеров. Подросток живет на зыбкой почве, в быстро меняющемся мире, и не в силах осознать своей принадлежности – национальной, родовой, культурной. Его личность не успевает созреть к совершеннолетию. Как итог незавершенности формирования высших психических функций у неглупого, но напичканного массой ненужной информации молодого человека – повышенная импульсивность, неспособность решать долгосрочные задачи. Но это проблема, в которой не искусственный интеллект виноват.

– Дайте угадаю. Вы про катастрофу в образовании, случившуюся в России в конце XX века? Про ЕГЭ?

– И про него тоже. ЕГЭ был попыткой избавиться от коррупции в вузах, но на самом деле она просто сместилась на другой уровень. А с учетом того, что снизился престиж учительской профессии, очень много выплыло в образовательное пространство «специалистов», которых близко не должно было быть в этой сфере, от руководителей до учителей. Они не умеют объяснять, потому что сами не понимают сути предмета. Иные педагоги, пользуясь беззащитностью детей, ведут себя… неблаговидно. Травмируют их, запугивают: «Ты тупой», «ЕГЭ не сдашь», «В дворники пойдешь». Знакомо, не правда ли? Отчеты получаем красивые, а внутри – пустота.

– Вы правы, одна статистика, бравурная, говорит о детях, сдающих ЕГЭ на 90 и 100 баллов. Другая же, как правило, замалчивается: многие выпускники едва преодолевают барьер, соответствующий двойке. Чья вина?

– Не ребятишек – точно. Считаю, что холодная война не заканчивалась никогда и в конце ХХ века она вылилась в длительную диверсию Запада по разрушению фундаментальных основ российского общества – через формирование чуждой нам среды, в которой детей сознательно растили с короткой памятью, не понимающими социального контекста событий. На государственном уровне в образовании ставились эксперименты, признанные сейчас неприемлемыми для России. Слава богу, страна одумалась. Вузы вернулись к специалитету, школы снова работают по воспитательным моделям, ориентированным на личностные результаты. И в полном объеме в учебные программы возвращаются история и обществознание, сокращенные прежде до минимума. Жизнь выправляется, это можно видеть и по изменению контента телевидения. Еще недавно каналы, даже федеральные, были перегружены «чернухой». Сейчас мы видим позитивные социальные репортажи о достижениях аграриев, ученых, спортсменов. Граждан нужно воспитывать на положительных примерах. Чтобы рос человек, который любит Россию, свою семью, родителей, труд. Именно такая личность – залог стабильности и идеологической безопасности страны.